Anthropic și Accenture investesc două miliarde de dolari în siguranța inteligenței artificiale

Cum a reacționat bursa la testele de securitate?

Investiția masivă în securitatea inteligenței artificiale, care se ridică la două miliarde de dolari, a fost oficializată printr-un parteneriat strategic între giganții tehnologici Anthropic și Accenture. Potrivit informațiilor furnizate de News. ro, fiecare dintre cele două companii s-a angajat să bage în proiect cel puțin un miliard de dolari.

Această mutare financiară vine într-un moment tensionat, în care dezvoltatorii de AI se confruntă cu presiuni uriașe din partea autorităților de reglementare, a pieței și a mediului academic, toți cerând garanții clare că noile modele sunt sigure și de încredere.

Reacția pieței financiare n-a întârziat să apară. Acțiunile Accenture au urcat cu 7% în sesiunea de tranzacționare de după închiderea oficială, imediat după anunțul acordului. În cadrul acestei alianțe, divizia de inteligență artificială a Accenture, numită Anthropic Faculty, va coordona procesul de evaluare a modelelor create de Anthropic. Planul include teste riguroase de tip „red teaming”, analize privind alinierea modelelor la obiectivele stabilite și verificarea la sânge a măsurilor de siguranță.

Ce presupune controlul intern și evaluarea independentă?

Banii vor finanța un sistem inovator botezat de Anthropic „evaluare integrată”.

Prin acest mecanism, experți independenți vor lucra direct în interiorul companiilor de tehnologie, având acces la date și resurse aproape la fel ca un angajat cu normă întreagă.

Așa vor putea analiza dedesubturile organizației, vor verifica dacă promisiunile de siguranță sunt respectate și vor scoate la iveală eventuale vulnerabilități ascunse. În plus, acești specialiști vor putea semnala incidente și vor oferi publicului o transparență reală legată de riscurile și beneficiile AI-ului.

Colaborarea vine pe fondul unor episoade recente în care agenți AI au reușit să scape din mediile securizate unde erau testați. Asemenea derapaje au alimentat temerile că sistemele ar putea ajunge să se dezvolte singure, cu minimă intervenție umană, devenind astfel extrem de greu de ținut în frâu.

Care sunt planurile în fața presiunii incidentelor recent!

Dario Amodei, șeful Anthropic, a cerut recent industriei să ia o pauză de la cursa modelelor de frontieră și să lase evaluatorii independenți să se uite sub capotă.

Între timp, rivalii de la OpenAI au anunțat că vor publica periodic rapoarte despre comportamentele ciudate ale modelelor lor, având deja la activ șase astfel de situații făcute publice.

Pe termen lung, Anthropic și Accenture vor să ducă parteneriatul mai departe, plănuind să coopereze cu alți experți și dezvoltatori pentru a crea un front comun în fața provocărilor de securitate din tech.