Regulatori SUA investighează OpenAI și Anthropic pentru incidente de securitate

Cum gestionă companiile riscurile legate de modelele puternice?

Regulatori federal din SUA au pornit o verificare largă la două dintre cele mai importante companii de inteligenta artificială. Comisia Federală pentru Comert (FTC) a trimis ambele companii — OpenAI și Anthropic — cereri investigative civile de aproximativ cincizeci de pagini.

Focul este pe incidentele de siguranță interne și pe măsurile de protecere pe care le-au implementat dezvoltatorii.

Această acțiune arrivează în momentul în care ambele firme înregistrează creșteri comerciale și financiare fără precedent. Anthropic a comunicat investitorilor că veniturile din trimestrul al treilea au saltat la 16,8 miliarde dolari, față de 11,5 miliarde în trimestrul precedent.

Poate succesul financiar să reziste presiunii reglementare?

De asemenea, compania a ajuns la profitabilitate ajustată în aceeași perioadă, pregătind de asemenea un oferta publică inițială.

Verificarea FTC se concentrează pe modul în care aceste dezvoltatori de AI gestionă pericolele potențiale și comportamentele neașteptate ale modelelor.

Investigatoriile cer rapoarte detaliate despre incidentele de securitate trecute și despre metodele utilizate pentru a le conține. Supravegherea reglementară asupra AI-ului generativ s-a intensărit în paralel cu implementarea comercială rapidă și cu valorizările corporative în crescere.

Ce spune FTC despre motivul cererilor?

Deputații și agențiile de protecție a consumatorilor continuă să se întrebe dacă autoregularea firmelor de tehnologie este suficientă.

Cererile de cincizeci de pagini solicită documentare exhaustivă privind procedurile de evaluare a riscurilor și standardele de inginerie. Ambele companii trebuie să ofere autorităților federale registre complete ale revizuirilor interne de siguranță.

Deși presiunea din Washington crește, momentul de piață pentru dezvoltatorii de modele de bază nu arată semne de încetare. Explozia veniturilor la Anthropic subliniază cererea masivă de capacități avansate de învățare automată. Ajungerea la profitabilitate ajustată înainte de o oferta publică reprezintă un etapă importantă pentru sectorul în expansiune.

Care a fost venitul trimestrial al Anthropic?

Rezultatul acestor investigații federale ar putea redefine modul în care se exercită supravegherea AI-ului în SUA. Costurile de conformitate și întârzierile reglementare pot modifica cronologiile strategice pentru listările publice viitoare și pentru lansările de produse. Ambele organizații vor trebui să echilibreze extinderea agresivă pe piață cu cerințele crescute de conformitate cu cerințele guvernamentale.

Agencia reglementară a lansat verificările pentru a investiga incidentele de securitate specifice și măsurile de protecere operationale utilizate de cei doi dezvoltatori de AI de liderat.

Anthropic a raportat un venit de 16,8 miliarde dolari în trimestrul al treilea, creștere față de 11,5 miliarde dolari întrimestrul al doilea.