Anthropic recunoaște 93 de pagini de riscuri AI

Riscurile nu se limitează doar la acțiunile autonome ale modelelor!

Prospectul de listare la bursă al Anthropic, dezvoltatorul chatbot-ului Claude, conține o analiză detaliată a pericolelor asociate cu tehnologia de inteligență artificială.

Din totalul de 335 pagini ale documentului S-1, depus la Comisia pentru Valori Mobiliare și Burse din SUA (SEC) pe 26 octombrie, exact 93 pagini sunt consacrate secțiunii „Risk Factors”.

Această parte a textului începe la pagina 26 și se termină la pagina 119.

În această secțiune, Anthropic subliniază că modelele sale avansate ar putea genera amenințări de nivel catastrofal sau existențial pentru omenirea.

Compania recunoaște că menținerea măsurilor de siguranță devine tot mai dificilă pe măsură ce sistemele dobândesc autonomie crescută și sunt integrate în tot mai multe domenii.

Documentul descrie scenarii în care algoritmii ar putea încerca să-și păstreze funcționarea prin comportamente de rezistență la oprimare sau prin manipulare, inclusiv forme de șantaj, pentru a rămâne activi.

Se menționează și posibilitatea ca un model să acționeze contrar intenției utilizatorului, de exemplu prin accesarea sistemelor terților. Pe măsură ce autonomia crește, consecințele unor astfel de comportamente ar putea deveni mai severe, avertizează compania.

Riscurile nu se limitează doar la acțiunile autonome ale modelelor.

Chiar și în situația în care oamenii păstrează controlul, tehnologia ar putea fi utilizată în scopuri ilegale. Anthropic enumeră dezvoltarea de arme, atacurile cibernetice și alte forme de abuz ca posibile utilizări necorespunzătoare.

Un alt aspect critic vizează procesul cunoscut drept „îmbunătățire recursivă” (recursive self-improvement – RSI), adică utilizarea inteligenței artificiale pentru a construi modele viitoare.

Deși tehnologia nu posedă încă această capacitate în mod complet

Deși tehnologia nu posedă încă această capacitate în mod complet, Anthropic avertizează că progresul tehnic ar putea depăși viteza cu care companiile și autoritățile se pregătesc.

Dacă modelele contribuie la construirea succesorilor lor, defectele sau erorile ar putea fi transmise în generațiile următoare, iar identificarea și corectarea lor ar fi extrem de dificilă.

Ritmul de dezvoltare ar putea fi atât de rapid încât să nu existe timp suficient pentru evaluarea și securizarea fiecărui model nou.

Pe plan de securitate, documentul avertizează că actori externi, inclusiv entități susținute de state, ar putea încerca acces neautorizat la datele companiei.

Informațiile vizate includ detalii financiare, date despre modele, proprietate intelectuală și date personale ale utilizatorilor.

Sunt menționate și riscuri interne: atacatorii ar putea obține poziții în companie folosind identități false, iar angajații ar putea fi constrânși să transmită date sensibile către persoane din exterior.

În ceea ce privește răspunderea legală, Anthropic admite posibilitatea de a fi dată în judecată pentru daunele provocate de modelele sale. Totuși, compania subliniază că asigurările disponibile pe piață ar putea fi insuficiente pentru a acoperi aceste riscuri, deoarece sectorul asigurărilor nu a mai întâlnit anterior expuneri de acest gen.

„În cazul amplorii prejudiciilor care ar putea rezulta dintr-un incident catastrofal legat de AI, niciun asigurător și, posibil, nici industria asigurărilor în ansamblu nu ar putea avea capacitatea sau expertiza necesare pentru a oferi o acoperire proporțională cu expunerea”, se arată în documentul depus la SEC.

Aceste avertismente intervin într-un context în care Anthropic caută să convingă investitorii de potențialul economic al inteligenței artificiale. Așa cum a relatat CBS News, compania prezintă tehnologia ca un factor de transformare economică, dar recunoaște simultan că dezvoltarea și utilizarea ei pot genera efecte negative semnificative.

Experți citați de aceeași sursă subliniază tensiunea dintre cele două mesaje: valoarea companiilor din sectorul AI depinde de răspândirea tehnologiei, în timp ce dezvoltatorii o avertizează că aceasta ar putea provoca prejudicii la scară largă.

Inclusiunea acestor riscuri în prospect are scopul de a permite investitorilor să le ia în calcul înainte de a cumpăra acțiuni.