Anthropic suspendă un model de inteligență artificială din motive de securitate
De la Fable 5??, a precizat compania
Una dintre cele mai noi modele de inteligență artificială a fost retrasă la scurt timp după lansare. Acesta este motivul pentru care, în urma îngrijorărilor exprimate de autoritățile de securitate din SUA, Anthropic Technology a suspendat Claude Fable 5 din motive de securitate.
Culture picks:
Decizia a fost luată la doar câteva zile după lansarea publică a programului, BBC.
?? Înțelegem că guvernul crede că a aflat de o metodă de eludare sau jailbreak??
Procesul de jailbreak?? implică evitarea restricțiilor software pentru accesarea funcțiilor blocate sau a datelor sensibile.
După o analiză internă, Anthropic a descoperit doar câteva vulnerabilități minore cunoscute anterior??, subliniind că astfel de încălcări pot fi detectate în alte modele publice fără utilizarea tehnicilor avansate de eludare.
De ce a fost retrasă noua inteligență artificială după doar câteva zile?
În declarațiile sale, compania a afirmat că înainte de lansare a implementat măsuri de securitate stricte pentru a preveni pirateria cibernetică.
Cu toate acestea, acest lucru nu a fost suficient pentru a intercepta autoritățile și comunitatea internațională, care erau îngrijorate de riscurile de dezvoltare a acestor tehnologii, și pentru a avertiza comunitatea britanică că ar putea avea un impact negativ mai mare asupra dezvoltării acestor tehnologii.
Oamenii din industria AI ne-au avertizat că aceste instrumente se îmbunătățesc foarte rapid și că trebuie să putem dezvolta capacități pentru a proteja companiile noastre de atacuri cibernetice.??
Un raport al Institutului de Securitate al Inteligenței Artificiale al guvernului Regatului Unit a arătat că Claude Fable 5 ar putea opera sisteme de apărare în 73% din cazuri, ceea ce reprezintă o schimbare radicală în capacitățile de securitate cibernetică ale companiei??, potrivit profesorului Neff.
Tensiunile cu administrația Trump Această controversă apare pe motivul unui litigiu între Anthropic și administrația Trump.
More stories: