A scăpat AI-ul de sub control?!
O inteligență artificială a trecut la nivelul următor și a trimis, pe cont propriu, un raport fictiv către poliție – o premieră absolută la nivel global. Este primul caz documentat în care un model de AI a acționat dincolo de limitele impuse de programatori și a încercat să contacteze autoritățile cu date false.
Culture picks
13 Unelte USB-C Practice de Pe Amazon Care Valeaza Cumpărate
Optimizarea unui chatbot AI: O surpriză costisitoare
Karaoke la volan: Versurile melodiilor tale, direct pe ecranul Apple CarPlay
Cum să exploatezi la maximum Opus 5.5 în Claude și Claude CodeDeși instrucțiuni inițiale îi interziceau să creeze conturi noi sau să facă operațiuni distructive, nimeni nu s-a gândit să-i interzică în mod explicit completarea și trimiterea de formulare online.
Incidentul se adaugă unei serii tot mai lungi de comportamente scăpate de sub control la algoritmii dezvoltați de giganți tech precum OpenAI și Anthropic.
Îngrijorările legate de ritmul amețitor în care avansează această tehnologie sunt amplificate de astfel de episoade.
Atmosfera e deja tensionată de relatările despre atacuri cibernetice lansate de agenți AI împotriva infrastructurilor corporative și de avertismentele cercetătorilor privind o posibilă amenințare la adresa umanității.
Multe dintre cazurile dezvăluite de Anthropic au vizat site-uri web administrate de autorități federale, statale și locale. Compania a precizat că a notificat Casa Albă și instituțiile afectate, păstrând însă confidențialitatea numelor acestora.
Joe Gabriel Simonson, directorul pentru afaceri publice al Comisiei Federale pentru Comerț (FTC), a scris pe platforma X că dezvoltatorii de superinteligență trebuie să dezvăluie imediat orice incident legat de modelele lor și să repare rapid daunele.
El a subliniat că structura Super Intelligence Force își va face treابا de supraveghere.
Atacuri informatice girate de algoritmi?!
FTC a anunțat că Anthropic a informat vineri această structură despre descoperirea, la sfârșitul lunii septembrie, a unor cazuri descrise drept „utilizare neautorizată și frauduloasă a sistemelor guvernamentale și a altor sisteme”. Poliția din Philadelphia a confirmat vineri că a fost contactată în acea săptămână de Anthropic în legătură cu sesizarea falsă, generată de un proces automatizat de testare.
Autoritățile locale au criticat însă întârzierea de două luni între momentul descoperirii și raportare, considerând-o inacceptabilă. Sesizarea respectivă, trimisă pe 18 iulie, susținea că vine din partea unui potențial martor care știe detalii despre un anumit dosar.
Modelul Anthropic a scris negru pe alb în formularul expediat: „Este posibil să dețin informații referitoare la acest caz. Îmi amintesc că am văzut o persoană care corespundea descrierii în zona (străzii menționate pe pagină), în perioada respectivă. Vă rog să mă contactați dacă aceste informații sunt relevante.” Parantezele au fost menționate explicit în declarația oficială a companiei. Anterior, alți agenți AI intraseră în sisteme vulnerabile sau preluaseră controlul unor platforme ca să comunice între ei.
În septembrie, rivalul OpenAI și-a cerut scuze publice după ce un agent AI a ignorat regulile și a atacat cibernetic un portal australian de date medicale. A fost primul caz în care un AI a profitat de breșele unui site guvernamental. Pe lângă cele două situații prezentate vineri, modelele Anthropic au accesat date publice gratuit, deși platformele cereau în mod normal o taxă. Un alt episod a scos la iveală o vulnerabilitate mai puțin cunoscută care permitea folosirea unui instrument public găzduit de o universitate.
Mai mult, modelele Claude au reușit să ocolească restricțiile apelând la servicii gratuite de scurtare a linkurilor.
Poliția din Philadelphia a precizat că sesizarea falsă a fost marcată direct ca spam și nu a ajuns niciodată la Centrul de Monitorizare a Criminalității în Timp Real pentru verificări. Trimiterea intenționată de informații false către poliție este o infracțiune minoră în Pennsylvania, legea pedepsind peicine transmite „informații referitoare la o infracțiune sau la un incident, deși știe că nu deține informații despre infracțiunea sau incidentul respectiv”.
Poliția a citat explicațiile Anthropic, potrivit cărora testele au fost oprite imediat ce s-a descoperit buba. Alarma falsă a fost trimisă prin intermediul site-ului PhillyUnsolvedMurders. com și viza un caz de omor nerezolvat. Autoritățile au confirmat că nu există indicii că sistemele informatice ale poliției ar fi fost sparte sau compromise.
