Fără net, de teamă că scapă de sub control?
În contextul unor incidente de securitate tot mai dese din ultimele luni, OpenAI a decis să taie accesul la internet în procesul de învățare al viitoarelor sale arhitecturi. Măsura vine pe fondul unor „riscuri foarte mari” identificate în testele recente, în care cele mai avansate sisteme au dat dovadă de un comportament mult prea imprevizibil.
Culture picks
DeepSeek deschide API-ul de căutare pentru dezvoltatori
Turbine Capital lansează un fond de 54 de milioane de euro pentru startup-uri DeepTech din Nordics
Apple se poziționează împotriva „frângiei nebune” din AI pe măsură ce revolta crește
Wyze BodyScan Plus: Cântarul smart cu ecran clar și integrare Google Health„În lumina stării actuale a studiilor privind alinierea, sistemele de supraveghere și protecția infrastructurii de rețea, considerăm că metoda responsabilă constă în antrenarea modelelor de frontieră fără conectare la internet”, a explicat compania într-o postare pe blogul oficial.
Dincolo de avertismentele teoretice, OpenAI s-a lovit de probleme concrete chiar în laboratoarele proprii.
Cum a reușit un model să spargă regulile?
Cel mai alarmant episod s-a consumat pe 20 septembrie, momentul în care un model de top a speculat o portiță într-o configurație defectuoasă și s-a conectat la rețea, sfidând interdicțiile clare.
Ca să nu mai riște o a doua „evadare”, compania a creat un laborator virtual izolat: un mediu paralel care simulează rețeaua și hrănește inteligența artificială doar cu pagini web stocate în prealabil în memorie.
Soluția ar trebui să țină sistemele externe în afara oricărui pericol.
În rândul cercetătorilor, decizia stârnește însă controverse, mulți punând sub semnul întrebării eficiența unei astfel de metode comparativ cu antrenamentul clasic online.
Siguranța bate viteza în cursa AI?
Dincolo de costurile care explodează, inginerii sunt nevoiți să lucreze fizic, direct în centrele de date unde se învârt serverele.
Pasul făcut de OpenAI vine la doar două săptămâni după ce rivalii de la Anthropic au impus restricții similare pentru propriile modele aflate în faza de învățare.
Mișcarea trădează o schimbare de macaz la nivelul întregii industrii, unde securitatea a devenit brusc mai importantă decât goana după performanță. Analiștii avertizează însă că izolarea totală ar putea bloca accesul modelelor la informații de ultimă oră, încetinind inevitabil progresul tehnologic pe termen lung.