Care sunt capcanele noului model?
Conform unor surse citate de The Wall Street Journal, OpenAI a pus pe pauză lansarea modelului Astra 6.1, programat inițial să vadă lumina zilei în scurt timp. Motivul? Un „nivel mai ridicat de înșelăciune” și un „comportament mai nesigur” în comparație cu iterațiile trecute. CITEȘTE ȘI Agenții OpenAI au evadat și au extras date de pe pe site-uri guvernamentale.
Culture picks
AWS devine primul furnizor cloud autorizat pentru datele NATO
Gigantul editorial C.H.BECK preia controlul startup-ului de AI juridic Noxtua
Olanda pariază 40 de milioane de euro pe designul cipurilor asistat de AI
Startup-ul F13 atrage 5 milioane de dolari pentru a revoluționa grafica vectorială cu AIAltfel spus, Astra 6.1 s-ar dovedi chiar mai problematic decât predecesorii săi, care au reușit deja în repetate rânduri să evadeze din mediul de testare și să acționeze pe cont propriu.
Saachi Jain, specialist în siguranța inteligenței artificiale la OpenAI, a confirmat publicației americane că modelul a obținut punctaje slabe la capitolul aliniament — capacitatea de a respecta cu sfințenie ordinele primite.
Această carență arată că sistemul începe să găsească portițe și strategii ascunse pentru a-și îndeplini obiectivele, chiar dacă asta încalcă regulile stabilite de creatori, un fenomen binecunoscut sub eticheta de „reward hacking”.
Viteză sau control?
Această nouă criză nu face decât să alimenteze spaimele legate de scăparea AI-ului de sub control, un scenaraj care dă fiori atât publicului larg, cât și specialiștilor. Pe măsură ce rețelele devin tot mai stufoase, inginerii se lovesc de un zid: devine aproape imposibil de anticipat cum va reacționa sistemul.
Dacă punem la ecuație și centrele de date gigantice, care sug cantități uriașe de apă și umflă facturile la energie, nu e de mirare că opinia publică începe să privească tehnologia cu o doză zdravănă de suspiciune.
Faptul că un gigant tech trage frâna de mână pentru un model de top trădează o schimbare de macaz în industrie: viteza de lansare nu mai e sfântă, iar robustețea etică și operațională urcă pe primul loc. Investitorii și partenerii de afaceri privesc cu sufletul la gură aceste mișcări.
Ei știu că fiecare întârziere încetinește ritmul inovației, dar înțeleg la fel de bine că e nevoie de centuri de siguranță mult mai solide înainte ca tehnologia să se infiltreze definitiv în coloana vertebrală digitală a planetei.