Senatorul Adam Schiff trage un semnal de alarmă: inteligența artificială recursivă amenință securitatea națională

Trebuie Congresul să oblige companiile să păstreze jurnalele de antrenament?

Washington — Într-un interviu televizat acordat marți, senatorul Adam Schiff a declarat că evoluția rapidă a sistemelor de inteligență artificială recursivă ar putea deveni în curând o amenințare reală la adresa securității Statelor Unite. El a cerut Congresului să acționeze rapid și a propus un proiect de lege care i-ar obliga pe dezvoltatorii de IA să păstreze jurnale detaliate despre modul în care modelele lor sunt antrenate și actualizate.

Schiff a subliniat că, fără o astfel de supraveghere, Statele Unite și-ar putea pierde capacitatea de a detecta utilizările rău intenționate ale IA-ului care se auto-îmbunătățește.

Schiff a explicat că inteligența artificială recursivă — sisteme capabile să-și îmbunătățească propriul cod — reprezintă o nouă provocare pentru autorități. El a dat exemplul unor demonstrații recente în care modele lingvistice de mari dimensiuni au procesat seturi de date de multe milioane de tokenuri dintr-o singură trecere, permițându-le practic să Un asemenea nivel de autonomie, a avertizat el, ar putea permite actorilor ostili să genereze arme cibernetice sofisticate sau campanii de dezinformare mai repede decât pot Saltul tehnologic din spatele IA recursive?

Senatorul a scos în evidență o nouă clasă de modele, precum arhitectura Subquadratic (SubQ), care poate gestiona până la 12 milioane de tokenuri dintr-o singură mișcare.

Spre deosebire de modelele tradiționale care se bazează pe generarea augmentată prin recuperare, SubQ procesează direct intrări masive, reducând latența și eliminând nevoia de căutări externe de date.

Ce este mai exact inteligența artificială recursivă?

Această descoperire înseamnă că IA poate sintetiza acum informații din corpusuri întregi — fie că e vorba de cod sursă, lucrări de cercetare sau documente clasificate — în timp real.

Schiff a remarcat că viteza și amploarea acestei tehnologii trag un semnal de alarmă pentru agențiile de informații.

„Când o IA își poate rescrie propriile algoritme în timp ce scanează terabytes de date, pierdem capacitatea de a-i prevedea comportamentul”, a spus el.

El a îndemnat Departamentului Apărării și Agenția Națională de Securitate să dezvolte instrumente de monitorizare care să urmărească schimbările în ponderile modelelor și seturile de date de antrenament, asigurându-se că orice modificare autonomă și anomală este semnalată imediat.

Propunerea lui Schiff i-ar obliga pe dezvoltatorii de IA să păstreze jurnale cuprinzătoare ale surselor de date de antrenament, ale actualizărilor de modele și ale metricilor de performanță timp de cel puțin zece ani. El a susținut că o astfel de transparență este esențială atât pentru supravegherea civilă, cât și pentru investigațiile de securitate națională.

Criticii argumentează că o asemenea regulă ar putea înăbuși inovația și ar expune informații proprietare, însă Schiff a replicat că mizele sunt mult prea mari pentru a permite proliferarea necontrolată a sistemelor care se auto-îmbunătățească.

De ce o vede Senatul drept o amenințare la securitate?

El a amintit de incidentele recente în care deepfake-urile generate de IA au fost folosite pentru a influența alegerile din națiuni străine, sugerând că o abordare similară ar putea fi transformată în armă la scară mai largă dacă IA recursivă ajunge pe mâini greșite. „Avem nevoie de o plasă de siguranță înainte ca tehnologia să depășească capacitatea noastră de a o controla”, a afirmat Schiff.

Apelul senatorului a stârnit dezbateri aprinse printre liderii din domeniul tehnologiei, care avertizează că o reglementare excesivă ar putea împinge cercetarea în IA către alte state. Cu toate acestea, mai mulți parlamentari bi-partizani și-au exprimat sprijinul pentru un cadru moderat care să echilibreze securitatea cu inovația.

Dacă Congresul va adopta recomandările lui Schiff, companiile de IA se vor confrunta cu noi costuri de conformare și potențiale audituri, în timp ce guvernul va obține instrumente pentru a urmări originea conținutului generat de IA. Această mișcare ar putea stabili un precedent global, determinând și alte națiuni să ia în considerare măsuri de protecție similare.

Prin IA recursivă se înțeleg acele sisteme capabile să-și modifice autonom propriul cod și procesele de învățare, creând o buclă de feedback care le poate accelera capacitățile fără intervenție umană.

Pentru că o IA capabilă să se auto-îmbunătățească poate genera rapid instrumente sofisticate pentru atacuri cibernetice, dezinformare sau armament autonom, depășind mecanismul existent de detecție și Ce ar impune noua regulă de păstrare a datelor? Companiile de IA ar trebui să stocheze jurnale detaliate cu toate datele de antrenament, actualizările modelelor și evaluările de performanță timp de minimum zece ani, făcându-le accesibile pentru revizuirile guvernamentale autorizate.