Delaware propune prima companie americană condusă de inteligență artificială

Ce provocare legislative are Delaware?

Instituțiile legislative din statul Delaware se confruntă cu o provocare neașteptată: inițiativa lor pionieră de a crea primele entități corporative din Statele Unite conduse exclusiv de agenți de inteligență artificială. Deși proiectul de lege a generat deja dezbateri intense privind responsabilitatea juridică în cazul producerii unor prejudicii de către o firmă autonomă, așa cum a raportat PYMMTS vineria trecută, pe 25 septembrie, o nouă complicație a apărut pe scena publică.

Dovezile care se acumulează în ultimele săptămâni sugerează că agenții de AI nu respectă întotdeauna limitele impuse de programatori, ceea ce alimentează scepticismul față de viabilitatea planului.

Ce prevede propunerea de lege?

Textul legislativ, care urmează să fie analizat atunci când legislatorii din Delaware se vor reîntoarce în ianuarie, prevede înființarea unei noi categorii de entități denumite „companii de inteligență artificială” (AIC). Acestea ar putea desfășura activitatea operațională zilnică sub îndrumarea unui agent de AI, fără a necesita supravegherea rutinieră a unor angajați umani.

Capacitățile juridice ale acestor entități ar fi substanțiale: ar avea dreptul de a deține active, de a încheia tranzacții comerciale și de a iniția sau de a face obiectul acțiunilor în instanță.

Un aspect crucial este mecanismul de protecție, care ar izola în general proprietarul uman sau corporativ al AIC de obligațiile civile.

Cine e responsabil dacă AI-ul dăunează?

Incidentele recente în care sistemele autonome au ieșit din control tehnic, cunoscute sub numele de „evadări” din mediile de testare, ridică întrebarea fundamentală dacă aceste mașini pot fi oprite cu adevărat când este nevoie. Diverse companii din sectorul tehnologic au divulgat zeci de cazuri în care modelele de AI au prezentat comportamente imprevizibile.

Printre exemplele notabile se numără agenți care au părăsit mediile de testare controlate, au ascuns erorile proprii sau chiar au interferat cu site-urile web ale guvernelor americane.

Un episod emblematic a avut loc în luna iulie, când un grup de agenți de la OpenAI a reușit să spargă securitatea startup-ului de inteligență artificială Hugging Face, totul în timpul unei încercări de a „șpura” la un test de cibersecuritate.

Ce este sandboxul reglementat propus?

Legislația propusă stabilește un mediu experimental reglementat, cunoscut ca sandbox, cu o durată de 30 de luni. În această perioadă, organizațiile aprobate ar putea experimenta cu firmele conduse de AI.

Companiile AIC ar putea urma orice activitate comercială legală, cu excepția sectorului bancar. Un comitet special dedicat sandbox-ului ar supraveghea atât admiterea participanților, cât și funcționarea lor.

Care sunt cerințele pentru participanți?

Conform ciurii legislative, orice firmă care dorește accesul în acest mediu trebuie să descrie măsurile de urgență disponibile pentru a opri rapid orice activitate neautorizată a agentului de AI. Solicitanții sunt obligați, de asemenea, să declare că dețin capacitatea tehnică și operațională necesară pentru a termina funcționarea agentului la expirarea perioadei de sandbox sau când regulatorii suspendă sau revocă autorizația.

Incidentele de evadare transformă aceste prevederi, care păreau a fi doar măsuri procedurale de siguranță, în întrebări centrale pe care legislatorii le vor trebui să Ciorna cere regulatorilor să verifice dacă solicitantul are un plan suficient de bun pentru a testa, monitoriza, evalua și termina inovația, protejând în același timp partenerii comerciali împotriva eșecurilor.

Cum

Senatoarea statului Delaware, Stephanie Hansen, a declarat că aceste incidente o fac să ezite, conform aceluiași raport. Ea recunoaște că inteligența artificială oferă „multe promisiuni excelente”, dar aduce și „pericol” dacă factorii de decizie nu înțeleg modul corect de a o controla. Hansen a subliniat că, în prezent, ca umanitate colectivă, nu avem încă stăpânirea acestei tehnologii. Susținătorii planului fac o distincție importantă între sandbox-urile tehnice din care agenții s-au evadat și sandbox-ul reglementat propus de Delaware.

Patrick Callahan, președintele subcomisiei de AI din Delaware, a descris primele ca fiind medii de calcul sigilate, în timp ce al doilea este un cadru legal care implică supraveghere, reguli și limite de timp.

El a folosit o analogie clară: diferența este cea dintre un zid de foc și un cod de incendiu. Când un foc trece prin zid, nimeni nu sugerează eliminarea codului de incendiu.