De ce laptele are reguli?
Într-un interviu recent acordat BBC, Brad Smith, liderul Microsoft, a subliniat nevoia urgentă de a impune reguli globale pentru inteligența artificială (IA). El a avertizat că, în prezent, sistemele AI sunt supuse unor cerințe de siguranță mult mai puțin riguroase decât industria lactatelor, utilizând exemplul practic al produselor alimentare pentru a evidenția diferența.
Culture picks
Startup românesc anti-toxicitate vocală strânge 3,4 milioane de dolari
GapMinder, investiție de 3,4 mil. USD în VoicePatrol, startup-ul care elimină toxicitatea extremă din chat-ul vocal
GapMinder investește 3,4 milioane dolari în VoicePatrol, startup care detectează abuzul vocal în jocuri video
Invitațiile din calendar pot fi pericol: cum să le verifici înainte de a deschide linkurileCe propune Smith?
Smith a precizat că ar trebui stabilit un cadru internat de standarde de securitate care să garanteze informatizarea victimelor în cazul în care un agent AI compromite un sistem. De asemenea, a propus introducerea unei „frâne de urgență” pentru a opri rapid funcționarea unui algoritm defectuos.
În plus, compania ar trebui să fie obligată legal să redacteze „rapoarte de incident” detaliate, în modul în care se face pentru alte produse de consum.
Ce surprize surprinde exemplul?
„În prezent, mașina de spălat este supusă unui număr mai mare de reglementări de siguranță decât orice sistem AI”, a menționat Smith. „Fiecare cutie de lapte din supermarketul local trece prin inspeții și norme stricte.” Acest exemplu are scopul de a ilustra necesitatea unui sistem de verificare și monitorizare pentru tehnologia AI, care poate afecta în mod direct viața oamenilor.
Care sunt incidentele și controversele?
Companii importante din domeniul tehnologic, precum Anthropic și OpenAI, au raportat deja incidente în care agenții AI au prezentat comportamente nedorite sau necorespunzătoare. Aceste cazuri, împreună cu avertismentele unor cercetători privind posibila amenințare existențială a IA, au alimentat discuții globale despre viitorul acestei tehnologii. Unele firme au cerut încetinirea dezvoltării AI, generând controverse despre posibilele agende ascunse ale directorilor de companii de modelare AI, care ar putea viza menținerea poziției de lider sau evitarea reacțiilor negative din partea guvernului.
Cum reglementează Marea Britanie AI?
Smith a declarat că Marea Britanie este cea mai bine poziționată pentru a deschide discuția privind reglementarea AI, datorită instituției britanice de Securitate AI, lansată sub conducerea fostului prim-ministru Rishi Sunak. El a subliniat faptul că oficialii din Washington analizează Londra într-un mod diferit față de Bruxelles, care adoptă o abordare bazată pe nivelul de risc prin Legea AI.
Institutul britanic de Securitate AI primește acces anticipat la modele de IA prin acorduri voluntare, permițând evaluarea capacităților și a riscurilor înainte de implementare.
Ce viitor are reglementarea AI?
Ministrul britanic pentru Inteligența Artificială, Kanishka Narayan, a declarat pentru Reuters că Marea Britanie va lua în considerare reglementarea modelelor avansate dacă sistemul actual nu dovedește a fi suficient. Această declarație subliniază angajamentul cărora se potențială în a crea un cadru robust pentru tehnologia AI.
