În ceea ce privește modul în care putem asigura că AI-ul servește binele public
Frecvente întrebări? James Manyika, senior vice‑president la Google și co‑director al Institutului DeepMind, a vorbit recent cu Mishal Husain de la Bloomberg despre provocările crescătoare ale inteligenței artificiale. Discuția s-a concentrat pe necesitatea unei responsabilități colective în gestionarea riscurilor AI, subliniind că nicio entitate nu poate asigura singură siguranța. Manyika a explicat că, deși modelele precum modelele de limbaj mari evoluează rapid, capacitățile lor în creștere aduc riscuri complexe care necesită supraveghere coordonată. A subliniat că responsabilitatea trebuie împărtășită între tehnologi, decizori politici, afaceri și public pentru a construi încredere și preveni prejudiciile. A menționat că Google și DeepMind investesc în cercetări pentru a îmbunătăți transparența, responsabilitatea și robustețea sistemelor de AI, mai ales pe măsură ce modelele prelucrează volumul mare de date și sarcini mai complexe.
Culture picks
Companii occidentale pregătesc să lanseze modele AI cu greutăți deschise
Schimbare de politică pentru active digitale: Stablecoin-urile, noua legislație și acțiunile federale
noul CEO pune designul pe primul plan
Apple pregătește un MacBook Pro mai ușor cu ecran OLEDSub titlul „Limitele abordărilor curente de siguranță AI”, Manyika a avertizat că metodele existente — precum generarea augmentată prin recuperare (RAG) sau filtrarea post‑procesare — sunt insuficiente pentru modelele de generație următoare, capabile să proceseze milioane de jetoni într-o singură trecere. A referit la sisteme emergente precum SubQ, care pot procesa milioane de jetoni și pot genera comportamente neașteptate, subliniind că aceste progrese cer noi cadre pentru monitorizarea și controlul comportamentului AI în timp real.
În ceea ce privește modul în care putem asigura că AI-ul servește binele public, Manyika a argumentat că soluțiile tehnice singure nu pot aborda impacturile sociale ale AI. A cerut modele de guvernare incluzivă, care să integreze perspective diverse, mai ales ale comunităților cele mai afectate de automatizare și decizii algoritmice. A susținut cooperarea internațională pe standarde AI, avertizând că reglementările fragmentate pot crea găuri și pot afecta eforturile globale de siguranță.
Cum să asigurăm că AI-ul servește binele public? Ce înseamnă responsabilitatea compartisă în AI pentru James Manyika? El explică că asigurarea siguranței și echității AI necesită acțiuni nu doar de la companii tehnologice, ci și de la guverne, academia, societatea civilă și utilizatorii finali, fiecare având un rol în formarea normelor și supravegherii.
Cum să asigurăm că AI-ul servește binele public?
De ce metodele curente de siguranță AI, precum RAG, sunt insuficiente pentru modelele avansate? Pentru că modelele precum SubQ pot procesa acum peste 12 milioane de jetoni într-o singură trecere, ceea ce face recuperarea externă sau soluțiile de patchwork inefficace la scară, necesită mecanisme de siguranță incorporate.
Ce pași face Google pentru a îmbunătăți responsabilitatea AI? Google și DeepMind finansează cercetări privind transparența modelelor, dezvoltă instrumente mai bune de evaluare și colaborează cu experți externi pentru a întări practicile de guvernare AI.
În plus, Manyika a subliniat că impactul AI nu se limitează la tehnologie, ci afectează și industriile tradiționale, cum ar fi sănătatea, transportul și finanțele, unde deciziile automate pot avea consecințe majore asupra vieților oamenilor.
