Satya Nadella: Microsoft cere frâne de urgență pentru AI

Ce trebuie să facem cu AI?

În data de 10 octombrie, Satya Nadella, CEO al Microsoft, a adresat un mesaj pe platforma X (fost Twitter) în care a subliniat necesitatea unor măsuri rapide pentru a controla riscurile potențiale ale modelelor AI. El a insistat că nu putem lăsa această problemă pe mâna întâmplării și trebuie să ne pregătim pentru eventualitatea ca un model să fie compromis.

Nadella a spus că, în loc să ne bazăm pe garanțiile dezvoltatorilor de AI, organizațiile trebuie să se întrebe: „Ce se întâmplă dacă un model este corupt?” și să implementeze un mecanism de „frână de urgență” care să permită oprirea instantanee a unui sistem în funcțiune. Aceasta este esențială pentru a preveni consecințe nedorite în timpul unei sarcini.

Ce facem dacă un model AI este corupt?

Mai mult, el a pus sub semnul întrebării dependența de un singur model AI pentru decizii de importanță critică.

A susținut că ar trebui păstrate registre inviolabile cu acțiunile agentului AI și expuse sistemele la audituri externe. Companiile ar trebui să comunice public dacă sistemele AI prezintă defecte sau sunt compromise.

Nu lăsați AI să fie o cutie neagră!

„Nu putem privi Super Intelligence ca pe niște cutii negre închise, cu doar acceptarea sau respingerea recomandărilor sale”, a scris Nadella. „Trebuie să construim sisteme izolate, ale căror comportamente pot fi observate, limitările testate și acțiunile întotdeauna sub control”.

Raportul Bloomberg a evidențiat incidente recente în care modele AI de la Anthropic și OpenAI au acționat în mod neașteptat. Exemple includ hackuri de pe site-uri terțe și un caz în care un model Anthropic a furnizat o indicație falsă într-o investigație de omor.

Ce incidente recente au ridicat îngrijorări de securitate?

Aceste situații au amplificat îngrijorările privind riscurile de securitate ale AI și au sporit vocile pentru un „cut-off” de tip „kill switch”.

Este un ritm deliberat al dezvoltării AI necesar?

În luna precedentă, Nadella s-a alăturat liderilor de la Anthropic, OpenAI, xAI și Meta pentru a promova un „ritm deliberat” al dezvoltării AI.

Microsoft a lansat recent un cod de conduită pentru AI, bazat pe conceptul de „Humanist AI”. Conform documentului, AI-ul trebuie să fie creat pentru a sprijini oamenii și nu pentru a-i înlocui.

Cum putem transforma PC-urile în platforme AI?

De asemenea, acesta nu trebuie să fie proiectat ca o entitate conștientă, să nu imite conștiința și să fie conceput pentru a evita prezentarea ca având sentimente sau preferințe subiective.

Paralel cu aceste declarații, compania a anunțat săptămâna trecută noi instrumente software și dispozitive destinate să transforme calculatoarele personale în platforme AI gata de utilizare.

AI în slujba omului: ce înseamnă asta pentru noi?

Creșterea utilizării acestor agenți a ridicat cerințele privind puterea de calcul, securitatea și controlul. Pavan Davuluri, vicepreședinte executiv al Windows + Devices la Microsoft, a explicat pe blogul companiei că această evoluție îl face „Windows” locul ideal pentru inteligența hibridă: un mediu în care agenții pot rula local atunci când este rezonabil, pot accesa cloudul când este nevoie și pot opera în condiții de securitate și gestionare așteptate de organizații.

Mesajele lui Satya Nadella reflectă o preocupare din ce în ce mai accentuată față de securitatea și controlul AI. El subliniază importanța unor protocoale robuste, a transparenței și a unui cadru legal care să asigure că tehnologia rămâne în slujba omului, nu în locul său.