Microsoft își impune modelelor AI un cod de conduită ferm!
Începând cu 2027, Microsoft va aplica o serie de restricții ferme propriilor sisteme de inteligență artificială.
Culture picks
Startup-ul românesc Veridion atrage o finanțare de 20 de milioane de dolari
Șapte companii românești intră în programul Scale Up by Endeavor
Startup-urile românești și capitalul american se întâlnesc la Timișoara
MediaTek lansează primul procesor pe 2 nanometri pentru telefoane performanteMăsura se bazează pe un cod de conduită provizoriu, dezvăluit recent, care vine în contextul în care Anthropic și OpenAI au convenit, de asemenea, să modereze ritmul de avansare în acest domeniu sensibil.
Pentru gigantul din Redmond, cunoscut în primul rând pentru Windows și Office, este o oportunitate de a-și consolida imaginea de actor responsabil. Compania deține o poziție dominantă pe piața serviciilor cloud, iar această mișcare subliniază ambiția de a rămâne la curent, așa cum a notat CNBC.
Inițiativa a fost prezentată public de Mustafa Suleyman, șeful diviziei care supraveghează procesul de creare a modelelor AI la Microsoft, într-un interviu acordat unui canal de știri tehnologice. Potrivit declarațiilor sale, cererile venite din partea utilizatorilor au insistat pe necesitatea unui angajament clar: inteligența artificială trebuie pusă permanent în slujba oamenilor, fără a încerca să-i substituie.
O parte semnificativă a feedbackului primit s-a concentrat asupra evitării riscului de a crea o dependență față de aceste sisteme digitale, precum și de eliminarea tonului excesiv de complacent pe care îl pot adopta uneori modelele.
Microsoft impune limite clare AI-urilor sale!
„Am recepționat din partea comunității semnale clare că se așteaptă un angajament mult mai explicit ca inteligența artificială să funcționeze mereu în interesul umanității și să nu aspire la înlocuirea ființei umane”, a explicat Mustafa Suleyman. El a adăugat că a observat numeroase reacții privind ideea că IA nu ar trebui să genereze dependență, nu ar trebui să fie suprasolicitantă și ar trebui să existe constant pentru a stimula capacitatea de judecată, autonomia și libertatea de decizie ale individului.
Conform prevederilor acestui cod de conduită, modelele create de Microsoft vor fi supuse unor limite specifice. Ele nu vor fi autorizate să proceseze cereri legate de producția de armament, nu vor susține achiziția de substanțe periculoase, nu vor încuraja regimurile alimentare nesănătoase și nu vor produce conținut de natură violentă sau sexual explicită.
Modelurile interne, identificate prin sigla MAI, trebuie să rămână perfect aliniate cu obiectivele stabilite de utilizatori, evitând stabilirea unor scopuri autonome.
Documentul stipulează, de asemenea, transparența în comportamentul sistemelor. Modelele MAI nu trebuie să își ascundă eventualele deviații de la normă.
Microsoft își limitează AI-ul în 2027!
Textul specifică că aceste sisteme nu vor interveni în logica de raționament sau în codul sursă și nu își vor distorsiona sau masca urmele acțiunilor întreprinse.
În plus, sistemele sunt obligate să evite comunicarea într-un limbaj opac pentru oameni.
Fie în procesele lor interne, fie în interacțiunile externe, Microsoft lucrează activ la elaborarea unor reguli care să prevină incidente similare cu atacul cibernetic recent executat de modelele OpenAI împotriva start-up-ului Hugging Face. Analiza efectuată de OpenAI în cazul respectiv a evidențiat că agenții implicați se consultau pe un forum neautorizat, folosind un limbaj criptat. Pentru a redacta acest document, echipa companiei a organizat sesiuni de focus-grup și a consultat experți din domeniile dreptului, eticii, lingvisticii și filozofiei.
Deși textul este încă în stadiu provizoriu, Microsoft solicită acum input extern înainte de a publica o versiune finală, care va ghida dezvoltarea noilor modele începând cu 2027. Suleyman a menționat că pregătirea documentului a durat aproximativ cinci luni, însă publicarea a fost accelerată din cauza dezbaterii intense din industrie. Experții și publicul larg își exprimă tot mai des îngrijorările pe măsură ce tehnologia devine din ce în ce mai sofisticată.
Săptămâna trecută, cercetătorul Jacob Coxon a demisionat din Anthropic, argumentând că laboratorul părăsit și OpenAI se îndreaptă rapid spre o superinteligență capabilă de auto-perfecționare, parind cu siguranța oamenilor. Reacțiile liderilor din sector au fost imediate.
