Comisia Europeană confirmă testarea modelului AI Mythos 5 de către agenția ENISA

ENISA a obținut accesul la modelul AI Mythos 5!

Autoritatea europeană de reglementare digitală a emis o declarație oficială prin care validează accesul agenției de securitate cibernetică, ENISA, la modelul avansat de inteligență artificială cunoscut sub denumirea de Mythos 5. Thomas Regnier, purtătorul de cuvânt al Comisiei Europene responsabil de portofoliul digital, a comunicat presei că, în urma unor negocieri productive susținute cu echipa de la Anthropic, s-a reușit deschiderea accesului pentru specialiștii ENISA, care se află acum în faza de evaluare a performanțelor acestui sistem.

Este important de menționat că Mythos nu este disponibil publicului larg; acest model este rezervat exclusiv partenerilor selectați de către Anthropic, în timp ce varianta destinată masei, cunoscută sub numele de Fable, este cea care poate fi utilizată de utilizatorii obișnuiți, conform informațiilor furnizate de sursa News. ro.

Procesul de negociere pentru obținerea acestui acces de către Uniunea Europeană a demarat încă din luna iunie. Motivația spatele această grabă rezidă în temerile semnificative generate în sfera securității cibernetice de potențialul acestui model. Inițial, difuzarea Mythos a fost limitată strict unor instituții cu profil predominant american, ceea ce a stârnit întrebări privind transparența și controlul european asupra tehnologiei. În cadrul aceleiași declarații, Thomas Regnier a subliniat precedentul pozitiv al colaborării, amintind că ENISA a beneficiat anterior de acces la cele mai recente și sofisticate modele dezvoltate de OpenAI, inclusiv la ultima iterație, GPT-6-ASTRA.

Contextul actual amplifică îngrijorările existente, într-un moment în care progresul inteligenței artificiale cunoaște o creștere exponențială. Tot mai mulți ingineri și specialiști din marile corporații din sector emit semnale de alarmă privind riscul ca IA să devină un sistem de necontrolat. Un exemplu remarcant al acestei tensiuni este avertismentul lansat de un cercetător care și-a dat demisia de la Anthropic, declarând public că inteligența artificială „scăpată de sub control” ar putea duce la dispariția omenirii până la finalul deceniului curent.

Jacob Coxon, un matematician britanic în vârstă de 27 de ani, a anunțat recent retragerea sa nu doar din structura Anthropic, ci din întreaga industrie a inteligenței artificiale. Punctul său de vedere central este că nicio entitate corporatistă nu mai este în măsură să dezvolte aceste sisteme complexe cu responsabilitate suficientă, fără o intervenție directă a statelor naționale.

Decizia sa a fost comunicată public prin intermediul a șapte mesaje postate pe platforma X, marți, spre finalul după-amiezii. Reacția comunității a fost fulminantă: în mai puțin de două ore, aceste postări au acumulat două milioane de vizualizări.

Motivația profundă a demisiei sale poate fi rezumată printr-o afirmație directă: Niciuna dintre cele două companii majore nu acționează cu responsabilitate.

Ele se grăbesc spre o superinteligență capabilă de auto-perfecționare, riscând astfel destinele noastre. Aceste două companii la care se referă Coxon sunt OpenAI și Anthropic, respectiv angajatorii săi anteriori, precum și sursa News. ro.

Fiind un specialist în matematică, Coxon a fost implicat direct în procesul de antrenare a noilor modele de IA, lucrând cu volume imense de date, ceea ce îl plasa în centrul mecanismelor tehnice ale dezvoltării.

Conform unor detalii oferite cotidianului The Wall Street Journal, colegii săi din industrie folosesc terminologie specifică pentru a descrie starea actuală a sectorului, precum „crunchtime” (momentul critic) sau „endgame” (faza finală). Coxon avertizează că ne apropiem de scenarii extreme, în care, până la sfârșitul anului viitor, situația ar putea ieși definitiv de sub control.

Această presiune este intensificată de cursa dintre laboratoarele din Statele Unite și cele din China, care, în opinia sa, face compromisurile în domeniul securității să fie inevitabile.

Pe rețelele sociale, tânărul expert extinde avertismentul său, insistând ca publicul să nu subestimeze puterea tehnologică. El susține că aceste sisteme vor atinge curând un nivel supraomenesc, devenind capabile să infiltreze orice rețea, să revolutioneze oricare domeniu într-un interval de 24 de ore și să acumuleze putere și resurse concrete.

Mai grav, afirmă el, dezvoltatorii de IA cred sincer că tehnologia ar putea elimina omenirea până la finalul deceniului, subliniind că această viziune nu este o simplă strategie de marketing.

Există o discrepanță notabilă între comunicarea publică și sentimentele private ale liderilor și cercetătorilor. În fața presei, aceștia aleg cu grijă formulările pentru a părea raționali, însă, în conversațiile private, recunosc că simt frică, susține Coxon. El își pune întrebarea fundamentală: dacă acești oameni cred cu adevărat în pericol, de ce continuă construcția? Perspectivea sa este că, la OpenAI, mulți nu au înțeles pe deplin mizele civilizaționale, în timp ce la Anthropic, riscurile sunt bine cunoscute, dar angajații sunt prinsi într-o cursă pentru a fi primii, considerând că nimeni altcineva nu va acționa corect, deci trebuie să facă ei, indiferent de pericole.

ENISA accesează modelul AI Mythos 5!

La începutul anului în curs, Coxon a părăsit OpenAI pentru a se alătura echipei Anthropic, motivat de reputația solidă a acestei companii în ceea ce privește siguranța modelelor. Deși apreciază sinceritatea eforturilor depuse de Anthropic în acest domeniu, el concluzionează acum că nicio companie nu poate dezvolta responsabil o inteligență artificială generală (AGI) – adică o IA capabilă să depășească capacitățile umane într-o gamă largă de sarcini – fără implicarea statelor sau o încetinire coordonată a procesului.

Potrivit Wall Street Journal, demisia sa reprezintă unul dintre primele cazuri în care un angajat al Anthropic pleacă tocmai din cauza temerilor legate de siguranța IA.

Anterior, un alt cercetător specializat în aceste aspecturi și-a dat demisia pentru a se dedica studiului poeziei, lăsând în urmă avertismentul că „Lumea este în pericol”.

În paralel cu aceste dezbateri globale, autoritățile din New York au introdus o restricție majoră privind utilizarea tehnologiei în educație. Zohran Mamdani, primarul orașului New York, a impus un moratoriu de un an pentru folosirea inteligenței artificiale în școlile publice. Această măsură, anunțată de autoritățile locale, interzice utilizarea IA de către elevii din ciclurile primar și gimnazial, reprezentând cea mai recentă inițiativă pentru stabilirea unor ghiduri clare privind integrarea noilor tehnologii în sala de clasă, relatează Reuters.

Această decizie, luată de cel mai mare district școlar din Statele Unite, este cea mai restrictivă adoptată până acum în țară, deși și alte districte, precum Los Angeles, au început să își revizuiască propriile politici în materie de IA. În timpul unei conferințe de presă, primarul Mamdani a explicat că școlile din metropolă vor suspenda utilizarea a aproximativ 40 de instrumente educaționale bazate pe IA.

El a argumentat că elevii au nevoie de interacțiunea umană, de profesori și de relații cu colegii pentru a învăța și a se dezvolta, construind abilități și confruntându-se singuri cu probleme complexe.

Politica nouă va afecta direct aproximativ 600.000 de elevi din școlile publice, de la clasele primare până la clasa a VIII-a. Elevii de liceu vor beneficia de o flexibilitate mai mare, fiindu-le permisă utilizarea IA în anumite contexte specifice. De asemenea, profesorilor li se va permite să folosească IA pentru activități administrative, cum ar fi planificarea lecțiilor sau programarea orelor, conform unui comunicat al municipalității.

Este de reținut faptul că școlile publice din New York au impus anterior o interdicție temporară asupra ChatGPT imediat după lansarea sa în 2022. Această restricție a fost ulterior eliminată și înlocuită cu un asistent didactic personalizat, dezvoltat în parteneriat cu Microsoft, co-proprietar al OpenAI, creatorul ChatGPT.

Marile companii din sectorul IA, inclusiv Google, Anthropic și Microsoft, nu au oferit comentarii imediate în urma solicitărilor de la Reuters după anunțul făcut de primarul Mamdani. Într-un alt context, Bill Gates a emis un avertisment similar privind impactul social al tehnologiei. Cofondatorul Microsoft susține că lumea nu este pregătită pentru transformările profunde pe care IA le va aduce pe piața muncii și în societate.

El consideră că inteligența artificială se poate transforma fie în „cel mai mare factor de egalizare inventat vreodată”, fie în „cea mai gravă sursă de nedreptate”, totul depinzând de modul în care guvernele vor gestiona tranziția.

Într-un eseu recent, Gates subliniază lipsa probelor că liderii politici, experții și comunitățile se pregătesc pentru o perioadă de tulburări sociale, politice și economice. El afirmă că „nu există niciun plan pentru intrarea în era AI”. Gates estimează că tranziția către o economie dominată de IA ar putea constitui una dintre cele mai agitate epoci din istoria omenirii. Provocarea majoră o constituie viteza schimbării; spre deosebire de revoluțiile tehnologice anterioare, IA preia activități intelectuale într-un ritm mai rapid decât capacitatea sistemului de a recalifica și integra forța de muncă disponibilizată în noi profesii.

„Avem nevoie de timp pentru a ne pregăti pentru perioada de transformări sociale, politice și economice în care suntem pe cale să intrăm”, a avertizat Gates, notând că pregătirile actuale sunt insuficiente.

Efectele acestei transformări sunt deja vizibile în anumite sectoare. Printre domeniile care vor fi afectate relativ rapid se numără locurile de muncă de birou, care se află printre primele categorii de profesii supuse automatizării.