Mythos: Promisiuni și Pericole
Brian Moynihan, directorul executiv al Bank of America, se alătură corului de voci influente de pe Wall Street, exprimându-și îngrijorarea profundă față de riscurile de securitate pe care le prezintă modelele de inteligență artificială. În centrul acestei dezbateri se află sistemul Mythos, dezvoltat de compania Anthropic.
Culture picks
China lansează organizația globală de AI, cu 29 de țări la bord
OpenAI lansează un macro-pad, nu un asistent personal
Canonical aduce soluția Kubeflow gestionată la Cloud-ul Azure
Sony RX10 revine în forță: O nouă eră pentru camerele superzoomAceastă evoluție rapidă a AI-ului a pus pe jar atât sectorul financiar, cât și guvernul Statelor Unite, forțându-i să reevalueze potențialele amenințări cibernetice la adresa piețelor globale, conform unui raport Bloomberg din 16 iulie.
Modelul Mythos, lansat de Anthropic la începutul acestui an, este lăudat pentru capacitatea sa de a identifica puncte slabe în infrastructurile digitale. Bank of America se numără printre instituțiile financiare de pe Wall Street care au primit deja acces la această platformă. Ele folosesc modelul AI pentru a-și testa propriile rețele interne și pentru a împărtăși informații esențiale de securitate cu alți actori din industrie. Un detaliu important: acest model nu a fost încă lansat publicului larg.
Într-un interviu acordat joi la Bloomberg Television, Moynihan a detaliat cerințele operaționale colosale pe care aceste instrumente AI le impun instituțiilor financiare.
Avertismente
El a subliniat că va fi nevoie de o muncă titanică și de un ritm alert pentru a gestiona impactul acestor instrumente asupra vulnerabilităților sistemelor și pentru a le remedia rapid.
Moynihan a adăugat că banca monitorizează îndeaproape și parteneriatele externe, asigurându-se că terții își îndeplinesc sarcinile și colaborează eficient cu echipa internă.
Aceste avertismente vin la scurt timp după declarațiile similare ale lui Jamie Dimon, CEO-ul JPMorgan Chase & Co. care a comparat acordarea unui acces larg la acest sistem cu „oferirea de rachete balistice indivizilor”.
Preocupările liderilor din sectorul financiar nu sunt izolate. Ele se suprapun cu intervențiile recente ale autorităților de reglementare privind tehnologia Anthropic.
Guvernul va interveni pentru a ne salva de pericolele AI?
Un raport PYMNTS din 1 iulie a dezvăluit că Departamentul de Comerț al SUA impusese anterior controale la export și restricționase accesul la modelele AI Mythos 5 și Fable 5 ale Anthropic.
Directiva de control al exportului invoca „autorități de securitate națională” nespecificate și îngrijorări legate de o potențială metodă de eludare, sau „jailbreaking”, a modelului Fable 5.
Este esențial de subliniat că această preocupare specifică de securitate se referea la o vulnerabilitate în cadrul protecțiilor interne ale Fable 5, distinctă de temerile de pe Wall Street privind capacitatea modelului Mythos de a descoperi vulnerabilități în sistemele externe.
Guvernul federal a ridicat recent aceste restricții, după ce Anthropic a colaborat strâns cu agențiile pentru a aborda preocupările legate de securitatea cibernetică. În urma acestei aprobări, Anthropic a anunțat că a restabilit accesul la Mythos 5 pentru un set de organizații din SUA. Compania de inteligență artificială a declarat că va continua să lucreze cu guvernul pentru a oferi acces securizat partenerilor interni și externi implicați în inițiativa sa de securitate cibernetică Glasswing.
