De ce monitorizarea continuă a AI-ului nu mai este opțională?
OpenAI a apelați la deputații din California să consolideze SB 53, legea de siguranță a AI adoptată anul trecut, prin adăugarea de măsuri mai puternice pentru sistemele de inteligentiță artificială avansate. Echipa globală a companiei a făcut acest apel într-o postare pe LinkedIn, declarând că legea trebuie modificată pentru a extinde protecțiile, mai ales în ceea ce privește monitorizarea modelelor de frontiera în timpul antrenării și evaluării pentru semnale de riscuri serioase.
Culture picks
Primul webacam din lume a fost oprit
Serviciul criminal Kriminal exploatează Grok și Claude pentru acces nefiltrat
Armata SUA integrează agenți AI în operațiile de cibernetică sub supraveghere umană
Poate că putem trata sursa ca fiind suficientă pentru a discuta diferențeleOpenAI spune că prevederile actuale ale SB 53 nu sunt suficiente pentru a asigura responsabilitatea în fază de dezvoltare a modelelor puternice de AI. Compania recomandă să se impună monitorizarea continuă a acestor modele în timp ce sunt antrenate sau evaluate, pentru a detecta incidentele serioase înainte să se agraveze.
Acest lucru, explică ei, ar permite regulatorilor și dezvoltatorilor să intervină devreme dacă un model arată semne de comportament nociv.
Cum ar arăta în practică monitorizarea continuă a modelelor AI?
Cred că astfel de măsuri sunt esențiale pentru a echilibra inovație cu siguranța publică, mai ales că sistemele de AI devin tot mai capabile și mai dificil de prezis.
Implementarea unei supravegheri în timp real ar implica instalarea de salvaguarde tehnice care urmăresc comportamentul modelului în semne de alarmă, cum ar fi încercările de generare de conținut nociv sau de evitare a mecanismelor de siguranță. OpenAI sugerează că aceste verificări pot fi integrate în fluxurile existente de dezvoltare fără a afecta semnificativ ritmul inovației. Compania citește propriile sale practici interne de siguranță ca model, menționând că evaluarea riguroasă în timpul antrenării a ajutat la identificarea timpurie a riscurilor.
Prin incorporarea unor cereri similare în lege, California ar putea deveni un punct de referință pentru dezvoltarea responsabilă a AI, pe care alte jurisdicții ar putea urmări.
Regulile mai stricte aduc provocări neașteptate pentru AI!
Unei observații din industrie avertizează că reglementările prea prescrisive ar putea pune în disadvantage start-up-urile AI mici, care nu au resursele pentru a implementa sisteme de monitorizare complexe. Există și preoccuparea legată de definirea clară și adaptabilă a unui „incident serios” în fața schimbărilor tehnologice rapide. OpenAI recunoaște aceste dificultăți, dar insiste că flexibilitatea poate fi introdusă prin standarde bazate pe performanță, în loc de mandate tehnice rigide. Compania sublinează că scopul nu este să oprească progresul, ci să se asigure că acesta avansează în siguranță.
Ce modificări specifice propune OpenAI pentru SB 53? OpenAI recomandă modificarea SB 53 pentru a impune monitorizarea modelelor de frontiera în timpul antrenării și evaluării, cu scopul detectării timpurie a riscurilor serioase.
De ce cere OpenAI monitorizarea continuă a modelelor de frontiera?
Cum ar îmbunătăți monitorizarea modelelor de frontiera siguranța AI?
Prin urmărirea în timp real a comportamentului modelului în fază de dezvoltare, dezvoltatorii și regulatorii ar putea identifica tendințele nocive înainte de implementare, permițând intervenția oportuna.
Ar putea regulile mai stricte să încetinească inovația AI în California? OpenAI arguează că salvaguardele bine proiectate pot coexista cu inovația, indicând practicile sale interne ca dovadă că siguranța și progresul nu se excluză reciproc.
