Frontier Model Forum lansează Cadru pentru a evalua AI Cyber Jailbreaks

Standardizarea securității AI: Un nou cadru pentru evaluarea evaziunii

Cadrul FMF oferă un standard comun pentru cercetare și autorități de reglementare. Acesta abordează o problemă dificilă pentru companiile majore de IA.

Un jailbreakeste orice metodă care omită măsurile interne de siguranță ale unui model. Acest lucru forțează AI să efectueze acțiuni interzise inițial.

Evaluarea utilizează două dimensiuni principale: severitate și probabilitate.

Acestea provin din patru criterii de analiză specifice pentru orice tehnică de jailbreak. Aceste criterii sunt: Capability Gain, Capability Scope, Ease of Implementation, and Discovery Ease.

Acest sistem complex de punctaj generează o clasificare globală a riscurilor.

Riscurile variază de la neglijabile la critice pe baza ponderii factorilor. Acest sistem ajută la clasificarea riscurilor. O vulnerabilitate greu de găsit, dificil de exploatat, cu câștiguri minore, va obține scor scăzut.

În schimb, o metodă ușor descoperită care permite acțiuni ofensive grave necesită o atenție urgentă.

FMF a dezvoltat acest cadru pentru o înțelegere unificată a vulnerabilităților cibernetice legate de IA. Audiența sa include dezvoltatori de IA, cercetători de securitate și factori de politici publice.

O scară universală permite organizațiilor să compare

Membrii FMF au utilizat expertiza în domeniul securității interne. Institutul de securitate AI (AISI) a contribuit, de asemenea, cu contribuții valoroase. OpenAI și alți participanți ai Forumului consideră că acest lucru este vital pentru a prioriza o protecție solidă împotriva riscurilor de jailbreak cibernetic.

Experții AISI au confirmat că aceasta este o adăugare substanțială la standardele de securitate AI.

Membrii săi includ Amazon, Anthropic, Google, Meta, Microsoft și OpenAI. Acest lansare se bazează pe munca anterioară. Un acord privind schimbul de informații din februarie 2026 a acoperit vulnerabilitățile.

În timp ce acest lucru se concentrează pe fluxul de informații, noul cadru răspunde: ce nivel global de îngrijorare ar trebui să justifice o amenințare descoperită? Înainte de asta, severeînsemna diferite lucruri în toate laboratoarele.

O scară universală permite organizațiilor să compare descoperirile fără jargon intern neclar. Pentru cercetătorii în domeniul securității, asigură o raportare uniformă. Un raport de jailbreak poate utiliza acum cele patru categorii exacte de evaluare industrială.

Pentru autoritățile de reglementare, claritatea metodologică este esențială. O procedură publică cu intervale de risc definite oferă un punct de referință concret pentru revizuire.

Dezvoltarea a fost condusă în principal de companiile de testare a modelului, cu sprijin extern din partea AISI.

FMF afirmă că cadrul se va îmbunătăți în mod iterativ pe baza feedback-ului public. Perioada de colectare a comentariilor se încheie la 21 decembrie 2026. Acest efort colectiv servește o funcție publică vitală în ciuda inițierii private.

Aceasta este mai mult decât o listă de puncte. Este un teren comun pentru discuții tehnice și politice. Transformă o problemă subiectivă - cât de periculoasă este o evadare de la închisoare - într-un subiect obiectiv, măsurabil. Acest lucru este esențial pentru evoluția responsabilă a AI în securitatea cibernetică globală.