Anthropic blochează extragerea de date cu noile caracteristici ale modelelor

Cum funcționează „gândirea păstrată”?

Anthropic a anunțat pe 12 octombrie 2026 că actualizările recente ale modelelor Fable 5.1 și Opus 5.5 au redus semnificativ extragerea neautorizată de date. Compania a introdus o caracteristică numită „gândire păstrată” pentru a combate atacurile prin distilare.

Aceste măsuri urmăresc să protejeze greutățile proprietare ale modelelor de a fi extrase de concurenți sau de actorii răi. Actualizarea marchează o schimbare de mare în modul în care dezvoltatorii de IA securizează proprietatea intelectuală.

Principală mintecare adresată este distilarea modelului, un proces în care părți externe antrenează modele mai mici folosind ieșirile unor sisteme mai puternice.

Analizând Abordarea nouă a Anthropic modifică modul în care modelele procesează și afișează Astfel devine mult mai dificil pentru sistemele externe să învețe modelele de logica necesare pentru o distilare eficientă.

Nucleul nouei strategii de apărare este mecanismul „gândire păstrată”. În versiunile anterioare, lanțul intern de gândeală era adesea vizibil sau deductibil din ieșirea finală. Această transparență permitea cercetătorilor să mapeze procesele de luare a deciziilor ale AI-ului. Acum, sistemul ascunde pașii intermediari, păstrând totuși Modelul continuă să efectueze operații complexe. Această schimbare obligă atacatorii potențiali să se bazeze pe metode mai puțin eficiente pentru extragerea de date. Nu mai pot simplu înregistra fluxul de gândeală.

În schimb, trebuie să folosească tehnici de tip black-box, care sunt mai lente și mai puțin precise. Anthropic a afirmat că aceste ajustări tehnice au arătat deja succes măsurabil în reducerea încercărilor de distilare reușite. Compania a subliniat că securitatea trebuie să fie construită în arhitectura modelului însuși, nu doar adăugată ca un filtru ulterior.

Cum protejează „gândirea păstrată” modelele de IA de distilare?

Experții din industrie consideră că aceasta este un pas semnificativ înainte în securitatea IA. Deși nici o apărare nu este perfectă, ridicarea costului de extragere o face mai puțin atractivă pentru actorii răi. Focusul se mută de la protejarea ieșirii la protejarea procesului. Acest lucru se aliniază cu tendințele mai largi din securitatea cibernetică, unde ascunderea stărilor interne este preferată față de blocarea cererilor externe. Mișcarea lui Anthropic poate stabilizează un nou standard pentru alți furnizori de modele lingvistice mari care se confruntă cu amenințări similare.

Momentul anunțului coincide cu creșterea competiției în sectorul IA. Câte modele devin mai capabile, atât mai mare devine valoarea lor ca active. Protejarea acelei valori necesită salvaguarde tehnice robuste. Decizia lui Anthropic de a prioriza această caracteristică de securitate sugerează că protecția proprietății intelectuale devine un diferentiat cheie pe piață. Utilizatorii se pot aștepta ca aceste protecții să devină standard în viitoarele lansări ale seriilor Fable și Opus.

Ce este „gândirea păstrată” în modelele Anthropic?

„Gândirea păstrată” este o caracteristică de securitate care ascunde procesele interne ale modelului.

Împiedică sistemele externe să Astfel devine dificil să replice capacitățile modelului prin distilare.

Care modele au primit aceste actualizări de securitate? Actualizările au fost aplicate la Fable 5.1 și Opus 5.5.

Acestea sunt două dintre cele mai avansate modele lingvistice mari ale Anthropic. Modificările urmăresc să protejeze inteligența unică a acestor sisteme specifice.