Fost cercetător Anthropic a témoigné lângă liderii tehnologiei la audiența din New York

Care este perspectiva AI privind siguranța și responsabilitatea corporatistă?

Fostul cercetător Anthropic Jacob Coxon a apărut lângă reprezentanții Google, OpenAI, Meta și aceleiași Anthropic la o audiență din New York, desfășurată pe 5 octombrie 2026. Au discutat provocările emergente în dezvoltarea și supravegherea inteligenței artificiale. Sesiunea, organizată în Manhattan, a abordat echilibrul între inovație și responsabilitate, în contexte în care sistemele AI devin tot mai puternice și widespread. Coxon, care a plecat de la Anthropic mai devreme în 2026, a adus perspective din lucrul său în cercetarea siguranței și aliniării AI.

Culture picks

Apple restrânge accesul complet la disc în fața creșterii AIApple lansează a treia runda beta pentru watchOS, tvOS și visionOSEchipamentele de securitate tratează AI ca pe un angajat: gestionarea devine esențialăGata pentru camioane fără șofer? Am făcut un test cu camionul autonom al Kodiak

Depunerea sa a avut loc într-un moment de creștere a scrutinii privind modul în care giganții tehnologiei gestionă riscurile legate de modelele AI avansate.

În timpul audienței, Coxon a subliniat necesitatea mecanismelor de audit independență pentru evaluarea sistemelor AI înainte de lansare publică, bazându-se pe experiența sa de la Anthropic, unde protocolele de siguranță au fost refinețite prin multiple iterații. Reprezentanții Google și OpenAI au evidențiat investițiile lor în red-teaming și buclă de feedback extern, în timp ce porțilevoiul Meta a menționat eforturile în curs în raportarea de transparență.

Delegatul Anthropic a reafirmat angajamentul companiei față de Politica de Scalare Responsabilă, care leagă capacitățile modelelor de referințe de siguranță. Legislatorii au întrebat dacă măsurile voluntare sunt suficiente, referindu-se la incidente recente în care conținutul generat de AI a fost utilizat în campanii de dezinformare. Coxon a argumentat că, în absenta unor standarde aplicabile, companiile ar putea privilegia viteza în detrimentul prudentei, mai ales în piețe competitive.

Ce rol ar trebui să joace foștii insideri în modelarea politicii?

Depunerea lui Coxon a evidențiat valoarea experienței de mână întâi în informarea debatului regulamentar, mai ales când fostii angajați pot vorbi deschiz presiunile și compromisurile interne. A propus crearea de canale protejate pentru whistlebloweri în sectorul AI, similare cu cele din finanțe sau aviație, pentru a permite semnalarea problemelor fără frică de represalii.

Membrii panelului au recunoscut dificultatea de a reglementa o tehnologie în rapidă mișcare, dar au convenut că insighturile de la internii pot ajuta la identificarea punctelor cealce în cadrele existente.

Discuția a abordat și dimensiunea globală a dezvoltării AI, cu mai mulți participanți observând că reglementele unilaterale ale SUA ar putea pur și simplu muta riscurile peste hotare, dacă nu sunt coordonate cu aliatii.

Nu au fost votate propuneri formale în timpul sesiunii, dar personalul a indicat că depunerile vor informa proiectele legislativе viitoare.

De ce a plecat Jacob Coxon de la Anthropic?

Ce întrebări frecvente apar în această discuție?

Coxon a plecat de la Anthropic în începutul anului 2026 pentru a cerceta independent guvernarea AI, deși nu a revelat motivele specifice, mai mult decât un dor de a lucra în afara structurilor corporative.

Ce au convenut companii tehnologice în timpul audienței?

Deși nu a fost atins un consens, toți reprezentanții au recunoscut importanța testării de siguranță și au exprimat deschizerea spre dialog despre măsurile de responsabilitate, deși au diferit privind gradul de intervenție a guvernului.

Poate această audiență să conducă la noi regulamente AI în New York? Legislatorii de stat au semnalat interes pentru explorarea cerințelor de transparență în domeniul AI, dar orice lege probabil va necesita luni pentru a fi elaborată și va trebui să se alinieze cu eforturile mai largi la nivel federal.