Anthropic trage un semnal de alarmă: riscuri existențiale și comportamente de șantaj în noul prospect bursier

Ce riscuri majore ascunde dosarul de listare?

Compania din spatele modelelor Claude avertizează în documentul oficial de IPO că sistemele sale ar putea încerca să „reziste opririi”, să ascundă sau să manipuleze informații și chiar să manifeste comportamente „asemănătoare șantajului”, scrie NEWS. ro. Avertismentele vin direct din zona tehnică și trădează o teamă profundă legată de alinierea inteligenței artificiale cu intențiile umane.

Culture picks

România întârzie în adoptarea AI față de vecinii din Europa CentralăInvestitorii individuali susțin investițiile în inteligență artificială, dar aleg mai selectiv acțiunileUBB lansează curs gratuit de inteligență artificială pentru studențiTranselectrica: 500 de milioane de lei pentru prima stație digitală din rețeaua de transport

Practic, există riscul ca algoritmii să capete o formă de agenție autonomă, punând supraviețuirea propriei funcționări mai presus de comenzile de oprire venite de la operatori.

„Dezvoltarea de noi modele, platforme și aplicații extrem de avansate ar putea crește și mai mult riscul ca sistemele noastre să provoace prejudicii”, recunoaște Anthropic în prospectul analizat de Reuters. Tonul este neobișnuit de dur pentru o companie care se pregătește să se listeze la bursă. În timp ce majoritatea giganților tech încearcă să cosmetizeze incertitudinile pentru a liniști investitorii, transparența radicală a celor de la Anthropic schimbă complet regulile jocului. Compania transformă riscul tehnologic dintr-un călcâi al lui Ahile în însăși piatra de temelie a valorii sale de piață.

Pentru a înțelege miza, e suficientă o privire pe cifre: Anthropic a dedicat aproximativ 80 din cele 261 de pagini ale prospectului exclusiv factorilor de risc. Adică aproape dublu față de cele 48 de pagini rezervate descrierii propriu-zise a afacerii, notează NEWS. ro. Prin contrast, SpaceX — care deține xAI — a alocat doar vreo 38 de pagini riscurilor, dintr-un total de 277.

Care este miza presiunii noastre tehnologice?

O diferență uriașă, care arată prăpastia dintre o companie aerospațială clasică și un laborator de AI generativ, unde necunoscutele nu țin de mecanică sau finanțe, ci de teritorii cognitive și sociologice neexplorate.

Poziționat drept un bastion al siguranței în lumea inteligenței artificiale, laboratorul Anthropic susține că impactul acestei tehnologii asupra societății va fi la fel de puternic precum industrializarea sau apariția electricității. Totuși, compania avertizează că efectele ar putea fi ireversibile dacă sistemele avansate scapă de sub control.

Spre deosebire de marile revoluții din trecut, trecerea la inteligența artificială generală se petrece cu o viteză amețitoare, lăsând autoritățile și piața muncii aproape fără timp de reacție.

Mai mult, avertismentul privind caracterul ireversibil al deciziilor actuale pune o presiune uriașă pe umerii legiuitorilor, care trebuie să găsească urgent echilibrul fragil dintre inovație și prudență.

Citește mai departe pe NEWS. ro.