De ce calitatea răspunsului nu e suficientă?
Anthropic lucrează la un mecanism care permite confirmarea originii răspunsurilor generate de modelele de inteligență artificială.
Culture picks
Revoluția AI: Cum își regândesc giganții globali infrastructura digitală
Tokenizarea activelor: De ce rămâne un concept inaccesibil pentru publicul larg?
Frauda cu IA: cum o factură de nor de 7 cifre costă companiile milioane
Revolut la 115 miliarde dolari: banca americană se apropieConform unui articol publicat pe blogul companiei în data de 3 noiembrie, sistemul numit FlashProve este conceput pentru a oferi ceea ce se numește „inferență demonstrabilă”.
Această funcție permite utilizatorilor să verifice dacă un răspuns provine cu adevărat de la modelul specific revendicat de dezvoltator, în loc de a fi generat de un alt model substituit secret de un serviciu de rutare din motive de cost, sau chiar de un atacator care a manipulat fluxul de token-uri.
Ce a cumpărat Anthropic recent?
pentru reglementare? Compania subliniază că a se baza doar pe calitatea răspunsului nu este suficientă pentru a stabili identitatea generatorului.
Dovezile criptografice de inferență rezolvă această problemă prin a permite furnizorului de modele să se angajeze față de un anumit model și apoi să demonstreze că fiecare răspuns provine de la acel model.
Autorii articolului susțin că astfel de dovezi ar putea deschide calea pentru aplicații variate, de la produse de consum la securitate internă, și ar putea contribui la un set de instrumente pentru verificarea conformității cu cerințele de ritm al dezvoltării IA.
Anthropic menționează că progresul în acest domeniu are implicații semnificative pentru securitatea sistemelor de inteligență artificială, pentru gestionarea ritmului de dezvoltare, pentru oferirea de garanții de integritate clienților și pentru facilitarea instrumentelor pentru auditori și reglatori.
Cât de mult investesc firmele în IA?
În alte noutăți legate de companie, se amintește achiziția recentă a startup-ului Mithril Medicine, o firmă care dezvoltă tratamente pentru două forme rare de distrofi musculară. Conform raportului, fondatorul Cody Tranbarger, singurul angajat full-time la Mithril, a folosit modelul Claude pentru a organiza contracte, logistică și experimente în 11 laboratoare externe, delegând alte aspecte ale afacerii modelului de inteligență artificială.
Mithril a dus un candidat de la idee la rezultate promițătoare pe șoareci în mai puțin de 18 luni.
Această achiziție vine după cumpărarea în aprilie a startup-ului Coefficient Bio, o firmă care construiește instrumente pentru planificarea cercetărilor farmaceutice și gestionarea strategiei reglementare clinice, pentru o sumă de aproximativ 400 de milioane de dolari. Raportul subliniază că cumpărătorii din domeniul sănătății „au deja bugetate” pentru instrumente de inteligență artificială, citând cercetarea PYMNTS Intelligence, care arată că 84% din firmele din sănătate se așteaptă să crească cheltuielile pe IA în următoarele 12 luni, fără nicio firmă care să se aștepte să le reducă.
