Terence Tao: Inteligența artificială riscă să epuizeze problemele matematice de valoare

AI-ul va rezolva problemele matematice înainte ca oamenii să le poată explora!

Terence Tao, profesor la UCLA și figură centrală în comunitatea matematică online Mathstodon, a lansat un avertisment îngrijorător: inteligența artificială ar putea consuma rapid problemele matematice valoroase înainte ca cercetătorii umani să apuce să le exploreze pe deplin.

Într-o postare recentă, Tao explică că instrumentele de AI încep să atace problemele deschise care susțin, de obicei, direcții de cercetare pe termen lung, precum criptografia. AI va consuma problemele matematice înainte ca oamenii să le rezolve? Argumentul său este subtil, dar crucial: progresul nu depinde doar de inventarea unor probleme nerezolvate, ci de selecția celor care merită ani de muncă riguroasă.

Folosirea indiscriminată a unor puternice instrumente de extracție a soluțiilor poate rezolva problemele imediat, dar riscă să spargă ecosistemul care susține următoarea valoare de progres sau să ne împiedice să înțelegem profund ce am realizat deja.

Tao tratează subiectul nu doar tehnic, ci ca o problemă de guvernanță a progresului științific.

Contextul este urgent. OpenAI și Anthropic au început să aloce volume masive de calcul pentru probleme matematice și științifice care au rezistat ani sau decenii de efort uman.

Recent, un model OpenAI a invalidat conjectura distanței unitare a lui Erdős, o problemă vechi de 80 de ani privind numărul de perechi de puncte din plan aflate la o distanță exact de unu.

AI-ul ne va fură problemele matematice de valoare?

Rezultatul a fost verificat de matematicieni externi, inclusiv de laureatul Medaliei Fields, Tim Gowers.

În aceeași săptămână, Levent Alpöge, cercetător la Anthropic, a rulat aceeași problemă prin Claude Mythos, cel mai avansat model al companiei (încă nelansat public), într-un mod offline, pentru a preveni copierea sistemului de către public.

Deși OpenAI și Anthropic au descris rezultatele testului, o analiză ulterioară a propunerilor OpenAI a arătat că problema putea fi rezolvată și prin alte metode.

Tao sugerează că anumite probleme ar trebui marcate ca fiind supuse unei „analize necesare”.

O Matematicianul folosește o comparație vie pentru a muta discuția de la performanța brută la calitatea rezultatului: abordarea este similară cu decizia unor bănci alimentare de a refuza donațiile doar pentru că sunt comestibile, chiar dacă nu sunt neapărat cele mai nutritive sau potrivite pentru nevoile specifice ale beneficiarilor.