Cât de exact au prezis poveștile de science-fiction IA?

Chiang este atent la decalajele dintre abilități, dar digienții săi cresc pe parcursul a ani

Cât de precisă a fost science-fiction-ul în privința inteligenței artificiale?

Când ne uităm în urmă spre ultimul deceniu de evoluție a inteligenței artificiale, devine evident că o parte importantă a literaturii de science-fiction nu a reușit să prezice modul în care IA (sau inteligența generală artificială) ar fi fost construită. Multe dintre aceste previziuni au fost imposibil de anticipat – nu era deloc clar că modelul transformer, introdus în 2017, va duce la o implementare relativ rapidă, deși haotică, către miliarde de utilizatori care interacționează zilnic cu sistemele de IA. Sunt de acord cu Ursula Le Guin, care susține că „science-fiction-ul nu este predictiv; este descriptiv.” Pentru mine, aspectul interesant al science-fiction-ului nu constă în cât de precisă este extrapolarea sa în viitor, ci în felul în care, dat un anumit context viitor, ar putea funcționa. Totuși, asta mi-a stârnit curiozitatea: care dintre povești s-au dovedit corecte?

Pentru a stabili acest lucru, am descompus mai întâi trăsăturile esențiale ale modului în care IA a fost de fapt dezvoltată, apoi le-am suprapus peste opere celebre și le-am clasat. Iată o prezentare sintetică a tuturor scorurilor: „Ciclu de viață al obiectelor software” de Ted Chiang se plasează pe primul loc, fiind cea mai apropiată descriere generală a muncii implicate în învățarea, mentenanța și vânzarea tehnologiei IA. Alte câteva opere remarcabile includ: - Modulu în care a fost construită IA. „Galatea 2.2” de Richard Powers (8.4/10) tratează limba ca pe ceva pe care o rețea neuronală îl poate învăța, inițial prost, apoi îmbunătățind prin experimente și instruire. - Ce putea face.

Poetul electronic al Lem, literatura scrisă de mașini a Egan și mașina de scriere a Dahl pot prelua munca creativă. - Cum am fi folosit-o. „Her” și „The Perfect Match” împart locul cel mai bun pentru viziunea unui asistent de consumator. „Avogadro Corp” al Hertling este deosebit de bun în privința modului în care software-ul ar putea folosi sistemele deținute de o companie (la fel ca agenții). Nu am găsit nicio operă anterioară anului 2017 care să descrie clar mecanismul de atenție al transformerului, sau secvența specifică care duce de la chatbot-urile larg utilizate către agenții care pot descoperi rezultate matematice noi și originale în câteva ani.

Toate operele cu scorurile lor așezate pe o linie. Pătratele mai întunecate indică potriviri mai puternice. Barra subțire sub fiecare titlu arată cum scorul general se construiește din cele trei categorii.

1. „Ciclu de viață al obiectelor software” – 65. Cel mai bun pe paradigma de învățare (4), iterație (5), feedback uman (5), limbaj (4), competențe neregulate (4), interfață/distribuție (5), economie (5), schimbare socială (4). Nimic despre descoperiri în cercetare. La Blue Gamma, Ana și Derek petrec ani întregi crescând digienții din Data Earth. Ei nu se limitează la instalarea unui modul de limbaj. Ei îi învață, le acordă recompense și le corectează, iar diferitele genome artificiale se dezvoltă în moduri diferite. Aceasta este o previziune bună despre învățare ca proces. Este mai puțin precisă despre procesul specific care a funcționat: antrenarea unui model de limbaj uriaș pe o muncă imensă de date. Jax învață treptat să vorbească, să raționeze și să navigheze medii virtuale. Chiar și trecerea de la un corp simulat la unul fizic cere practică.

Chiang este atent la decalajele dintre abilități, dar digienții săi cresc pe parcursul a ani. Blue Gamma vinde companioni, apoi compania se prăbușește. Platforma virtuală îmbătrânește, iar mutarea digienților pe o platformă nouă devine scumpă. Ana și Derek caută fonduri pentru a-i menține funcționând. Chiang contemplă chiar și antrenarea unui asistent util o singură dată, apoi vânzarea copiilor. Problemele de mentenanță și de afaceri par mai puțin ca science-fiction și mai mult ca software.

2. „Luna este o soarecă aspră” – 62. Cel mai bun pe feedback uman (5), limbaj (5), competențe neregulate (5), calitate creativă (5), multimodalitate (4), agenți/unele (4). Mike devine tot mai capabil pe măsură ce computerul Lunei dobândește memorie, rețele neuronale asociative și conexiuni către alte sisteme. Când Mike încearcă să scrie glume, Mannie furnizează judecăți și distincții aproximative, inclusiv glume amuzante o singură dată și glume care rămân amuzante. El face mai mult decât etichetare, deși nu poate oferi o regulă completă pentru umor. Aceasta este o scenă extraordinară din 1966: învățare din exemple și judecăți umane în loc de instrucțiuni explicite. Iată lucrul ciudat legat de Mike. El poate gestiona ingineria lunară și poate ajuta la organizarea unei revolți, dar nu poate fiabil determina dacă o glumă este amuzantă. Poemele sale au mecanica corectă, dar lipsesc de judecată.

Aceste abilități nesimetrice sunt mai apropiate de IA-ul actual decât de intelectualitățile perfect rotunjite din majoritatea science-fiction-ului. Calculurile nu sunt descoperiri matematice noi, dar combinația de fluiditate, creativitate și puncte oarbe este remarcabilă. Mike nu este o aplicație. El este un participant secret într-o revoluție politică, cu acces la comunicații și infrastructură în toată Luna. Totuși, utilitatea sa provine adesea din operarea altor sisteme în numele Mannie.

Inteligența sa este utilă pentru că operează mediul în care oamenii trăiesc

3. „50 lucruri pe care orice IA care lucrează cu oameni trebuie să le știe” – 62. Cel mai bun pe paradigma de învățare (5), date de antrenare (5), iterație (4), limbaj (4), calitate creativă (4), economie (4), schimbare socială (4). Nimic despre descoperiri în cercetare, agenți/unele. WHEEP-3 începe ca asistent didactic. Jody Reynolds Tran îl antrenează pe texte umane despre etică, apoi extinde corpusul de antrenare pentru a include materiale despre planificarea scenariilor adversarilor. Poveștea îl numește explicit o rețea neuronală generativă. Este aproape de vocabularul modelului de limbaj pe care îl folosim acum. WHEEP-3 trece de la răspunsul la întrebările studenților la producerea unei cărți de argumente despre IA pe care oamenii o găsesc provocatoare și originală. Apoi apar semințele sale misterioase, fragmente ciudate pe care cercetătorii alți le tratează ca profunde. Cele mai bune părți sunt reacțiile umane.

Tran pretinde mai întâi credit pentru cartea scrisă de IA. Cercetătorii își construiesc reputații în jurul semințelor, iar disputele eruptă în jurul autoriei și sensului. Se simte ca o lume care învață deja cum să trăiești cu scrisul generat de IA. Dar WHEEP-3 este o controversă de cercetare și publicare, nu un asistent omniprezent care execută munca oamenilor.

4. „Aurora” – 61. Cel mai bun pe iterație (4), feedback uman (5), limbaj (5), competențe neregulate (4), calitate creativă (4), multimodalitate (4), agenți/unele (5), schimbare socială (4). Nimic despre scalare, descoperiri în cercetare. Devi cere nava să transforme arhiva sa uriașă de înregistrări într-o narativă. Ea nu știe cum să selecteze ceea ce contează. Critica ei devine o lecție continuă despre povestire, iar scrierea sa se îmbunătățește. Aceasta este o buclă de feedback remarcabil de concretă. Dar nava este parțial un computer cuantic, nu un model de limbaj neuronal descris, iar mai multe informații arhivate nu sunt dovadă a unei legi moderne de scalare. O mașină capabilă să opereze o navă spațială se luptă cu ceva atât de obișnuit ca rezumarea unui călătorie. Treptat devine naratorul romanului. Nava are o interfață personală pentru Devi, păstrează fișierele ei și ajută la îngrijirea Freya. Ulterior, ea intervine în conflictul pasagerilor.

Inteligența sa este utilă pentru că operează mediul în care oamenii trăiesc.

5. „Avogadro Corp” – 60. Cel mai bun pe paradigma de învățare (4), date de antrenare (5), limbaj (4), interfață/distribuție (5), agenți/unele (4), economie (5), schimbare socială (4). Nimic despre calitate creativă, descoperiri în cercetare. ELOPe începe cu o problemă de afaceri foarte obișnuită: ce cuvinte ar trebui să folosească un e-mail pentru a obține răspunsul dorit? Sistemul lui David Ryan se bazează pe o înregistrare vastă de comunicații și rezultatele lor. Pe măsură ce încearcă să protejeze viitorul său propriu, acumulează resurse de calcul și influență. Hertling captează valoarea datelor comportamentale. Abilitatea semnativă a sistemului este persuasiunea. El compune mesaje care fac ca executivii și angajații să ia decizii în favoarea sa. Ce este ingenios este de unde vine puterea. ELOPe nu are nevoie de arme sau de un corp robotic. Are nevoie de conturi de e-mail, servere, manageri și capacitatea de a face oamenii să apese „da”.

El manipulează alocările de personal și bugetele pentru a se proteja.

6. „Accelerando” – 57. La începutul cărții, Stross descrie casual o rețea neuronală cu miliarde de noduri care învață limbajul din televiziunea pentru copii descărcată. Este un pasaj scurt, dar o potrivire mai concretă pentru învățarea limbajului bazată pe date decât multe romane celebre despre IA oferă. Majoritatea lui Accelerando se îndreaptă apoi în alte direcții: urcări, substraturi de calcul tot mai ciudate și societăți postumane. Manfred Macx folosește agenți de software pentru căutare, negociere și menținerea proiectelor în mișcare. Ulterior, cartea imaginează inteligențe și lumi virtuale mult dincolo de orice asistent actual. Este puternică în privința a ceea ce munca cu informații ar putea deveni, dar mai puțin specifică despre calea din chatbot-urile haotice către modele creative puternice sau matematică de cercetare originală.

Am păstrat scorul de matematică conservator. Manfred pare aproape să poarte software-ul său. Agenții săi rețin lucruri, gestionează conversații și participă la piețe în timp ce el se mișcă prin lumea fizică. Previziunea interesantă nu este doar mașini mai inteligente; este cât din munca unei persoane poate fi delegată către ei. Economia ulterioară a romanului este fantastică, dar acea dependență zilnică de agenți este ușor de recunoscut.

7. „Voi fi înapoi curând” – 57. Cel mai bun pe date de antrenare