OpenAI cumpără zeci de mii de Mac-uri pentru antrenarea în învățare prin întărire

De ce OpenAI a ales Mac-urile pentru învățarea prin întărire?

OpenAI a achiziționat zeci de mii de computere Apple Mac pentru a sprijini cercetarea sa în învățare prin întărire, potrivit sursei familiare cu această decizie.

Culture picks

De ce jocurile retro arată mai bine pe ecranele CRT: o problemă tehnică, nu doar nostalgieConcurența AI în dezvoltarea jocurilor: Antigravity, Claude Code și CodexDe ce sunetul din Android Auto pare slab, chiar dacă totul funcționeazăAplicatia de email înlocuiește Gmail, adăugând zero în inbox

Conform informațiilor de la The Information, această achiziție evidențiază o tendință tot mai vizibilă printre laboratoarele de inteligență artificială: folosirea hardware-ului de generație consumator pentru anumite sarcini de antrenare.

În același timp, Anthropic este raportat ca fiind în fază de închiriere a sistemelor similare de Mac-uri, în loc să le cumpere direct. Achizițiile au fost efectuate recent pentru a scala experimentele care necesită o diversitate computațională largă.

Această decizie reflectă strategia OpenAI de a explora arhitecturi alternative în afara clusterelor tradiționale de GPU-uri, în special pentru sarcini care implică contexte lungi.

Iată de ce: Mac-urile, cu arhitectura lor de memorie unificată și eficiența energetică, oferă avantaje pentru anumite tipuri de evaluare a modelelor și simulări bazate pe agenți.

Nvidia a recunoscut recent rolul Apple ca un actor cheie în procesarea locală a inteligenței artificiale, subliniind relevanța tot mai mare a calculului pe dispozitiv. Această schimbare subliniază interesul industriei pentru medii de calcul heterogene în dezvoltarea AI.

Învățarea prin întărire necesită adesea numeroși agenți paraleli care interacționează cu medii simulate – un tip de încărcătură care se poate beneficia de latența scăzută și lărgimea benzii de memorie a cipurilor M de la Apple. Spre deosebire de GPU-uri optimize pentru înmulțirea matricelor, aceste cipuri excelă în accesul la memorie unificată, reducând blocajele când modelele trebuie să acorde referință la spații de stare mari în timpul antrenării.

De ce OpenAI a cumpărat zeci de mii de Mac-uri pentru AI?

Sursele indică că OpenAI folosește aceste Mac-uri pentru a antrena agenți capabili să [text lipsă din sursă]. Configurația permite o integrare mai strânsă între simulare și actualizări ale modelului, accelerând potențial curbele de învățare în domenii complexe.

Deși Mac-urile nu au performanța în virgulă mobilă comparativ cu acceleratorii dedicați de AI, folosirea lor în număr mare prezintă o abordare viabilă pentru anumite sarcini de AI. Achiziția efectuată de OpenAI sugerează încredere în scalarea orizontală pe mii de unități pentru a compensa limitele individuale. Modelul de închiriere al Anthropic indică o abordare mai prudentă și experimentală, testând probabil fezabilitatea înainte de a investi în mod semnificativ. Ambele strategii arată o recunoaștere tot mai largă că inovația în AI nu este confundată doar cu GPU-urile din centrele de date.

Recunoașterea de către Nvidia a rolului Apple semnalează conștientizarea dinamicilor de schimbare, unde calculul pe margine și local joacă roluri complementare în dezvoltarea modelelor.

De ce a ales OpenAI să cumpere Mac-uri în loc să le închirieze?

OpenAI a probabil ales cumpărarea pentru a asigura accesul pe termen lung și dedicat la hardware pentru experimentele sale de învățare prin întărire în desfășurare, evitând variabilitatea disponibilității și costurilor de închiriere pe parcursul cicloilor lungi de cercetare.

Ce avantaj oferă Mac-urile pentru contexte lungi? Arhitectura de memorie unificată a Apple permite CPU și GPU să partajeze același grup de memorie, permițând o gestionare eficientă a seturilor mari de date – cum ar fi contextele de 12 milioane de jetoane – fără întârzieri de transfer de date caracteristice sistemelor cu GPU discrete.

Este această tendință probabil să crească printre alte laboratoare de AI? Da, pe măsură ce modelele evolucionă pentru a gestiona contexte mai lungi și comportamente mai complexe ale agenților, laboratoarele pot explora din ce în ce mai des medii hardware heterogene, inclusiv dispozitive de consum, pentru a completa infrastructura tradițională de AI în nevoi specifice de cercetare.