Șeful chiplui OpenAI îndeamnă la prudence: AI optimizze, dar nu se poate încredere în ea complet

Ce este cipul Jalapeño și pentru ce se folosește?

Richard Ho, responsabil cu hardware-ul la OpenAI, a declarat că modelele de AI ale companiei au modificat autonom părți din cipul Jalapeño, economisind peste 13% din suprafața die în unele cazuri — dar inginerii nu au putut întotdeauna explica de ce au fost făcute acele schimbări. Într-un interviu publicat pe 30 septembrie la Ian Cutress de la More Than Moore, Ho a recunoscut că, deși rezultatele sunt impresionante, nu se simte încă deloc confortabil cu procesul de design conducut de AI.

Cipul Jalapeño, creat intern de OpenAI pentru a susține sarcini de AI, a trecut prin refineiri iterative, unde algoritmii de învățare automată au propus ajustări de layout care au redus semnificativ spațiul ocupat. Deși aceste modificări au îmbunătățit eficiența fizică, lipsa de transparență în modul în care AI a ajuns la acele decizii a îngrijorat echipa.

Ho a subliniat că, deși rezultatele sunt impresionante, incapacitatea de a urmări pașii AI a dus la îngrijorări: uneori, o modificare ce părea benefică pe hartă a introdus complexități în rutare care ar putea afecta fabricabilitatea.

El a explicat că AI poate optimiza pentru metrici precum aria die sau consumul de energie, dar poate uita la subtilități de inginerie pe care un om le-ar vedea imediat. De aceea, echipa folosește acum sugestiile AI doar ca puncte de plecare, subiectându-le unei validări riguroase înainte de implementare. AI trebuie să fie un colaborator, nu un înlocuitor — mai ales în domenii unde siguranța, fiabilitatea și stabilitatea pe termen lung sunt esențiale.

De ce inginerii nu au putut explica modificările AI?

Când i-a fost pusă întrebarea dacă viitoarele progrese vor face deciziile AI mai explicabile, Ho a 인정at că există avanse în domeniul explicabilității AI, dar a rămas prudent. Modelele curente funcționează adesea ca cutii negre, mai ales când optimizează obiective multi-dimensionale precum layout-ul unui cip.

Până când AI va putea oferi justificări clare și auditabile pentru ieșirile sale — mai ales în aplicații critice pentru siguranță — supravegherea umană va rămâne indispenzabilă.

El a sugerat că abordajele hibride, care combină explorarea AI cu verificarea umană, reprezintă cea mai viabilă cale înainte.

Experiența cu Jalapeño a influențat strategia largă de hardware a OpenAI, arătând nevoia de unelte care să pună mostenirea între inovația AI și responsabilitatea inginerăscă.

OpenAI renunță la AI în designul de cipuri?

Ho a declarat că viitoarele proiecte de cipuri vor include straturi mai stricte de validare și un jurnalizare îmbunătățită a deciziilor AI, pentru a crește transparența.

Cipul Jalapeño este un proiect intern de hardware la OpenAI, conceput pentru a accelera sarcini de AI, în special pentru antrenarea și rularea modelelor mari mai eficient.

Modelele de AI care au sugerat modificările de design au funcționat fără a oferi explicații clare despre motivul fiecărei schimbări, ceea ce a dificultat înțelegerea umană a efectelor lor pe structura cipului.

Nu, OpenAI continuă să folosească AI ca ajutor în design, dar insiste ca toată modificarea generată de AI să fie revizuită și validată de ingineri umani înainte de a fi implementată.