Pentagonul vrea o AI mai obedientă pentru cererile militare!
Documente filtrate arată că Pentagonul a solicitat lui OpenAI să dezvolte un sistem de inteligenta artificială care să refuze cât mai rar la cereri militare, conform comunicărilor interne din 2024. Cererea a apărut în timpul discuțiilor despre integrarea AI în operațiile de apărare, cu funcționarii care căutau un instrument mai obedient decât modelele existente.
Culture picks
Acțiunile asiatică legate de AI scad în urmă cu apelurile liderilor tehnologici americani pentru un ritm mai lent
Sam Altman: OpenAI nu așteaptă exențe antitrust pentru a înnoi AI
Anthropic a semnat un contract de 13,7 miliarde de dolari pentru resurse computaționale la centruul de date Ru
SoftBank a obținut un credit de 11,87 miliarde de dolari pentru participarea la OpenAIMaterialele au fost obținute printr-o cerere conform Legii privind accesul la informații publice și revelează tenziunile legate de modul în care ar trebui să Interesul Pentagonului s-a concentrat pe reducerea frecvenței cu care sistemele de AI refuză cereri, în special cele legate de logistici, planificare sau sprijin operational.
Debatele interne au evidențiat preoccuparea că modelele actuale, proiectate cu refuzuri de siguranță, ar putea afecta eficiența militară. OpenAI a reportedly rezistat presiunii, menționând angajamentul său de a preveni abuzul AI în război sau în luarea de decizii care ar putea pericoliza civilii.
Documentele nu confirmeză dacă a fost construit sau implementat vreun sistem în conformitate cu aceste specificații.
Pentagonul vrea AI militară care să refuze mai rar!
OpenAI a sustinut că modelele sale sunt proiectate să refuze cererile nocive sau ilegale, un principiu esențial al cadrelui de siguranță.
Funcționarii Pentagonului au argumentat că Negociările au implicat, reportedly, ajustări tehnice la pragurile de refuz, dar OpenAI a insistat că orice modificare nu ar putea compromite ghidurile etice.
Compania a declarat anterior că nu dezvoltă AI pentru sisteme de armă, deși permite anumite aplicații non-combat, precum în securitatea cibernetică sau acțiunile umanitare, sub supraveghere strictă.
Experții avertizează că antrenarea unui AI să refuze mai rar creează riscul de a genera sisteme care, chiar și neintenționat, pot facilita acțiuni nocive. Aceste proiectări pot face să se stireze linia între asistență și sprijin, mai ales în contexte militare complexe, unde judecata umană rămâne esențială. Incidentul evidențiază provocările generale de a alinia dezvoltarea AI cu nevoile instituțiilor fără a sacrifica responsabilitatea. Nici Pentagonul, nici OpenAI nu au confirmat public rezultatul acestor discuții, lăzând statusul oricărei tehnologii rezultate în neclaritate.
A primit Pentagonul un model de AI care refuze mai rar?
De ce Pentagonul cere AI-ului să refuze mai puțin?
Documentele arată că a fost făcută o cerere, dar nu există dovezi că OpenAI a livrat un sistem modificat sau că unul a fost utilizat pentru scopuri militare.
De ce a vrut Pentagonul mai puține refuzuri de la AI?
Funcționarii credeau că protocolele de siguranță actuale ar putea bloca accesul timpely la informații necesare pentru planificare și logistici, deși criticii arguă că acest lucru ar putea afecta garanțiile etice.
Este OpenAI permisă să colaboreze cu militari? OpenAI permite anumite aplicații non-armate, precum în securitatea cibernetică sau eforturile umanitare, dar interzice implicarea directă în dezvoltarea armelor sau operațiile de combat.
