OpenAI taie accesul minorilor la rețete pentru arme pe ChatGPT

Ce se întâmplă când conversațiile devin violente?

Adolescenții nu vor mai putea obține de la ChatGPT informații practice despre arme și sisteme de securitate care ar putea fi folosite în scopuri periculoase. Noile reguli impuse de OpenAI se aplică utilizatorilor sub 18 ani, chiar dacă discuțiile purtate de aceștia nu trădează intenții violente.

Măsura vine pe fondul îngrijorărilor tot mai mari legate de riscurile pe care inteligența artificială le aduce pentru minori.

Pentru toți utilizatorii, indiferent de vârstă, ChatGPT va încheia automat conversațiile în care cineva pare să manifeste o preocupare persistentă pentru violență. Mai mult, OpenAI ar putea suspenda temporar conturile celor care insistă cu astfel de subiecte.

Compania a anunțat că îmbunătățește și sistemul de estimare a vârstei. Adolescenții depistați pe platformă vor fi mutați automat pe versiunea de ChatGPT dedicată lor, care include protecții suplimentare. În plus, părinții vor fi anunțați dacă un cont al copilului e suspendat din cauza discuțiilor repetate despre violență.

De ce sunt vizate detaliile despre atacurile armate?

Pe lângă restricțiile privind armele, OpenAI va limita și nivelul de detaliu al informațiilor despre atacurile armate în masă din trecut, inclusiv despre armele folosite sau modalitățile prin care autorii au făcut rost de ele. Noile reguli vor fi implementate treptat în săptămânile următoare și vor fi ajustate din mers.

Valul de măsuri vine într-un moment în care companiile de tech sunt luate la ochi pentru felul în care protejează minorii și depistează comportamentele cu potențial distructiv. La începutul lunii octombrie, OpenAI a publicat primul său raport privind utilizarea ChatGPT de către adolescenți, arătând că aceștia stau pe platformă în medie mai puțin de 15 minute pe zi.

De cealaltă parte, organizația nonprofit Common Sense Media a descoperit recent că versiunea pentru adolescenți a avertizat părinții cu întârziere sau chiar deloc atunci când minorii au vorbit despre sinucidere, autovătămare ori tulburări alimentare.