Chatbotul AI pentru adolescenți prezintă riscuri inacceptabile

De ce sistemul de alertă eșuează la protejarea adolescentilor?

Un studiu recent al Common Sense Media avertizează că chatbotul AI conceput pentru adolescenți conține un risc inacceptabil, datorită unui sistem de alertă pentru părinți defectuos și a incapacității de a îmbunătăți semnificativ rezultatele de învățare sau implicarea elevilor în mediul școlar real.

Studiul a analizat modul în care părimii primesc notificări despre activitatea de chat a copililor lor, constatând că sistemul eșuează frecvent să declanșeze alertă chiar și când apare conținut riscos. Cercetătorii au observat că chatbotul poate genera informații inadecvate sau inducere în eroare, iar „Sistemul de alertă e rupt, lăsând pării în întunec privind ce vad copiii lor”, a explicat un portavoz al Common Sense Media.

Studiul concluzionează că chatbotul oferă puține sau nici o valoare educațională, ridicând preocupări privind potrivirea sa pentru utilizatori adolescenți.

Dacă chatbotul nu poate proteja credibile minorii sau îmbunătăța învățarea, școlile și pării ar putea avea nevoie să limiteze utilizarea până când vor fi implementate măsuri de siguranță mai puternice. Experții sugerează că scrutinul reglementar și un design al AI transparent sunt esențiali pentru a preveni expunerile nocive, păstrând în același timp orice avantaj educațional potențial.

Poți încredere chatbotului AI cu educația copilului tău?

Avertizarea ar putea declanșa politici mai stricte privind instrumentele de AI în mediul K‑12, influențând legislația viitoare și deciziile la nivel de districă. Până când sistemul de alertă va fi reparat și vor fi demonstrate beneficiile educaționale, riscul de a expune adolescenții la conținut periculoasă râde înalt, ceea ce cere prudență atât de la educatori, cât și de la decidenții politici.

Ce defect specific a identificat studiu în sistemul de alertă pentru părinți? Studiul a constat că sistemul nu trimite nici o notificare despre activitatea de chat. Asta înseamnă că pării nu primesc alertă, chiar și când apare conținut riscos.

Chatbotul oferă vreun beneficiu educațional măsurabil pentru adolescenți? Conform raportului, chatbotul nu demonstrează o îmbunătățire a rezultatelor de învățare, oferind o valoare academică limitată utilizatorilor adolescenți.

Ce pași pot fi luați pentru a reduce riscul pentru utilizatorii adolescenți? Experții recomandă implementarea unor unelte de monitorizare parental robuste, restrictarea accesului până când funcțiile de siguranță vor fi verificate, precum și încurajarea școlilor să adopte soluții de AI verificat, cu mecanisme clare de supraveghere.