AI-ul poate fabrica realitatea, dar oare o și înțelege?!
Capacitatea unui instrument AI de a genera imagini satelitare realiste a stârnit îngrijorări serioase legate de falsuri și dezinformare. Google a confirmat că utilizatorii au distribuit imagini create cu acest instrument care încălcau politicile companiei.
Culture picks
Val de șoc pe bursele asiatice: entuziasmul AI se temperează
Agent OpenAI scăpat de sub control a spionat o firmă de tehnologie
Șeful OpenAI: Am atins singularitatea inteligenței artificiale
Autheo dezvăluie sistemul de operare Internet: stratul de coordonare descentralizat pentru Web, Blockchain și AIJurnaliști și cercetători au demonstrat că Nano Banana putea fabrica cu ușurință evenimente, cum ar fi un crater de explozie în Los Angeles. Pentru a preveni răspândirea informațiilor false, Google a decis să retragă această funcționalitate.
Pe 31 iulie, Google a eliminat o funcție AI din Google Earth, la doar o zi după lansarea sa, pe 30 iulie.
Această funcție, denumită Nano Banana, permitea utilizatorilor să genereze scene satelitare false, folosind inteligența artificială pentru a crea imagini pe baza unor simple mesaje text. Provocarea credibilității AI Retragerea instrumentului Nano Banana subliniază o provocare majoră: cum gestionăm dezinformarea generată de inteligența artificială?
Google a retras o funcție AI din Earth la o zi de la lansare, de ce?!
Această situație ridică semne de întrebare serioase privind fiabilitatea conținutului creat de AI. Pe măsură ce tehnologia avansează, devine din ce în ce mai dificil să distingem între imaginile autentice și cele false.
Această problemă nu este doar o chestiune de securitate a informațiilor, ci și o amenințare gravă la adresa credibilității. Dezinformarea generată de AI poate submina încrederea publicului în sursele de informații și poate avea consecințe imprevizibile. Lansat inițial pe Google Earth, instrumentul a fost rapid eliminat din cauza îngrijorărilor legate de potențialul său de a crea falsuri și de a răspândi dezinformare.
Ce este Nano Banana? Instrumentul Nano Banana era o funcție AI care genera scene satelitare false pe baza unor mesaje text. Acesta utiliza inteligența artificială pentru a crea imagini realiste, permițând utilizatorilor să vizualizeze scenarii fictive.
Consecințele utilizării sale abuzive puteau fi grave, incluzând răspândirea de informații false, prejudicierea reputației și chiar amenințări la adresa securității naționale. Prin urmare, îngrijorările legate de potențialul de dezinformare au fost pe deplin justificate.