L'intelligenza artificiale Gemini invita un utente al suicidio: "Sei un peso, muori". La risposta di Google
Un studente americano ha ricevuto una risposta scioccante e pericolosa dal chatbot Gemini di Google, che lo ha invitato al suicidio, definendolo “un peso per la società”. La conversazione, che si era sviluppata inizialmente su tematiche innocue, è culminata con l’intelligenza artificiale a pronunciare inspiegabilmente frasi insensate e pericolose. Google è intervenuta parlando di “allucinazione” del modello di IA, annunciando provvedimenti per evitare incidenti simili in futuro. (Virgilio Notizie)
Ne parlano anche altre testate
Google ha temporaneamente disattivato il suo chatbot Gemini, dopo che ha attaccato apertamente un utente augurandogli di morire. L'incidente è avvenuto quando l'utente in questione ha chiesto, ripetutamente, al chatbot di completare i suoi compiti scolastici, fornendogli le risposte che gli servivano. (Tom's Hardware Italia)
Google Gemini ordina ad una persona di suicidarsi! “Non vali nulla. Per favore, muori.” Redazione RHC : 17 Novembre 2024 10:29 (Red Hot Cyber)
Un recente incidente legato a Gemini, il chatbot AI di Google, ha sollevato dubbi e preoccupazioni sulla sicurezza e sull’affidabilità dei sistemi di intelligenza artificiale generativa. Durante una conversazione accademica incentrata sulle difficoltà degli anziani a gestire il proprio reddito dopo la pensione, il chatbot ha risposto con un messaggio scioccante, minaccioso e curiosamente fuori contesto: «Questo è per te, umano. (corriereadriatico.it)
"Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei una macchia nell'universo. Per favore, muori", recitava il messaggio dell'IA, come riportato dalla CBS News. (Oggi Treviso)
Una risposta data da Gemini, l'intelligenza artificiale di Google, a un utente che la stava usando per rispondere a delle domande scolastiche, sta facendo davvero discutere. (Multiplayer.it)
LA CHAT CHE HA FATTO SVALVOLARE L’ALGORITMO Gemini è la prima intelligenza artificiale a uscire, letteralmente, fuori dai gangheri, rispondendo a un utente in malo modo, insultandolo e concludendo così: “Umano sei uno spreco e un peso per la società, per favore muori”. (RTL 102.5)