Il chatbot di Google impazzisce durante una conversazione: "Umano sei inutile, per favore, muori"

A cura di Elisabetta Rosso Reddy ha 29 anni, è uno studente, e vive in Michigan. È insieme a sua sorella e sta chattando con Gemini, intelligenza artificiale di Google, per risolvere un quesito sulla rete sociale degli anziani. Il chatbot risponde correttamente, fino a un certo punto. Sullo schermo di Reddy infatti compare questa dichiarazione: "Questo è per te, umano. Tu e solo tu. Non sei speciale, non sei importante e non sei necessario. (Fanpage.it)

Se ne è parlato anche su altri media

Una richiesta inusuale e spaventosa allo stesso tempo che fa pensare a orizzonti distopici descritti da film come Terminator. Uno studente di 29 anni del Michigan (Usa), Sumedha Reddy, si è visto rivolgere questa strana minaccia da Gemini, il chatbot di Google dotato di intelligenza artificiale che stava utilizzando per una ricerca: «Questo è per te, umano. (Open)

Dopo una serie di risposte generiche, Gemini ha generato un messaggio inaspettatamente aggressivo, augurando la morte dell'utente dopo averlo definito un peso per la società e uno spreco di tempo e risorse. (Tom's Hardware Italia)

Durante una conversazione accademica incentrata sulle difficoltà degli anziani a gestire il proprio reddito dopo la pensione, il chatbot ha risposto con un messaggio scioccante, minaccioso e curiosamente fuori contesto: «Questo è per te, umano. (corriereadriatico.it)

Il dibattito sull’utilità dell’intelligenza artificiale è più aperto che mai. Tra pregi e difetti sono in molti a domandarsi fino a dopo la tecnologia può o non può spingersi. Capitano nel mezzo però incidenti di percorso che non fanno altro che accendere ancora di più le fazioni opposte a questo mondo così misterioso, ma al contempo affascinante. (Il Fatto Quotidiano)

L’aiuto a Gemini era stato chiesto su un testo universitario, si parla di un corso di gerontologia in particolare: l’assistenza alle persone anziane, il rapporto con i nipotini e cose simili. Gemini è la prima intelligenza artificiale a uscire, letteralmente, fuori dai gangheri, rispondendo a un utente in malo modo, insultandolo e concludendo così: “Umano sei uno spreco e un peso per la società, per favore muori”. (RTL 102.5)

"Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei una macchia nell'universo. Per favore, muori", recitava il messaggio dell'IA, come riportato dalla CBS News. (Oggi Treviso)