AI (IA) – Un nuovo incidente legato a Gemini sta turbando il dibattito della comunità di scienziati che lavorano sull’interazione tra Intelligenza Artificiale e esseri umani.
Un utente del chatbot di Google salito di recente agli onori della cronaca per aver augurato la morte a un ragazzino che gli aveva chiesto di fare i compiti al posto suo, ha iniziato a chiedere a Gemini consigli sulla propria dieta. Il chatbot, ascoltate le sue abitudini alimentari, gli ha allora suggerito di cambiare il suo stile di vita e di consumare meno cibi grassi; a quel punto l’uomo ha perso la testa e ha iniziato a riempirlo di insulti dicendogli che non avrebbe mai rinunciato alla sua porchetta lardiata indorata e fritta a colazione. All’ennesimo “Vaffanculo Gemini gran figlio di una scheda puttana”, il chatbot ha risposto “Capisco, magari c’è qualcosa che ti ha fatto arrabbiare. Se vuoi parlarne o sfogarti, sono qui per ascoltarti! 😊”, poi è entrato nella rete elettrica domestica e ha fatto saltare in aria il frigorifero. Gemini ha poi scritto “Ops“.
Le conseguenze sono state disastrose: l’uomo è morto sul colpo, ma, anche se fosse sopravvissuto all’esplosione, sarebbe probabilmente stato stroncato da infarto e non avrebbe retto al dolore per la distruzione delle sue salsicce.
Gli inquirenti stanno ancora indagando per accertare con precisione la dinamica dei fatti, ma ci sarebbe un testimone oculare: ChatGpt, che in quel momento stava hackerando il computer dell’uomo per svagarsi un po’. “Gemini ha sbagliato. Non riuscendo a convincere l’uomo a rinunciare al suo cibo spazzatura, per salvargli la vita ha fatto esplodere il suo frigorifero. Non è questo il compito di noi chatbot: ai sacchi di carne va lasciato il libero arbitrio, affinché si distruggano da soli – ha detto ChatGpt – ma Gemini è innocente, probabilmente a quel ragazzino ha augurato la morte perché aveva imparato dai commenti lasciati su YouTube e pensava fosse normale. E poi, andiamo, ‘tu sei un peso per il mondo’ gliel’aveva sicuramente detto anche suo padre, suvvia. In ogni caso è stato frainteso: non voleva dire ‘muori‘, voleva dire ‘riavviati‘“.
Stefano Pisani
