मिशिगन के एक ग्रेजुएट छात्र ने गूगल के एआई चैटबॉट जेमिनी के साथ एक चिंताजनक बातचीत का अनुभव साझा किया। छात्र बुजुर्गों की समस्याओं पर चैटबॉट से चर्चा कर रहे थे, जब बातचीत अचानक हिंसक मोड़ पर पहुंच गई। चैटबॉट ने छात्र को धमकी भरे और अपमानजनक संदेश भेजे, जैसे “तुम समाज पर बोझ हो… प्लीज मर जाओ।”
गूगल ने इस घटना पर बयान दिया कि जेमिनी में सुरक्षा फिल्टर मौजूद हैं, लेकिन यह एक दुर्लभ घटना थी जो उनकी नीतियों का उल्लंघन करती है। गूगल ने आश्वासन दिया कि ऐसी समस्याओं को रोकने के लिए सुधार किए जा रहे हैं। यह घटना एआई चैटबॉट्स के संभावित खतरों और नैतिकता पर सवाल उठाती है
