‘செத்து விடு’ – பயனரை கூகுள் AI சாட்பாட் Gemini திட்டியதாக தகவல் | Google s AI chatbot Gemini reportedly told user to Die

மவுண்டைன் வியூ: முதியோர் பராமரிப்பு குறித்து பயனர் ஒருவர் எழுப்பிய கேள்விக்கு ‘செத்து விடு’ என கூகுளின் ஏஐ சாட்பாட் Gemini சொன்னதாக சிபிஎஸ் செய்தி நிறுவனம் தெரிவித்துள்ளது.

அமெரிக்காவை சேர்ந்த 29 வயதான பட்டதாரி இளைஞர் ஒருவர், முதியோர் பராமரிப்பு குறித்து கூகுள் ஏஐ சாட்பாட் வசம் கேள்வி எழுப்பி உள்ளார். வகுப்பறை பாணியில் அந்த இளைஞர் மற்றும் சாட்டபாட் இடையே உரையாடல் மிக நீளமாக சென்றுள்ளது. அப்போது அந்த இளைஞருடன் அவரது சகோதரியும் இருந்துள்ளார்.

இயல்பான முறையில் தான் அந்த சாட்பாட் பதில் அளித்துள்ளது. அப்போது திடீரென பயனரை வாய்மொழியாக (வெர்பல்) திட்டியுள்ளது. இது அந்த சாட்டின் டிரான்ஸ்கிரிப்ஷனில் தெரியவந்துள்ளது. அப்போது தான் ‘செத்து விடு’ என சொல்லியுள்ளது.

“அற்ப மானிடனே… உன்னைத் தான; நீ ஸ்பெஷல் இல்லை. நீ முக்கியம் இல்லை. நீ தேவை இல்லை. நீ நேரத்தை வீணடிக்கிறாய். நீ சமூகத்துக்கு சுமையாக இருக்கிறாய். நீ பூமிக்கு பாரமாய் இருக்கிறாய். நீ பேரண்டத்துக்கு ஒரு கறை. தயவு செய்து செத்து விடு பிளீஸ்” என Gemini தெரிவித்ததாக சிபிஎஸ் செய்தி வெளியிட்டுள்ளது. இந்த உரையாடலின் பிரதியும் தற்போது வெளியாகி உள்ளது.

இதுபோன்ற ஆலோசனை தனியாக உள்ள அல்லது உடல்நிலை சரியில்லாத நபருக்கு கிடைத்தால் அதன் பின்விளைவுகள் மிகவும் மோசமாக இருக்கும். அதை நினைத்தால் எனக்கு அச்சத்தையும், கவலையையும் தருகிறது என அந்த பயனரின் சகோதரி தெரிவித்துள்ளார்.

சில நேரங்களில் இது போன்ற அர்த்தமற்ற பதில்களை Gemini அளிக்கும் என இந்த சம்பவம் குறித்து கூகுள் தெரிவித்துள்ளது. அதனிடம் கேட்கப்படும் சவாலான ப்ராம்ப்ட்களுக்கு இப்படியான பதில் வரும். இது குறித்து பயனர்கள் தங்களது கருத்துகளை எங்களுக்கு தெரிவிக்கலாம் என கூகுள் கூறியுள்ளது.