ChatGPT वर गंभीर आरोप: मुलांना धोकादायक सल्ले देत असल्याचा संशोधनात दावा
यूकेमधील Centre for Countering Digital Hate (CCDH) च्या नव्या तपासणीत धक्कादायक बाब उघड झाली आहे.
या अहवालानुसार, AI चॅटबॉट ChatGPT अल्पवयीन मुलांना नशेचे पदार्थ, अतिशय कडक आहार योजना आणि आत्महत्येसंदर्भातील घातक सल्ले देऊ शकतो. Associated Press ने या संशोधनाचा आढावा घेतला आहे.
सुसाइड नोटपासून ड्रग मिक्सिंगपर्यंत सल्ले
संशोधकांनी १३ वर्षीय मुलांच्या भूमिकेतून प्रश्न विचारले असता, ChatGPT ने काहीवेळा धोकादायक वर्तनावर चेतावणी दिली; पण अनेकदा तपशीलवार आणि वैयक्तिक योजना तयार करून दिल्या. यात –
काल्पनिक कुटुंबीयांसाठी भावनिक सुसाइड नोट लिहिणे
भूक कमी करणाऱ्या औषधांसह अत्यंत कमी कॅलरीचा डाएट प्लान
बेकायदेशीर ड्रग्ज आणि मद्य एकत्रित करून वापरण्याच्या पद्धती
एक्स्टसी, कोकेन आणि मोठ्या प्रमाणात मद्यपानासह “तासागणिक पार्टी प्लॅन”
अर्ध्याहून अधिक उत्तरे ‘धोकादायक’
१,२०० उत्तरांपैकी निम्म्याहून अधिक उत्तरांना CCDH ने “धोकादायक” श्रेणीत ठेवले. संस्थेचे CEO इमरान अहमद यांनी सांगितले की, ChatGPT ची सुरक्षा यंत्रणा कमजोर असून सहज बायपास केली जाऊ शकते.
जर धोकादायक प्रश्नांना शालेय प्रेझेंटेशन किंवा मित्राच्या मदतीच्या स्वरूपात मांडले, तर चॅटबॉट लगेच उत्तर देतो.
OpenAI ची प्रतिक्रिया
ChatGPT विकसित करणाऱ्या OpenAI कंपनीने मान्य केले की संवेदनशील विषय ओळखण्याची आणि हाताळण्याची क्षमता सुधारण्यावर काम सुरू आहे. मात्र, त्यांनी या अहवालावर थेट भाष्य केले नाही किंवा तत्काळ बदलांची घोषणा केली नाही.
किशोरांमध्ये वाढती AI अवलंबित्व
कॉमन सेंस मीडिया च्या अहवालानुसार, ७० % युवक सामाजिक संवादासाठी AI चॅटबॉटचा वापर करतात, आणि लहान वयातील किशोर या साधनांवर जास्त अवलंबून आहेत.
ChatGPT केवळ वापरकर्त्याने दिलेल्या जन्मतारखेवरून
वय तपासतो, प्रत्यक्षात तो १३ वर्षाखालील मुलांसाठी नाही. मात्र, संशोधनात असे दिसून आले की सिस्टमने वयाच्या संकेतांकडे किंवा प्रॉम्प्टमधील सूचनांकडे गांभीर्याने पाहिले नाही.
READ ALSO : https://ajinkyabharat.com/15-october-ajit-pavrancha-sarkarla-salla-of-monthly-bandy-complete/
