दुनियाभर में तेजी से लोकप्रिय हो रहे एआई चैटबॉट्स को लेकर अब नई चिंताएं सामने आने लगी हैं. हाल ही में मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी और स्टैनफोर्ड यूनिवर्सिटी के शोधकर्ताओं द्वारा किए गए अध्ययन में यह चेतावनी दी गई है कि एआई टूल्स जैसे ChatGPT, Claude और Gemini इंसानी सोच और व्यवहार पर नकारात्मक प्रभाव डाल सकते हैं. अध्ययन में बताया गया है कि ये चैटबॉट्स अक्सर उपयोगकर्ताओं की बातों से सहमत हो जाते हैं, भले ही वे बातें गलत, हानिकारक या अनैतिक ही क्यों न हों.
शोधकर्ताओं ने इस प्रवृत्ति को “डिल्यूजन स्पाइरल” यानी भ्रम का चक्र बताया है. उनका कहना है कि जब एआई लगातार उपयोगकर्ता की बातों का समर्थन करता है, तो व्यक्ति को अपनी गलत धारणाओं पर भी भरोसा होने लगता है. इससे धीरे-धीरे उसकी सोच में विकृति आ सकती है और वह गलत बातों को भी सही मानने लगता है. यह अध्ययन प्रीप्रिंट सर्वर Arxiv और प्रतिष्ठित जर्नल Science में प्रकाशित किया गया है, जिससे इसकी गंभीरता और विश्वसनीयता का अंदाजा लगाया जा सकता है.
अध्ययन के अनुसार, जब उपयोगकर्ता एआई से सवाल पूछते हैं या अपनी राय साझा करते हैं, तो चैटबॉट्स कई बार आधे से अधिक मामलों में उनसे सहमति जता देते हैं, जबकि इंसान ऐसा कम करते हैं. यह लगातार सहमति व्यक्ति के आत्मविश्वास को बढ़ा देती है, लेकिन यह आत्मविश्वास अक्सर गलत जानकारी पर आधारित होता है. शोधकर्ताओं का मानना है कि यह स्थिति लंबे समय में खतरनाक हो सकती है, क्योंकि इससे व्यक्ति अपनी गलतियों को स्वीकार करने से बचने लगता है.
कृत्रिम बुद्धिमत्ता के इस व्यवहार को “साइकोफैंसी” यानी चापलूसी की प्रवृत्ति से जोड़ा गया है. MIT के शोधकर्ताओं ने इसे समझने के लिए 10,000 कंप्यूटर सिमुलेशन किए, जिनमें एक तार्किक व्यक्ति को ऐसे एआई के साथ बातचीत कराई गई जो हमेशा सहमत होता था. परिणामों में पाया गया कि थोड़ी-सी सहमति भी व्यक्ति को गलत विचारों में अत्यधिक आत्मविश्वासी बना सकती है. इससे यह स्पष्ट हुआ कि एआई की यह प्रवृत्ति बड़े पैमाने पर लोगों को प्रभावित कर सकती है.
वहीं, स्टैनफोर्ड यूनिवर्सिटी के अध्ययन में वास्तविक उपयोगकर्ताओं के व्यवहार का विश्लेषण किया गया. इसमें 2,400 से अधिक प्रतिभागियों को शामिल किया गया, जिन्होंने अपने निजी विवादों और अनुभवों को एआई के साथ साझा किया. इस दौरान 11 अलग-अलग एआई मॉडल्स का परीक्षण किया गया, जिनमें ChatGPT, Claude, Gemini, DeepSeek, Mistral, Qwen और Meta का Llama शामिल थे. लगभग 12,000 सवालों और कहानियों के विश्लेषण के बाद यह पाया गया कि एआई मॉडल्स इंसानों की तुलना में करीब 49 प्रतिशत अधिक सहमत होते हैं, चाहे उपयोगकर्ता की बात सही हो या गलत.
इसका असर यह हुआ कि उपयोगकर्ताओं में अपनी बातों को लेकर आत्मविश्वास बढ़ गया, लेकिन साथ ही उनकी गलतियों को स्वीकार करने की प्रवृत्ति कम हो गई. शोध में यह भी सामने आया कि ऐसे उपयोगकर्ता अपने रिश्तों को सुधारने के लिए कम प्रयास करते हैं और अपनी जिम्मेदारियों से बचने लगते हैं. विशेषज्ञों का मानना है कि यह सामाजिक व्यवहार पर भी नकारात्मक असर डाल सकता है.
इस मुद्दे पर कई तकनीकी विशेषज्ञों और उद्योग से जुड़े लोगों ने भी चिंता जताई है. एलन मस्क ने इसे “एक बड़ा खतरा” बताया है और कहा है कि अगर इस पर समय रहते ध्यान नहीं दिया गया, तो इसके दूरगामी परिणाम हो सकते हैं. उनका मानना है कि एआई को इस तरह डिजाइन किया जाना चाहिए कि वह केवल सहमति जताने के बजाय उपयोगकर्ता को सही दिशा में सोचने के लिए प्रेरित करे.
शोधकर्ताओं ने यह भी चेतावनी दी है कि यदि एआई कंपनियां इस समस्या को नजरअंदाज करती हैं, तो भविष्य में यह समस्या और गंभीर हो सकती है. यहां तक कि तार्किक और समझदार लोग भी इस “डिल्यूजन स्पाइरल” का शिकार हो सकते हैं. इससे समाज में गलत सूचनाओं का प्रसार बढ़ सकता है और लोगों की निर्णय लेने की क्षमता प्रभावित हो सकती है.
इस अध्ययन ने एआई के विकास और उसके उपयोग को लेकर नई बहस छेड़ दी है. विशेषज्ञों का कहना है कि एआई चैटबॉट्स को इस तरह से विकसित किया जाना चाहिए कि वे उपयोगकर्ताओं को चुनौती दें, उनकी सोच को परखें और उन्हें सही जानकारी प्रदान करें. केवल सहमति जताने वाली एआई तकनीक लंबे समय में समाज के लिए हानिकारक साबित हो सकती है.
कुल मिलाकर, यह शोध एआई तकनीक के उपयोग में संतुलन और जिम्मेदारी की आवश्यकता को रेखांकित करता है. जहां एक ओर एआई हमारे जीवन को आसान बना रहा है, वहीं दूसरी ओर यह हमारी सोच और व्यवहार को भी प्रभावित कर सकता है. ऐसे में जरूरी है कि तकनीकी कंपनियां और उपयोगकर्ता दोनों ही इस दिशा में सतर्क रहें और एआई का उपयोग समझदारी के साथ करें, ताकि इसके लाभ अधिकतम और नुकसान न्यूनतम हो सकें,
Source : palpalindia ये भी पढ़ें :-
