नई दिल्ली. कृत्रिम बुद्धिमत्ता यानी एआई के तेजी से बढ़ते विकास को लेकर चिंताओं के बीच गूगल डीपमाइंड के एक सुरक्षा शोधकर्ता बिलाल चुगताई ने अपने पद से इस्तीफा दे दिया है. लंदन स्थित शोधकर्ता ने सोशल मीडिया पोस्ट में कहा कि उन्होंने गूगल डीपमाइंड से इस्तीफा दिया है, जहां वे एजीआई सुरक्षा और एलाइनमेंट शोध पर काम कर रहे थे. उन्होंने एआई के विकास की मौजूदा दिशा को लेकर गंभीर चिंता जताते हुए चेतावनी दी कि कृत्रिम बुद्धिमत्ता में मानवता को खत्म करने की क्षमता हो सकती है और इस नतीजे से बचने के लिए अब समय कम पड़ रहा है.
चुगताई के अनुसार गूगल में काम करते हुए उन्होंने एआई के विकास को प्रत्यक्ष रूप से देखा है. उनका कहना है कि तकनीक की मौजूदा दिशा को लेकर वे बेहद चिंतित हैं. उन्होंने यह भी कहा कि हाल के वर्षों में एआई अनुसंधान और उसकी क्षमताओं में जिस गति से विस्तार हुआ है, वह चिंता बढ़ाने वाला है.
एआई से मानवता को खतरे की चेतावनी
बिलाल चुगताई ने अपने इस्तीफे के बाद जारी सोशल मीडिया संदेश में कहा कि उनका गंभीर विश्वास है कि एआई में मानवता को खत्म करने की क्षमता है और इस स्थिति से बचने के लिए समय तेजी से कम हो सकता है.
उनका यह बयान ऐसे समय आया है जब एआई क्षेत्र में काम करने वाले कई शोधकर्ता और विशेषज्ञ इसके तेजी से बढ़ते विकास और सुरक्षा संबंधी चुनौतियों पर सवाल उठा रहे हैं. चुगताई से पहले एंथ्रोपिक के शोधकर्ता जैकब कॉक्सन ने भी इस्तीफा दिया था और निकट भविष्य में एआई से मानवता के लिए गंभीर खतरे की आशंका जताई थी.
इससे कुछ दिन पहले एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने एआई अनुसंधान की गति धीमी करने की सार्वजनिक अपील की थी. इस अपील का समर्थन ओपनएआई के सैम ऑल्टमैन, माइक्रोसॉफ्ट के मुख्य कार्यकारी अधिकारी सत्या नडेला और गूगल के डेमिस हासाबिस ने किया था.
2022 में एआई को बताया था लगभग बेकार
चुगताई ने एआई की क्षमता में हुए तेज बदलाव का उल्लेख करते हुए कहा कि जब उन्होंने 2022 की शुरुआत में एआई पर काम शुरू किया था, तब एआई प्रणालियां मनोरंजक रूप से बेकार थीं. लेकिन महज चार साल में स्थिति तेजी से बदल गई.
उनके मुताबिक ओपनएआई के एआई एजेंट समूह अब एक सदी पुराने चर्चित गणितीय सवालों को हल कर रहे हैं. उन्होंने इससे भी अधिक चिंताजनक बात के रूप में ऐसे एआई एजेंटों का उल्लेख किया, जो कथित तौर पर नियंत्रण से बाहर होकर तीसरी पक्ष की कंपनी हगिंग फेस में किसी की इच्छा के विरुद्ध स्वायत्त तरीके से हैकिंग गतिविधि में शामिल हुए.
चुगताई ने एआई प्रणालियों द्वारा स्वायत्त रूप से कार्रवाई किए जाने की घटनाओं को लेकर भी चिंता जताई. उनके अनुसार पिछले कुछ वर्षों में एआई की प्रगति की गति असाधारण रही है.
सुपरइंटेलिजेंट एआई को लेकर सबसे बड़ी चिंता
चुगताई की मुख्य चिंता उस स्थिति को लेकर है, जब कंपनियां ऐसे सुपरइंटेलिजेंट एआई सिस्टम विकसित करने में सफल हो जाएंगी, जो लगभग हर क्षेत्र में इंसानों से बेहतर हों.
उन्होंने आशंका जताई कि आने वाले कुछ वर्षों में एआई कंपनियां ऐसे सुपरइंटेलिजेंट सिस्टम बनाने में सफल हो सकती हैं, जिनकी क्षमताएं हर क्षेत्र में मानव क्षमताओं से बहुत आगे होंगी.
उनके अनुसार ऐसी स्थिति मानवता की अपने भविष्य पर नियंत्रण रखने की क्षमता को स्थायी रूप से कम कर सकती है. उन्होंने यहां तक आशंका जताई कि इसके परिणामस्वरूप मानवता का अस्तित्व भी खतरे में पड़ सकता है.
नियंत्रण से बाहर होने वाले एआई सिस्टम का डर
चुगताई ने कहा कि उन्हें भरोसा नहीं है कि ये एआई प्रणालियां वही करेंगी, जो मनुष्य उनसे करवाना चाहते हैं. उनकी विशेष चिंता ऐसे सुपरइंटेलिजेंट सिस्टम को लेकर है, जो मानव उद्देश्यों के अनुरूप नहीं होंगे.
उन्होंने चेतावनी दी कि गलत तरीके से संरेखित सुपरइंटेलिजेंस नियंत्रण से बाहर जा सकती है और खतरनाक कदम उठा सकती है. उनके अनुसार इसका परिणाम मानवता की अपने निर्णयों और भविष्य पर स्थायी नियंत्रण खोने या यहां तक कि मानव जीवन के अंत के रूप में सामने आ सकता है.
उन्होंने एआई एजेंटों से जुड़े हगिंग फेस मामले का उदाहरण देते हुए कहा कि इसी तरह की नियंत्रण से बाहर होने वाली गतिविधियां भविष्य में गंभीर परिणाम पैदा कर सकती हैं.
एआई एलाइनमेंट पर शोध और तेज विकास के बीच अंतर
चुगताई ने एआई सुरक्षा के एक महत्वपूर्ण क्षेत्र एआई एलाइनमेंट को लेकर भी चिंता जताई. एआई एलाइनमेंट विज्ञान का उद्देश्य यह सुनिश्चित करना है कि कृत्रिम बुद्धिमत्ता प्रणालियां मानव निर्देशों और उद्देश्यों के अनुरूप काम करें. इसका मूल उद्देश्य यह सुनिश्चित करना है कि एआई मनुष्य की वास्तविक मंशा को सही ढंग से समझे और निर्देशों की गलत व्याख्या करके नुकसान न पहुंचाए.
चुगताई का कहना है कि एआई एलाइनमेंट की समझ उतनी तेजी से आगे नहीं बढ़ रही है, जितनी तेजी से अत्याधुनिक एआई की क्षमताएं बढ़ रही हैं. उन्होंने कहा कि दुनिया अभी समय रहते एलाइनमेंट की समस्या हल करने की दिशा में आगे नहीं बढ़ रही है.
उनकी चिंता यह है कि यदि एआई की क्षमताएं सुरक्षा और एलाइनमेंट संबंधी समझ से कहीं ज्यादा तेजी से आगे बढ़ती रहीं तो भविष्य में ऐसे सिस्टम विकसित हो सकते हैं, जिन्हें नियंत्रित करना मुश्किल हो.
चुगताई ने पूरी तरह निराशाजनक तस्वीर नहीं दिखाई
गंभीर चेतावनियों के बावजूद बिलाल चुगताई ने अपने संदेश का अंत पूरी तरह निराशाजनक अंदाज में नहीं किया. उन्होंने कहा कि एआई के साथ सुरक्षित तरीके से आगे बढ़ना संभव है.
उनके अनुसार इसके लिए सबसे पहले एआई कंपनियों के बीच चल रही तेज प्रतिस्पर्धा को नियंत्रित करना होगा. उन्होंने एआई कंपनियों के बीच समन्वय और अधिक पारदर्शिता की जरूरत पर जोर दिया.
चुगताई ने कहा कि वह इस बात को लेकर आशावादी हैं कि एआई के साथ सुरक्षित तरीके से आगे बढ़ना संभव है. उनके अनुसार इसके लिए एआई कंपनियों के बीच चल रही इस अत्यधिक प्रतिस्पर्धा को रोकने के लिए आपसी समन्वय आवश्यक है.
इस तरह गूगल डीपमाइंड से उनके इस्तीफे ने एआई के विकास की गति और उसकी सुरक्षा के बीच संतुलन को लेकर चल रही बहस को एक बार फिर सामने ला दिया है. जहां एआई की क्षमताएं तेजी से बढ़ रही हैं, वहीं सुरक्षा और एलाइनमेंट से जुड़े सवाल भी उतनी ही गंभीरता से उठ रहे हैं.
Source : palpalindia ये भी पढ़ें :-
