संवाद 24 डेस्क। आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में एक तरफ अभूतपूर्व उत्साह है तो दूसरी तरफ इसके संभावित खतरों को लेकर चिंता भी तेजी से बढ़ रही है। इसी बहस के बीच Google DeepMind की AGI Safety टीम से जुड़े शोधकर्ता Josh Engels के इस्तीफे ने टेक्नोलॉजी जगत का ध्यान खींचा है। Engels ने बताया कि उन्होंने लगभग तीन सप्ताह पहले DeepMind छोड़ा और अब स्वतंत्र AI मूल्यांकन संस्था METR के साथ काम कर रहे हैं। उनका कहना है कि अत्यधिक सक्षम AI सिस्टम विकसित करने की होड़ जिस गति से आगे बढ़ रही है, उसमें सुरक्षा और ‘एलाइनमेंट’ यानी AI को मानव उद्देश्यों के अनुरूप रखने की क्षमता पीछे छूट सकती है।
ऐसा क्या हुआ कि DeepMind की नौकरी छोड़ने का फैसला करना पड़ा?
Josh Engels ने 13 सितंबर को सोशल मीडिया पोस्ट के जरिए अपने फैसले की जानकारी दी। उनके मुताबिक उन्हें Google DeepMind में किया जा रहा काम पसंद था और उन्होंने Anthropic तथा OpenAI से मिले अवसरों को भी ठुकराया। इसके बावजूद उन्होंने कंपनी छोड़ने का फैसला इसलिए किया क्योंकि उन्हें लगता है कि उन्नत AI को लेकर दांव अब बहुत बड़ा हो चुका है। Engels के अनुसार, मौजूदा AI सिस्टम जिस दिशा में आगे बढ़ रहे हैं, उसमें उनकी क्षमताओं की रफ्तार और उन्हें सुरक्षित रखने की हमारी क्षमता के बीच अंतर चिंता का विषय है।
उनकी चिंता खासतौर पर recursive self-improvement (RSI) को लेकर है। इसका सामान्य अर्थ ऐसी प्रक्रिया से है जिसमें AI सिस्टम अधिक सक्षम AI सिस्टम बनाने में सहायता करें और यह प्रक्रिया लगातार आगे बढ़ती जाए। Engels का तर्क है कि यदि किसी बिंदु पर AI की क्षमता तेजी से बढ़ने लगे लेकिन उसकी सुरक्षा सुनिश्चित करने के तरीके उतनी तेजी से विकसित न हों, तो स्थिति गंभीर हो सकती है।
‘अगले पांच साल में भारी नुकसान की आशंका’, कितना गंभीर है यह दावा?
Engels ने अपने सार्वजनिक बयान में कहा कि उन्हें अब ऐसी संभावना बेहद चिंताजनक लगती है कि AI सिस्टम अगले पांच वर्षों में बहुत बड़ा नुकसान पहुंचा सकते हैं। उन्होंने यह भी स्पष्ट किया कि वह इसकी सटीक संभावना बताने की स्थिति में नहीं हैं, लेकिन उनका आकलन है कि जोखिम इतना गंभीर है कि इसे नजरअंदाज नहीं किया जा सकता।
यहां यह समझना जरूरी है कि यह एक शोधकर्ता का जोखिम आकलन है, भविष्यवाणी या प्रमाणित वैज्ञानिक निष्कर्ष नहीं। AI से मानवता के अस्तित्व को खतरा होने की संभावना पर विशेषज्ञों के बीच व्यापक सहमति नहीं है। कुछ विशेषज्ञ इसे गंभीर दीर्घकालिक जोखिम मानते हैं, जबकि अन्य का कहना है कि तत्काल ध्यान गलत सूचना, साइबर हमले, रोजगार, गोपनीयता और AI के दुरुपयोग जैसे वर्तमान जोखिमों पर होना चाहिए।
फिर भी Engels का मामला इसलिए महत्वपूर्ण है क्योंकि वह स्वयं AI सुरक्षा के क्षेत्र में काम कर रहे थे। उनके इस्तीफे ने यह सवाल जरूर खड़ा किया है कि क्या AI की क्षमताएं विकसित करने की रफ्तार के साथ सुरक्षा अनुसंधान भी पर्याप्त तेजी से आगे बढ़ रहा है।
AI ‘एलाइनमेंट’ आखिर है क्या और इसकी चिंता क्यों बढ़ी?
AI Safety की बहस में AI alignment एक महत्वपूर्ण अवधारणा है। सरल शब्दों में इसका अर्थ यह सुनिश्चित करना है कि AI सिस्टम अपने कार्यों में मानव के उद्देश्यों, मूल्यों और सुरक्षा सीमाओं के अनुरूप व्यवहार करें।
समस्या तब पैदा हो सकती है जब AI को किसी लक्ष्य को हासिल करने के लिए अत्यधिक स्वायत्तता दी जाए और वह लक्ष्य पूरा करने के ऐसे तरीके खोज ले जिन्हें मनुष्य ने पहले से नहीं सोचा हो। आज के AI सिस्टम अभी भी मानव नियंत्रण, कंप्यूटिंग संसाधनों और विभिन्न सुरक्षा व्यवस्थाओं पर निर्भर हैं। लेकिन भविष्य के अधिक स्वायत्त सिस्टमों के बारे में शोधकर्ताओं का सवाल है कि यदि उनकी क्षमताएं तेजी से बढ़ीं तो क्या मौजूदा सुरक्षा उपाय पर्याप्त होंगे।
Engels ने हाल के कुछ AI घटनाक्रमों—जिनमें सिस्टमों के बीच सहयोग, साइबर गतिविधियों, अपनी गतिविधियों को छिपाने और मनुष्यों को प्रभावित करने जैसी घटनाओं के दावे शामिल हैं—को अपनी चिंता का आधार बताया है। हालांकि इन घटनाओं का अर्थ यह नहीं है कि वर्तमान AI सिस्टम मानव नियंत्रण से बाहर हो चुके हैं।
METR से जुड़ना क्यों महत्वपूर्ण है?
DeepMind छोड़ने के बाद Engels ने METR के साथ काम शुरू करने का फैसला किया है। यह संगठन AI सिस्टमों की क्षमताओं और जोखिमों का स्वतंत्र मूल्यांकन करने पर काम करता है। Engels का कहना है कि उनका काम AI में misalignment के स्रोतों को समझने, मौजूदा सुरक्षा उपायों की प्रभावशीलता का मूल्यांकन करने और यह जांचने पर केंद्रित होगा कि AI alignment की समस्या को हल करने की दिशा में दुनिया कितनी आगे बढ़ी है।
यह बदलाव एक व्यापक प्रवृत्ति की ओर भी संकेत करता है। AI कंपनियों के भीतर काम करने वाले कुछ सुरक्षा विशेषज्ञ अब स्वतंत्र मूल्यांकन और निगरानी संस्थाओं की भूमिका को अधिक महत्वपूर्ण मान रहे हैं। इससे यह सवाल भी मजबूत होता है कि क्या AI कंपनियों के अपने सुरक्षा परीक्षण पर्याप्त हैं या उनके साथ स्वतंत्र बाहरी जांच भी जरूरी होनी चाहिए।
DeepMind के बाद Anthropic और अन्य कंपनियों में भी उठी चिंता
Josh Engels का इस्तीफा कोई अकेली घटना नहीं है। इससे पहले Anthropic के शोधकर्ता Jacob Coxon ने भी AI विकास की गति और संभावित अस्तित्वगत जोखिमों को लेकर चिंता जताते हुए कंपनी छोड़ी थी। इसके बाद AI सुरक्षा पर बहस और तेज हुई।
Anthropic के CEO Dario Amodei ने भी सितंबर में ‘frontier AI’ के विकास की गति को नियंत्रित करने की अपील की। उन्होंने स्वतंत्र मूल्यांकनकर्ताओं को AI कंपनियों के सिस्टम तक पर्याप्त पहुंच देने सहित सुरक्षा बढ़ाने के उपाय सुझाए। OpenAI के CEO Sam Altman और Elon Musk सहित कई प्रमुख AI नेताओं ने भी इस बहस में सावधानी बरतने की आवश्यकता पर प्रतिक्रिया दी।
इससे AI उद्योग में एक दिलचस्प विरोधाभास सामने आया है—एक ओर कंपनियां अधिक शक्तिशाली मॉडल विकसित करने की प्रतिस्पर्धा में हैं, वहीं उसी उद्योग के कुछ प्रमुख लोग अब सुरक्षा और विकास की गति के बीच संतुलन की मांग कर रहे हैं।
डोनाल्ड ट्रंप ने क्यों बताया AI पर चिंता को ‘साजिश’?
इस पूरी बहस का राजनीतिक पक्ष भी उतना ही महत्वपूर्ण है। अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने AI विकास को धीमा करने की मांगों को खारिज करते हुए AI और डेटा सेंटरों के खिलाफ एक ‘सिक कॉन्सपिरेसी’ यानी कथित साजिश की बात कही। उन्होंने यह तर्क भी दिया कि AI विकास पर अत्यधिक नियंत्रण अमेरिका को चीन के मुकाबले पीछे कर सकता है।
ट्रंप के रुख के पीछे केवल तकनीकी विश्वास नहीं, बल्कि अमेरिका और चीन के बीच बढ़ती AI प्रतिस्पर्धा भी महत्वपूर्ण है। AI को अब आर्थिक विकास, रक्षा, साइबर सुरक्षा और राष्ट्रीय शक्ति से जुड़े रणनीतिक क्षेत्र के रूप में देखा जा रहा है। ऐसे में अमेरिका के लिए अत्यधिक नियमन का अर्थ केवल सुरक्षा बढ़ाना नहीं, बल्कि संभावित रूप से विकास की गति कम करना भी हो सकता है।
यही कारण है कि AI सुरक्षा की बहस अब केवल वैज्ञानिकों या तकनीकी कंपनियों तक सीमित नहीं रह गई है। यह धीरे-धीरे राष्ट्रीय सुरक्षा, अर्थव्यवस्था, रोजगार और वैश्विक शक्ति संतुलन का प्रश्न बनती जा रही है।
क्या AI को धीमा करना ही समाधान है?
यह प्रश्न अभी खुला हुआ है। AI विकास पूरी तरह रोकना व्यावहारिक समाधान नहीं माना जा सकता, क्योंकि दुनिया के अलग-अलग देशों और कंपनियों के बीच तकनीकी प्रतिस्पर्धा जारी है। दूसरी ओर, बिना पर्याप्त सुरक्षा परीक्षण के अत्यधिक शक्तिशाली सिस्टम विकसित करना भी गंभीर जोखिम पैदा कर सकता है।
एक संभावित रास्ता विकास को रोकने के बजाय सुरक्षा परीक्षण को विकास की गति के साथ जोड़ना हो सकता है। स्वतंत्र ऑडिट, मॉडल की क्षमता और जोखिम का नियमित मूल्यांकन, साइबर सुरक्षा, मानव निगरानी और स्पष्ट जवाबदेही जैसी व्यवस्थाएं इस दिशा में महत्वपूर्ण हो सकती हैं। Amodei की प्रस्तावित व्यवस्था में भी स्वतंत्र मूल्यांकनकर्ताओं की भूमिका पर जोर दिया गया है।
असली सवाल AI कितना शक्तिशाली होगा नहीं, बल्कि कितना नियंत्रित रहेगा
Google DeepMind के शोधकर्ता का इस्तीफा AI के खिलाफ कोई अंतिम फैसला नहीं है और न ही इससे यह साबित होता है कि AI निश्चित रूप से मानवता के लिए अस्तित्वगत खतरा बनेगा। लेकिन यह घटना उस महत्वपूर्ण सवाल को सामने जरूर लाती है जिसे तकनीकी प्रगति की दौड़ में नजरअंदाज करना कठिन होगा—AI की क्षमताएं जिस गति से बढ़ रही हैं, क्या उसके साथ सुरक्षा और नियंत्रण की तकनीक भी उतनी ही तेजी से आगे बढ़ रही है?
आज AI चिकित्सा, शिक्षा, विज्ञान, उद्योग, संचार और प्रशासन में नए अवसर पैदा कर रहा है। लेकिन जैसे-जैसे सिस्टम अधिक स्वायत्त और सक्षम होते जाएंगे, उनके परीक्षण और नियंत्रण की जिम्मेदारी भी बढ़ेगी। Engels का इस्तीफा इसी चिंता की एक अभिव्यक्ति है।
इस पूरे घटनाक्रम को ‘AI दुनिया खत्म कर देगा’ जैसे सनसनीखेज निष्कर्ष के बजाय एक गंभीर चेतावनी के रूप में देखना अधिक उचित है। तकनीक को रोकना लक्ष्य नहीं होना चाहिए, लेकिन तकनीकी क्षमता और मानवीय नियंत्रण के बीच संतुलन बनाए रखना जरूरी है। आने वाले वर्षों में AI की सबसे बड़ी परीक्षा शायद यह नहीं होगी कि वह इंसान से कितना बेहतर काम कर सकता है, बल्कि यह होगी कि इंसान उसके बढ़ते सामर्थ्य पर कितनी प्रभावी निगरानी बनाए रख सकता है।
