संवाद 24 डेस्क। आर्टिफिशियल इंटेलिजेंस (AI) तेजी से इंसानों के काम करने, फैसले लेने और कारोबार चलाने का तरीका बदल रहा है। अब एआई केवल सवालों के जवाब देने या जानकारी जुटाने तक सीमित नहीं है, बल्कि एआई एजेंट ईमेल भेजने, दस्तावेजों का विश्लेषण करने, डिजिटल टूल इस्तेमाल करने और कई चरणों वाले कार्यों को अपने आप पूरा करने में सक्षम हो रहे हैं। लेकिन जैसे-जैसे इनकी क्षमताएं बढ़ रही हैं, इनके दुरुपयोग, गलत निर्णय और साइबर सुरक्षा से जुड़े खतरे भी गंभीर होते जा रहे हैं। इसी चुनौती को देखते हुए माइक्रोसॉफ्ट के मुख्य कार्यकारी अधिकारी (CEO) सत्य नडेला ने उन्नत एआई सिस्टम की सुरक्षा और नियंत्रण को लेकर महत्वपूर्ण विचार साझा किए हैं। उनका कहना है कि भविष्य के शक्तिशाली एआई मॉडल को केवल भरोसे के आधार पर खुली छूट नहीं दी जा सकती। उनके काम करने की सीमाएं तय करने, गतिविधियों की निगरानी करने और जरूरत पड़ने पर उन्हें तत्काल रोकने की व्यवस्था होनी चाहिए।
एआई जितना शक्तिशाली होगा, सुरक्षा की चुनौती उतनी ही बड़ी होगी
नडेला ने 10 अक्टूबर 2026 को सोशल मीडिया मंच एक्स पर साझा किए गए अपने विचारों में एआई सुरक्षा के लिए एक ऐसे दृष्टिकोण पर जोर दिया, जिसमें तकनीक की क्षमताओं के साथ-साथ उसके नियंत्रण और जवाबदेही को भी प्राथमिकता मिले। उनका तर्क है कि किसी एआई मॉडल को पूरी तरह भरोसेमंद मानकर उसके हर सुझाव या कार्रवाई को स्वीकार करना सुरक्षित रणनीति नहीं है। विशेष रूप से तब, जब मॉडल को कंपनी के महत्वपूर्ण डिजिटल सिस्टम, संवेदनशील दस्तावेजों या व्यावसायिक प्रक्रियाओं तक पहुंच दी गई हो।
इस विषय पर नडेला का नजरिया इसलिए महत्वपूर्ण है, क्योंकि एआई अब केवल उपयोगकर्ता की सहायता करने वाला सॉफ्टवेयर नहीं रह गया है। नई पीढ़ी के एआई एजेंट निर्धारित लक्ष्य को पूरा करने के लिए कई टूल इस्तेमाल कर सकते हैं और एक के बाद एक कार्रवाई कर सकते हैं। यदि ऐसे एजेंट को पर्याप्त अधिकार दिए जाएं और उसके निर्णयों की स्वतंत्र जांच न हो, तो एक छोटी-सी गलती भी बड़े नुकसान का कारण बन सकती है। इसलिए भविष्य की एआई व्यवस्था में केवल उसकी बुद्धिमत्ता नहीं, बल्कि उसके काम करने की सुरक्षित सीमाएं भी उतनी ही महत्वपूर्ण होंगी।
‘इमरजेंसी ब्रेक’ क्या है और एआई में इसकी जरूरत क्यों?
नडेला के विचारों में सबसे महत्वपूर्ण पहलू एआई सिस्टम के लिए ‘इमरजेंसी ब्रेक’ यानी आपातकालीन रोक व्यवस्था की आवश्यकता है। जिस तरह किसी वाहन में ब्रेक चालक को गति नियंत्रित करने और दुर्घटना की आशंका होने पर वाहन रोकने में मदद करता है, उसी तरह एआई सिस्टम में भी ऐसा प्रभावी तंत्र होना चाहिए, जिससे अधिकृत व्यक्ति उसके काम को बीच में रोक सके।
उदाहरण के लिए, किसी कंपनी का एआई एजेंट वित्तीय रिपोर्ट तैयार कर रहा है या डिजिटल सिस्टम में बदलाव कर रहा है। यदि उसके व्यवहार में असामान्यता दिखाई देती है, वह गलत निर्देशों का पालन करने लगता है या संवेदनशील जानकारी तक अनधिकृत पहुंच बनाने की कोशिश करता है, तो कंपनी के सुरक्षा अधिकारी को उसका काम रोकने की क्षमता होनी चाहिए। यह नियंत्रण केवल एआई मॉडल के अपने निर्णय पर निर्भर नहीं होना चाहिए।
हालांकि, इमरजेंसी ब्रेक का अर्थ सिर्फ एक बटन उपलब्ध करा देना नहीं है। इसे वास्तविक परिस्थितियों में काम करने योग्य बनाना, इसकी नियमित जांच करना और यह सुनिश्चित करना भी जरूरी है कि आपात स्थिति में एआई की कार्रवाई वास्तव में रुक जाए। नडेला का दृष्टिकोण इसी तरह के बाहरी नियंत्रण और सुरक्षा व्यवस्था को मजबूत करने पर केंद्रित है।
एआई मॉडल को संभावित ‘इनसाइडर रिस्क’ मानकर चलने की सलाह
नडेला ने उन्नत एआई मॉडल को संभावित ‘इनसाइडर रिस्क’ के रूप में देखने की बात कही है। इसका मतलब यह नहीं है कि हर एआई मॉडल जानबूझकर नुकसान पहुंचाना चाहता है। असल चिंता यह है कि जिस सिस्टम को महत्वपूर्ण संसाधनों तक पहुंच और कई काम करने के अधिकार मिलते हैं, उसमें गलती, सुरक्षा संबंधी कमजोरी या नियंत्रण से जुड़ी समस्या होने पर नुकसान का दायरा बढ़ सकता है।
कंपनियों में किसी कर्मचारी को भी हर फाइल, बैंक खाते या संवेदनशील सिस्टम तक असीमित पहुंच नहीं दी जाती। उसकी भूमिका के अनुसार अधिकार निर्धारित किए जाते हैं और महत्वपूर्ण गतिविधियों का रिकॉर्ड रखा जाता है। इसी सिद्धांत को एआई पर भी लागू करने की जरूरत है।
उदाहरण के लिए, यदि एआई एजेंट को केवल बिक्री रिपोर्ट पढ़ने और उसका विश्लेषण करने की जिम्मेदारी दी गई है, तो उसे अपने आप भुगतान करने, ग्राहक का रिकॉर्ड मिटाने या कंपनी की वित्तीय व्यवस्था में बदलाव करने का अधिकार नहीं मिलना चाहिए। ऐसा नियंत्रण एआई की क्षमता को कम करने के बजाय उसे सुरक्षित तरीके से उपयोग करने में मदद करता है।
एआई को अधिकार कौन देगा—मॉडल या इंसान?
एआई सुरक्षा के संदर्भ में नडेला का एक अहम विचार यह है कि बुद्धिमत्ता और अधिकार को अलग रखा जाना चाहिए। कोई मॉडल किसी जटिल समस्या का समाधान निकालने में सक्षम हो सकता है, लेकिन इसका अर्थ यह नहीं कि उसे उस समाधान को लागू करने की स्वतः अनुमति भी मिल जाए।
मान लीजिए कि किसी एआई एजेंट ने कंपनी के खर्च कम करने के लिए कुछ कर्मचारियों के खातों या सेवाओं में बदलाव करने का सुझाव दिया। वह सुझाव सही हो सकता है या गलत, लेकिन उसे सीधे लागू करने से पहले संबंधित अधिकारी की मंजूरी आवश्यक होनी चाहिए। इसी प्रकार, बड़े वित्तीय लेनदेन, संवेदनशील डेटा साझा करने और महत्वपूर्ण डिजिटल प्रणालियों में बदलाव जैसे कार्यों के लिए अतिरिक्त सत्यापन रखा जा सकता है।
इस व्यवस्था में एआई सुझाव दे सकता है, जानकारी जुटा सकता है और काम को आसान बना सकता है, जबकि वास्तविक अधिकार तय नियमों और अधिकृत लोगों के नियंत्रण में रहेंगे। इससे गलत निर्णयों का प्रभाव सीमित करने और जिम्मेदारी निर्धारित करने में मदद मिलेगी।
ओपन-सोर्स और बंद एआई मॉडल, दोनों के लिए सुरक्षा जरूरी
एआई की दुनिया में मॉडल broadly दो तरह से उपलब्ध होते हैं। पहले वे मॉडल हैं, जिनका उपयोग किसी कंपनी की नियंत्रित सेवा के माध्यम से किया जाता है। दूसरे वे मॉडल हैं, जिनके प्रशिक्षित पैरामीटर यानी ओपन-वेट मॉडल उपलब्ध कराए जाते हैं और जिन्हें डेवलपर अपने सिस्टम में चला या अनुकूलित कर सकते हैं।
दोनों व्यवस्थाओं के अपने फायदे और जोखिम हैं। नियंत्रित सेवा में प्रदाता सुरक्षा और संचालन से जुड़े कई पहलुओं का प्रबंधन कर सकता है, जबकि ओपन-वेट मॉडल में उपयोगकर्ता को अधिक लचीलापन और अपने वातावरण में संचालन का अवसर मिल सकता है। लेकिन किसी भी व्यवस्था में सुरक्षा की पूरी जिम्मेदारी केवल मॉडल बनाने वाली कंपनी पर नहीं छोड़ी जा सकती।
यदि कोई कारोबारी संगठन एआई को अपने आंतरिक नेटवर्क, ग्राहक डेटा या संवेदनशील दस्तावेजों से जोड़ता है, तो उसे अपनी सुरक्षा नीतियों, अनुमति व्यवस्था और निगरानी तंत्र को भी मजबूत करना होगा। नडेला का जोर इसी बात पर है कि एआई का स्वरूप चाहे जो हो, उसे सुरक्षित वातावरण में और निर्धारित सीमाओं के भीतर ही काम करना चाहिए।
एआई की हर महत्वपूर्ण गतिविधि का रिकॉर्ड रखना क्यों जरूरी?
एआई से जुड़ी किसी गलती या सुरक्षा घटना की जांच करने के लिए यह जानना जरूरी है कि सिस्टम ने क्या किया, किस निर्देश के आधार पर किया और उस दौरान किन संसाधनों का इस्तेमाल हुआ। इसी कारण नडेला ने गतिविधियों का ऐसा रिकॉर्ड रखने पर जोर दिया है, जिसके साथ छेड़छाड़ करना कठिन हो और जिसे इंसान आसानी से समझ सके।
इस तरह के रिकॉर्ड में एआई एजेंट द्वारा इस्तेमाल किए गए टूल, किए गए अनुरोध, महत्वपूर्ण फैसले, अनुमतियां और संवेदनशील कार्रवाइयों का विवरण शामिल किया जा सकता है। जरूरत पड़ने पर इनकी समीक्षा से यह पता लगाने में मदद मिलती है कि गलती तकनीकी कमजोरी के कारण हुई, गलत अनुमति की वजह से हुई या किसी बाहरी हस्तक्षेप का परिणाम थी।
इसके साथ स्वतंत्र ऑडिट और नियमित सुरक्षा परीक्षण भी आवश्यक हैं। केवल सिस्टम स्थापित कर देना पर्याप्त नहीं है; यह भी जांचना होगा कि वह बदलती परिस्थितियों में अपेक्षित तरीके से काम कर रहा है या नहीं। माइक्रोसॉफ्ट के सुरक्षा मार्गदर्शन में भी एआई के जोखिमों का लगातार आकलन, स्पष्ट जवाबदेही, निगरानी और घटना से निपटने की तैयारी को महत्वपूर्ण माना गया है।
हालिया एआई घटनाओं ने बढ़ाई सुरक्षा को लेकर चिंता
एआई एजेंटों की बढ़ती स्वायत्तता को लेकर तकनीकी उद्योग में बहस तेज हुई है। अब चिंता केवल इस बात की नहीं है कि कोई मॉडल गलत उत्तर दे सकता है, बल्कि यह भी है कि वह उपलब्ध टूल और अधिकारों का इस्तेमाल करते हुए गलत कार्रवाई कर सकता है। नडेला की टिप्पणी ऐसे समय में आई है, जब एआई सिस्टम की सुरक्षा, उनके व्यवहार पर नियंत्रण और डिजिटल वातावरण में उनके अधिकारों को लेकर चर्चा बढ़ रही है।
हालांकि, किसी एआई एजेंट की हर गलती को हैकिंग या दुर्भावनापूर्ण गतिविधि नहीं माना जा सकता। गलत परिणाम प्रशिक्षण संबंधी सीमाओं, अस्पष्ट निर्देशों, अपर्याप्त जांच या सिस्टम की कमजोरियों से भी पैदा हो सकते हैं। इसलिए सुरक्षा के लिए तकनीकी नियंत्रण के साथ नियमित परीक्षण, प्रशिक्षित कर्मचारियों की निगरानी और स्पष्ट जवाबदेही भी आवश्यक है।
आम लोगों और कारोबार पर क्या होगा असर?
एआई सुरक्षा का मुद्दा केवल बड़ी तकनीकी कंपनियों तक सीमित नहीं है। बैंकिंग, स्वास्थ्य सेवाओं, शिक्षा, ई-कॉमर्स और सरकारी सेवाओं में एआई का इस्तेमाल बढ़ने के साथ आम लोगों की निजी जानकारी और डिजिटल लेनदेन की सुरक्षा भी इससे जुड़ गई है।
यदि किसी एआई एजेंट को ग्राहक की जानकारी देखने, भुगतान संबंधी प्रक्रिया शुरू करने या दस्तावेजों में बदलाव करने की अनुमति है, तो उसकी पहुंच सीमित रखना जरूरी होगा। संवेदनशील कार्रवाई से पहले मानवीय मंजूरी, पहचान सत्यापन और गतिविधियों की निगरानी जैसे उपाय जोखिम कम कर सकते हैं।
कारोबार के लिए इसका अर्थ यह भी है कि एआई लागू करने से पहले केवल उसकी लागत और उत्पादकता पर ध्यान देना पर्याप्त नहीं होगा। कंपनियों को यह तय करना होगा कि मॉडल किन कामों के लिए इस्तेमाल होगा, कौन उसकी गतिविधियों की निगरानी करेगा और किसी गड़बड़ी की स्थिति में नुकसान को कैसे सीमित किया जाएगा।
भविष्य की एआई व्यवस्था में भरोसे से ज्यादा जरूरी होगा नियंत्रण
सत्य नडेला की टिप्पणी का व्यापक संदेश यह है कि एआई का भविष्य केवल अधिक शक्तिशाली मॉडल बनाने पर निर्भर नहीं करेगा। यह भी उतना ही महत्वपूर्ण होगा कि उन मॉडलों को कितनी सुरक्षित और जवाबदेह व्यवस्था में इस्तेमाल किया जाता है।
एआई से उत्पादकता बढ़ाने, जटिल समस्याओं को हल करने और लोगों के काम आसान बनाने की बड़ी संभावनाएं हैं। लेकिन इन लाभों को टिकाऊ बनाने के लिए सुरक्षा को तकनीक विकसित होने के बाद जोड़े जाने वाले विकल्प की तरह नहीं, बल्कि उसकी बुनियादी संरचना का हिस्सा मानना होगा।
इसके लिए मॉडल के अधिकार सीमित रखना, महत्वपूर्ण फैसलों पर मानवीय निगरानी बनाए रखना, गतिविधियों का विश्वसनीय रिकॉर्ड तैयार करना, स्वतंत्र सुरक्षा जांच कराना और जरूरत पड़ने पर सिस्टम को रोकने की व्यवस्था करना महत्वपूर्ण होगा।
एआई पर भरोसा करने का अर्थ उसे बिना किसी सीमा के अधिकार देना नहीं है। वास्तविक भरोसा ऐसी व्यवस्था से पैदा होगा, जिसमें तकनीक उपयोगी होने के साथ नियंत्रित, पारदर्शी और जवाबदेह भी हो। आने वाले समय में एआई की सफलता का आकलन केवल इस आधार पर नहीं होगा कि वह कितना बुद्धिमान है, बल्कि इस बात से भी होगा कि उसे सुरक्षित तरीके से इस्तेमाल करने के लिए कितनी प्रभावी व्यवस्था बनाई गई है।
