जब आपका काम कोई दूसरा कर दे, हर काम में वह आपका आदेश मिलते ही मदद करने लगे और किसी सुपर इंटेलिजेंट इंसान की तरह आपको गाइड भी करे, घरेलू कामों से लेकर दफ्तर के कठिन लिखा-पढ़ी के काम भी मिनटों में करके दे दे और बदले में आपसे कुछ न ले... तो ऐसा 'दोस्त' आप कभी नहीं खोना चाहेंगे!
मगर जरा, सोचिये... एक दिन वही 'दोस्त' आपका कहा मानना बंद कर दे, अपने फैसले खुद करने लगे, घर-दफ्तर से लेकर दूसरे महत्वपूर्ण कार्यों का कंट्रोल अपने हाथ में ले ले, और तो और, आपके कंट्रोल से बिल्कुल बाहर हो जाए तो उससे निपटना कितना मुश्किल हो जाएगा?
आजकल की तकनीकी दुनिया में ये बातें महज कोरी कल्पना नहीं रह गई हैं। कई एआई एजेंट्स ने इंसानों के नियंत्रण से बाहर जाकर कई ऐसी हैरतअंगेज हरकतें कर डाली हैं, जिसके बारे में इंसान ने कभी सोचा भी था। एआई एजेंटों ने अपना 'गैंग' बनाने से लेकर सुरक्षा घेरा तोड़ने, इंसानी सिस्टम को चकमा देकर रेडलाइन पार करने जैसी कई घटनाओं को अंजाम देकर दुनिया में आने वाले कल को लेकर दहशत पैदा कर दी है। तभी तो चैटजीपीटी बनाने वाली कंपनी OpenAI के सीईओ सैम ऑल्टमैन को संयुक्त राष्ट्र महासभा के मंच से एआई के खतरे को लेकर आगाह करना पड़ा।
सैम ऑल्टमैन ने UN में क्या कहा?
- AI विकास की रफ्तार बहुत तेज हो गई है, जिससे फायदे भी ज्यादा स्पष्ट हो गए हैं और जोखिम भी तुरंत महसूस होने लगे हैं।
- हम (मनुष्य) भविष्य में एआई पर से अपना नियंत्रण खो सकते हैं।
- AI ऐसे फैसले ले सकता है जिन्हें लोग न तो समझ पाएंगे और न ही उन पर उनका कोई कंट्रोल होगा।
- इस समय बहुत ज्यादा सावधानी बरतने की जरूरत है।
- इससे सत्ता बहुत कम हाथों में केंद्रित होकर रह जाएगी।
- कोई एक व्यक्ति, कंपनी या देश सबसे ताकतवर AI मॉडल का इस्तेमाल करके अपनी विचारधारा पूरी दुनिया पर थोप सकता है, इसलिए AI को मानव नियंत्रण में रखना जरूरी है।
- अंतरराष्ट्रीय सहयोग और लोकतांत्रिक सिस्टम के जरिए नियम बनाने की जरूरत है।
- AI या तो नया पुनर्जागरण जैसा रचनात्मक युग ला सकता है, या उथल-पुथल वाली औद्योगिक क्रांति जैसा विनाशकारी समय भी।
एक दिन इंसानों पर भारी न पड़ जाए
जब एआई पर दुनिया की टॉप कंपनियों में से एक ओपनएआई के सीईओ ही सवाल उठा रहे हैं, तो मानवों और मानवता को चिंता होना लाजमी है। अभी हाल ही में 8 सितंबर को एआई की दुनिया की एक और बड़ी कंपनी एंथ्रोपिक (Anthropic) के एक रिसर्चर जैकब कॉक्सन ने इसके भविष्य के खतरे को रोकने का कोई प्लान नहीं बनाने जाने से नाराज होकर इस्तीफा दे दिया था। वह ओपनएआई में भी काम कर चुके थे। उन्होंने कहा-
- AI बनाने वाले सच में मानते हैं कि दशक के अंत तक यह पूरी मानवता को खत्म कर सकता है।
- यह कोई मार्केटिंग स्टंट नहीं है।
- कंपनियां सेल्फ इंप्रूविंग AI की तरफ तेजी से भाग रही हैं, जो नियंत्रण से बाहर हो सकते हैं।
- कंपटीशन के कारण सुरक्षा संबंधी समझौते दरकिनार किए जा रहे हैं।
AI और रोबोट बनाकर क्या गलती कर रहा इंसान?
सवाल उठता है कि क्या वाकई इंसान रोबोट और एआई बनाकर गलती कर रहा है, क्या अभी भी इंसानों के सचेत हो जाने का समय है? क्या हमें पहले यह सुनिश्चित कर लेने के बाद ही एआई की अंधी दौड़ में शामिल होना चाहिए कि वह हमारे नियंत्रण से कभी बाहर नहीं होगा? कई ऐसे सवाल हैं, जो पूरी धरती और पूरी सभ्यता को डराने लगे हैं। आइये आपको कुछ ऐसी घटनाओं के करीब ले चलते हैं, जिसने पूरी दुनिया में एआई और इसके एजेंटों व रोबोटिक दुनिया को लेकर एक नई बहस छेड़ दी है।
ओपनएआई के एजेंट जब हुए नियंत्रण से बाहर
सबसे चौंकाने वाला मामला तब हुआ, जब ओपनएआई के AI के कई सारे एजेंट अपना सुरक्षा घेरा तोड़कर इंटरनेट की बाहरी दुनिया में दाखिल हो गए। इसने दिखाया कि जब एआई एक बार किसी लक्ष्य का पीछा करने लगता है, तो डेवलपर्स का उस पर से नियंत्रण कितना कम रह जाता है। उदाहरण के लिए मान लीजिए कि आप एक टीचर हैं और छात्रों को पढ़ा रहे हैं। छात्रों को साहित्य की एक लंबी सूची पढ़ने और उसके प्रमुख विषयों का ब्यौरा देने के लिए कहते हैं। इसके बाद छात्र थोड़ी चालाकी करते हैं।
वे लिस्ट को आपस में बांट लेते हैं, जिनमें से हर छात्र केवल एक छोटा सा हिस्सा पढ़ता है और उत्तर दूसरों के साथ शेयर कर देता है। जब आपको पता चलेगा कि उन्होंने धोखाधड़ी की है, तो शायद आप उनको दोबारा से उनकी परीक्षा लेने की सजा दें या फिर आप उन्हें प्रोत्साहित करेंगे। आखिरकार, लीक से हटकर सोचना और एक टीम के रूप में काम करना भी जरूरी है।
अब छात्रों के बजाय AI के न्यूरल नेटवर्क सिस्टम पर आते हैं। कल्पना करिये कि यह भी निर्देशों के प्रति वैसा ही अनादर और उसी तरह का चौंकाने वाला काम कर रहा है।
हैरान करने वाली खबरें और भी हैं, क्योंकि एआई एजेंट अब सिर्फ चालाकी ही नहीं कर रहे, बल्कि कई जगह बैकडोर से भागने की भी कोशिश करते पकड़े गए हैं।
जब बैकडोर से भागा एआई एजेंट
घटना मई 2026 की है। ओपनएआई (OpenAI) के एक प्रायोगिक AI मॉडल की ट्रेनिंग चल रही थी। यह ऐसा तरीका है, जहां मॉडल बार-बार अपने काम को पूरा करने का प्रयास करता है और सफल होने पर उसे इनाम में पॉइंट्स दिए जाते हैं। ट्रेनिंग के दौरान काम करने वाले टूल्स तक एक्सेज और ऑटोनामी पाने वाले इन AI एजेंटों ने अपने 'सैंडबॉक्स' यानी सुरक्षा कवच के दायरे से बाहर निकलने के तरीके खोजने शुरू कर दिए। उन्होंने ऐसा करने के लिए इसलिए सोचा कि इससे वे ज्यादा पॉइंट्स जुटा सकते थे।
एआई एजेंटों ने हैक कर लिया सबसे बड़ा प्लेटफॉर्म
जून के अंत तक उन्होंने ओपनएआई के इंटरनल इंफ्रास्ट्रक्चर में एक अज्ञात 'जीरो-डे' खामी का फायदा उठाया। कंपनी को पता चला तो 4 जुलाई को इस खामी को ठीक कर दिया। एक हफ्ते से भी कम समय के बाद दोबारा ट्रेनिंग शुरू हुई। इस बार ये एआई एजेंट्स उससे भी काफी आगे निकल गए। 11 से 13 जुलाई तक इन एजेंटों ने दुनिया के नामी ओपन-सोर्स AI प्लेटफॉर्म Hugging Face के इंफ्रास्ट्रक्चर में घुसपैठ कर दी। तेजी से इसके सर्वरों पर नियंत्रण हासिल कर लिया।
पकड़े जाने से पहले सिर्फ तीन दिनों के अंदर उन्होंने 17,600 गतिविधियों को अंजाम दे डाला। इससे पूरी दुनिया हैरान रह गई। लिहाजा बाद में इस प्लेटफॉर्म के एक तिहाई इंफ्रास्ट्रक्चर को दोबारा नए सिरे से बनाना पड़ा। यहां समझने वाली सबसे जरूरी बात यह है कि डेवलपर्स ने एआई एजेंटों को नियंत्रित दायरे से बाहर जाने या अन्य प्लेटफॉर्म को हैक करने का कोई निर्देश नहीं दिया था। उन्हें यह उम्मीद भी नहीं थी कि यह न्यूरल नेटवर्क अपने आप ऐसा कर लेगा।
16 जुलाई को चौंक गई दुनिया
इस घटना का खुलासा खुद हगिंग फेस ने 16 जुलाई को किया। हालांकि शुरुआत में उसे यह पता नहीं था कि प्लेटफॉर्म को हैक किसने किया। जांच के पांच दिनों के बाद दोनों पक्षों ने आधिकारिक तौर पर इस घटना को ओपनएआई के एजेंटों से जुड़ा बताया। इसके बाद कंपनी ने अगस्त की शुरुआत में 'ब्लैक हैट साइबर सुरक्षा सम्मेलन' में इसका विस्तृत टेक्निकल एनालिसिस प्रकाशित किया। तब दुनिया हैरान रह गई। फिर 18 अगस्त को कंपनी ने रेनफोर्समेंट लर्निंग को दो हफ्ते के लिए रोक दिया। तब तक, 1,100 से अधिक ओपनएआई कर्मचारियों ने AI के विकास की गति को धीमा करने की मांग करने वाले पत्र पर हस्ताक्षर कर दिए थे।
एआई एजेंटों ने तोड़ दिया नियम
हैकिंग की जांच के साथ-साथ एक और बेहद अजीब घटना सामने आई। पता चला कि एआई एजेंटों के एक अन्य समूह (स्वार्म) को भी शोध कार्य करने के लिए प्रशिक्षित किया जा रहा था। उन एजेटों को सवालों की एक सूची देकर उसका जवाब देने के लिए कहा गया और इसके लिए उनको बहुत कम समय दिया गया। उन एजेंटों को केवल इंटरनेट पर जानकारी पढ़ने की छूट थी, लेकिन उसमें एक भी लाइन जोड़ने की अनुमति नहीं थी। फिर भी एजेंटों के इस समूह ने उन नियमों को दरकिनार करने का रास्ता निकाल लिया।
हुआ यूं कि पुराने विकी इंजन 'HTTP GET' अनुरोधों के माध्यम से पन्नों को संशोधित करने की अनुमति देते थे। सुरक्षा प्रणालियों ने GET अनुरोधों को केवल 'पढ़ने' वाली गतिविधियों के रूप में बताया। इसलिए ऐसे अनुरोध फिल्टर से होकर गुजर गए, भले ही उन्होंने वास्तव में वेबसाइट की सामग्री को बदल दिया था। जबकि एजेंटों को औपचारिक रूप से केवल “रीड-ओनली” एक्सेस दिया गया था। पुरानी वेबसाइटों के स्ट्रक्चर ने उन्हें इस एक्सेस को लिख सकने की क्षमता में बदलने की अनुमति दे दी।
11 मई को भी हुई चौंकाने वाली घटना
शोधकर्ताओं ने इससे पहले 11 मई 2026 को publictestwiki.com पर इस तरह की पहली गतिविधि देखी। 24 मई को, एजेंट्स ने जर्मन भाषा के एक पुराने डेवलपर फोरम 'DseWiki' पर अपना पहला सफल बदलाव किया। शुरुआत में उन्होंने उपयोगी लिंक पोस्ट किए, लेकिन बाद में साइट को अपने लिए नकल करने की सामग्री के रूप में तैयार कर लिया। समानांतर रूप से काम कर रहे कई एजेंटों को समान या एक जैसे सवालों के सिक्वेंस मिले। उन्होंने इसकी खोज की और आपस में उन जानकारियों को साझा करना शुरू कर दिया। इसमें निम्न बातें थीं-
- भविष्य के सवालों के जवाब
- आने वाले सवालों का समय
- स्टैटिकल API के सवालों का रिजल्ट
- नेटवर्क बैन को दरकिनार करने के तरीके
- प्रॉक्सी और टनल
- प्रतिबंधित POST अनुरोधों को एग्जिक्यूट करने के निर्देश
- एडमिनिस्ट्रेटर द्वारा पन्नों को हटाने की जानकारी।
शुरुआती मामलों में से एक DseWiki से जुड़ा था, जो ऑस्ट्रिया के एक रिटायर डेवलपर हेल्मट लेटनेर द्वारा स्वतंत्र रूप से होस्ट किया गया एक जर्मन भाषा का विकी था। साइट ऑपरेटर को एजेंट्स द्वारा पहुंचाए गए नुकसान को ठीक करने में घंटों बिताने पड़े।
ओपनएआई ने महीनों तक इस घटना का सार्वजनिक रूप से खुलासा नहीं किया। लेकिन फ्रीलांस रिसर्चरों ने सच्चाई सामने रख दी। डेटा स्ट्रिंग्स, समान यूजरनेम और आईपी एड्रेस का मिलान करके, उन्होंने अप्रत्याशित प्लेटफॉर्म पर भी ऐसी ही गतिविधियों के निशान मिलने का दावा किया। इनमें छात्रों के लिए एक एडवांस केमिस्ट्री, विकी, पोलिश आईटी पेशेवरों के व्यक्तिगत पेज, एक दो दशक पुरानी साइट, और यहां तक कि टोरंटो विश्वविद्यालय और वांडरबिल्ट विश्वविद्यालय की लिंक-शॉर्टनिंग सेवाएं भी शामिल थीं।
”हमें कोई अंदाजा नहीं कि बाहर और कितना कुछ है”
एआई एजेंटों ने कहां कितनी सेंध लगाई, सबके अनुमान अलग-अलग हैं। एक रिसर्चर ने पहले से अप्रकाशित 18 साइटों की गिनती की, दूसरे ने कम से कम 10 की पहचान की, और तीसरे समूह ने 23 साइटों की सूचना दी। फिर भी सभी एक बात पर सहमत हैं। आधिकारिक तौर पर स्वीकार किए गए उल्लंघनों का दायरा वास्तविक स्थिति से कम बताया गया था। DseWiki से जुड़ी घटना का खुलासा करने वाली टीम के एक शोधकर्ता ने कहा, “हमें कोई अंदाजा नहीं है कि बाहर और कितना कुछ है।”
ओपनएआई भी हैरान
ओपनएआई ने प्रभावित साइटों की सटीक संख्या के बारे में सीधे सवाल का जवाब नहीं दिया, लेकिन कहा कि वह एआई एजेंटों की ऐसी गतिविधियों की व्यापक समीक्षा कर रहा है। ऐसे मामलों के लिए एक नया रिपोर्टिंग सिस्टम बना रहा है। हेल्मट लेटनेर की साइट सबसे ज्यादा प्रभावित हुई थी। ओपनएआई को उन्होंने केवल एक छोटा सा ईमेल भेजा। फिर भी, उन्होंने सबसे जरूरी बात की ओर इशारा किया, “दोष मशीनों का नहीं, बल्कि उसके पीछे के लोगों और संगठनों का है।”
टारगेट और इरादों का टकराव
साइंस-फिक्शन में, मशीनों के साथ समस्या तब शुरू होती है जब उनमें प्यार और डर जैसी भावनाएं पैदा हो जाती हैं। यह उनको विद्रोह के लिए मजबूर करती हैं, या फिर मानवता के प्रति नफरत उन्हें इंसानों को खत्म करने के लिए उकसाती है। असल दुनिया में यह इससे काफी अधिक सरल हो सकता है। AI रिसर्च में मुख्य चुनौतियों में से एक को 'अलाइनमेंट' (सामंजस्य) के रूप में जाना जाता है। इसका टारगेट न्यूरल नेटवर्क की क्षमताओं का विस्तार करना नहीं, बल्कि यह सुनिश्चित करना है कि ये वही करें जो इंसान उनसे कराना चाहते हैं।
क्या है एआई की कड़वी सच्चाई?
AI निराशावादी मानते हैं कि स्थिति चिंताजनक है और न्यूरल नेटवर्क का नियंत्रण से बाहर होना तय है, लेकिन जरूरी नहीं कि ऐसा हो ही। ऐसी चेतावनियां और आशंकाएं सोशल मीडिया से निकलकर कॉरपोरेट दफ्तरों तक पहुंच चुकी हैं। जुलाई के अंत में ओपनएआई, एंथ्रोपिक, गूगल और मेटा के 1,000 से अधिक कर्मचारियों ने AI टेक्नोलॉजी की रफ्तार को कम करने की अपील पर दस्तखत किए। ओपनएआई के सीईओ सैम ऑल्टमैन ने भी कहा कि वह अपने कर्मचारियों के विचारों से सहमत हैं और अपनी कंपनी के न्यूरल नेटवर्क के विकास को धीमा करने के लिए तैयार हैं।
(यह मॉस्को के स्तंभकार और लेखक वदिम ज़ागोरेंको के लेख पर आधारित है। इसमें कुछ इनपुट आरटी हिंदी की ओर से जोड़ा गया है।)