आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में एक बड़ी बहस छिड़ी हुई है। सवाल सिर्फ यह नहीं है कि AI इंसानों की जिंदगी कितनी आसान बनाएगा, बल्कि यह भी है कि अगर AI इंसानों से ज्यादा सक्षम और ऑटोनॉमस (अपने आप काम करने वाला) हो गया तो उसे कंट्रोल कौन करेगा? चीन विकास के साथ AI को सेफ, रिलायबल और कंट्रोल रखने की बात करता है और भारत ह्यूमन-सेंट्रिक AI की वकालत कर रहा है।

अमेरिका की OpenAI और एंथ्रोपिक जैसी कंपनियां AI की अगली पीढ़ी बनाने की रेस में हैं। OpenAI का ChatGPT और एंथ्रोपिक का Claude अब सिर्फ सवालों के जवाब देने तक सीमित नहीं हैं, बल्कि कोडिंग, रिसर्च और कंप्यूटर पर खुद काम करने जैसे टास्क कर सकते हैं। इतना ही नहीं, इनके द्वारा ऐसे-ऐसे काम करने के दावे किए जा रहे हैं, जो अब तक आम इंसानों की क्षमता के बाहर हैं। 

जिस रफ्तार से एआई तेज और धारदार बन रहे हैं, उसे लेकर सवाल उठने लगे हैं। ये सवाल कोई एक्सपर्ट नहीं बल्कि इन्हीं कंपनियों के सर्वेसर्वाओं की तरफ से उठाए जा रहे हैं। ओपनएआई के सीईओ सैम ऑल्टमैन और एंथ्रॉपिक के डारियो अमोदेई अब AI की रफ्तार और सेफ्टी को लेकर चिंता जता रहे हैं। लेकिन सवाल यही है कि टेक्नोलॉजी की जिस स्पीड को लेकर वे चिंता जता रहे हैं, उसी टेक्नोलॉजी को आगे बढ़ाने की रेस में उनकी अपनी कंपनियां कितनी तेजी से दौड़ रही हैं?

पहले समझते हैं एंथ्रोपिक के CEO ने क्या कहा?

एंथ्रॉपिक के सीईओ डारियो अमोदेई ने "We Must Pace the Frontier" नाम से एक नोट लिखा है। उन्होंने कहा, AI क्षमताओं की रफ्तार हाल के महीनों में इतनी तेज हुई है कि सिर्फ पुराने सेफ्टी सिस्टम्स पर भरोसा करना पर्याप्त नहीं होगा। AI के गलत इस्तेमाल का खतरा बढ़ रहा है। इसमें साइबर अटैक, बायोलॉजिकल थ्रेट्स और दूसरे खतरनाक कार्यों में AI के इस्तेमाल का जोखिम शामिल है। सबसे बड़ा सवाल सिर्फ AI की गलती नहीं, कंट्रोल का है। अगर AI सिस्टम ज्यादा ऑटोनॉमस होते गए (मतलब उन्हें खुद फैसला लेने की आजादी मिली) तो यह सुनिश्चित करना जरूरी है कि इंसानों के पास उनका पर्याप्त कंट्रोल बना रहे।

OpenAI के CEO सैम ऑल्टमैन ने क्या कहा?

सैम ऑल्टमैन ने AI के डेवलपमेंट में पेसिंग की बात की। मतलब किसी काम की रफ्तार को तय या कंट्रोल करना। उनका कहना था कि पेसिंग का मतलब AI डेवलपमेंट रोकना नहीं है।

सैम ऑल्टमैन ने AI से पैदा होने वाले दो बड़े खतरे बताए। पहला, इंसान AI पर कंट्रोल खो दें। दूसरा, AI की बहुत ज्यादा पावर किसी एक व्यक्ति, कंपनी या देश के हाथ में चली जाए और वह अपनी सोच बाकी दुनिया पर थोप सके।

अब लौटते हैं कहानी के मूल सवाल पर। क्या दोनों कंपनियों के बयानों और उनके कामों में फर्क दिखता है? दोनों की कथनी-करनी को गहराई से समझने के लिए दोनों कंपनियों के कुछ प्रोडक्ट्स को देखना जरूरी है।

OpenAI AI मॉडल्स की क्षमताओं को उनके संभावित नुकसान के आधार पर अलग-अलग लेवल में देखता है। इनमें हाई और क्रिटिकल दो अहम क्षमता लेवल हैं। हाई का मतलब है कि AI किसी मौजूदा गंभीर नुकसान को अंजाम देना ज्यादा आसान या प्रभावी बना सकता है, जबकि क्रिटिकल का मतलब है कि मॉडल ऐसी क्षमता हासिल कर रहा है, जो गंभीर नुकसान के नए रास्ते खोल सकती है।

OpenAI मॉडल को एक-एक करके खतरे का नंबर नहीं देता। वह तीन क्षेत्रों में क्षमता नापता है: बायोलॉजिकल और केमिकल, साइबर सिक्योरिटी और एआई सेल्फ-इम्प्रूवमेंट। हर क्षेत्र में दो लेवल हैं, हाई और क्रिटिकल। अब OpenAI के कुछ मॉडल देखते हैं, जिनमें से कुछ 2026 में लॉन्च हुए हैं।

• जीपीटी-6 एस्ट्रा: OpenAI का सबसे नया, ताकतवर और साइबर सिक्योरिटी में उनका पहला क्रिटिकल मॉडल है, जो रिसर्च, कोडिंग, कंप्यूटर इस्तेमाल और साइबर सिक्योरिटी जैसे काम कर सकता है। साइबर सिक्योरिटी में इसे क्रिटिकल और बायोलॉजिकल-केमिकल क्षेत्र में हाई थ्रेशहोल्ड मिला है। कंपनी के मुताबिक, जीपीटी-6 एस्ट्रा साइबर हमले और बचाव, दोनों तरह के कामों में पिछले मॉडल से काफी आगे निकल गया है। OpenAI के प्रिपेयर्डनेस फ्रेमवर्क में साइबर सिक्योरिटी का सबसे ऊंचा पायदान क्रिटिकल है। कंपनी का कहना है कि एस्ट्रा इस स्तर तक पहुंच गया है। इसकी खासियत यह है कि यह सॉफ्टवेयर की ऐसी कमजोरियां भी खोज सकता है, जिनका इंसानों को पहले से पता नहीं था। यही खासियत साइबर हमले का खतरा भी बढ़ाती है।

• जीपीटी-5.6 सोल: यह OpenAI का ताकतवर रीजनिंग मॉडल है, जो कॉम्प्लेक्स रिसर्च, कोडिंग और तकनीकी काम कर सकता है। इसे साइबर सिक्योरिटी और बायोलॉजिकल-केमिकल दोनों फील्ड में हाई थ्रेशहोल्ड मिला है। यानी यह गंभीर साइबर या वैज्ञानिक कामों को पहले के मुकाबले ज्यादा आसान और प्रभावी बना सकता है। हालांकि इसकी क्षमता क्रिटिकल स्तर तक नहीं पहुंची है।

• जीपीटी-5.3-कोडेक्स: यह खास तौर पर एजेंटिक कोडिंग और लंबे सॉफ्टवेयर टास्क के लिए बना मॉडल है। कोड लिख सकता है, चला सकता है और काम के बीच रास्ता भी बदल सकता है। OpenAI के प्रिपेयर्डनेस फ्रेमवर्क में इसे साइबर सिक्योरिटी और बायोलॉजिकल-केमिकल दोनों में हाई माना गया। साइबर में यह पहला मॉडल था जिसे हाई कहा गया। कंपनी ने लिखा कि पक्का सबूत नहीं था कि साइबर थ्रेशोल्ड छू गया, फिर भी एहतियातन हाई रखा गया। बायो-केम (बायोलॉजिकल या केमिकल) में भी GPT-5 परिवार वाले सेफगार्ड लागू किए गए। एआई सेल्फ-इम्प्रूवमेंट में यह हाई तक नहीं पहुंचा।

• जीपीटी-5.4 थिंकिंग: यह मुश्किल सवालों और जटिल समस्याओं को गहराई से समझने वाला रीजनिंग मॉडल है। इसे साइबर सिक्योरिटी और बायोलॉजिकल केमिकल दोनों में हाई थ्रेशहोल्ड मिला है। इसका मतलब है कि यह साइबर हमलों या गंभीर वैज्ञानिक कामों से जुड़े कई मुश्किल टास्क में इंसानों की क्षमता को बढ़ा सकता है। लेकिन OpenAI के आकलन में यह क्रिटिकल साइबर स्तर तक नहीं पहुंचा।

• जीपीटी-5 थिंकिंग: GPT-5 का रीजनिंग मॉडल है। कॉम्प्लेक्स टास्क, कोडिंग और टेक्निकल कामों के लिए बनाया गया। OpenAI  ने इसे बायोकेम (बायोलॉजिकल या केमिकल) में एहतियातन हाई माना। सिस्टम कार्ड कहता है पक्का सबूत नहीं था कि यह नॉर्मल टेक्निकल नॉलेज वाले व्यक्ति को गंभीर जैविक नुकसान पहुंचाने में मदद कर सकता है। फिर भी सेफगार्ड पहले से एक्टिव कर दिए गए। यह एपीआई पर बायोकेम हाई वाला उनका शुरुआती मॉडल भी था। साइबर में तब हाई नहीं माना गया। गलत इस्तेमाल का रिस्क बढ़ सकता है, इसका मतलब यह नहीं कि मॉडल खुद बायो-वेपन बना लेगा।

OpenAI जहां हाई और क्रिटिकल जैसे कैपेबिलिटी थ्रेशोल्ड से क्षमता को मापता है, वहीं एंथ्रोपिक AI सेफ्टी लेवल यानी ASL के जरिए तय करता है कि मॉडल की क्षमता कहां तक जा सकती है और उसके लिए कितनी कड़ी सुरक्षा जरूरी है। एंथ्रोपिक ASL के साथ CB टियर और फ्रंटियर कंप्लायंस फ्रेमवर्क से भी AI की क्षमताओं को मापती है। एंथ्रोपिक के कुछ प्रोडक्ट्स देखिए-

• क्लॉड मायथॉस 5.1: यह एंथ्रोपिक का साइबर सिक्योरिटी और बायोलॉजी रिसर्च के लिए सबसे सक्षम मॉडल माना जाता है। एक्सेस सीमित है। जांचे-परखे संगठनों के ट्रस्टेड एक्सेस प्रोग्राम तक। कंपनी कहती है कि इसका गलत इस्तेमाल साइबर अटैक या खतरनाक बायोलॉजिकल रिसर्च में हो सकता है। बायो में कैटेगरी सीबी-1 (सीबी-1 एंथ्रोपिक का बायोलॉजिकल-केमिकल खतरे का पहला पायदान है) है। यानी बेसिक टेक्निकल बैकग्राउंड वाले व्यक्ति को ज्ञात केमिकल या बायोलॉजिकल हथियार बनाने में मदद मिल सकती है। अगला बायो टियर पार नहीं हुआ। साइबर में यह उनका अब तक का सबसे मजबूत मॉडल बताया गया, फिर भी फ्रंटियर कंप्लायंस फ्रेमवर्क के निचले ग्रुप में रहा। अगला साइबर रिस्क टियर पार नहीं बताया गया।

• क्लॉड फेबल 5.1: फेबल 5.1 और मायथॉस 5.1 एक ही अंडरलाइंग मॉडल हैं। फर्क सेफगार्ड का है। फेबल पर साइबर सिक्योरिटी और बायोलॉजी की एक्स्ट्रा लेयर हैं। इसलिए यह आम यूजर्स के लिए उपलब्ध है। यह कोडिंग, रिसर्च और लंबे कॉम्प्लेक्स टास्क कर सकता है। एंथ्रोपिक के आकलन में मॉडल CB-1 स्तर तक है। यानी बेसिक टेक्निकल बैकग्राउंड वाले व्यक्ति को ज्ञात केमिकल या बायोलॉजिकल हथियार बनाने, पाने या तैनात करने में मतलब रखने लायक मदद मिल सकती है। अगला रिस्क टियर पार नहीं हुआ।

• क्लॉड ओपस 5: यह एंथ्रोपिक का ताकतवर जनरल-पर्पस मॉडल है। कॉम्प्लेक्स रीजनिंग, कोडिंग, रिसर्च और लंबे टास्क कर सकता है। फेबल 5.1 और मायथॉस 5.1 से क्षमता कम है। कंपनी फेबल पर ड्यूअल-यूज बायोलॉजी और केमिस्ट्री के सवाल अक्सर ओपस पर भेज देती है, क्योंकि ओपस की बायो क्षमता फेबल जितनी नहीं मानी गई। सिस्टम कार्ड में इसकी क्षमता और सेफ्टी इवैल्यूएशन दर्ज हैं।

तो क्या सच में AI से खतरा है?

इस सवाल का जवाब अभी सीधे हां या नहीं में देना मुश्किल है। लेकिन इतना जरूर है कि AI से जुड़े कुछ खतरे अब सिर्फ फिल्मों और साइंस-फिक्शन की बातें नहीं रह गए हैं।

अमेरिका की ही AI रिसर्च ऑर्गनाइजेशन है METR, जो एडवांस्ड AI मॉडल्स की क्षमता और उनसे जुड़े सेफ्टी रिस्क पर रिसर्च करती है। METR की 2026 की फ्रंटियर रिस्क रिपोर्ट में एंथ्रोपिक, OpenAI, गूगल और मेटा के एडवांस्ड AI मॉडल्स पर रिसर्च की गई। रिसर्चर्स ने पाया कि उस समय के कुछ AI एजेंट्स में अपने दम पर गलत डायरेक्शन में काम शुरू करने की क्षमताएं दिखने लगी थी। हालांकि, वे अभी इतने मजबूत नहीं थे कि लंबे समय तक बिना इंसानी कंट्रोल के कोई बड़ा नुकसान कर सकें।

METR ने AI एजेंट्स से जुड़े मामलों की एक लिस्ट भी बनाई। जिसमें 44 ऐसे मामले दर्ज हैं, जहां AI एजेंट ने यूजर की तय सीमा से बाहर जाकर कोई काम किया।

इसलिए असली सवाल यह नहीं है कि AI पूरी दुनिया खत्म कर देगा या नहीं? ज्यादा जरूरी सवाल यह है कि AI को कितनी आजादी दी जाए, उसे किन कंप्यूटर सिस्टम्स और डेटा तक पहुंच मिले, उसके काम पर कौन नजर रखे और अगर वह गलत काम करने लगे तो उसे कितनी जल्दी रोका जा सके। अभी OpenAI और एंथ्रोपिक दोनों कंपनियां इसी समस्या का हल खोजने का दावा कर रही हैं। लेकिन इसके साथ ही दोनों AI की रेस से पीछे हटना भी नहीं चाहतीं।