‘Must slow the pace down’ 

AI को और ताकतवर बनाने की रेस में अचानक ब्रेक लगाने की बात कौन कर रहा है? अक्सर ये आवाजें कंपनियों से इस्तीफा देने वाले रिसर्चर्स, पूर्व कर्मचारियों या AI सेफ्टी विशेषज्ञों की रही हैं। लेकिन अबकी बार तस्वीर कुछ अलग है। इसबार इस चर्चा में वे लोग हैं जो खुद इस रेस के सबसे बड़े खिलाड़ी हैं और AI की दुनिया के शीर्ष पदों पर बैठे CEO हैं। 

AI कंपनियों के दिग्गज एक सुर में एक साथ, एक पेज पर दिख रहे हैं।  

शुरूआत अमेरिकी AI कंपनी एंथ्रोपिक(Anthropic) के CEO डारियो अमोदेई के एक पोस्ट से हुई। अन्थ्रोपिक वही कंपनी है जो Claude जैसे आर्टिफिशियल इंटेलिजेंस मॉडल विकसित करती है। CEO डारियो ने अपनी पोस्ट में लिखा-

मैंने एक नया लेख लिखा है, जिसमें बताया है कि AI इंडस्ट्री को अपनी रफ्तार क्यों धीमी करनी चाहिए और इसके लिए तीन हिस्सों वाली योजना क्या हो सकती है? 

इसमें चिंता थी और साथ में सुझाव भी थे। 

डारियो को इस पोस्ट के कुछ ही घंटों में उन्हें कई और दिग्गजों का भी समर्थन मिला। OpenAI के CEO सैम ऑल्टमैन और xAI के प्रमुख एलन मस्क ने भी समर्थन दिया है। भारत में Paytm के CEO विजय शेखर शर्मा ने भी AI के तेजी से खुद को बेहतर बनाने की क्षमता को लेकर चिंता जताई। 

शुरुआत अमोदेई से

एंथ्रोपिक के CEO डारियो अमोदेई ने 12 सितंबर को ‘We Must Pace the Frontier’ नाम से एक लेख प्रकाशित किया। उनका तर्क है कि AI की क्षमताएं जिस तेजी से बढ़ रही हैं, सुरक्षा व्यवस्था और ह्यूमन कंट्रोल उस रफ्तार से पीछे छूट सकते हैं।

अमोदेई ने साफ कहा कि AI की प्रोग्रेस रोकने की बात नहीं हो रही, बल्कि उसकी रफ्तार को इतना नियंत्रित करने की जरूरत है कि सोसाइटी और सिक्योरिटी सिस्टम उसके साथ कदम मिला सके।

उनकी सबसे अहम चिंताओं में से एक है recursive self-improvement यानी ऐसा दौर जब AI खुद ज्यादा सक्षम AI सिस्टम बनाने में मदद करने लगे। अमोदेई के मुताबिक, अगर यह प्रक्रिया बहुत तेजी से आगे बढ़ी तो इंसानों के लिए इन सिस्टम्स को समझना और नियंत्रित करना मुश्किल हो सकता है।

एंथ्रोपिक खुद क्या करेगा?

अमोदेई ने इसके लिए तीन हिस्सों वाली योजना रखी है। एंथ्रोपिक खुद पहला कदम उठाने की बात कर रहा है।

कंपनी स्वतंत्र यानी थर्ड-पार्टी AI सिक्योरिटी एक्सपर्ट्स को अपने सिस्टम तक परमानेंट, कर्मचारी-स्तर की पहुंच देने का प्रस्ताव ला रही है। ये बाहरी एक्सपर्ट कंपनी के सेफ्टी मेजर्स की जांच कर सकेंगे, संभावित AI घटनाओं की रिपोर्ट कर सकेंगे और ट्रेनिंग के दौरान मॉडल्स के व्यवहार व सुरक्षा मानकों के अनुरूप होने का एनालिसिस कर सकेंगे।

इसके बाद अमोदेई AI कंपनियों के बीच सेफ्टी स्टैंडर्ड्स पर समन्वय और अंतरराष्ट्रीय स्तर पर AI के खतरों से निपटने की व्यवस्था की वकालत करते हैं।

ऑल्टमैन बोले- ‘मैं सहमत हूं’

एंथ्रोपिक की अपील के तुरंत बाद OpenAI के CEO सैम ऑल्टमैन ने भी अमोदेई के रुख का समर्थन किया।

ऑल्टमैन ने खास तौर पर स्वतंत्र सुरक्षा विशेषज्ञों को AI कंपनियों के सिस्टम तक कर्मचारी जैसी पहुंच देने के सुझाव को अच्छा बताया और कहा कि OpenAI भी इसी तरह की व्यवस्था लागू करेगा।

यानी AI की सबसे बड़ी कंपनियों में से दो के CEO इस बात पर सहमत दिख रहे हैं कि सिर्फ AI को ज्यादा ताकतवर बनाना काफी नहीं है-उसकी सुरक्षा जांच और निगरानी भी उसी रफ्तार से बढ़नी चाहिए।

मस्क का सिर्फ चार शब्दों में समर्थन

एलन मस्क, जो खुद AI कंपनी xAI चला रहे हैं, ने अमोदेई की अपील पर प्रतिक्रिया दी- “Dario is right.” यानी मस्क भी इस बात से सहमत हैं कि AI के सबसे एडवांस मॉडल्स की क्षमताओं को बढ़ाने की रफ्तार पर कुछ हद तक नियंत्रण जरूरी है।

भारत से भी उठी आवाज

इस बहस में भारत से Paytm के CEO विजय शेखर शर्मा की प्रतिक्रिया भी सामने आई है। उन्होंने खास तौर पर AI के recursive self-improvement से पैदा होने वाले संभावित खतरों पर चिंता जताई और अमोडेई की अपील का समर्थन किया।

यह चिंता इसलिए महत्वपूर्ण है क्योंकि सवाल अब सिर्फ यह नहीं रह गया है कि AI इंसानों के काम कितनी तेजी से कर सकता है। बड़ा सवाल यह है कि अगर AI खुद अगली पीढ़ी के AI को ज्यादा सक्षम बनाने में मदद करने लगे, तो इस पूरी प्रक्रिया की सीमा और नियंत्रण किसके हाथ में रहेगा?