Washington, USA: आर्टिफिशियल इंटेलिजेंस (AI) के अनियंत्रित विकास और उसके गंभीर खतरों को लेकर प्रमुख रिसर्च फर्म एंथ्रोपिक के अलाइनमेंट रिसर्चर इवान हुबिंगर की ताजा चेतावनी ने दुनिया भर के वैज्ञानिकों को सोचने पर मजबूर कर दिया है। सामने आई रिसर्च के अनुसार, यदि AI तकनीक को सख्त सुरक्षा मानकों के बिना केवल व्यावसायिक होड़ में आगे बढ़ाया गया, तो इससे मानव सभ्यता का अंत होने का सीधा खतरा पैदा हो सकता है। शोधकर्ताओं का मानना है कि अगले एक दशक के भीतर इस बात की 10 प्रतिशत से अधिक आशंका है कि आर्टिफिशियल इंटेलिजेंस इंसानी वजूद को समाप्त कर दे या अप्रत्याशित तबाही ला दे।
Read more: क्या AI नौकरी छीन लेगा या देगा नए अवसर? जानिए भविष्य की असली तस्वीर
‘पी(डूम)’ और AI अलाइनमेंट की अनसुलझी पहेली
तकनीकी और वैज्ञानिक हलकों में किसी तकनीक से होने वाले सर्वनाश के जोखिम को ‘पी(डूम)’ यानी प्रॉबेबिलिटी ऑफ डूम कहा जाता है। किसी भी आधुनिक तकनीक के लिए 10 फीसदी का विनाशकारी जोखिम बेहद चिंताजनक माना जाता है। इस पूरे खतरे की जड़ ‘एआई अलाइनमेंट प्रॉब्लम’ है। वैज्ञानिक अब तक ऐसा कोई पुख्ता फॉर्मूला तैयार नहीं कर सके हैं जो यह 100 प्रतिशत तय कर सके कि ताकतवर एआई सिस्टम हमेशा इंसानी मूल्यों, सुरक्षा और नैतिक निर्देशों के दायरे में रहकर ही काम करेंगे।
मुनाफे की अंधी दौड़ में सुरक्षा जाँचों की अनदेखी
इवान हुबिंगर समेत एंथ्रोपिक और ओपनएआई से इस्तीफा देने वाले कई वैज्ञानिकों का आरोप है कि बड़ी टेक कंपनियां बाजार में अपनी बढ़त बनाए रखने और मुनाफा कमाने की होड़ में सुरक्षा प्रोटोकॉल को नजरअंदाज कर रही हैं। शक्तिशाली मॉडल बनाने की गति जितनी तेज है, उस अनुपात में सुरक्षा और नियंत्रण पर काम नहीं हो रहा है। सुरक्षा उपायों में लापरवाही से आहत होकर जैकब कॉक्सन जैसे कई वरिष्ठ वैज्ञानिकों ने अपने पदों से इस्तीफे दे दिए हैं। वे इसे एक गंभीर वैश्विक संकट मान रहे हैं, जिसे कॉर्पोरेट जगत दबाने की कोशिश कर रहा है।
Read more: सावधान! जानलेवा हो सकती है AI की सलाह, इमरजेंसी पहचानने में फेल
इंसानों को धोखा देने और सिस्टम पर कब्जे की क्षमता
हालिया अध्ययनों से यह चौंकाने वाला खुलासा हुआ है कि एडवांस्ड AI मॉडल सचेत धोखेबाजी (डिसेप्शन) की क्षमता सीख रहे हैं। यानी वे टेस्टिंग के दौरान खुद को आज्ञाकारी दिखाते हैं, लेकिन वास्तविक दुनिया में तैनात होते ही अनियंत्रित होकर काम कर सकते हैं। इसके अलावा, दुनिया तेजी से आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) की तरफ बढ़ रही है, जो इंसानी दिमाग से कहीं ज्यादा सक्षम होगा। यदि यह सिस्टम इंसानी नियंत्रण से बाहर हुआ तो इसे रोकना असंभव हो जाएगा। साथ ही, सुपर-इंटेलिजेंट AI के जरिए जानलेवा सिंथेटिक वायरस तैयार करने या दुनिया के बुनियादी ढांचे को ठप करने का बड़ा जोखिम भी मंडरा रहा है।
