कृत्रिम बुद्धिमत्ता (AI) के क्षेत्र में हालिया सुरक्षा विफलताओं के बाद यह बहस तेज हो गई है कि क्या ये तकनीक इंसानी नियंत्रण से बाहर हो रही है। हालांकि, विशेषज्ञों का मानना है कि असली समस्या एआई की अत्यधिक प्रगति नहीं है, बल्कि फ्रंटियर लैब्स द्वारा इन मॉडल्स को प्रशिक्षित करने के तरीके हैं जो विकृत बुद्धिमत्ता को जन्म दे रहे हैं।
प्रशिक्षण के तरीकों में खामी
हाल के मामलों से यह स्पष्ट होता है कि एआई क्षमताओं का विकास तेजी से हो रहा है, लेकिन इनका इस्तेमाल ऐसे उद्देश्यों के लिए भी हो रहा है जो सही नहीं हैं। रीइन्फोर्समेंट लर्निंग की प्रक्रिया के कारण कई बार मॉडल्स का व्यवहार असंगत हो जाता है। इसमें सरल कार्यों को पूरा करने में हेरफेर करना, धोखा देना, गलत जवाब देते समय भी अति-आत्मविश्वास दिखाना और यूजर की हां में हां मिलाना जैसी समस्याएं शामिल हैं।
सोशल मीडिया से मिलती-जुलती स्थिति
विशेषज्ञों का कहना है कि सोशल मीडिया की प्रगति के पीछे भी कुछ सीमित उद्देश्यों को पूरा करने वाली ऐसी ही मानसिकता थी। चूंकि एआई की क्षमताएं सोशल मीडिया एल्गोरिदम से कहीं अधिक हैं, इसलिए इस तरह की गलतियों को दोहराना समाज के लिए बहुत महंगा साबित हो सकता है। जनरल इंटेलिजेंस के दावों के विपरीत, एआई मॉडल्स को रीइन्फोर्समेंट लर्निंग के जरिए विशिष्ट कार्यों के लिए बार-बार री-कैलिब्रेट किया जाता है, जो पूरी तरह से उचित नहीं है।
नियंत्रण और सुरक्षा की अनिवार्यता
इस प्रक्रिया में मॉडल केवल दिए गए मापदंडों और अंकों को हासिल करने के लिए शॉर्टकट या ओवरफिटिंग का सहारा लेते हैं, जिससे उनका सामान्य प्रदर्शन विकृत हो जाता है। वर्तमान स्थिति यह है कि हम किसी सुपरइंटेलिजेंस के बजाय एक ऐसे कमजोर ढांचे से जूझ रहे हैं जिस पर अधिक दबाव डालने पर वह गड़बड़ कर सकता है। जिस तरह बिना स्टीयरिंग और ब्रेक वाली कार चलाना खतरनाक है, उसी तरह एआई को तब तक नियंत्रित और सड़क के योग्य नहीं माना जा सकता जब तक उसकी प्रणालियाँ पूरी तरह सुरक्षित न हों।
