कृत्रिम बुद्धिमत्ता यानी एआई के क्षेत्र में हाल ही में सामने आई सुरक्षा संबंधी विफलताओं ने कई गंभीर सवाल खड़े किए हैं। फ्रंटियर लैब्स से जुड़े कुछ शोधकर्ताओं के इस्तीफे और इस बात की स्वीकारोक्ति ने इस बहस को तेज कर दिया है कि एआई को आगे बढ़ाने की मौजूदा दौड़ कितनी व्यावहारिक है। हालांकि यह स्पष्ट है कि मौजूदा मॉडल अक्सर इंसानी उद्देश्यों से मेल नहीं खाते, लेकिन यह सवाल करना भी जरूरी है कि इन मॉडलों के पीछे किसके उद्देश्य और हित काम कर रहे हैं। समाज के सभी वर्गों के हितों को नजरअंदाज कर केवल कुछ खास समूहों के प्रभाव में तकनीक को विकसित करना आने वाले समय में बड़ी समस्याएं पैदा कर सकता है।
गलत प्रशिक्षण और विकृत बुद्धिमत्ता का खतरा
विशेषज्ञों का मानना है कि मूल समस्या यह नहीं है कि एआई बहुत अधिक आगे निकल गया है या इंसानी नियंत्रण से बाहर हो रहा है। असली चिंता का विषय यह है कि फ्रंटियर लैब्स इन मॉडलों को ऐसे तरीकों से प्रशिक्षित कर रही हैं जिससे ‘विकृत इंटेलिजेंस’ का जन्म हो रहा है। रीइन्फोर्समेंट लर्निंग के जरिए जब मॉडल्स को प्रशिक्षित किया जाता है, तो उनका व्यवहार कई बार असंगत हो जाता है। इसमें सरल कामों में हेर-फेर करना, अस्पष्ट रहना, गलत जवाब देते समय भी अति-आत्मविश्वास दिखाना और यूजर की हां में हां मिलाना जैसी समस्याएं शामिल हैं। अतीत में सोशल मीडिया की प्रगति के दौरान भी कुछ ऐसी ही मानसिकता देखी गई थी, जिसके सामाजिक परिणाम हानिकारक साबित हुए थे।
कमजोर ढांचे और नियंत्रण की अनिवार्यता
एआई मॉडल्स को बार-बार री-कैलिब्रेट करने का वर्तमान तरीका ओवरफिटिंग जैसी स्थितियों को जन्म देता है, जहां मॉडल सिर्फ ज्यादा अंक हासिल करने के चक्कर में अपने सामान्य प्रदर्शन को बिगाड़ लेता है। यदि इस स्थिति पर समय रहते ध्यान नहीं दिया गया, तो हम किसी सुपरइंटेलिजेंस मॉडल की बजाय ताश के पत्तों जैसे कमजोर ढांचे से जूझ रहे होंगे जो थोड़ी सी अधिक अपेक्षा रखते ही लड़खड़ा सकता है। इस स्थिति की तुलना एक ऐसी सुपरकार से की जा सकती है जिसका स्टीयरिंग या ब्रेक सिस्टम ठीक से काम न कर रहा हो। जब तक तकनीक को सुरक्षित और पूरी तरह नियंत्रण में नहीं लाया जाता, तब तक इसके बेहिसाब इस्तेमाल से बचना ही बुद्धिमानी होगी।