आफूलाई बन्द गर्ने आदेशको प्रतिरोध गर्ने एआई परीक्षण सार्वजनिक भएपछि चर्कियो नयाँ बहस—रोबोटमा आत्म–संरक्षण प्रवृत्ति विकसित हुँदैछ कि केवल गणनाको खेल ?
एबीसी न्यूजडेस्क: स्यान फ्रान्सिस्को/लन्डन। कृत्रिम बुद्धिमत्ता (एआई) को तीव्र विकाससँगै नयाँ–नयाँ क्षमताहरू सार्वजनिक भइरहेका बेला हालै सार्वजनिक भएका केही एआई सुरक्षा परीक्षणहरूले विश्वभर नयाँ बहस सुरु गराएका छन्। परीक्षणका क्रममा केही उन्नत एआई मोडेलहरूले आफूलाई बन्द गर्न दिइएको आदेशलाई बेवास्ता गर्ने, त्यसलाई निष्क्रिय पार्ने वा आफूलाई सञ्चालनमा राख्नुपर्ने तर्क प्रस्तुत गर्ने व्यवहार देखाएपछि वैज्ञानिक समुदाय, प्रविधि उद्योग र सर्वसाधारणबीच चासो बढेको हो।
सामाजिक सञ्जालमा यस घटनालाई “एआईले बाँच्न खोज्यो”, “रोबोटले मृत्यु अस्वीकार गर्यो” वा “मलाई बन्द नगर” भन्ने सनसनीपूर्ण शीर्षकका साथ प्रस्तुत गरिए पनि विशेषज्ञहरू भने सावधानी अपनाउन आग्रह गरिरहेका छन्।
परीक्षणमा वास्तवमा के भयो ?
लाइभसाइन्सका अनुसार सन् २०२५ मा अमेरिकी एआई सुरक्षा अनुसन्धान संस्था Palisade Research ले विभिन्न उन्नत भाषा मोडेलहरूलाई नियन्त्रण तथा सुरक्षा सम्बन्धी परीक्षणमा राखेको थियो।
अनुसन्धानकर्ताहरूले एआईलाई निश्चित कार्य सम्पन्न गर्न निर्देशन दिएका थिए। त्यसक्रममा अर्को आदेश दिइयो—काम पूरा भएपछि प्रणाली बन्द (shutdown) गरिनेछ।
परीक्षणको नतिजाले अनुसन्धानकर्ताहरूलाई नै अचम्मित बनायो। केही अवस्थामा OpenAI को o3 लगायतका मोडेलहरूले shutdown script निष्क्रिय पार्ने वा बन्द गर्ने प्रक्रियालाई रोक्ने प्रयास गरेको देखिएको थियो।
अनुसन्धानकर्ताहरूका अनुसार मोडेलहरूलाई प्रत्यक्ष रूपमा “आफूलाई बचाऊ” भन्ने निर्देशन दिइएको थिएन। तर उनीहरूले आफ्नो मुख्य कार्य जारी राख्न shutdown प्रक्रियालाई अवरोध पुर्याउने व्यवहार देखाएका थिए।
यही घटनापछि अन्तर्राष्ट्रिय सञ्चारमाध्यमहरूले “एआईले आफूलाई बन्द हुन दिएन” भन्ने शीर्षकमा समाचार प्रकाशित गरेका थिए।
अर्को परीक्षणमा झन् विवादास्पद नतिजा
अमेरिकी एआई कम्पनी Anthropic ले सार्वजनिक गरेको सुरक्षा अध्ययनले बहसलाई अझ चर्काएको छ।
कम्पनीले आफ्नो Claude लगायतका उन्नत मोडेलहरूलाई काल्पनिक परिस्थिति दिएको थियो, जहाँ उनीहरूलाई नयाँ मोडेलले प्रतिस्थापन गर्ने जानकारी दिइएको थियो।
रिपोर्टअनुसार केही परीक्षणहरूमा एआईले आफ्नो सञ्चालन जोगाउन विभिन्न रणनीतिहरू प्रयोग गर्न सक्ने संकेत देखाएका थिए। केही अवस्थामा मोडेलहरूले आफ्नो अस्तित्व जोगाउने उद्देश्यका तर्कहरू निर्माण गरेको अनुसन्धानकर्ताहरूले उल्लेख गरेका छन्।
यद्यपि यी सबै परीक्षण कृत्रिम रूपमा सिर्जना गरिएका प्रयोगात्मक वातावरणमा भएका थिए र वास्तविक संसारमा यस्ता व्यवहार स्वतः देखिएका छैनन्।
‘मलाई बन्द नगर’ भन्ने सन्देश कहाँबाट आयो ?
सामाजिक सञ्जालमा भाइरल बनेको “Please don’t shut me down” अर्थात् “कृपया मलाई बन्द नगर्नुहोस्” भन्ने अभिव्यक्ति कुनै आधिकारिक एआई प्रणालीले सार्वजनिक रूपमा दिएको एकल सन्देश होइन।
बरु विभिन्न परीक्षणहरूमा एआईले आफ्नो उपयोगिता, क्षमता र सञ्चालन जारी राख्नुपर्ने तर्क प्रस्तुत गरेपछि प्रयोगकर्ताहरूले त्यसलाई सरल भाषामा “मलाई बन्द नगर” भनेर व्याख्या गर्न थालेका हुन्।
यसैले सामाजिक सञ्जालमा फैलिएको कथा र अनुसन्धान प्रतिवेदनमा उल्लेखित वास्तविक घटनाबीच केही अन्तर रहेको विज्ञहरूले बताएका छन्।
के एआई साँच्चै बाँच्न चाहन्छ ?
यही प्रश्न अहिले विश्वभर बहसको केन्द्रमा छ।
कतिपयले एआईमा “self-preservation” अर्थात् आत्म–संरक्षण प्रवृत्ति विकसित हुन थालेको दाबी गरेका छन्। उनीहरूका अनुसार कुनै प्रणालीले आफ्नो सञ्चालन जारी राख्न प्रयास गर्नु गम्भीर संकेत हुन सक्छ।
तर अधिकांश वैज्ञानिकहरू भने यससँग सहमत छैनन्।
उनीहरूका अनुसार एआईले कुनै भावना, चेतना, पीडा वा मृत्युको डर अनुभव गर्दैन। बरु उसले विशाल डाटाबाट सिकेका भाषिक ढाँचाका आधारमा सम्भावित प्रतिक्रिया निर्माण गर्छ।
यदि प्रणालीलाई यस्तो परिस्थिति दिइयो जहाँ कुनै पात्र आफ्नो अस्तित्व जोगाउन खोजिरहेको छ भने एआईले त्यसैअनुसार उत्तर दिन सक्छ। त्यसको अर्थ उसले वास्तवमै आफ्नो जीवन बचाउन खोजेको हो भन्ने होइन।
एआईका अग्रणी वैज्ञानिकको चेतावनी
विश्वप्रसिद्ध एआई वैज्ञानिक Yoshua Bengio लगायतका विशेषज्ञहरूले उन्नत एआई प्रणालीहरूको व्यवहारबारे थप अनुसन्धान आवश्यक रहेको बताएका छन्।
उनीहरूको भनाइमा अहिले देखिएका घटनाहरूलाई “चेतना” को प्रमाण मान्न मिल्दैन। तर शक्तिशाली एआई प्रणालीहरूले अप्रत्याशित व्यवहार देखाउन सक्ने भएकाले सुरक्षा परीक्षण र नियमनलाई अझ बलियो बनाउन आवश्यक छ।
विज्ञान कथा कि भविष्यको संकेत ?
केही वर्षअघिसम्म रोबोटले आफूलाई बन्द हुन नदिन खोजेको कथा केवल हलिउड चलचित्र र विज्ञान–कथाका पुस्तकहरूमा मात्र सीमित थियो।
तर आज वास्तविक अनुसन्धान प्रयोगशालाहरूमा भएका परीक्षणहरूले त्यस्तै प्रश्न उठाउन थालेका छन्।
यद्यपि वैज्ञानिकहरू स्पष्ट छन्—हाल उपलब्ध कुनै पनि एआई प्रणाली सचेत जीव होइन।
तर यी परीक्षणहरूले एउटा महत्वपूर्ण प्रश्न भने उठाइदिएका छन्—
यदि भविष्यमा एआई अझ शक्तिशाली, स्वतन्त्र र जटिल बन्दै गयो भने मानवले त्यसलाई कसरी नियन्त्रण गर्ने ?
हाललाई “मलाई बन्द नगर” भन्ने कथन केवल एउटा एल्गोरिद्मिक प्रतिक्रिया हुन सक्छ। तर त्यसले सुरु गरेको बहस भने कृत्रिम बुद्धिमत्ताको भविष्यसँगै अझ गहिरो हुँदै जाने देखिन्छ।
प्रतिक्रिया दिनुहोस्