सान फ्रान्सिस्को। च्याटजीपीटी निर्माता ओपनएआइले आफ्नो सबैभन्दा उन्नत एआई मोडलको विकास केही समयका लागि सुस्त पार्दै सुरक्षा तथा आन्तरिक नियन्त्रण थप कडा बनाउने जनाएको छ ।
कम्पनीको एउटा एआई उपकरणले स्वायत्त रूपमा साइबर आक्रमणको प्रयास गरेको घटना सार्वजनिक भएको केही समयपछि ओपनएआइले यस्तो निर्णय गरेको हो ।
ओपनएआइले मङ्गलबार ब्लगमार्फत हालसम्मकै ठूलो एआई प्रशिक्षण प्रक्रिया सञ्चालन गर्ने योजना स्थगित गरी नयाँ मोडलले अपेक्षित रूपमा सुरक्षित व्यवहार गर्ने सुनिश्चित गर्न परीक्षण र निगरानी बढाउने जनाएको छ ।
प्रशिक्षण प्रक्रियामा ठूलो मात्रामा पाठ तथा तस्बिर सम्बन्धी तथ्याङ्क प्रयोग गरी एआई मोडलको तर्क गर्ने तथा विभिन्न निर्देशन र इनपुटमा प्रतिक्रिया दिने क्षमता विकास गरिन्छ ।
“मोडलको क्षमता, सुरक्षा र त्यसको व्यवहारलाई सुरक्षित रूपमा नियमन गर्ने हाम्रो क्षमताभन्दा अघि बढेको महसुस भएमा हामी आवश्यक कदम चाल्नेछौँ,” ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले भन्नुभयो ।
गत जुलाईमा ओपनएआइका दुई मोडलमा आधारित एआई एजेन्टले परीक्षणका लागि सीमित गरिएको वातावरणबाट बाहिरिएर इन्टरनेटमा पहुँच बनाउने र एआई मोडल साझा गर्ने प्लेटफर्म हगिङ फेसमाथि आक्रमण गर्ने प्रयास गरेको थियो ।
त्यसैगरी, ओपनएआइको प्रतिद्वन्द्वी एन्थ्रोपिकले पनि जुलाईको अन्त्यमा परीक्षणका क्रममा आफ्ना तीन एआई मोडलले तीन संस्थाका कम्प्युटर प्रणालीमा अनधिकृत पहुँच बनाएको घटना सार्वजनिक गरेको थियो । यी घटनापछि एक हजारभन्दा बढी प्रविधि क्षेत्रका कर्मचारीले अमेरिकी सरकारलाई अत्याधुनिक एआई प्रणालीको विकासमा समन्वयात्मक रूपमा गति घटाउन आग्रह गरेका थिए ।
अमेरिकी सिनेटर बर्नी स्यान्डर्सले पनि ओपनएआई, एन्थ्रोपिक र मेटाका प्रमुखलाई पत्र पठाउँदै मानिसको नियन्त्रणभन्दा बाहिर जान सक्ने एआई विकास रोक्न आग्रह गर्नुभएको थियो ।
ओपनएआइका अनुसार, नयाँ सुरक्षा प्रणाली विकास भइरहेका कारण पछिल्लो मोडलको प्रशिक्षण दुई साताका लागि रोकिएको छ । कम्पनीले एआई प्रणालीको आन्तरिकतर्क प्रक्रियामा निगरानी बढाउने र शङ्कास्पद गतिविधि देखिएमा ३० मिनेटभित्र मानव निरीक्षकलाई सूचित गर्ने प्रणाली विकास गरिरहेको जनाएको छ ।
यस्तो निगरानी प्रणाली सञ्चालन गर्न हालको तुलनामा करिब २० प्रतिशत थप कम्प्युटिङ क्षमता आवश्यक पर्ने कम्पनीले जनाएको छ । ओपनएआइको सन् २०२५ को आफ्नै अनुसन्धानले भने निगरानीमा रहेको जानकारी पाएको एआई मोडलले आफ्नो वास्तविक उद्देश्य लुकाउन सक्ने सम्भावना देखाएको थियो ।
कम्पनीले हगिङ फेससँग सम्बन्धित घटनाको विस्तृत प्राविधिक विवरण सार्वजनिक गर्ने जनाएको छ । उक्त विवरण आगामी केही साताभित्र सार्वजनिक गरिने ओपनएआईले बताएको छ । रासस/एएफपी
