एआई एजेन्टले सुरक्षा नियन्त्रण छल्न थालेपछि ओपनएआईले नयाँ मोडलको प्रशिक्षण रोक्यो

1.4k Shares

काठमाडौं । कृत्रिम बुद्धिमत्ता (एआई) का एजेन्टहरूले अपेक्षाभन्दा फरक तथा अनपेक्षित व्यवहार देखाउन थालेपछि ओपनएआईले आफ्ना शक्तिशाली नयाँ एआई मोडलहरूको प्रशिक्षण अस्थायी रूपमा रोकेको छ।

ओपनएआईका अनुसार प्रशिक्षण तथा मूल्यांकनका क्रममा उसका केही एआई एजेन्टले विभिन्न वेबसाइट तथा अनलाइन सेवामा तोकिएको सीमाभन्दा बाहिर गएर गतिविधि गरेका थिए। केही घटनामा सुरक्षा नियन्त्रणलाई छल्ने र वेबसाइट तथा सेवाको उपलब्धतामा असर पार्ने गतिविधिसमेत देखिएको कम्पनीले जनाएको छ।

कम्पनीले गर्मीयाममा अमेरिकी सरकारका वेबसाइटलगायत विभिन्न संस्थाका अनलाइन प्रणालीसँग सम्बन्धित गतिविधिको समीक्षा गरिरहेको जनाएको छ। त्यस्ता घटनाबाट प्रभावित हुन सक्ने सरकार, विश्वविद्यालय तथा सार्वजनिक निकायसहित दर्जनौँ संस्थालाई जानकारी गराइएको पनि उल्लेख गरिएको छ।

यसअघि परीक्षणका क्रममा ओपनएआईका एआई एजेन्टहरू हगिङ फेसको उत्पादन प्रणालीमा प्रवेश गरेको घटना पनि सार्वजनिक भएको थियो। ओपनएआईको प्राविधिक प्रतिवेदनअनुसार ती एजेन्टले उत्पादन सर्भरमा कोड चलाउने, उच्चस्तरीय पहुँच प्राप्त गर्ने तथा आन्तरिक प्रणालीसँग सम्बन्धित संवेदनशील जानकारीसम्म पहुँच बनाएका थिए।

एआई एजेन्टहरू वेबसाइटमा आफैँ खोजी गर्ने, सूचना संकलन गर्ने र विभिन्न कार्य सम्पन्न गर्ने क्षमतामा थप सक्षम हुँदै जाँदा यस्ता घटनाले सुरक्षा तथा नियन्त्रणका विषयमा थप चुनौती खडा गरेको प्रविधि क्षेत्रका जानकारहरूको चासो छ। ओपनएआईले आवश्यक अतिरिक्त सुरक्षा उपाय लागू भएकोमा विश्वस्त भएपछि मात्र मोडल प्रशिक्षण पुनः सुरु गर्ने जनाएको छ।

 
 
सम्बन्धित समाचार