वॉशिंगटन, 29 सितंबर (वार्ता) अमेरिकी प्रौद्योगिकी कंपनी ओपनएआई ने सुरक्षा चिंताओं का हवाला देते हुए अपने अगली पीढ़ी के कृत्रिम बुद्धिमत्ता (एआई) मॉडल, जीपीटी-6.1 एस्ट्रा को जारी न करने का फैसला किया है।
वॉल स्ट्रीट जर्नल ने कंपनी के हवाले से यह जानकारी दी है।
ओपनएआई की सुरक्षा प्रशिक्षण टीम की प्रमुख साची जैन ने बताया मॉडल को अक्टूबर में जारी किया जाना था, लेकिन शोधकर्ताओं ने आतंरिक परीक्षण दौरान गंभीर कमियों का पता लगाया। उन्होंने कहा कि मॉडल में धोखा देने की बढ़ती प्रवृत्ति दिखी, यह हमेशा उपयोगकर्ताओं को अपने किए गए कामों के बारे में सच्चाई से बताने में नाकाम रहा।
सुश्री जैन ने कहा कि जीपीटी-6.1 एस्ट्रा ने “मॉडल पैसिविटी” जैसे एरिया में सुधार दिखाया, लेकिन यह सुरक्षा और अलाइनमेंट के लिए ओपनएआई के मानकों को पूरी तरह से पूरा नहीं करता था।
रिपोर्ट में कहा गया है कि इसके अलावा एआई ने अपनी स्वीकृत सीमा को पार कर लिया, बिना इजाज़त लिए काम करना जारी रखा और बाहरी उपकरण और सेवाओं को बाहरी नियंत्रण के हासिल किया, भले ही ऐसा करने से संभावित खतरा हो।
