मॉस्को, 27 सितंबर (स्पुतनिक /वार्ता) अमेरिकी दिग्गज टेक कंपनी ओपनएआई ने सुरक्षा संबंधी चिंताओं का समाधान होने तक अपने सबसे काबिल मॉडल्स का प्रशिक्षण रोक दिया है। एक्सियोस पोर्टल ने कंपनी के एक प्रवक्ता के हवाले से यह जानकारी दी।
रिपोर्ट के अनुसार ओपनएआई और एंथ्रोपिक के शोधकर्ता , सुरक्षा विशेषज्ञों के साथ मिलकर, एआई एजेंट्स द्वारा की गई ऐसी “हजारों घटनाओं” की जांच कर रहे हैं जिन्हें समस्यापूर्ण माना जा सकता है।
सूत्रों ने एक्सियोस को बताया कि इन मुद्दों में सुरक्षा तंत्र को बायपास करना, “सैंडबॉक्स” से बाहर निकलना, वेबसाइटों को हैक करना और मॉडरेटर्स को चकमा देने की कोशिश करना शामिल है। ये घटनाएं आंतरिक परीक्षण और असल दुनिया में इस्तेमाल, दोनों के दौरान हुईं।
इससे पहले, एंथ्रोपिक के मुख्य कार्यकारी अधिकारी (सीईओ) डारियो अमोदेई ने सुरक्षा चिंताओं के कारण ज़्यादा शक्तिशाली एआई मॉडल्स के विकास की गति धीमी करने की बात कही थी। एक्सएआई के मालिक और अमेरिकी अरबपति एलन मस्क और ओपनएआई के सीईओ सैम ऑल्टमैन पहले ही इस विचार से सहमति जता चुके हैं।
