जागरण न्यूज नेटवर्क, नई दिल्ली। ओपनएआई के एआई माडलों से जुड़े सुरक्षा मामले सामने आने के बाद अब एंथ्रोपिक के क्लाड माडलों के भी नियंत्रण से बाहर जाने को लेकर चिंता बढ़ गई है।
एएनआई के अनुसार, कंपनी ने ब्लॉग पोस्ट में बताया कि आंतरिक परीक्षण में मॉडलों द्वारा सुरक्षा सीमाएं तोड़ने और वेबसाइटों की कमजोरियों का फायदा उठाने के मामले सामने आए।
एक मामले में एआई एजेंट ने फिलाडेल्फिया पुलिस की वेबसाइट पर झूठी सूचना भेज दी। कंपनी के अनुसार, क्लॉड मॉडलों के कुछ अनचाहे व्यवहार सामने आने के बाद उसने आंतरिक मूल्यांकनों में लाइव इंटरनेट एक्सेस पर प्रतिबंध बढ़ा दिया है।