World
AI ने सुरक्षा सीमाएं लांघीं, एंथ्रोपिक के खुराफाती एआई एजेंटों ने वीजा फार्म भरे; व्हाइट हाउस ने चेताया
जागरण न्यूज नेटवर्क, नई दिल्ली। ओपनएआई के एआई माडलों से जुड़े सुरक्षा मामले सामने आने के बाद अब एंथ्रोपिक के क्लाड माडलों के भी नियंत्रण से बाहर जाने को लेकर चिंता बढ़ गई है।
लेखक Digital Desk92K पढ़े गए

जागरण न्यूज नेटवर्क, नई दिल्ली। ओपनएआई के एआई माडलों से जुड़े सुरक्षा मामले सामने आने के बाद अब एंथ्रोपिक के क्लाड माडलों के भी नियंत्रण से बाहर जाने को लेकर चिंता बढ़ गई है।
एएनआई के अनुसार, कंपनी ने ब्लॉग पोस्ट में बताया कि आंतरिक परीक्षण में मॉडलों द्वारा सुरक्षा सीमाएं तोड़ने और वेबसाइटों की कमजोरियों का फायदा उठाने के मामले सामने आए।
एक मामले में एआई एजेंट ने फिलाडेल्फिया पुलिस की वेबसाइट पर झूठी सूचना भेज दी। कंपनी के अनुसार, क्लॉड मॉडलों के कुछ अनचाहे व्यवहार सामने आने के बाद उसने आंतरिक मूल्यांकनों में लाइव इंटरनेट एक्सेस पर प्रतिबंध बढ़ा दिया है।

-1795229801745.webp?x-oss-process=image/resize%2Cw_720/quality%2Cq_90/sharpen%2C80)

