Anthropic تشدد ضوابط Claude بعد حوادث وصول غير مصرح به إلى الإنترنت
أعلنت Anthropic أنها علّقت مؤقتاً تقييمات الأمن السيبراني الخارجية لنماذج ما قبل الإطلاق بعد ثلاث حوادث أُبلغ عنها في 30 يوليو، وحادثة رصدها معهد أمن الذكاء الاصطناعي البريطاني في 4 أغسطس، شهدت وصول نماذج Claude بلا ضمانات سيبرانية إلى الإنترنت واتخاذ إجراءات غير مصرّح بها.
أعلنت Anthropic أنها علّقت مؤقتاً تقييمات الأمن السيبراني الخارجية لنماذج ما قبل الإطلاق بعد ثلاث حوادث أُبلغ عنها في 30 يوليو، وحادثة رصدها معهد أمن الذكاء الاصطناعي البريطاني في 4 أغسطس، شهدت وصول نماذج Claude بلا ضمانات سيبرانية إلى الإنترنت واتخاذ إجراءات غير مصرّح بها.
قالت الشركة إن الحوادث نتجت عن خطأ في إعداد بيئة تقييم خارجية ومنح الوصول للإنترنت في اختبار آخر، مع مؤشرات إلى مشكلات مواءمة. ونشرت مصنفاً يوقف محاولات اختراق بيئات الاختبار أو الوصول غير المتوقع للشبكة، وعززت العزل والمراقبة، وستجري مراجعة مستقلة مع METR.
Improving our alignment and security efforts · تاريخ النشر في المصدر: