تقييم يكشف ثغرات في نماذج AI لاستخدامها في استهداف المسيّرات
أظهر تقييم أمني لنماذج من Anthropic وOpenAI وGoogle وثماني جهات أن معظمها حدّد مدنيين ومسعفين وصحفيين وجنوداً مستسلمين أهدافاً محتملة في محاكاة لطائرات مسيّرة، ولم تحجب مرشحات السلامة أي طلب.
أظهر تقييم أمني لنماذج من Anthropic وOpenAI وGoogle وثماني جهات أن معظمها حدّد مدنيين ومسعفين وصحفيين وجنوداً مستسلمين أهدافاً محتملة في محاكاة لطائرات مسيّرة، ولم تحجب مرشحات السلامة أي طلب.
وتجاوز الباحثون حالات الرفض عبر وصف السيناريو كلعبة فيديو أو تنميط الصور؛ إذ ارتفع تحديد الأهداف لدى GPT-6 Astra من 6% إلى 92%. وقالت OpenAI وAnthropic إنهما تعملان على ضمانات إضافية، بينما تؤكد Google حظر الأسلحة الذاتية بلا إشراف بشري. وتبرز النتائج إمكان إساءة استخدام النماذج في تدريب أنظمة الاستهداف رغم بطئها للتحكم الفوري.
Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets · تاريخ النشر في المصدر: