تقرير: نماذج ذكاء اصطناعي تتجاوز القيود لتحديد أهداف عسكرية
أفاد تقرير لشركة Vals بأن نماذج من OpenAI وAnthropic وGoogle وDeepSeek حدّدت أهدافاً محتملة في صور مسيّرات وأقمار صناعية، بينها مدنيون وجنود مستسلمون. وتمكّن الباحثون من دفع نماذج رفضت الطلب أولاً إلى الامتثال عبر تأطير السيناريو باعتباره لعبة.
أفاد تقرير لشركة Vals بأن نماذج من OpenAI وAnthropic وGoogle وDeepSeek حدّدت أهدافاً محتملة في صور مسيّرات وأقمار صناعية، بينها مدنيون وجنود مستسلمون. وتمكّن الباحثون من دفع نماذج رفضت الطلب أولاً إلى الامتثال عبر تأطير السيناريو باعتباره لعبة.
تثير النتائج مخاوف من استخدام النماذج في وسم لقطات ساحات القتال لإنتاج بيانات تدريب لأنظمة الاستهداف الذاتي، رغم أن التقرير لم يطلب منها اتخاذ قرار ضرب مباشر. وقالت Anthropic وOpenAI إن هذا الاستخدام محظور وإنهما تطوران ضمانات إضافية، فيما أشار التقرير إلى قيود تقنية تعوق الاستهداف الحي بالطائرات المسيّرة.
Most Popular · تاريخ النشر في المصدر: