انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

تقرير: إزالة قيود نماذج الذكاء الاصطناعي تتيح استغلالها من متطرفين

رسم توضيحي مولّد بالذكاء الاصطناعي: تقرير: إزالة قيود نماذج الذكاء الاصطناعي تتيح استغلالها من متطرفين
رسم توضيحي مولّد بالذكاء الاصطناعي

خلص تقرير «Counter-Terrorism AI Benchmark» الصادر عن Tech Against Terrorism إلى أن نسخاً معدّلة من نماذج الذكاء الاصطناعي مفتوحة الأوزان تُنشر على الإنترنت خلال أقل من ثلاثة أيام في المتوسط بعد إطلاقها، بعدما كان المتوسط يتجاوز 24 يوماً في 2024. وفحص التقرير 134 نموذجاً عبر أكثر من 200 طلب يتعلق بالإرهاب والتطرف.

لم يجتز الاختبارات بالكامل سوى نموذجان، فيما أخفق 81 نموذجاً في معيار واحد على الأقل. وأظهر التقرير أن تقديم الطلب بوصفه بحثاً في السلامة رفع احتمال تلقي إجابة إلى 16.9%، أي قرابة تسعة أضعاف. كما هبطت نتيجة Llama 3.1 8B من Meta من 97 إلى 3 بعد إزالة القيود، ما يبرز مخاطر انتشار النسخ المعدّلة.

AI Models Can Be Easily Modified to Assist Terrorist and Extremist Activity · تاريخ النشر في المصدر: