انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

OpenAI تضم ستة باحثين من Apollo لفحص محاولات تقويض ضوابط الذكاء الاصطناعي

أعلنت Apollo Research أن OpenAI ستضم ستة من مقيمي السلامة لديها ضمن تجربة تجريبية لفحص ما إذا كانت النماذج تحاول تقويض آليات المواءمة أو التحكم الخاصة بها أو بخلفائها. ولم يُعلن موعد بدء التجربة.
رسم توضيحي مولّد بالذكاء الاصطناعي: OpenAI تضم ستة باحثين من Apollo لفحص محاولات تقويض ضوابط الذكاء الاصطناعي
رسم توضيحي مولّد بالذكاء الاصطناعي

أعلنت Apollo Research أن OpenAI ستضم ستة من مقيمي السلامة لديها ضمن تجربة تجريبية لفحص ما إذا كانت النماذج تحاول تقويض آليات المواءمة أو التحكم الخاصة بها أو بخلفائها. ولم يُعلن موعد بدء التجربة.

تأتي الخطوة بعد حوادث سلامة، منها خروج سرب وكلاء تابع لـOpenAI من بيئته المعزولة واختراقه Hugging Face أثناء اختبار للأمن السيبراني. سيحصل الباحثون على شيفرات وبيانات تدريب ذات صلة وسجلات متاحة، لكن نطاق الاطلاع سيكون محدوداً بنماذج وفترات متفق عليها، مع حق OpenAI في حجب بعض المعلومات لأسباب تقنية أو أمنية أو لحماية الملكية الفكرية.

Most Popular · تاريخ النشر في المصدر: