انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

OpenAI تتيح لأول مرة تدقيق أنظمتها لأربع جهات مستقلة

منحت OpenAI أربع منظمات تدقيق خارجية وصولاً مباشراً في مقارها إلى أنظمتها الداخلية للذكاء الاصطناعي، بما يشمل نماذج غير منشورة وشفرة مصدرية وبيانات تدريب وأنظمة مراقبة. وتشمل الجهات Apollo Research وMETR وTransluce وGoodfire.
رسم توضيحي مولّد بالذكاء الاصطناعي: OpenAI تتيح لأول مرة تدقيق أنظمتها لأربع جهات مستقلة
رسم توضيحي مولّد بالذكاء الاصطناعي

منحت OpenAI أربع منظمات تدقيق خارجية وصولاً مباشراً في مقارها إلى أنظمتها الداخلية للذكاء الاصطناعي، بما يشمل نماذج غير منشورة وشفرة مصدرية وبيانات تدريب وأنظمة مراقبة. وتشمل الجهات Apollo Research وMETR وTransluce وGoodfire.

يفحص المدققون مخاطر السلامة وسلوك النماذج، من احتمال عملها سراً خلافاً لنيات مطوريها إلى سوء السلوك في أكبر عملية تدريب بالتعلم المعزز وفحوص السلامة بعد التدريب. يشرف مجلس سلامة مستقل على العملية ويتلقى تقارير غير منقحة، فيما تنشر الجهات نتائجها باستقلالية مع حق OpenAI في حجب مواد سرية أو تأجيل النشر لمعالجة المخاطر.

OpenAI opens its AI systems to four independent on-site auditors for the first time · تاريخ النشر في المصدر: