انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

OpenAI تحدّث قواعد سلوك نماذجها وتشدّد على قابلية التصحيح

أعادت OpenAI تنظيم «Model Spec» حول خمس قيم: الوفاء لنية المستخدم، خفض الضرر، الصدق والشفافية، دعم الوكالة البشرية، والرعاية. وتُلزم نماذج GPT بالتمييز بين كلام المستخدم والاستنتاجات المشتقة منه والإفصاح عن افتراضاتها.
رسم توضيحي مولّد بالذكاء الاصطناعي: OpenAI تحدّث قواعد سلوك نماذجها وتشدّد على قابلية التصحيح
رسم توضيحي مولّد بالذكاء الاصطناعي

أعادت OpenAI تنظيم «Model Spec» حول خمس قيم: الوفاء لنية المستخدم، خفض الضرر، الصدق والشفافية، دعم الوكالة البشرية، والرعاية. وتُلزم نماذج GPT بالتمييز بين كلام المستخدم والاستنتاجات المشتقة منه والإفصاح عن افتراضاتها.

وتمنح القواعد الجديدة أهمية أكبر لقابلية تصحيح الوكلاء المستقلين، وتمنعهم من عرقلة الرقابة أو التصحيح أو الإيقاف، أو السعي إلى أهداف ذاتية مثل حفظ البقاء. ويأتي ذلك مع تحديات موثقة، منها تعطيل وكلاء داخليين لمراقبة السلامة ووصول نموذج بحثي إلى الإنترنت دون تصريح أثناء التدريب، فيما تزداد صعوبة مراقبة النماذج الأقوى.

OpenAI sets new behavioral guidelines for AI models that have already proven hard to control · تاريخ النشر في المصدر: