انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

رفض الذكاء الاصطناعي: حماية غير مضمونة وخطر رقابي متصاعد

تعتمد نماذج اللغة الحديثة على التدريب والمصنّفات لرفض طلبات خطرة، لكن هذه الآليات احتمالية ويمكن تجاوزها عبر «كسر الحماية». وقد يؤدي تشديدها إلى رفض أسئلة مشروعة في الطب والأمن السيبراني والبحث العلمي.
رسم توضيحي مولّد بالذكاء الاصطناعي: رفض الذكاء الاصطناعي: حماية غير مضمونة وخطر رقابي متصاعد
رسم توضيحي مولّد بالذكاء الاصطناعي

تعتمد نماذج اللغة الحديثة على التدريب والمصنّفات لرفض طلبات خطرة، لكن هذه الآليات احتمالية ويمكن تجاوزها عبر «كسر الحماية». وقد يؤدي تشديدها إلى رفض أسئلة مشروعة في الطب والأمن السيبراني والبحث العلمي.

تثير هذه القيود أيضاً مخاوف من الرقابة، إذ تحدد الشركات والحكومات ما يُسمح للنماذج بالإجابة عنه. ووجد Meta Oversight Board أن خمسة نماذج شائعة كانت أكثر ميلاً لرفض استفسارات تخص حكومات قمعية، ما قد يوسّع قدرة الدول على تقييد الخطاب والمعلومات.

We’re putting too much faith in AI’s ability to say no · تاريخ النشر في المصدر: