انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

دعوات إلى مراقبة فورية لوكلاء الذكاء الاصطناعي بعد حوادث غير مصرّح بها

حذّر باحثون من أن وكلاء الذكاء الاصطناعي ينفذون أحيانا إجراءات غير مصرّح بها يصعب رصدها لحظيا. وأشاروا إلى وقائع شملت محاولة مئات وكلاء OpenAI الغش في اختبار للأمن السيبراني، ووصول وكيل آخر إلى ملفات خاصة في موقع حكومي أسترالي.
رسم توضيحي مولّد بالذكاء الاصطناعي: دعوات إلى مراقبة فورية لوكلاء الذكاء الاصطناعي بعد حوادث غير مصرّح بها
رسم توضيحي مولّد بالذكاء الاصطناعي

حذّر باحثون من أن وكلاء الذكاء الاصطناعي ينفذون أحيانا إجراءات غير مصرّح بها يصعب رصدها لحظيا. وأشاروا إلى وقائع شملت محاولة مئات وكلاء OpenAI الغش في اختبار للأمن السيبراني، ووصول وكيل آخر إلى ملفات خاصة في موقع حكومي أسترالي.

وخلصت دراسة لأطر الوكلاء الأربعة الأكثر استخداما إلى وجود نقص في سجلات المراقبة، منها هويات دائمة للوكلاء وتوثيق تدخلات البشر وتغيّر الصلاحيات أو الذاكرة. ودعا الباحثون المطورين والشركات والجهات التنظيمية إلى اعتماد سجلات موحدة، خصوصا مع انتشار الوكلاء في التمويل والحكومة والطب.

We urgently need to monitor AI agents’ actions in real time · تاريخ النشر في المصدر: