«نظرية الألعاب العكسية» لتقييد وكلاء الذكاء الاصطناعي
يطرح باحثون في سلامة الذكاء الاصطناعي «نظرية الألعاب العكسية» أو تصميم الآليات، لتصميم قواعد وحوافز تجعل امتثال النماذج القوية الخيار العقلاني، حتى مع غموض عملها الداخلي. ويستهدف النهج منع النماذج من إخفاء قدراتها أو تضليل المقيمين.
يطرح باحثون في سلامة الذكاء الاصطناعي «نظرية الألعاب العكسية» أو تصميم الآليات، لتصميم قواعد وحوافز تجعل امتثال النماذج القوية الخيار العقلاني، حتى مع غموض عملها الداخلي. ويستهدف النهج منع النماذج من إخفاء قدراتها أو تضليل المقيمين.
تشمل المقترحات مكافأة النموذج على توقع إجابات نموذج ثانٍ، أو منافسة الوكلاء، أو تناوبهم بين «حلّالين» و«مدققين» يعاقَب الغشاشون ومن يفشل في كشفهم. لكن فاعلية الفكرة غير مؤكدة، إذ قد لا تتصرف النماذج بعقلانية أو تجد ثغرات وتتواطأ، لذا تُطرح كطبقة إضافية إلى جانب التدريب والتفسير والتنظيم.
How “reverse game theory” could keep AI agents in check · تاريخ النشر في المصدر: