باحث في Goodfire يرى أن فهم الشبكات العصبية قد يكون أسهل مما اعتُقد
قال نيك كاماراتا، الباحث في شركة Goodfire، إن الشبكات العصبية قد تكون أكثر قابلية للفهم والمراقبة والتحكم مما كان يُعتقد. واستند في طرحه إلى إعادة تفسير عصبون في نموذج Inception v1 كان يستجيب للقطط والسيارات، باعتباره يلتقط شكلاً على هيئة حرف V.
قال نيك كاماراتا، الباحث في شركة Goodfire، إن الشبكات العصبية قد تكون أكثر قابلية للفهم والمراقبة والتحكم مما كان يُعتقد. واستند في طرحه إلى إعادة تفسير عصبون في نموذج Inception v1 كان يستجيب للقطط والسيارات، باعتباره يلتقط شكلاً على هيئة حرف V.
أثار منشوره المؤلف من 26 ألف كلمة تفاؤلاً في أوساط سلامة الذكاء الاصطناعي، لأن فهم النماذج قد يساعد على ضبطها مع تزايد قدرات الوكلاء. لكن باحثين، بينهم كريس بوتس من ستانفورد ونيِل ناندا من Google DeepMind، قالوا إن النتائج لم تخضع بعد لتقييم صارم، وإن فهم العصبونات لا يكفي لتفسير دوائر نماذج اللغة الكبيرة التي لا يُفهم أقل من 0.01% من آلياتها الداخلية.
“We were looking at it wrong”: The explosive claim that’s upended the AI world · تاريخ النشر في المصدر: