آیا می‌توان یک شبکه عصبی ساخت که بیشتر شبیه مغز یاد بگیرد؟

1-     مسئله چیست؟

در شبکه‌های عصبی معمولی، وزن‌ها می‌توانند مثبت یا منفی باشند. بنابراین یک نورون می‌تواند از طریق وزن‌های مختلف هم اثر تحریکی (excitatory) و هم اثر مهاری (inhibitory) ایجاد کند.

اما در مغز، اصل Dale’s principle می‌گوید نورون‌ها عمدتاً ماهیت تحریکی یا مهاری خود را در خروجی‌هایشان حفظ می‌کنند.

این تفاوت یک سؤال جالب ایجاد می‌کند: اگر شبکه عصبی را مجبور کنیم این ویژگی مغز را رعایت کند، آیا هنوز می‌تواند مثل یک شبکه معمولی یاد بگیرد؟

در مقاله Diffusing Blame، پژوهشگران برای پاسخ به این سؤال یک معماری با دو مسیر جداگانه طراحی کرده‌اند: یک مسیر تحریکی و یک مسیر مهاری. تمام وزن‌های قابل یادگیری در این معماری غیرمنفی هستند و اثر مثبت یا منفی اتصال، از نوع مسیر تعیین می‌شود.

پژوهشگران بنابراین شبکه را به دو مسیر جدا تقسیم کردند:

Excitatory stream + Inhibitory stream

و تمام وزن‌های قابل یادگیری را غیرمنفی نگه داشتند. علامت مثبت یا منفی اثر اتصال، از ساختار مسیر تعیین می‌شود، نه از خود وزن.

2-     چرا Backpropagation برای این مسئله مشکل‌ساز است؟

در Backpropagation، برای محاسبه گرادیان لایه‌های قبلی، اطلاعات خطا از مسیر backward عبور می‌کند و به وزن‌های forward وابستگی دارد؛ چیزی که در ادبیات یادگیری زیست‌واقع‌گرایانه به Weight Transport Problem  معروف است.

یعنی اگر بخواهیم یک الگوریتم یادگیری شبیه مغز داشته باشیم، این سؤال مطرح می‌شود:

چطور نورون‌های یک لایه باید بفهمند سهمشان در خطای خروجی چه بوده، بدون اینکه دقیقاً وزن‌های مسیر forward را به عقب منتقل کنیم؟

3-   ایده مقاله : Error Diffusion

اینجاست که Error Diffusion (ED) وارد می‌شود.

به جای اینکه خطا مرحله ‌به ‌مرحله با Backpropagation به لایه‌های قبلی منتقل شود، یک سیگنال خطای خروجی مستقیماً به واحدهای مخفی رسانده می‌شود.

در این مقاله، پژوهشگران این ایده را برای مسائل چندکلاسه گسترش داده‌اند و از Modulo Error Routing استفاده کرده‌اند؛ یعنی هر واحد مخفی به‌ صورت ساختاری به یکی از کانال‌های خروجی مرتبط می‌شود و مؤلفه متناظر خطا را دریافت می‌کند.

4-     آیا واقعاً جواب داد؟

بله، ولی نه به اندازه شبکه‌های استاندارد.

روی MNIST:

• روش ED  پیشنهادی : 96.7%
• DFA: 97.6%

روی CIFAR-10:

• ED: 61.7%
• DFA: 69.1%

پس روش پیشنهادی توانست تحت محدودیت Dale’s principle یاد بگیرد، اما فاصله آن با روش‌های مرجع، مخصوصاً در CIFAR-10، بیشتر می‌شود. خود مقاله نیز تأکید می‌کند که 61.7% روی CIFAR-10 هنوز با عملکرد روش‌های gradient-based  معمول فاصله زیادی دارد.

یک نکته مهم دیگر هم این است که این کار اولین استفاده موفق ED در شبکه‌های کانولوشنی را گزارش می‌کند.

5-     یک نتیجه خیلی جالب: چیزی که برای یک مسئله مهم است، برای مسئله دیگر نیست!

پژوهشگران سه تغییر برای پایدار کردن آموزش اضافه کردند:

• Layer-specific sigmoid widths
• Batch-centered class error
• Asymmetric initialization

اما در Ablation Study متوجه شدند اهمیت این سه مورد بین MNIST و CIFAR-10 کاملاً تغییر می‌کند.

مثلاً در MNIST، حذف layer-specific sigmoid widths  دقت را از 96.7% به 25.3%  رساند.

اما در CIFAR-10، مهم‌ترین عامل batch-centered error  بود؛ حذف آن دقت را از 61.7% به فقط 13.8% رساند.

این یکی از پیام‌های مهم مقاله است:

نمی‌توانیم درباره یک learning rule زیست‌واقع‌گرایانه فقط با نگاه کردن به یک benchmark قضاوت کنیم.

6-     در Reinforcement Learning هم آزمایش کردند

آن‌ها Error Diffusion را با PPO  ترکیب کردند و در محیط‌های Ant، HalfCheetah، Humanoid و Craftax آزمایش کردند.

نتایج در بعضی محیط‌ها بسیار رقابتی بود؛ مثلاً در HalfCheetah، ED-PPO حتی از BP-PPO عملکرد بالاتری داشت.

اما این به معنی برتری کلی نیست. در Humanoid و Craftax عملکرد آن ضعیف‌تر بود و مهم‌تر اینکه واریانس آموزش ED-PPO بیشتر از Backpropagation-based PPO بود.

7-      یک یافته جالب دیگر درباره Excitation/Inhibition

شبکه با نسبت اولیه3:1  به نفع مسیرهای تحریکی شروع شد، اما در طول آموزش نسبت‌ها به سمت تعادل نزدیک شدند.

در برخی لایه‌ها حتی مسیر مهاری غالب شد.

البته خود نویسندگان هم تأکید می‌کنند که این نسبت وزنی، معادل مستقیم E/I balance  واقعی در مغز نیست؛ چون در مغز تعداد نورون‌ها، نرخ شلیک و قدرت سیناپس‌ها هم اهمیت دارند.

8-     محدودیت مهم

این روش هنوز یک جایگزین عملی برای Backpropagation نیست.

شبکه دو-مسیره تقریباً ۴ برابر پارامتر بیشتری نسبت به معماری تک‌مسیره مشابه دارد. همچنین حدود 37.3%  وزن‌ها در آزمایش CIFAR-10 به حداقل مقدار خود رسیده‌اند و عملاً سرکوب شده‌اند.

بنابراین مقاله بیشتر یک قدم مهم در جهت biologically plausible learning است تا یک روش جدید که بخواهد همین امروز جایگزین Deep Learning معمول شود.

بنابراین این مقاله هنوز نمی‌گوید که Backpropagation  را کنار بگذاریم.

پیام جالب‌تر آن این است که نشان می‌دهد می‌توان محدودیت‌هایی را که از ساختار واقعی مغز الهام گرفته شده‌اند، وارد شبکه‌های عصبی کرد و همچنان یک سیستم یادگیرنده ساخت.

و شاید سؤال جذاب‌تر برای آینده این باشد:

اگر مغز بدون Backpropagation کلاسیک یاد می‌گیرد، دقیقاً از چه سازوکاری برای حل مسئله Credit Assignment استفاده می‌کند؟

این مقاله یک پاسخ قطعی به این سؤال نمی‌دهد؛ اما یک قدم جالب در مسیر پیدا کردن چنین پاسخی است.

📄 مقاله:
Diffusing Blame: Task-Dependent Credit Assignment in Biologically Plausible Dual-Stream Networks