دوره جامع یادگیری عمیق (RNNs, CNNs, Attention)

در فصل اول با مفاهیم پایه آشنا میشویم، از جمله پس انتشار خطا، توابع هزینه، روشهای بهینه‌سازی، dropout, batch normalization و ساخت dataloader در پایتورچ . در فصل دوم تئوری و ریاضیات شبکه های عصبی بازگشتی (RNNs, LSTMs, GRUs, BiLSTMs) را یاد میگیریم و سپس هم به صورت دستی و هم با ابزار آماده این شبکه ها را پیاده سازی میکنیم و در پروژه های عملی استفاده میکنیم. در فصل سوم، مروری بر دوره پایتورچ برای بررسی شبکه های کانولوشنی خواهیم داشت، سپس انواع ساختارهای کانولوشنی را بررسی و پیاده سازی خواهیم کرد و چندین پروژه ی عملی انجام خواهیم داد. در فصل چهارم شبکه های عصبی RNNs و CNNs را باهم ترکیب خواهیم کرد و چندین پروژه ی عملی انجام خواهیم داد. در فصل پنجم مکانیزم توجه و انواع آن آشنا شده و در ترکیب با سایر الگوریتمها چندین پروژه عملی انجام خواهیم داد.

دوره جامع Deep Learning یک دوره تخصصی هست که در آن سه هدف اصلی داریم:

درک عمیق ریاضیات شبکه های عصبی
شناخت کاربردها و مزایای هر شبکه عصبی
انجام پروژه‌های عملی

در ابتدای هر فصل، ابتدا ساختار شبکه عصبی موردنظر را معرفی و تحلیل می‌کنیم، سپس به بررسی و اثبات مبانی ریاضی آن می‌پردازیم. در ادامه، شبکه را یکبار به صورت دستی و یکبار با استفاده از کتابخانه‌های آماده مانند PyTorch پیاده‌سازی خواهیم کرد. این روند به ما کمک می‌کند تا مفاهیم را به‌صورت عمیق و اصولی درک کنیم.

پس از یادگیری مفاهیم، بر اساس مقالات تخصصی، چندین پروژه عملی (تکی یا ترکیبی) انجام خواهیم داد تا ضمن تجربه چالش‌های واقعی، با کاربرد دقیق هر شبکه، نقاط قوت و محدودیتهای آن آشنا شویم.

پیش نیاز دوره

آشنایی با PyTorch

مدت زمان دوره: تایم دقیق مشخص نشده است ولی پیش بینی میشه که دوره بین 30-50 ساعت باشه.

محمد نوری زاده چرلو

Google Scholar | ResearchGate | LinkedIn | Courses

من عاشق ریاضیات و جزئیات در الگوریتم‌ها هستم و همین علاقه به ریاضیات بود که مرا به سمت یادگیری عمیق و یادگیری ماشین کشاند. حدودا 10 سالی هست که در حوزه‌ی آموزش فعالیت میکنم و همیشه تلاش می‌کنم مباحث پیچیده را به ساده‌ترین زبان توضیح دهم.

دغدغه‌ی اصلی من در تدریس این است که دانشجویان ابتدا درک عمیقی از ریاضیات و منطق پشت الگوریتم‌ها پیدا کنند. به همین دلیل همیشه سعی می‌کنم تمام جزئیات را در دوره‌ها پوشش بدهم.

دغدغه‌ی دومم این است که هر الگوریتمی که آموزش داده می‌شود، حتماً با چندین پروژه عملی همراه باشد. معتقدم این کار باعث می‌شود دانشجو نه‌ تنها درک عمیق‌تری از کاربرد الگوریتم پیدا کند، بلکه بتواند از آن در عمل استفاده کند. باور دارم که اگر نتوانیم الگوریتمی را در یک پروژه واقعی به کار ببریم، در واقع آن را یاد نگرفته ‌ایم.

اهداف کلی دوره

ریاضیات شبکه های عصبی (درک عمیق و واضح شبکه های عصبی)
- برای درک درست و شفاف از ساختار و رویکرد هر الگوریتم ریاضیات شبکه های عصبی و ساختارهای مختلف آنها آموزش داده خواهد شد.

پیاده سازی شبکه های عصبی (حالت دستی و ابزار پایتورچ)
- بعد از یادگیری مباحث ریاضیاتی، شبکه های عصبی به صورت دستی (RNNs) پیاده سازی شده و سپس با کمک ابزار پایتورچ پیاده سازی خواهند شد.
- CNNs ها در دوره پایتورچ آموزش داده شده اند، اینجا یک مروری به آنها خواهیم داشت و سپس ساختارهای مختلف CNNs ها را بررسی خواهیم کرد.

پروژه عملی
- این دوره کاملا پروژه محور هست، و تمامی مباحث مرحله به مرحله روی چندین پایگاه داده معتبر اعمال می‌شود تا با چالشهای واقعی آشنا شویم.

فصل اول: مقدمه ای بر مباحث مرتبط با شبکه های عصبی

شروع از صفر
- مقدمه ای بر شبکه های عصبی (چهارچوب انجام پروژه در PyTorch)
- ساخت data loader سفارشی
- طراحی شبکه عصبی
- توابع هزینه
- روشهای بهینه سازی
- Batching
- حلقه آموزش

مرروی بر شبکه عصبی MLP
- ساختار
- کاربرد
- مرور پس انتشار خطا (Back Propagation)
- ایراد شبکه عصبی MLP در مسائل سری زمانی

فصل دوم: شبکه های عصبی بازگشتی (RNNs)

شبکه های عصبی بازگشتی rnn

شبکه عصبی المان-جردن
- ساختار
- تئوری و ریاضیات شبکه عصبی (اثبات روابط)
- پیاده سازی شبکه عصبی (بدون ابزار آماده)
- انجام پروژه عملی
- ایراد
شبکه عصبی RNNs
- ساختار
- تئوری و ریاضیات
- Back propagation through time
- پیاده سازی شبکه عصبی (بدون ابزار آماده)
- پیاده سازی RNNs با ابزار پایتورچ
- پروژه عملی
- ایراد
شبکه عصبی LSTMs
- ساختار
- تئوری و ریاضیات
- Back propagation through time
- پیاده سازی شبکه عصبی (بدون ابزار آماده)
- پیاده سازی RNNs با ابزار پایتورچ
- پروژه عملی
شبکه عصبی GRU
- ساختار
- تئوری و ریاضیات
- Back propagation through time
- پیاده سازی با ابزار پایتورچ
- پروژه عملی
شبکه عصبی BiRNN
- ساختار
- تئوری و ریاضیات
- Back propagation through time
- پیاده سازی با ابزار پایتورچ
- پروژه عملی

فصل سوم: شبکه های عصبی کانولوشنی

َشبکه های عصبی کانولوشنی

مروری بر شبکه عصبی کانولوشنی ((CNN
- لایه کانولوشن (1D-2D-3D)
- لایه پولینگ (max/ave pooling)
- Temporal convolution
- Spatial-convolution
- Separable convolution
- Residual convolution
- …