لایه‌های Fully Connected (FC) یا Dense Layers یکی از مهم‌ترین بخش‌های شبکه‌های عصبی کانولوشنی (CNN) هستند. این لایه‌ها معمولاً در انتهای شبکه قرار می‌گیرند و وظیفه نهایی آن‌ها تصمیم‌گیری برای طبقه‌بندی یا تخمین خروجی (regression) است. اما نقش لایه‌های Fully…

اگر به دنبال بهترین منابع یادگیری عمیق (deep learning) و شبکه‌های عصبی (neural networks) هستید، در این مقاله سه کتاب مرجع شامل Neural Networks and Learning Machines، Deep Learning  و Dive into Deep Learning  را بررسی می‌کنیم. این سه کتاب…

تکنیک Bag of Words (BOW) یکی از مهمترین و پرکاربردترین روش‌ها در استخراج ویژگی‌های متنی در حوزه‌ی پردازش زبان طبیعی (NLP) است. یکی از چالشهای اصلی در داده‌های متنی، تفاوت اندازه‌ی بردار ویژگی بین نمونه ها است که فرآیند آموزش…

در فصل اول با مفاهیم پایه آشنا میشویم، از جمله پس انتشار خطا، توابع هزینه، روشهای بهینه‌سازی، dropout, batch normalization و ساخت dataloader در پایتورچ . در فصل دوم  تئوری و ریاضیات شبکه های عصبی بازگشتی (RNNs, LSTMs, GRUs, BiLSTMs)…

قدرت در اتحاد است، اما اتحادی هدفمند و ساختار یافته! فلسفه اصلی یادگیری جمعی این است که به جای اتکا به یک مدل منفرد، چندین مدل در کنار هم برای حل یک مسئله به کار گرفته شوند. این رویکرد با…

همیشه وارد شدن به حوزه جدید چالشهای خودش رو داره، از نداشتن نقشه راه گرفته تا زمانبندی! یک نقشه راه برای یادگیری پایتون و هوش مصنوعی آماده کرده ایم و یک چالش 10 هفته ای براش در نظر گرفتیم. هدف…

هوش مصنوعی که این روزها به موضوعی داغ در اخبار تبدیل شده، برای محققین این حوزه عبارت هوش مصنوعی اصلا تازگی نداره و سالهاست که در این حوزه فعالیت انجام میشه. در این پست میخواهیم یک گذری به گذشته بکنیم…

Batch Normalization یا نرمالسازی دسته‌ای به عنوان یکی از تکنیکهای Generalization در یادگیری عمیق محسوب می‌‌‌شود که بطور مستقیم،‌‌‌ در بهینه‌سازی مدلها نقش دارد. در واقع، پارامترهای ورودی را به کمک Adaptive normalization در مقیاسی مشابه قرار می‌دهد و اینگونه…

یکی از موانع بزرگ در الگوریتم های یادگیری عمیق، Overfitting است که برای مقابله با این پدیده، راهکارهای متعددی تاکنون توسط محققان ارائه شده است که در قالب تکنیکهای Generalization معرفی و در مقالات مورد استفاده قرار می‌گیرد. در این…

از چشم انداز آکادمیکی، پیشرفت‌های حاصل در discriminative modeling را ساده‌تر می‌توان بررسی کرد؛ زیرا می‌توانیم عملکرد شبکه‌ها را با استفاده از معیارهای عملکردی، ارزیابی کنیم، اما ارزیابی مدل‌های generative دشوار است. به خصوص زمانی که کیفیت خروجی‌های تولید شده…

می خواهیم به نحوه ی پیاده سازی autoencoderها در کراس نگاهی بیندازیم، معماری شبکه عصبی که سعی می کند بازنمایی فشرده ای از داده ی ورودی به دست دهد.

اگر تابحال مقالات مربوط به کاربرد شبکه‌های عمیق در پردازش انواع مختلف سیگنال EEG را بررسی کرده باشید، احتمالاً متوجه شده‌اید که بسته به کاربرد و عملکرد مناسب مدل، شبکه‌های عمیق در نقش‌های مختلفی ظاهر شده‌اند. برای مثال در برخی…