دو رویکرد Batch Normalization و Layer Normalization دو استراتژی برای آموزش سریعتر شبکه‌های عصبی هستند بدون اینکه نیاز باشد برای مقدار دهی اولیه‌ی وزن‌ها و سایر تکنیک‌های منظم‌سازی یا Regularization، احتیاط بیش از حد به خرج داد. در این آموزش،…

Batch Normalization یا نرمالسازی دسته‌ای به عنوان یکی از تکنیکهای Generalization در یادگیری عمیق محسوب می‌‌‌شود که بطور مستقیم،‌‌‌ در بهینه‌سازی مدلها نقش دارد. در واقع، پارامترهای ورودی را به کمک Adaptive normalization در مقیاسی مشابه قرار می‌دهد و اینگونه…

یادگیری عمیق و شبکه‌های عصبی از پیشرفته‌ترین و پرکاربردترین فناوری‌های امروزی هستند. علیرغم پیشرفت قابل توجه آنها، هنوز چالش‌های زیادی در یادگیری عمیق وجود دارد که محققان و متخصصان در تلاشند تا بر این چالش‌ها غلبه کنند و مدل‌های بهتری…