mini-batch

Batch Vs Layer Normalization-transformed

ساخت مدل‌های یادگیری عمیق بهتر با Batch Normalization و Layer Normalization

دو رویکرد Batch Normalization و Layer Normalization دو استراتژی برای آموزش سریعتر شبکه‌های عصبی هستند بدون اینکه نیاز باشد برای مقدار دهی اولیه‌ی وزن‌ها و سایر تکنیک‌های منظم‌سازی یا Regularization، احتیاط بیش از حد به خرج داد. در این آموزش،…
pattern mode, batch mode and mini-batch mode in training neural networks

حالت های ارائه داده آموزشی به شبکه های عصبی (pattern, mini-batch, batch-mode)

در آموزش شبکه های عصبی، داده های آموزش را میتوان به سه شکل pattern mode, batch-mode و mini-batch به شبکه عصبی ارائه داد. هرکدام از این حالتها مزایا و معایب خودشون را دارند. در این پست میخواهیم با هر سه…