ماشین بردار پشتیبان(svm) یکی از معروفترین الگوریتمها در مسائل طبقه‌بندی هست که برای اولین بار توسط آقای Vladimir Vapnik در سال 1995 با عنوان support vectors networks مطرح شد. SVM در ابتدا برای مسائل طبقه‌بندی دو کلاسه خطی مطرح شده…

وقتی یک داده‌ای دارید که تعداد نمونه‌های گروه‌ها خیلی متفاوت هستند، یا به اصطلاح یک داده نامتعادل دارید، دقت کلاسبندی به تنهایی به هیچ عنوان نمی‌تواند پارامتر مناسبی برای ارزیابی باشد. در این حالت بهترین کار اینه که سایر پارامترهای…

برخی از طبقه‌بندهای یادگیری ماشین، مثل SVM برای مسائل دو کلاسه طراحی شده‌اند و اگر یکی بخواهد از این الگوریتمها در مسائل چند کلاسه استفاده کند، مجبور است که با کمک تـکنیکهایی طبقه‌بند را برای مسائل چندکلاسه تعمیم دهد. تکنیک…

احتمالا تا الان براتون پیش اومده که در یک پروژه‌ای از دو مدل یادگیری ماشین استفاده کرده‌اید و مشاهده کردید هر دو تقریبا مثل هم عمل می‌کنند و بعد در انتخاب بین دو مدل به مشکل خورده‌اید یا براتون سوال…

وقتی یک مدل یادگیری ماشین عملکرد خیلی خوبی روی داده آموزشی داشته باشد ولی روی داده جدید عملکرد خیلی پایینی داشته باشد، در این صورت به احتمال بسیار زیاد overfitting رخ داده است. در این مقاله میخواهیم در ابتدا با…

بسیاری از الگوریتمهای نظارت شده و غیرنظارتی، از معیارهای فاصله در پروسه یادگیری استفاده میکنند. برای مثال معیارهایی از قبیل فاصله اقلیدسی در الگوریتمهایی مثل knn, kmeans زیاد استفاده می‌شود. درک اینکه از کدام معیار فاصله در الگوریتمها استفاده کنیم…

انحراف معیار(standard deviation) و خطای استاندارد(standard error) هر دو معیاری از پراکندگی هستند. انحراف معیار پراکندگی نمونه‌ها حول میانگین را مشخص می‌کند. در حالی خطای استاندارد میزان انحراف میانگین‌های تخمین زده شده از زیرمجموعه‌های یک جمعیت را مشخص می‌کند. در…

تست آماری ttest یک روش انتخاب ویژگی است که برپایه یک فرضیه آماری به ویژگی‌ها براساس تفکیک‌‎پذیری آنها یک pvalue اختصاص می‌دهد و سپس براساس مقدار pvalue‌ها، ویژگی‌های مناسب را انتخاب می‌کند. میخواهیم در این بخش روش آماری ttest و همچنین…

یادگیری جمعی(ensemble learning) در حوزه یادگیری ماشین شامل تکنیکهایی هست که در آن برای حل یک مسئله، به جای استفاده از یک ماشین، از چندین ماشین به طور همزمان استفاده میکنند. در این بخش میخواهیم بررسی کنیم که چرا می‌خواهیم…

در یک سیستم شناسایی الگو برای کاهش بعد ویژگی‌ها از دو رویکردِ نگاشت ویژگی ( feature mapping ) و انتخاب ویژگی(feature selection) میتوان استفاده کرد، هر دو روش سعی بر کاهش بهینه تعداد ویژگی‌ها دارند، منتهی رویکرد هر کدام متفاوت…

در یک سیستم شناسایی الگو، کاهش بعد در مرحله چهارم بین طبقه‌بندی و استخراج ویژگی قرار می‌گیرید و هدفش کاهش تعداد ویژگی های استخراج شده می‌باشد تا کار تصمیم گیری را برای طبقه‌بند تسهیل کند. در این بخش میخواهیم این…

ویژگی یک پارامتر یا خصیصه قابل اندازه گیری از پدیده‌ای هست که مشاهده می‌کنیم. ویژگی مشخصات مهم یک پدیده(object) را کمّی می‌کند. به فرایند اندازه‌گیری این پارامترها استخراج ویژگی گفته می‌شود. بخش استخراج ویژگی در همان ابتدای یک سیستم شناسایی…