تابع فعالسازی؛ لحظهٔ تصمیم
9 دقیقه · beginner
نورون ابتدا ورودیهای وزندار را جمع میکند، سپس نتیجه را از تابع فعالسازی عبور میدهد. این تابع تصمیم میگیرد چه مقدار سیگنال به لایهٔ بعد برود.
تابع ReLU بسیار ساده است: عددهای منفی را صفر میکند و عددهای مثبت را نگه میدارد. همین شکست کوچک در خط، شبکه را قادر میکند الگوهای غیرخطی یاد بگیرد.