مفهوم overfitting چیست و چگونه رفع می‌شود

خلاصه
1405/06/14

اورفیتینگ (Overfitting) زمانی رخ می‌دهد که یک مدل یادگیری ماشین، داده‌های آموزشی را به خوبی حفظ کند اما توانایی تعمیم (Generalization) خود را روی داده‌های جدید و ندیده‌شده از

مفهوم overfitting چیست و چگونه رفع می‌شود


اورفیتینگ (Overfitting) زمانی رخ می‌دهد که یک مدل یادگیری ماشین، داده‌های آموزشی را به خوبی حفظ کند اما توانایی تعمیم (Generalization) خود را روی داده‌های جدید و ندیده‌شده از دست بدهد. یعنی مدل آنقدر پیچیده شده که نویز یا جزئیات تصادفی داده‌های آموزش را هم می‌یادزدد.

**روش‌های رفع اورفیتینگ:**

۱. **جمع‌آوری داده بیشتر:** افزایش حجم داده‌ها معمولاً بهترین راه حل است.
۲. **ساده‌سازی مدل (Regularization):** اعمال محدودیت‌هایی روی وزن‌ها (مانند L1 یا L2 Regularization) تا از پیچیدگی بیش از حد جلوگیری شود.
۳. **انتخاب ویژگی‌های مناسب (Feature Selection):** حذف ویژگی‌های غیرضروری که ممکن است باعث سردرگمی مدل شوند.
۴. **تقطیر (Cross-Validation):** استفاده از تکنیک‌هایی مانند K-Fold Cross-Validation برای ارزیابی مداوم عملکرد و جلوگیری از بیش‌برازش به یک مجموعه داده خاص.
۵. **توقف زودهنگام (Early Stopping):** در شبکه‌های عصبی، آموزش مدل را متوقف می‌کنید زمانی که عملکرد آن روی مجموعه اعتبارسنجی شروع به افت کند، حتی اگر روی داده‌های آموزش همچنان بهبود یابد.