👨‍🔧 Hatalara Karşı Çözümler

🌸 High Bias

  • Sinir ağlarını geliştir

  • Yeniden katmanları eğit

  • Sinir ağlarının mimarisini değiştir

    • Hyperparameters

    • RNN, CNN ...

    • Aktivasyon fonksiyonu

    • Derinliği ve boyutu

🎈 Avoidable Bias

  • Daha büyük model eğitimi

  • Uzun veya iyi optimasyon algoritması

    • Momentum

    • RMSProp

    • Adam

  • Sinir ağlarının mimarisini değiştir

    • Hyperparameters

    • RNN, CNN ...

    • Aktivasyon fonksiyonu

    • Derinliği ve boyutu

🌒 High Variance

  • Daha çok veri topla

    • Data augmentation

  • Regularization uygula (çok etkili)

    • L2 regularization

  • Sinir ağlarının mimarisini değiştir

    • Hyperparameters

    • RNN, CNN ...

    • Aktivasyon fonksiyonu

    • Derinliği ve boyutu

⛅ Data Missmatch

  • Error analysis'i dev set üzerine uygula

    • Test set üzerine uygulanmama sebebi, test set'in ezberlenmesinden (overfitting) kaçınmak

    • Train ile dev / test kümelerinin arasındaki farkı anlamaya çalış

  • Dev set, train set'ten farklıysa birbirine benzetmeye çalış

    • Dev gürültülü ise "noisy reduction" uygulayabilirsin

  • Train'e dev'e benzer veriler topla

  • "Artifical data syntjessis" ile yapay veri oluştur

    • Sade sese gürültü ekleyebilirisin

    • Yankılama ekleyebilirsiz

📉 Degree of Overfitting

  • Dropout layer ekle