Öğrenme eğrileri: model daha çok veriyle iyileşir mi

Ne gösteriyor

Öğrenme eğrisi, iki çizgi içeriyor.

Eğitim performansı: modelin, üzerinde eğitildiği veriye ne kadar iyi uyduğu.

Doğrulama performansı: modelin, görmediği veriye ne kadar iyi genellendiği.

Yatay eksende veri miktarı, dikey eksende performans. Veri arttıkça iki çizgi nasıl değişiyor?

İki çizgi arasındaki boşluk

En önemli bilgi, iki çizgi arasındaki mesafede.

Büyük boşluk. Eğitim performansı yüksek, doğrulama düşük. Bu aşırı uyum. Model eğitim verisini ezberliyor ama genelleyemiyor.

Küçük boşluk, düşük performans. İki çizgi de düşük ve birbirine yakın. Bu yetersiz uyum. Model çok basit, örüntüyü yakalayamıyor.

Küçük boşluk, yüksek performans. İdeal. Model hem öğrenmiş hem genelleyebiliyor.

Boşluğun büyüklüğü, aşırı uyumun doğrudan ölçüsü.

Veri eklemek yardım eder mi

Öğrenme eğrisinin en pratik kullanımı: daha çok veri işe yarar mı?

Doğrulama çizgisi hâlâ yükseliyorsa, daha çok veri modeli iyileştirir. Model veri açlığı çekiyor.

Doğrulama çizgisi düzleşmişse, daha çok veri işe yaramaz. Model, mevcut veriden öğrenebileceğini öğrenmiş. Daha iyi performans için farklı bir yaklaşım gerekiyor.

Bu, “daha çok veri toplayalım mı yoksa modeli mi değiştirelim” sorusuna cevap veriyor.

Finansta boşluk büyük

Finansta öğrenme eğrileri genelde büyük boşluk gösteriyor.

Sebebi tanıdık: düşük sinyal gürültü oranı ve az bağımsız gözlem. Model, gürültüye uymaya (aşırı uyum) çok yatkın.

Ve daha çok veri eklemek genelde yardım etmiyor, çünkü bağımsız gözlem sayısı sınırlı. Aynı ay içindeki hisseler bağımsız değil.

Bu, finansta esnek modellerin neden zorlandığını gösteriyor. Öğrenme eğrisi, büyük boşluk ve düzleşmiş doğrulama çizgisi: aşırı uyum var ve daha çok veri çözmüyor.

Karmaşıklık ekseni

Öğrenme eğrisinin bir varyasyonu, model karmaşıklığına göre performans.

Model karmaşıklaştıkça, eğitim performansı sürekli artıyor. Doğrulama performansı önce artıyor, sonra düşüyor.

Doğrulamanın tepe yaptığı nokta, ideal karmaşıklık. Ondan öteye, model aşırı uyuyor.

Bu, düzenlileştirme yazımızda değindiğimiz denge. Öğrenme eğrisi, o dengenin nerede olduğunu görsel olarak gösteriyor.

Nasıl okumalı

Bir öğrenme eğrisi gördüğünüzde şunlara bakın.

Eğitim ve doğrulama çizgileri arasındaki boşluk ne kadar? Büyük boşluk, aşırı uyum.

Doğrulama çizgisi hâlâ yükseliyor mu, düzleşmiş mi? Yükseliyorsa daha çok veri yardım eder.

İki çizgi de düşük ve yakınsa, model çok basit (yetersiz uyum).

Finansta büyük boşluk ve düzleşmiş doğrulama çizgisi görmek normal. Bu, aşırı uyum eğiliminin ve veri sınırının işareti. Çözüm, daha karmaşık model değil, daha basit model.

Sıradaki

Sıradaki yazıda hiperparametre arama sonuçlarını ele alıyoruz. Model ayarlarının optimize edilmesi ve bunun neden çoklu test riski taşıdığı.

Bu yazı bilgilendirme amaçlıdır, yatırım tavsiyesi değildir.