SHAP değerleri: tek bir tahmini açıklamak

Ne yapıyor

SHAP, bir modelin belirli bir tahminini parçalarına ayırıyor.

Model bir hisse için “yüksek skor” verdi. SHAP şunu söylüyor: bu skorun ne kadarı düşük volatiliteden, ne kadarı momentumdan, ne kadarı diğer değişkenlerden geldi.

Yani genel önem yerine, o tek karar için her değişkenin katkısını gösteriyor. Bir tahmini “açıklıyor”.

Neden faydalı

SHAP, kara kutu modelleri biraz daha şeffaf yapıyor.

“Model neden bu hisseye yüksek skor verdi?” sorusuna cevap veriyor. Yönü de gösteriyor: bir değişken skoru artırdı mı azalttı mı.

Bu, modelin mantıklı çalışıp çalışmadığını kontrol etmeye yarıyor. Eğer model bir hisseye yüksek skoru “beklenmedik” bir sebeple veriyorsa, bir sorun olabilir.

Ayrıca genel özellik öneminin gizlediği inceliği yakalıyor: bir değişken bazı hisselerde önemli, bazılarında önemsiz olabilir. SHAP bunu gösteriyor.

Sınırları

SHAP güçlü ama sınırlı ve abartılıyor.

Yine nedensellik değil. SHAP, modelin nasıl karar verdiğini açıklıyor, gerçek dünyada neyin neye sebep olduğunu değil. Model yanlış bir ilişki öğrendiyse, SHAP o yanlış ilişkiyi “açıklıyor”.

Korelasyonlu değişkenlerde belirsiz. İki değişken örtüşüyorsa, katkının nasıl bölüştürüleceği belirsiz. SHAP bir çözüm sunuyor ama tek doğru bölüşüm yok.

Karmaşıklık. SHAP kolayca yanlış yorumlanıyor. Güzel grafikleri, olduğundan fazla kesinlik hissi veriyor.

Şeffaflık yanılsaması

SHAP’ın en büyük riski, sahte bir şeffaflık hissi vermesi.

Bir kara kutu modeli, SHAP grafikleriyle “açıklanabilir” görünüyor. Ama altta hâlâ karmaşık, güvenilirliği belirsiz bir model var.

SHAP, modelin ne öğrendiğini gösteriyor. Ama modelin doğru şeyi öğrenip öğrenmediğini söylemiyor. Aşırı uyan bir model de SHAP ile “açıklanabilir”, ama açıklaması gürültüyü açıklıyor olabilir.

Yani SHAP, modelin geçerliliğini kanıtlamıyor. Sadece davranışını gösteriyor.

Bizim yaklaşımımız

Biz kompozit modelimizde SHAP’a ihtiyaç duymuyoruz çünkü model zaten şeffaf.

Her hissenin skoru, birkaç standartlaştırılmış faktörün teori yönünde toplamı. Hangi faktörün ne kadar katkı yaptığı, doğrudan görülebiliyor. SHAP’a gerek yok, çünkü kara kutu yok.

Bu, basit modellerin bir avantajı. Yorumlanabilirlik, ek bir araç gerektirmeden içinde.

Kara kutu bir model için SHAP faydalı bir açıklama katmanı. Ama basit bir model, o katmana hiç ihtiyaç duymadan zaten yorumlanabilir.

Nasıl okumalı

Bir SHAP analizi gördüğünüzde şunları hatırlayın.

Bu, modelin kararını açıklıyor, gerçek nedenselliği değil.

Model yanlış öğrendiyse, SHAP o yanlışı “açıklar”.

Korelasyonlu değişkenlerde katkı bölüşümü belirsiz.

Ve en önemlisi: SHAP, modelin geçerli olduğunu kanıtlamıyor. Sahte şeffaflık hissine kapılmayın. Bir modelin açıklanabilir olması, doğru olduğu anlamına gelmiyor.

Sıradaki

Sıradaki yazıda sınıflandırma çıktılarını, karışıklık matrisini ve ROC eğrisini ele alıyoruz. Bir modelin evet-hayır tahminlerinin başarısı nasıl ölçülür.

Bu yazı bilgilendirme amaçlıdır, yatırım tavsiyesi değildir.