Bir yapay zeka modelinin öğrenip öğrenmediğini anlamak, bir öğrencinin dersi kavrayıp kavramadığını anlamaya benzer: Sınavdaki sorular defterdekinin aynısıysa herkes dâhi görünür. Asıl mesele, soru biraz eğilip büküldüğünde başlar. Overfitting, yani aşırı uyum, modelin verinin ruhunu değil, yüzündeki benleri ezberlemesidir. Haritayı öğrenmek yerine haritadaki kahve lekesini de kutsal işaret sanır.
Makine öğrenmesinde hedef basit görünür: geçmiş verilerden kalıplar çıkar, gelecekteki veriler üzerinde doğru tahmin yap. Fakat model fazla güçlü, veri fazla küçük ya da eğitim fazla uzun olduğunda tuhaf bir şey olur. Model, genel ilişkiyi yakalamak yerine eğitim verisindeki rastlantısal gürültüyü de öğrenmeye başlar. Bir kediyi tanımak yerine, eğitim setindeki kedinin sol kulağındaki gölgeyi kedi olmanın şartı zanneder. Sonra gerçek dünyada karşısına gölgesiz bir kedi çıkınca şaşırır: Bu da ne böyle, köpek mi?
Ezberin Tatlı Zehri
Overfitting’in tehlikeli yanı, ilk bakışta başarı gibi görünmesidir. Eğitim verisinde hata düşer, metrikler parlar, grafikler gurur verici biçimde aşağı kıvrılır. Model sanki mükemmelleşmektedir. Fakat bu, aynanın karşısında prova yapan bir aktörün sahne ışıkları altında donakalmasına benzer. Kendi odasında kusursuzdur; dünya ise onun odası değildir.
Bu noktada temel ayrım şudur: Ezber, geçmişi aynen tekrar eder; öğrenme, geçmişten ilke çıkarır. Ezberci model, gördüğü örneklerin koordinatlarını zihnine çiviler. Öğrenen model ise görünmeyen örneklerde de işe yarayacak yapıyı arar. Birincisi arşiv memurudur, ikincisi kaşiftir. Yapay zekâda değerli olan şey, arşivin büyüklüğü değil, arşivden çıkarılan sezginin dayanıklılığıdır.
Model Neden Aşırı Uyum Sağlar?
Birinci neden karmaşıklıktır. Parametre sayısı çok yüksek bir model, az veriye verilirse her noktaya ayrı bir bahane uydurabilir. Bu, beş kişinin davranışına bakıp insanlık tarihi yazmaya benzer. İkinci neden veri kalitesidir. Gürültülü, dengesiz, hatalı etiketlenmiş veriler modele yanlış ipuçları verir. Üçüncü neden değerlendirme hatasıdır. Eğer modeli sadece eğitim setinde ölçerseniz, ona kendi yazdığı sınavı çözdürmüş olursunuz.
Bu yüzden makine öğrenmesinde kutsal üçlü vardır: eğitim verisi, doğrulama verisi ve test verisi. Eğitim verisi modelin çalıştığı atölyedir. Doğrulama verisi, ayarların denendiği prova sahnesidir. Test verisi ise seyircinin önüdür; orada numara yapmak zordur. Gerçek performans, modelin hiç görmediği veride ortaya çıkar. Çünkü genelleme, zekânın laboratuvardan sokağa çıkabilme cesaretidir.
İnce Çizgiyi Nasıl Koruruz?
Overfitting’e karşı kullanılan yöntemler aslında modele disiplin kazandırır. Regularization, modele her ayrıntıya sarılma, biraz sadeleş der. Dropout, sinir ağındaki bazı bağlantıları eğitim sırasında rastgele susturarak modelin tek bir hileye bağımlı olmasını engeller. Erken durdurma, model eğitim verisini fazla kurcalayıp paranoyaklaşmadan süreci keser. Veri artırma ise modele aynı fikrin farklı kılıklarda görünebileceğini öğretir: Kedi dönebilir, ışık değişebilir, arka plan karmaşıklaşabilir; yine de kedi kedidir.
Bir başka güçlü panzehir de daha iyi ve daha çeşitli veridir. Model dünyayı ne kadar geniş görürse, tekil rastlantıları yasa sanma ihtimali o kadar azalır. Ancak burada nicelik tek başına kurtarıcı değildir. Milyonlarca kötü örnek, bazen büyük ölçekli bir yanılgı üretir. Veri yalnızca çok değil, temsil edici, temiz ve bağlamlı olmalıdır.
Overfitting bize teknik bir dersin ötesinde felsefi bir uyarı da verir: Bilgi, geçmişin fotoğrafını büyütmek değildir; değişen koşullarda anlamı koruyabilmektir. İnsan da bazen böyle aşırı uyum sağlar. Bir çocukluk deneyimini tüm ilişkilere uygular, bir başarısızlığı kader yasası yapar, bir travmayı kişilik sanır. Zihin de model gibi gürültüyü hakikat zannedebilir. Bu yüzden öğrenmek, sadece veri almak değil, veriye karşı sağlıklı bir mesafe geliştirmektir.
Sonuçta iyi bir yapay zekâ modeli, her şeyi hatırlayan değil, neyi unutacağını bilen modeldir. Ezber, ayrıntıların hapishanesidir; öğrenme, örüntülerin özgürlüğü. Overfitting çizgisi aşıldığında model dünyayı anlamaz, yalnızca geçmişe sadakat yemini eder. Oysa zekâ, ister insanda ister makinede olsun, geçmişi tekrar etmek için değil, bilinmeyenle karşılaştığında da ayakta kalmak için vardır.
