Makine öğrenmesi çoğu zaman steril bir laboratuvar hayaliyle sunulur: Beyaz ışıklar, soğuk sunucular, kusursuz matematik ve duygularından arınmış kararlar. Oysa algoritmalar, toplumun aynasına bakarak öğrenir. Ayna kirliyse, görüntü de lekeli çıkar. Daha kötüsü, bu leke bazen bilimsel kesinlik makyajıyla geri döner. İnsanların önyargısı dedikodu gibi görünür; makineninki ise rapor, skor, risk puanı ve otomatik karar olarak karşımıza dikilir.
Makine öğrenmesinin temel büyüsü basittir: Geçmiş veriye bak, örüntüyü bul, geleceğe tahmin yap. Fakat geçmiş, masum bir arşiv değildir. Geçmiş; kimin işe alındığını, kimin kredi alabildiğini, kimin daha çok polis kontrolüne takıldığını, kimin hastanede ciddiye alındığını kaydeder. Yani veri setleri sadece olayları değil, iktidar ilişkilerini de taşır. Bir algoritma bu verilerle beslendiğinde, dünyayı olduğu gibi değil, geçmişte güçlülerin çizdiği sınırlar içinde öğrenir.
Veri, masum bir hammadde değildir
Bir şirketin işe alım algoritmasını düşünelim. Geçmişte çoğunlukla erkek mühendisleri işe almış bir kurum, adayları bu tarihe göre puanlarsa, makine erkekliği başarıyla karıştırabilir. Bunu açıkça yapmasına gerek yoktur. Cinsiyet alanını veriden silseniz bile okul, hobi, çalışma aralığı, hatta kullanılan kelimeler dolaylı işaretlere dönüşebilir. Algoritma dedektif gibidir; yasakladığınız ipucunu başka bir kapıdan bulur. Böylece ayrımcılık, kaba bir cümle olmaktan çıkar, istatistiksel bir fısıltıya dönüşür.
Aynı mekanizma kredi sistemlerinde de çalışır. Yoksul mahallelerde yaşayan insanların daha az finansal fırsata sahip olması, onların riskli olduğu anlamına gelmeyebilir; sadece sistemin onları yıllarca riskli muamelesiyle kuşattığını gösterir. Ancak model bunu tarihsel bağlamıyla değil, sayısal korelasyon olarak okur. Sonuç: Kredi alamayan yine kredi alamaz, fırsata erişemeyen yine dışarıda kalır. Algoritma burada geleceği tahmin etmez; geçmişin kapısını otomatik kilitle yeniden kapatır.
Tarafsızlık bazen en tehlikeli tarafgirliktir
Teknolojide en sevilen masallardan biri şudur: İnsan hata yapar, makine objektiftir. Bu masal rahatlatıcıdır çünkü sorumluluğu buharlaştırır. Kararı kim verdi? Sistem. Neden reddedildim? Model böyle uygun gördü. Hangi model? Ticari sır. İşte burada kod, yeni bir bürokratik duvara dönüşür. Eski dünyada ayrımcılık bazen yüzünü gösterirdi; yeni dünyada API çağrısının arkasına saklanır. Üstelik hata tek tek değil, ölçekli yapılır. Bir memurun önyargısı yüz kişiyi etkiler; kötü tasarlanmış bir model milyonlara aynı soğuk eli uzatabilir.
Bu yüzden mesele sadece teknik değildir; aynı zamanda ahlaki, siyasal ve epistemolojiktir. Hangi verinin toplandığı, hangi başarının ölçüldüğü, hangi hatanın tolere edildiği bir dünya görüşü içerir. Örneğin bir suç tahmin sistemi, yanlış pozitifleri kimin sırtına yükler? Masum bir insanı riskli diye işaretlemek mi daha ağırdır, yoksa potansiyel bir suçu kaçırmak mı? Bu sorunun tek bir matematiksel cevabı yoktur. Çünkü adalet, sadece optimizasyon problemi değildir; kimin acısının görünür sayıldığıyla ilgilidir.
Çözüm, makineleri çöpe atmak değil; onları putlaştırmayı bırakmaktır. Daha iyi veri setleri, düzenli önyargı testleri, açıklanabilir modeller, bağımsız denetimler ve etkilenen toplulukların karar süreçlerine katılması şarttır. Model kartları, veri kökeni belgeleri, adalet metrikleri ve insan denetimi lüks değil, dijital kamusallığın emniyet kemerleridir. Fakat bunlar da yeterli değildir. Çünkü bir sistem adaletsiz bir hedefi mükemmel biçimde optimize ediyorsa, teknik başarı toplumsal başarısızlığa dönüşür.
Sonunda soru şudur: Makineler ne öğreniyor? Cevap ürkütücü derecede insani: Bizden öğreniyorlar. Korkularımızı, kör noktalarımızı, sınıfsal reflekslerimizi, cinsiyetçi ezberlerimizi, ırksal tortularımızı ve konforlu suskunluklarımızı. Algoritmalar geleceğin zekâsı olabilir; ama onların vicdanı kendiliğinden doğmayacak. Kodun içine sızan hayaletleri kovmak istiyorsak, önce toplumun karanlık odasına ışık tutmalıyız. Çünkü makine aynayı tutar; yüzümüzü değiştirmek hâlâ bize düşer.