İnsan zihni kendini genellikle hakikatin tahtında oturan bir kral sanır. Oysa çoğu zaman karanlık bir odada el yordamıyla yürüyen, duvarlara çarpınca da buna kader diyen bir canlıyız. Bilişsel çarpıtmalar dediğimiz şeyler, beynin gerçekliği kısayoldan yorumlama alışkanlıklarıdır. Hızlı karar vermek için geliştirdiğimiz bu kestirmeler, bazen bizi kurtarır; bazen de zihinsel bir bataklığa çeker. İlginç olan şu: Makineler de sandığımız kadar masum değildir. Onlar da hata yapar, ama bunu kaşlarını çatıp dramatik bir iç sesle değil, veri setinin içinde usulca tekrar ederek yapar.
Bir insanın felaketleştirme eğilimini düşünelim. Küçük bir başarısızlık yaşar ve zihni hemen kıyamet senaryosu yazar: ‘Bu sınav kötü geçti, hayatım bitti.’ Makinedeki karşılığı nedir? Aşırı genelleme yapan bir model. Eğitim verisinde birkaç örnek görür, sonra bütün dünyayı o örneklere benzetir. İnsan ‘bir kere terk edildim, demek ki sevilmeye layık değilim’ der; algoritma ‘bu profil daha önce riskli görünmüş, demek ki benzerleri de risklidir’ sonucuna varır. İkisinde de sorun aynıdır: Sınırlı veriden evrensel yasa üretmek.
