İnsan zihni kendini genellikle hakikatin tahtında oturan bir kral sanır. Oysa çoğu zaman karanlık bir odada el yordamıyla yürüyen, duvarlara çarpınca da buna kader diyen bir canlıyız. Bilişsel çarpıtmalar dediğimiz şeyler, beynin gerçekliği kısayoldan yorumlama alışkanlıklarıdır. Hızlı karar vermek için geliştirdiğimiz bu kestirmeler, bazen bizi kurtarır; bazen de zihinsel bir bataklığa çeker. İlginç olan şu: Makineler de sandığımız kadar masum değildir. Onlar da hata yapar, ama bunu kaşlarını çatıp dramatik bir iç sesle değil, veri setinin içinde usulca tekrar ederek yapar.
Bir insanın felaketleştirme eğilimini düşünelim. Küçük bir başarısızlık yaşar ve zihni hemen kıyamet senaryosu yazar: ‘Bu sınav kötü geçti, hayatım bitti.’ Makinedeki karşılığı nedir? Aşırı genelleme yapan bir model. Eğitim verisinde birkaç örnek görür, sonra bütün dünyayı o örneklere benzetir. İnsan ‘bir kere terk edildim, demek ki sevilmeye layık değilim’ der; algoritma ‘bu profil daha önce riskli görünmüş, demek ki benzerleri de risklidir’ sonucuna varır. İkisinde de sorun aynıdır: Sınırlı veriden evrensel yasa üretmek.
Zihnin kara kutusu, makinenin kara kutusu
Psikolojide ‘seçici soyutlama’ diye bir çarpıtma vardır. Kişi, bütün tabloyu değil, sadece acıtan ayrıntıyı görür. Bir konuşmada on kişi onu takdir etmiştir, biri eleştirmiştir; zihin o tek eleştiriyi alır, büyütür, cilalar ve gece yarısı başucuna koyar. Algoritmalarda buna benzer biçimde özellik seçimi ve ağırlıklandırma sorunları görülür. Model, verideki bazı sinyalleri abartır, bazılarını yok sayar. Sonra bize tarafsız bir karar gibi görünen şey aslında seçilmiş bir körlüktür.
İnsanlarda doğrulama yanlılığı belki de en tanıdık canavardır. İnandığımız şeyi destekleyen kanıtları toplar, karşıt kanıtları ise zihinsel çöp kutusuna atarız. Sosyal medyada bunun tiyatrosunu her gün izleriz: Herkes kendi kabilesinin filozofu, karşı tarafın ise cahilidir. Algoritmalar da buna katkı sağlar. Tavsiye sistemleri bize seveceğimiz şeyleri gösterdikçe, düşünce kaslarımız rahat koltuğa gömülür. Böylece insanın içindeki doğrulama yanlılığı, makinenin optimizasyon hedefiyle evlenir. Ortaya çıkan çocuk ise yankı odasıdır.
Bir başka ilginç benzerlik ‘etiketleme’dir. İnsan kendine ‘ben başarısızım’, başkasına ‘o bencil’ der ve karmaşık bir varoluşu tek kelimelik hapishaneye kapatır. Makine öğrenmesinde sınıflandırma da bazen böyle davranır. Kredi alabilir, alamaz. Güvenilir, riskli. Uygun, uygunsuz. Elbette sınıflandırma teknik olarak gereklidir; fakat mesele şudur: İnsan da makine de etiketin arkasındaki hikâyeyi unutmaya meyillidir. Bir insanı tek davranışına, bir topluluğu tek verisine, bir geleceği tek olasılığa indirgediğimizde akıl değil, hız kazanırız.
Yanılgı sadece hata değil, karakterdir
Burada daha derin bir nokta var: Hatalarımız yalnızca bilgi eksikliğinden doğmaz; bazen kim olduğumuzu koruma çabasından doğar. Jungiyen bir dille söylersek, gölgemizi görmek istemediğimiz için dünyayı çarpıtırız. Korkaklığımıza ‘temkin’, öfkemize ‘adalet’, kıskançlığımıza ‘sezgi’ deriz. Algoritmalarda ise gölge, veri setinin geçmişinde saklıdır. Toplumun eski önyargıları veriye kazınır, model onları öğrenir ve geleceğe teknolojik bir ciddiyetle taşır. Böylece makine yeni bir şey icat etmez; çoğu zaman eski hatalarımızı daha hızlı, daha ölçeklenebilir ve daha soğukkanlı biçimde tekrarlar.
Bu yüzden yapay zekâya bakarken aslında metalden yapılmış yabancı bir akla değil, kendi zihinsel alışkanlıklarımızın büyütülmüş aynasına bakıyoruz. İnsan beyni örüntü arar; algoritma örüntü bulur. İnsan anlam uydurur; algoritma korelasyon hesaplar. İnsan yanılırken hikâye anlatır; algoritma yanılırken skor üretir. Fark dramatik görünür, ama kök aynıdır: Eksik bilgiyle dünyayı yönetilebilir kılma arzusu.
Peki çözüm nedir? Ne insanı tamamen sezgisiz bir hesap makinesine çevirmek ne de makineyi büyülü bir kâhin gibi görmek. Çözüm, çift taraflı bir uyanıklıktır. Kendi zihnimize ‘Bu düşünce bir gerçek mi, yoksa korkumun kostüm giymiş hali mi?’ diye sormak gerekir. Algoritmaya da ‘Bu sonuç hangi veriyle, hangi amaçla, hangi kör noktalarla üretildi?’ diye sormalıyız. Çünkü sorgulanmayan zihin dogmaya, sorgulanmayan algoritma otoriteye dönüşür.
Belki de çağımızın en önemli bilgeliği şudur: Ne beynimiz tanrısal bir mahkeme, ne de algoritmalar tarafsız meleklerdir. İkisi de kusurlu yorum makineleridir. Fakat bu kötü haber değildir. Çünkü yanılgıyı görebilen varlık, yanılgının tamamen esiri değildir. Beynin hata kodlarını okumayı öğrenen insan, makinenin yanılgılarını da daha iyi tanır. Ve belki o zaman, hem kendimize hem de teknolojimize biraz daha az kibir, biraz daha fazla bilinç yükleriz.