Robot Hâkim Tokmağı Vurursa: Adalet mi Gelir, Kusursuz Bir Yanılgı mı?

Bir mahkeme salonu düşünün: Duvarlarda devletin soğuk ciddiyeti, sanık sandalyesinde titreyen bir insan, avukatların dosya hışırtıları ve kürsüde cübbeli bir hâkim yerine sessizce çalışan bir algoritma. Ne öksürüyor, ne yoruluyor, ne de sabah kahvesini içmediği için huysuzlanıyor. Önüne gelen delilleri işliyor, emsal kararları tarıyor, olasılıkları hesaplıyor ve sonucu açıklıyor: “Suçlu.” Ya da “Beraat.” İlk bakışta büyüleyici değil mi? İnsan yanılgısından arınmış, duygusal dalgalanmaların üstünde, rüşvete kapalı, akrabalık ilişkilerinden etkilenmeyen bir adalet makinesi… Fakat tam da burada felsefenin kılıcı kınından çıkar: Tarafsızlık, sadece önyargısız hesap yapmak mıdır?

Yargı, yalnızca bilgi işleme faaliyeti değildir; insanın insana ne borçlu olduğunu belirleyen derin bir ahlaki sahnedir. Bir algoritma dosyadaki verileri görebilir, fakat sessizliğin ağırlığını, pişmanlığın yüz kaslarındaki titreşimini, mağdurun kelimeler arasına sıkışan korkusunu anlayabilir mi? “Anlamak” derken romantik bir sis perdesinden söz etmiyorum. Hukukta niyet, bağlam, zorunluluk, ihmal, kast, makul şüphe gibi kavramlar vardır. Bunlar matematiksel sembollere çevrilebilir; evet. Ama çevrildiklerinde aynı şey olarak kalırlar mı? Bir şiiri barkoda dönüştürmek mümkündür; fakat barkodu okuyan cihaz şiiri yaşamış olmaz.

Kuralın Çatladığı Yer: Hukuk Sistemi İstisnalarla Nasıl Hayatta Kalır?

Hukuk sistemi dışarıdan bakıldığında dev bir saat gibi görünür: Her dişli yerli yerinde, her madde numaralı, her sonuç önceden hesaplanmış. Fakat hayat, saat tamircisi değildir; bazen çekiçle gelir. Deprem olur, savaş çıkar, salgın yayılır, bir çocuk ekmek çalar, bir algoritma insanı haksız yere suçlu gösterir. İşte o an hukuk, en zor sınavıyla karşılaşır: Kuralın yetmediği yerde ne yapacaktır?

İstisna, kurala karşı basit bir isyan değildir. Daha kışkırtıcı bir şeydir: Kuralın kendi sınırını görünür kılan ayna. Bir sistemin gerçek gücü, yalnızca normal günlerde işlemeyi sürdürmesinde değil, anormal günlerde dağılmadan esneyebilmesinde saklıdır. Çünkü hukuk katılaşırsa taşlaşır, fazla esnerse buharlaşır. Adalet dediğimiz şey de tam bu iki felaketin arasında, ince bir ip üzerinde yürür.

Direksiyondaki Ahlak Makinesi: Otonom Araç Kimi Feda Edecek?

Bir gün arabanız sizi eve götürürken, yolun ortasına aniden üç kişi fırlıyor. Frenler yetmiyor. Sağda duvar var; duvara çarparsa içerideki yolcu ölebilir. Düz giderse yayalar ölecek. Klasik trol vagonu problemi, artık rayların üzerinde değil; lidar sensörleri, kamera verileri ve milisaniyelik işlemciler arasında dolaşıyor. Eskiden filozofların seminer odasında tartıştığı soru, şimdi yazılım mühendisinin hata kayıtlarında yanıp sönüyor: Araç kimi feda edecek?

Bu sorunun cazibesi biraz karanlık bir lunapark oyuncağına benzer. Herkes koltuğa oturup kahramanca bir karar vereceğini sanır. Fakat otonom araç etiğinde mesele, tek bir dramatik anın cevabı değildir. Asıl mesele, bu cevabın daha kaza olmadan önce kimin tarafından, hangi değerlerle, hangi testlerle ve hangi sorumluluk zinciriyle sisteme gömüldüğüdür. Yani sorun yalnızca algoritmanın tercihi değil, algoritmayı doğuran toplumun aynasıdır.

Suçlu Kim: Tetikteki Parmak mı, Evrenin İlk Domino Taşı mı?

Bir cinayet mahkemesi düşünün. Sanık susuyor, avukat dosyaları karıştırıyor, hâkim gözlüğünün üzerinden bakıyor. Tam karar açıklanacakken sanık ayağa kalkıp şöyle diyor: Beni değil, Büyük Patlama’yı yargılayın. Çünkü eğer her atom, önceki atomik koşulların zorunlu sonucuysa; eğer beynimdeki elektriksel fırtına, çocukluğumdan genlerime, hormonlarımdan mahallemin rutubetine kadar uzanan fiziksel bir zincirin son halkasıysa, ben ne yaptım? Sadece evrenin eliyle oynatılan etten bir kukla mıydım?

Bu soru gülünç görünür, ama gülünç olduğu kadar tehlikelidir. Çünkü adalet dediğimiz şey, insanın başka türlü davranabileceği varsayımına yaslanır. Eğer başka türlü davranmak mümkün değilse, övgü de suçlama da biraz tiyatroya dönüşür. Bir fırtınayı evleri yıktığı için hapse atmayız. Bir virüsü ahlaksız ilan etmeyiz. Peki beyin de doğanın bir parçasıysa, suçluya neden kızıyoruz?

Algoritmalar Tarafsız Değil: Kodun İçine Saklanan Toplumsal Hayaletler

Makine öğrenmesi çoğu zaman steril bir laboratuvar hayaliyle sunulur: Beyaz ışıklar, soğuk sunucular, kusursuz matematik ve duygularından arınmış kararlar. Oysa algoritmalar, toplumun aynasına bakarak öğrenir. Ayna kirliyse, görüntü de lekeli çıkar. Daha kötüsü, bu leke bazen bilimsel kesinlik makyajıyla geri döner. İnsanların önyargısı dedikodu gibi görünür; makineninki ise rapor, skor, risk puanı ve otomatik karar olarak karşımıza dikilir.

Makine öğrenmesinin temel büyüsü basittir: Geçmiş veriye bak, örüntüyü bul, geleceğe tahmin yap. Fakat geçmiş, masum bir arşiv değildir. Geçmiş; kimin işe alındığını, kimin kredi alabildiğini, kimin daha çok polis kontrolüne takıldığını, kimin hastanede ciddiye alındığını kaydeder. Yani veri setleri sadece olayları değil, iktidar ilişkilerini de taşır. Bir algoritma bu verilerle beslendiğinde, dünyayı olduğu gibi değil, geçmişte güçlülerin çizdiği sınırlar içinde öğrenir.