Bir mahkeme salonu düşünün: Duvarlarda devletin soğuk ciddiyeti, sanık sandalyesinde titreyen bir insan, avukatların dosya hışırtıları ve kürsüde cübbeli bir hâkim yerine sessizce çalışan bir algoritma. Ne öksürüyor, ne yoruluyor, ne de sabah kahvesini içmediği için huysuzlanıyor. Önüne gelen delilleri işliyor, emsal kararları tarıyor, olasılıkları hesaplıyor ve sonucu açıklıyor: “Suçlu.” Ya da “Beraat.” İlk bakışta büyüleyici değil mi? İnsan yanılgısından arınmış, duygusal dalgalanmaların üstünde, rüşvete kapalı, akrabalık ilişkilerinden etkilenmeyen bir adalet makinesi… Fakat tam da burada felsefenin kılıcı kınından çıkar: Tarafsızlık, sadece önyargısız hesap yapmak mıdır?
Yargı, yalnızca bilgi işleme faaliyeti değildir; insanın insana ne borçlu olduğunu belirleyen derin bir ahlaki sahnedir. Bir algoritma dosyadaki verileri görebilir, fakat sessizliğin ağırlığını, pişmanlığın yüz kaslarındaki titreşimini, mağdurun kelimeler arasına sıkışan korkusunu anlayabilir mi? “Anlamak” derken romantik bir sis perdesinden söz etmiyorum. Hukukta niyet, bağlam, zorunluluk, ihmal, kast, makul şüphe gibi kavramlar vardır. Bunlar matematiksel sembollere çevrilebilir; evet. Ama çevrildiklerinde aynı şey olarak kalırlar mı? Bir şiiri barkoda dönüştürmek mümkündür; fakat barkodu okuyan cihaz şiiri yaşamış olmaz.
Tarafsızlık Maskesinin Altındaki İnsan
Algoritmalar gökten inmez. Onları insanlar tasarlar, verilerle eğitir, hedef fonksiyonlarını belirler. Eğer geçmiş mahkeme kararları ırk, sınıf, cinsiyet veya ekonomik statü bakımından önyargılar taşıyorsa, algoritma bu önyargıları “gelenek” diye öğrenebilir. Hatta daha tehlikelisi, bunu insan hâkimden daha soğukkanlı ve ikna edici biçimde yapabilir. Çünkü makinenin kararı sayılarla süslenir; sayıların ise modern dünyada kutsal metinlere benzeyen bir otoritesi vardır. “Yüzde 87 tekrar suç işleme riski” dendiğinde, ruhumuzda küçük bir mühür basılır. Oysa bu yüzde, geçmiş adaletsizliklerin cilalanmış bir aynası olabilir.
Buradaki temel sorun şudur: Adaleti algoritmaya teslim etmek, sorumluluğu kime teslim etmektir? Hatalı bir karar verildiğinde kim hesap verecek? Yazılımcı mı, veri sağlayıcı mı, mahkeme başkanı mı, sistemi satın alan bakanlık mı? İnsan hâkim yanlış yaptığında en azından karşımızda sorgulanabilir bir özne vardır. Algoritmik kararda ise sorumluluk sis gibi dağılır. Herkes sistemin bir parçasıdır, ama kimse kararın sahibi değildir. Bu, adaletin en karanlık biçimlerinden biridir: Faili olmayan hüküm.
Makine Yardımcı Olabilir, Efendi Olmamalı
Buna rağmen yapay zekâyı mahkemelerden tamamen kovmak da teknoloji korkusunun kolaycılığı olur. Algoritmalar emsal kararları taramada, dosya yoğunluğunu azaltmada, benzer davalar arasındaki tutarsızlıkları göstermede, delil zincirlerini düzenlemede güçlü araçlar olabilir. İnsan hâkimin zihinsel yükünü azaltabilir, unutulan ayrıntıları hatırlatabilir, “Bu kararda geçmişte benzer durumlarda verilen hükümlerden sapıyorsun” diye uyarabilir. Yani yapay zekâ iyi bir kâtip, keskin bir araştırmacı, yorulmaz bir danışman olabilir. Fakat nihai hükmü veren makam olduğunda, araç olmaktan çıkıp kader dağıtan bir otoriteye dönüşür.
Adaletin kalbinde yalnızca doğruluk değil, meşruiyet de vardır. İnsanlar bir karara katılmasalar bile onun nasıl verildiğini anlayabilmek ister. Gerekçeli karar bu yüzden önemlidir. Bir algoritma “model ağırlıkları böyle sonuç verdi” dediğinde, bu gerekçe değil, teknik bir duvardır. Açıklanabilir yapay zekâ çalışmaları bu duvarı inceltebilir; fakat tümüyle kaldırmak zordur. Çünkü bazı modeller, özellikle derin öğrenme sistemleri, sonuç üretir ama sonucu insan dilinde ahlaki olarak savunmakta zorlanır. Oysa mahkeme kararı yalnızca doğru olmak zorunda değildir; yurttaşa kendisini muhatap alınmış hissettirmelidir.
Belki de en bilgece yol, yapay zekâyı adaletin tahtına oturtmak değil, aynası yapmak. Bu ayna bize kendi önyargılarımızı, hukuk sistemimizin yamukluklarını, kararlarımızın tutarsızlıklarını gösterebilir. Ama aynaya krallık verirsek, yansımanın gerçeğin yerine geçmesine izin vermiş oluruz. Adalet, kusursuz hesap ile kırılgan vicdan arasında yürüyen tehlikeli bir cambazdır. Algoritma ipin matematiğini bilir; insan ise düşmenin ne demek olduğunu. Mahkemelerde geleceğin sorusu bu yüzden “Makine karar verebilir mi?” değil, “Biz hangi kararları makineye bırakacak kadar insanlıktan vazgeçebiliriz?” olmalıdır.