Bir Makine Kimi Kurtarırsa Ruhumuz Orada Yakalanır

Bir Makine Kimi Kurtarırsa Ruhumuz Orada Yakalanır

Kontrolden çıkmış bir otonom sistem düşünelim: frenleri tutmayan bir araç, hastane koridorlarında karar veren bir robot, kalabalık bir şehirde saniyenin binde biriyle rotasını seçen bir makine. Önünde iki kötü seçenek var. Bir tarafta üç kişi, diğer tarafta bir kişi. Yazılımın içine gömülü prensip basit görünüyor: en çok hayatı kurtar. Faydacılık sahneye girer ve matematiksel pelerinini savurur. Üç, birden büyüktür. Dosya kapanmıştır. Fakat insan kalbi, aritmetiğin bu kadar soğuk bir zaferini kolay kolay yutmaz.

Faydacılık, ilk bakışta ahlakın pratik zekasıdır. Jeremy Bentham’ın hayaletini bir mühendislik laboratuvarına sokarsanız, muhtemelen şöyle derdi: acıyı azalt, mutluluğu artır, mümkün olan en büyük toplam iyiliği üret. Bu, özellikle makineler için cazip bir formüldür. Çünkü makineler hikaye dinlemez, gözyaşıyla pazarlık etmez, geçmiş travmalarını karar ağacına karıştırmaz. Onlara bir hedef fonksiyonu verirsiniz; onlar da dünyayı bu fonksiyonun malzemesi yapar.

Robot Direksiyonu Kırınca: Suç Kodda mı, Makinede mi, Bizde mi?

Robot Direksiyonu Kırınca: Suç Kodda mı, Makinede mi, Bizde mi?

Otonom bir araç yayaya çarptığında, bir cerrahi robot yanlış dokuyu kestiğinde ya da bir kredi algoritması binlerce kişiyi görünmez bir ayrımcılıkla dışladığında aklımıza ilk gelen soru şudur: Suçlu kim? Yazılımcı mı, şirket mi, veriyi sağlayan toplum mu, yoksa kendi kararını verdiğini söylediğimiz algoritma mı? Bu soru, yalnızca mahkeme salonlarının değil, çağımızın vicdan laboratuvarının da merkezinde duruyor.

Önce soğuk bir ayrım yapalım: Hata ile suç aynı şey değildir. Bir sistem yanlış çıktı üretebilir; bu teknik bir hatadır. Fakat suç ya da etik sorumluluk, niyet, öngörülebilirlik, ihmal ve kontrol gibi kavramlarla ilgilidir. Bugünkü algoritmalar, ne kadar etkileyici görünürse görünsün, ahlaki özne değildir. Yani bir sinir ağı, içinden karanlık bir pişmanlık geçirerek Ben ne yaptım? demez. Parametreleri güncellenir, logları incelenir, modeli yeniden eğitilir. Vicdan azabı çekmez.

Direksiyondaki Ahlak Makinesi: Otonom Araç Kimi Feda Edecek?

Bir gün arabanız sizi eve götürürken, yolun ortasına aniden üç kişi fırlıyor. Frenler yetmiyor. Sağda duvar var; duvara çarparsa içerideki yolcu ölebilir. Düz giderse yayalar ölecek. Klasik trol vagonu problemi, artık rayların üzerinde değil; lidar sensörleri, kamera verileri ve milisaniyelik işlemciler arasında dolaşıyor. Eskiden filozofların seminer odasında tartıştığı soru, şimdi yazılım mühendisinin hata kayıtlarında yanıp sönüyor: Araç kimi feda edecek?

Bu sorunun cazibesi biraz karanlık bir lunapark oyuncağına benzer. Herkes koltuğa oturup kahramanca bir karar vereceğini sanır. Fakat otonom araç etiğinde mesele, tek bir dramatik anın cevabı değildir. Asıl mesele, bu cevabın daha kaza olmadan önce kimin tarafından, hangi değerlerle, hangi testlerle ve hangi sorumluluk zinciriyle sisteme gömüldüğüdür. Yani sorun yalnızca algoritmanın tercihi değil, algoritmayı doğuran toplumun aynasıdır.