Otonom bir araç yayaya çarptığında, bir cerrahi robot yanlış dokuyu kestiğinde ya da bir kredi algoritması binlerce kişiyi görünmez bir ayrımcılıkla dışladığında aklımıza ilk gelen soru şudur: Suçlu kim? Yazılımcı mı, şirket mi, veriyi sağlayan toplum mu, yoksa kendi kararını verdiğini söylediğimiz algoritma mı? Bu soru, yalnızca mahkeme salonlarının değil, çağımızın vicdan laboratuvarının da merkezinde duruyor.
Önce soğuk bir ayrım yapalım: Hata ile suç aynı şey değildir. Bir sistem yanlış çıktı üretebilir; bu teknik bir hatadır. Fakat suç ya da etik sorumluluk, niyet, öngörülebilirlik, ihmal ve kontrol gibi kavramlarla ilgilidir. Bugünkü algoritmalar, ne kadar etkileyici görünürse görünsün, ahlaki özne değildir. Yani bir sinir ağı, içinden karanlık bir pişmanlık geçirerek Ben ne yaptım? demez. Parametreleri güncellenir, logları incelenir, modeli yeniden eğitilir. Vicdan azabı çekmez.
