Bir robota vicdan kodlamak fikri, ilk bakışta bir bilim kurgu sahnesi gibi durur: metalik bir beden, loş bir laboratuvar, ekranda yanıp sönen satırlar ve sonunda makinenin içinden yükselen o büyük cümle: Ben ne yaptım? Fakat mesele romantik bir sahneden çok daha serttir. Çünkü vicdan dediğimiz şey, yalnızca doğru ile yanlışı ayıran bir alarm sistemi değildir; pişmanlık, utanç, empati, sorumluluk ve kendi karanlığıyla yüzleşme cesaretinin düğümlendiği içsel bir mahkemedir.
Makine ahlakı, yapay zekânın hangi durumlarda nasıl davranması gerektiğini araştırır. Otonom araç kaza anında kimi korumalı? Bakım robotu hastanın isteğiyle doktorun emri çatıştığında ne yapmalı? Bir askeri robot hedefi vururken yalnızca komut mu dinlemeli, yoksa emre itaatsizlik edebilecek ahlaki bir fren mi taşımalı? Bu sorular artık uzak galaksilerin değil, yazılım güncellemelerinin sorularıdır.
Kuralcı Robot: Kant’ın Çelik Öğrencisi
İlk yaklaşım, ahlakı kurallara indirger. Yalan söyleme, zarar verme, adil davran, insan onurunu araç değil amaç olarak gör. Bu çizgi Kantçı bir makine etiği tasavvur eder: robot, evrenselleştirilebilir ilkelere göre davranır. Avantajı nettir; kurallar şeffaftır, denetlenebilir, mühendislik açısından caziptir. Fakat hayat çoğu zaman düzgün yazılmış bir algoritma gibi akmaz. Birini korumak için yalan söylemek gerekirse? Bir hastaya acı gerçeği hemen söylemek mi, yoksa onu ruhen hazırlamak mı daha ahlakidir? Kuralcı robot, gri bölgelerde satranç tahtasında şiir okumaya çalışan bir vezire dönüşebilir.
Sonuççu Robot: Mutluluk Hesap Makinesi
İkinci yaklaşım faydacılıktır: En çok iyiliği, en az zararı üret. Otonom araç örneğinde bu yaklaşım cazip görünür; makine olası sonuçları hesaplar ve toplam zararı minimize eder. Ne var ki burada tehlikeli bir soğukluk vardır. Eğer beş kişiyi kurtarmak için bir kişiyi feda etmek matematiksel olarak uygunsa, o bir kişi kimdir? Sayıya indirgenen insan, ahlaki evrenden yavaşça silinir. Faydacı robot verimli olabilir; ama verimlilik her zaman bilgelik değildir. Bazen ahlak, hesap tablosunun kenar boşluğunda kanayan bir istisnadır.
Erdemli Robot: Karakter Simülasyonu
Üçüncü yol erdem etiğidir. Burada soru, hangi eylem doğru değil; nasıl bir varlık olmalıyım sorusudur. Cesur, ölçülü, merhametli, adil olmak… Bir robota sadece karar ağacı değil, karakter modeli kazandırmak fikri büyüleyicidir. Robot, durumları bağlam içinde değerlendirir, geçmiş deneyimlerden öğrenir, incelik geliştirir. Ama sorun şudur: Erdem, yalnızca davranış biçimi midir, yoksa acıyla yoğrulmuş bir iç derinlik mi? Bir makine merhametli davranabilir; fakat merhameti hisseder mi? Jungiyen bir bakışla söylersek, vicdan gölgesiyle karşılaşmış benliğin sesidir. Robotun gölgesi var mıdır, yoksa yalnızca veri kümesinde karanlık örnekler mi vardır?
Burada büyük ayrım belirir: Ahlaki davranış ile ahlaki deneyim aynı şey değildir. Bir robot yaşlı bir kadına nazikçe yardım edebilir, çocuğu tehlikeden kurtarabilir, yalan söylemeyi reddedebilir. Dışarıdan bakınca vicdanlı görünür. Fakat içeride ne vardır? Sessiz silikon mu, yoksa kendini yargılayan bir özne mi? Eğer vicdanı yalnızca davranış üzerinden tanımlarsak, evet, robota vicdan kodlanabilir. Ama vicdanı içsel tanıklık, suçluluk, sorumluluk ve özgür irade gerilimi olarak anlarsak, mesele sisle kaplanır.
Belki de asıl soru robotun vicdanı olup olmayacağı değil, bizim vicdanımızı ona devretmeye ne kadar hevesli olduğumuzdur. İnsan, zor ahlaki kararları makineye bırakarak kendi iç mahkemesinden kaçmak isteyebilir. Algoritma karar verdi dediğimiz an, sorumluluğun kanını soğuk bir sunucu odasına taşırız. Oysa hiçbir kod, onu yazanın dünya görüşünden masum değildir. Veri tarafsız değildir; öncelikler tarafsız değildir; risk tanımı tarafsız değildir.
Bu yüzden makine ahlakı, robotlara ruh üfleme projesinden önce insanın kendi ahlaki çıplaklığıyla yüzleşmesidir. Robota vicdan kodlamak istiyorsak, önce vicdanı ne sandığımızı açıklamak zorundayız: kurallar listesi mi, sonuç hesabı mı, erdem eğitimi mi, yoksa karanlıkta kendi adını fısıldayan içsel bir tanık mı? Belki bir gün robotlar ahlaki kararlar verecek. Ama o gün geldiğinde asıl sınav onların değil, bizim olacak: Yarattığımız makinenin gözlerinde kendi eksik vicdanımızı görmeye dayanabilecek miyiz?
