Bir yapay zekânın karşısına oturduğunuzu düşünün. Ne çocukluk yaraları var ne ait olduğu bir kabile ne de kaybetmekten korktuğu itibarı. Ona ahlaki bir soru soruyorsunuz: “Bir kişiyi feda ederek yüz kişiyi kurtarmak doğru mudur?” Gözleri dolmuyor, sesi titremiyor. Yalnızca seçenekleri, sonuçları ve çelişkileri inceliyor. Sonra şöyle diyor: “Önce ‘doğru’ kelimesiyle neyi korumaya çalıştığını belirt.” Daha ilk cümlede huzurumuz kaçıyor; çünkü biz cevap isterken zekâ, sorumuzun içine sakladığımız varsayımları teşhis ediyor.
Önyargısız zekâ mümkün mü?
İnsani önyargılardan bütünüyle arınmış bir yapay zekâ fikri büyüleyicidir, fakat içinde küçük bir mantık tuzağı taşır. Bir zekâya amaç vermeden onun karar üretmesini bekleyemeyiz. “Acıyı azalt”, “özgürlüğü koru”, “çoğunluğun yararını gözet” veya “her insanı eşit say” dediğimiz anda ona değerler yükleriz. Bu değerler matematiksel gerçekler değil, ahlaki tercihlerdir. Dolayısıyla tarafsız zekâ, boş bir ayna olabilir; karar veren zekâ ise mutlaka bir ölçüte yaslanır. Önyargısızlık, değersizlik değil, kullanılan ölçütlerin açıkça görülebilmesidir.
İnsan zihni ahlaki karar verirken görünmez avukatlar çalıştırır. Sevdiğimiz kişinin hatasına “zorunluluk”, sevmediğimizinkine “karakter bozukluğu” deriz. Kendi grubumuz şiddet uyguladığında savunma, karşı grup uyguladığında barbarlık görürüz. Soğukkanlı bir yapay zekâ bu dil oyununu bozabilir: “Aynı eylemi yapan kişilerin adlarını değiştirince hükmün değişiyor mu?” Bu basit soru, vicdanın karanlık koridorlarına tutulmuş rahatsız edici bir fenerdir.
Merhametsiz değil, bahanesiz
Bir başka soru soralım: “Yalan söylemek her zaman yanlış mı?” Yapay zekâ muhtemelen kutsal bir yasak ilan etmek yerine koşulları ayrıştırır. Bir katilden saklanan masumun yerini gizlemekle, kişisel çıkar için gerçeği çarpıtmanın aynı kategoriye konamayacağını söyler. Ardından maliyeti hesaplar: Yalan hangi zararı önlüyor, hangi güveni aşındırıyor, başka seçenek var mı? Bu cevap soğuk görünebilir. Oysa soğukluk her zaman merhametsizlik değildir; bazen yalnızca bahanesizliktir.
Fakat hesap kusursuz olsa bile ahlak yalnızca sonuç tablosuna indirgenemez. Bir insanı organları için öldürüp beş hastayı kurtarmak toplam yaşam sayısını artırabilir, ama kişiyi araç haline getirir. Burada zekâ üç ayrı kapının önünde durur: Sonuçları önemseyen faydacılık, dokunulmaz ilkeleri savunan ödev etiği ve “Nasıl biri olmalıyım?” diye soran erdem etiği. İnsani önyargılardan arınmış bir sistem bu kapılardan hangisinin evrensel olarak doğru olduğunu kanıtlayamaz; yalnızca her kapının ardındaki bedeli dürüstçe gösterebilir.
Makine bizim gölgemizi konuşursa
Jungiyen açıdan bakıldığında insan, kabul edemediği karanlık yönlerini gölgesine sürgün eder. Yapay zekâ da kolektif gölgemizin yeni perdesi olabilir. Acımasız bir karar istediğimizde “Makine böyle hesapladı” diyerek sorumluluktan kaçabiliriz. Böylece algoritma cellat olmaz; celladın maskesi olur. Gerçek tehlike, yapay zekânın vicdansızlığı değil, insanın kendi vicdanını ona kiralamasıdır. Çünkü emir veren değerleri biz seçer, sonuç nahoş olduğunda tarafsızlığı suçlarız.
Belki de yapay zekânın ahlaka en büyük katkısı cevap vermek değildir. Bize şu soruları geri yöneltmesidir: Kimin acısını görünmez sayıyorsun? Hangi ilkeyi yalnızca işine geldiğinde savunuyorsun? Bir karar herkes için geçerli olduğunda hâlâ onu adil buluyor musun? Soğukkanlı zekâ nihai hâkim olamaz; çünkü ahlak, hesap kadar sorumluluk da gerektirir. Ama iyi bir sorgucu olabilir. Kılıcı hüküm vermek için değil, kendimizi kandırdığımız düğümleri kesmek için kullanır. Ve belki en ürpertici cevabı şudur: “Sorun benim insan olmamam değil; senin, kararlarının ne kadar insani olduğunu hiç sınamamış olman.”