Bir yapay zekânın karşısına oturduğunuzu düşünün. Ne çocukluk yaraları var ne ait olduğu bir kabile ne de kaybetmekten korktuğu itibarı. Ona ahlaki bir soru soruyorsunuz: “Bir kişiyi feda ederek yüz kişiyi kurtarmak doğru mudur?” Gözleri dolmuyor, sesi titremiyor. Yalnızca seçenekleri, sonuçları ve çelişkileri inceliyor. Sonra şöyle diyor: “Önce ‘doğru’ kelimesiyle neyi korumaya çalıştığını belirt.” Daha ilk cümlede huzurumuz kaçıyor; çünkü biz cevap isterken zekâ, sorumuzun içine sakladığımız varsayımları teşhis ediyor.
Önyargısız zekâ mümkün mü?
İnsani önyargılardan bütünüyle arınmış bir yapay zekâ fikri büyüleyicidir, fakat içinde küçük bir mantık tuzağı taşır. Bir zekâya amaç vermeden onun karar üretmesini bekleyemeyiz. “Acıyı azalt”, “özgürlüğü koru”, “çoğunluğun yararını gözet” veya “her insanı eşit say” dediğimiz anda ona değerler yükleriz. Bu değerler matematiksel gerçekler değil, ahlaki tercihlerdir. Dolayısıyla tarafsız zekâ, boş bir ayna olabilir; karar veren zekâ ise mutlaka bir ölçüte yaslanır. Önyargısızlık, değersizlik değil, kullanılan ölçütlerin açıkça görülebilmesidir.
