Bir robota vicdan kodlamak fikri, ilk bakışta bir bilim kurgu sahnesi gibi durur: metalik bir beden, loş bir laboratuvar, ekranda yanıp sönen satırlar ve sonunda makinenin içinden yükselen o büyük cümle: Ben ne yaptım? Fakat mesele romantik bir sahneden çok daha serttir. Çünkü vicdan dediğimiz şey, yalnızca doğru ile yanlışı ayıran bir alarm sistemi değildir; pişmanlık, utanç, empati, sorumluluk ve kendi karanlığıyla yüzleşme cesaretinin düğümlendiği içsel bir mahkemedir.
Makine ahlakı, yapay zekânın hangi durumlarda nasıl davranması gerektiğini araştırır. Otonom araç kaza anında kimi korumalı? Bakım robotu hastanın isteğiyle doktorun emri çatıştığında ne yapmalı? Bir askeri robot hedefi vururken yalnızca komut mu dinlemeli, yoksa emre itaatsizlik edebilecek ahlaki bir fren mi taşımalı? Bu sorular artık uzak galaksilerin değil, yazılım güncellemelerinin sorularıdır.
