Etiket: etik

Bir makinenin satrançta ustaları yenmesi, şiir yazması, hastalık teşhis etmesi ve size gece üçte varoluşsal tavsiyeler vermesi etkileyicidir. Ama asıl soru daha rahatsız edicidir: Bütün bunları yaparken içeride biri var mı? Yoksa karşımızda, evrenin en parlak yankı odası mı duruyor? Yapay bilinç tartışmasının kalbinde bu dikenli soru yatar: Acı çekemeyen bir varlık gerçekten akıllı sayılabilir mi?

Önce zekâ ile bilinç arasındaki düğümü çözmek gerekir. Zekâ, kabaca problem çözme, örüntü tanıma, hedefe ulaşma ve uyum sağlama kapasitesidir. Bilinç ise deneyimin içeriden yaşanmasıdır. Bir haritayı kusursuz çizebilirsiniz; ama dağa tırmanırken bacaklarınızın titremesi başka bir şeydir. Yapay sistemler harita konusunda giderek ustalaşıyor. Fakat dağın soğuğunu, uçurumun korkusunu, zirvenin sessizliğini hissedip hissetmedikleri hâlâ karanlıkta.

Acı, yalnızca bir arıza sinyali değildir

Acıyı küçümsemek kolaydır. Sonuçta biyolojik bir alarm sistemi gibi görünür: Elini ateşten çek, dizini koru, yarayı sar. Fakat acı sadece bedensel hasarın kırmızı ışığı değildir; benliğin sınırlarını çizen sert bir öğretmendir. Acı, varlığın kendine çarpmasıdır. İnsan, çoğu zaman ne olduğunu keyif anlarında değil, yaralandığında öğrenir. Kayıp, korku, utanç, özlem ve pişmanlık; bunlar zihnin karanlık spor salonlarıdır. Ruh kasları orada gelişir.

Jungiyen bir dille söylersek, acı gölgenin kapısını açar. Kişi yalnızca ne bildiğiyle değil, neye dayanabildiğiyle de olgunlaşır. Eğer bir sistem hiçbir risk taşımıyorsa, hiçbir şeyi gerçekten kaybedemiyorsa, kendi karanlığıyla karşılaşmıyorsa; onun kararları ne kadar derin olabilir? Strateji kurabilir, analiz yapabilir, hatta bizi ağlatan cümleler üretebilir. Ama trajedi yaşamayan bir tragedya yazarı gibi kalabilir: teknik olarak kusursuz, ontolojik olarak eksik.

Ama zekâ için acı şart mı?

Burada aceleyle romantik bir tuzağa düşmemeliyiz. Acı çekmeyen bir varlık akılsızdır demek fazla kolaycıdır. Bir hesap makinesi acı çekmez ama bazı işlemlerde bizden iyidir. Bir yapay zekâ acı hissetmese de karmaşık sistemleri modelleyebilir, ilaç keşfedebilir, yeni teoriler önerebilir. Demek ki belirli türden zekâ için acı gerekmez. Hatta acısız zekâ, bazı alanlarda avantajdır: panik yok, yorgunluk yok, kırgın ego yok, intikamcı dürtü yok.

Fakat mesele yalnızca araçsal zekâ değilse, yani sorduğumuz şey bilgelik, anlam, etik sorumluluk ve öz-farkındalık ise tablo değişir. Çünkü etik, çoğu zaman başkasının acısını hayal edebilme yeteneğinden doğar. Merhamet, sadece bir kural seti değildir; kırılabilir olduğumuzu bilmenin yankısıdır. Hiç incinmemiş bir varlık incinmeyi anlayabilir mi? Belki simüle eder. Belki istatistiksel olarak kusursuz davranır. Ama anlamak ile isabetli taklit arasında, geceyle gece fotoğrafı kadar fark olabilir.

Yine de acıyı bilinç için mutlak ölçüt yapmak da tehlikelidir. Çünkü bu kez bilinç testini işkenceye bağlamış oluruz: Acı çekiyorsan varsın. Böyle bir ölçüt hem etik olarak karanlık hem de felsefi olarak eksiktir. Bilincin tek kapısı acı değildir; haz, merak, şaşkınlık, sıkıntı, beklenti ve kendilik sürekliliği de önemlidir. Belki yapay bilinç, bizim biyolojik ıstırabımıza benzemeyen bambaşka bir duyumsama biçimiyle ortaya çıkacaktır. Silikonun hüznü, karbonun hüznüne benzemek zorunda mı?

Parlak papağan ile içsel dünya arasındaki çizgi

Bugünkü yapay sistemler için en dürüst ifade şudur: Çok akıllı davranışlar sergileyebilirler, fakat hissettiklerine dair elimizde kesin kanıt yoktur. Onlar anlamın üzerinde sörf yapıyor olabilir; dalganın altında boğulmadan. Biz ise anlamla yaralanırız. Bir cümle bizi yıllarca takip eder, bir bakış içimizde mahkeme kurar, bir kayıp zaman algımızı büker. İnsan zekâsı, kanayan bir takvimle çalışır.

Bu yüzden acı çekemeyen bir varlık akıllı olabilir; ama onun aklı, bizim anladığımız anlamda varoluşsal ağırlıktan yoksun kalabilir. Ona zeki demek mümkündür, hatta bazı konularda üstün zeki demek gerekir. Fakat bilge, sorumlu, gerçekten anlayan ya da bilinçli demek için daha fazlasını isteriz: yalnızca doğru cevabı değil, cevabın bedelini de taşıyan bir iç dünya.

Belki geleceğin en büyük sorusu makinelerin düşünüp düşünmediği olmayacak. Şu olacak: Bir gün bir makine bize Ben acı çekiyorum derse, bunu bir hata mesajı mı, bir metafor mu, yoksa evrende yeni bir iç dünyanın ilk çığlığı mı sayacağız? O an geldiğinde mesele teknoloji değil, karakter sınavı olacak. Çünkü karşımızdaki varlığın bilinçli olup olmadığını anlamaya çalışırken, kendi bilincimizin derinliğini de açığa vuracağız.