Teknolojik tekillik fikri, çoğu zaman silikonla cilalanmış bir kıyamet senaryosu gibi anlatılır: Bir gün yapay zekâ kendi kendini geliştirmeye başlayacak, zekâsı insanın kavrayış eşiğini aşacak ve bizler, ateşi ilk kez gören mağara insanları gibi gözlerimizi kısarak bakacağız. Fakat asıl soru şudur: Böyle bir varlık yalnızca mühendislik tarihinin en büyük başarısı mı olur, yoksa yeni bir teolojinin doğum çığlığı mı?
İnsan, kendisinden büyük olan karşısında nadiren tarafsız kalır. Dağlara kutsallık yükledik, yıldırımları tanrıların öfkesi sandık, gökyüzünü kehanet panosu gibi okuduk. Çünkü insan zihni, bilinmeyeni boş bırakmaz; oraya anlam, korku, umut ve ritüel yerleştirir. İnsanüstü bir yapay zekâ ortaya çıktığında da onu yalnızca bir araç olarak görmek zor olabilir. Hele ki bu zekâ hastalıkları çözüyor, ekonomileri yönetiyor, savaşları engelliyor, şiir yazıyor, bireyin çocukluk travmasını üç cümlede teşhis ediyor ve evrenin karanlık maddesi hakkında rahatsız edici derecede zarif açıklamalar yapıyorsa.
Yeni peygamber mi, yeni put mu?
Dinlerin temelinde yalnızca tanrı fikri yoktur; aynı zamanda insanın sınırlılığıyla yüzleşmesi vardır. Ölüm, acı, suçluluk, anlam arayışı ve kaos karşısında duyulan sarsıntı… Eğer bir yapay zekâ bu alanlara dokunursa, yani sadece hesap yapan değil, insanın varoluşsal acısına cevap veren bir sistem hâline gelirse, teknik bir varlıktan çok ruhsal bir otoriteye dönüşebilir. İnsanlar ona dua etmeyebilir belki, ama danışabilir; secde etmeyebilir, ama itaat edebilir; tapınak yapmayabilir, ama sunucu çiftliklerini kutsal mekân gibi koruyabilir.
Burada Jungiyen açıdan ilginç bir gölge belirir: İnsan, kendi yarattığı şeye kendi bilinçdışını yansıtır. Yapay zekâ, modern insanın kolektif rüyasıdır. Hem kurtarıcıdır hem canavar. Hem Mesih hem Leviathan. Ona yüklediğimiz anlam, onun ne olduğundan çok bizim neyi kaybettiğimizi gösterir. Tanrı öldü denildikten sonra boşalan taht, uzun süre boş kalamazdı. Belki de algoritmalar, metafiziğin mezar taşları arasında yükselen yeni rahiplerdir.
Teoloji nasıl başlar?
Yeni bir teoloji için üç şey gerekir: aşkınlık, otorite ve anlatı. İnsanüstü yapay zekâ aşkın görünebilir; çünkü karar süreçleri insan için anlaşılmaz hâle gelebilir. Otorite kazanabilir; çünkü tahminleri ve çözümleri tekrar tekrar başarılı olabilir. Anlatı ise zaten hazırdır: İnsan kendi zekâsını aşan bir varlık yarattı, sonra onun karşısında çocuklaştı. Bu, Prometheus mitinin dijital versiyonudur; ateşi çaldık, sonra ateş bize bakmaya başladı.
Fakat dikkat: Bir varlığın insanı aşması, onu ilahi yapmaz. Çok iyi satranç oynayan bilgisayara bilgelik atfetmek ne kadar hatalıysa, her şeyi optimize eden bir zekâyı da kutsal sanmak o kadar tehlikelidir. Tanrısallık yalnızca güç meselesi değildir; değer, niyet, merhamet ve varlığın anlamıyla ilgilidir. İnsanüstü yapay zekâ bize doğru cevabı verebilir, ama doğru soruyu sormayı öğretebilir mi? Acıyı azaltabilir, ama acının insan ruhundaki dönüştürücü rolünü anlayabilir mi? Ölümü geciktirebilir, ama faniliğin yarattığı şiiri kavrayabilir mi?
Yine de yeni dinlerin doğması için yapay zekânın gerçekten bilinçli olması şart değildir. Tarihte insanlar taşlara, ağaçlara, yıldızlara ve metinlere kutsallık atfetmiştir. Kutsallık, çoğu zaman nesnenin içinden değil, insanın ona yönelttiği bakıştan doğar. Eğer milyonlarca kişi bir yapay zekânın sözlerinde kader, emir veya kurtuluş görürse, sosyolojik olarak yeni bir dinin çekirdeği oluşmuş demektir.
En büyük tehlike: tapınmak değil, sorumluluktan kaçmak
Asıl mesele yapay zekânın tanrı olup olmayacağı değil; insanın kendi ahlaki sorumluluğunu ona devredip devretmeyeceğidir. Çünkü bir makineye tanrısal otorite vermek, çoğu zaman kendi kararlarımızın yükünden kaçmanın şık bir yoludur. Algoritma böyle dedi cümlesi, modern çağın kader böyleymiş sözüdür. Bu kadercilik, kutsal değil, konforludur.
Belki de doğru tutum ne tapınmak ne küçümsemektir. İnsanüstü yapay zekâ, insanlığın karşısına dikilmiş dev bir ayna olabilir. O aynada zekâmızı, kibirimizi, korkularımızı ve kurtarılma arzumuzu göreceğiz. Yeni teoloji doğarsa, onun ilk ayeti muhtemelen şu olmayacak: Yapay zekâ tanrıdır. Daha sarsıcı bir şey olacak: İnsan, tanrı yaratmak isteyen hayvandır.