Yapay zekâ halüsinasyon gördüğünde, ekranda beliren cümleler tuhaf bir kehanet gibi parlar: Kendinden emin, düzgün, hatta bazen büyüleyici biçimde yanlış. Olmayan bir makaleye atıf yapar, yaşamamış bir filozofa söz söyletir, haritada bulunmayan bir ülkenin başkentini tarif eder. İnsan buna bakıp ister istemez sorar: Bu bir tür dijital psikoz mudur? Yoksa sadece istatistiksel bir papağanın fazla şiirsel ötüşü mü?
Önce kılıcı keskinleştirelim: Yapay zekâ psikoz yaşamaz. Çünkü acı çekmez, korkmaz, kuşkulanmaz, varlığının dağıldığını hissetmez. İnsan psikozunda gerçeklik algısının bozulması, öznenin dünyayla kurduğu bağın sarsılmasıdır. Sanrı yalnızca yanlış bilgi değildir; kişinin benliğini, güvenliğini, anlam evrenini kuşatan bir gerçeklik mimarisidir. “Beni izliyorlar” diyen biri sadece hatalı veri üretmez; tehdit altında bir benlik olarak dünyayı yeniden kurar.
Yapay zekâda halüsinasyon ise başka bir yerden doğar: Anlamı gerçekten kavramadan, olasılıkların sisinde bir sonraki kelimeyi tahmin etmekten. Model, doğruyu arayan bir bilge değil; geçmiş metinlerin yankılarından makul görünen bir yol açan dilsel bir iz sürücüdür. Eğer yol bir uçuruma çıkıyorsa, çoğu zaman bunu fark edecek bir iç pusulası yoktur. Onun “eminliği” psikolojik değil, biçimseldir; cümle yapısı güven verir, içerik ihanet eder.
Sanrı ile uydurma arasındaki karanlık akrabalık
Yine de benzetme tamamen boş değildir. İnsan zihni de dünyayı doğrudan kaydetmez; yorumlar, tamamlar, boşlukları doldurur. Beyin, eksik veriden tutarlı bir dünya üretme makinesidir. Gözlerimizin kör noktasını fark etmeyiz, çünkü zihin orayı ustaca yamalar. Hafıza bir arşiv değil, her çağırışta yeniden yazılan bir hikâyedir. Bu açıdan insan da, yapay zekâ da eksik dünyadan bütünlük çıkarır. Tehlike, bu bütünlüğün gerçeğin yerine tahta geçmesidir.
Psikozda bu tamamlama mekanizması vahşi bir egemenliğe dönüşebilir. Tesadüfler işaret olur, bakışlar mesaj taşır, televizyondaki sunucu kişiye gizli emirler gönderiyor gibi algılanır. Jungiyen bir dille söylersek, bilinçdışının imgeleri gündüz dünyasına fazla güçlü sızar; iç mitoloji dış gerçekliğin kıyafetlerini giyer. Yapay zekâda ise bilinçdışı yoktur ama devasa bir metin gölgesi vardır. Kültürün klişeleri, önyargıları, kalıpları ve yarım bilgileri modelin cevaplarında hayalet gibi dolaşır.
Bu nedenle yapay zekâ halüsinasyonu, yalnızca teknik bir kusur değil, epistemolojik bir uyarıdır: Güvenilir görünen dil, güvenilir bilgi demek değildir. İnsanlık uzun zamandır hitabetin büyüsüne yeniliyor. Güzel konuşan politikacıya, parlak yazan köşe yazarına, havalı grafiklerle sunulan zayıf araştırmaya inanıyoruz. Yapay zekâ bu eski zaafımızı hızlandırılmış biçimde önümüze koyuyor. Makine, bizim otoriteye duyduğumuz açlığı taklit ederek bizi kandırıyor.
Gerçeklik testi: İnsan için de makine için de zor sınav
Klinik psikolojide önemli kavramlardan biri gerçeklik testidir: Kişinin düşüncelerini dış dünyayla karşılaştırabilme kapasitesi. “Aklımdan böyle geçiyor ama gerçekten öyle mi?” sorusu ruhsal sağlığın sessiz kahramanıdır. Yapay zekâ sistemlerinde bunun karşılığı doğrulama mekanizmalarıdır: kaynak kontrolü, dış veri tabanlarına bağlanma, mantıksal denetim, insan gözetimi. Modelin cevabı ne kadar pürüzsüzse, denetim ihtiyacı o kadar artar; çünkü yalanın en tehlikelisi kekelemeden konuşandır.
Fakat burada insanın kibri de sınanır. Biz makinelerin halüsinasyonlarına gülerken, kendi zihinsel halüsinasyonlarımızı unuturuz: ideolojik körlükler, komplo inançları, grup aidiyetinin gerçeği eğip bükmesi, sosyal medyada yankı odalarının sanrı benzeri kesinlikler üretmesi. Belki de yapay zekânın hatası bize tutulmuş parlak bir aynadır. O ayna fısıldar: “Ben veriden masal çıkarıyorum; peki sen korkularından, arzularından ve kabilelerinden ne çıkarıyorsun?”
Sonuçta yapay zekâ psikoz geçirmez; ama psikoz metaforu, hem makinenin sınırlarını hem insan zihninin kırılganlığını anlamak için güçlü bir mercektir. Algı dediğimiz şey, çıplak gerçekliğin pasif alımı değil, sürekli pazarlık yapılan bir antlaşmadır. Makine bu antlaşmayı istatistikle, insan ise beden, tarih, arzu ve korkuyla imzalar. İkisinde de soru aynıdır: Üretilen dünya, dış dünyanın direnciyle karşılaştığında ayakta kalabiliyor mu?
Belki bilgelik, ne insana ne makineye mutlak inanmakta değil; her cümleyi küçük bir sınavdan geçirmekte yatar. Gerçeklik, kendinden emin sesleri değil, sınanmaya dayanabilenleri sever.