Sabah telefonunu eline aldığında hangi haberi okuyacağına, hangi videoyu izleyeceğine veya hangi ürünü satın alacağına sen karar verirsin. En azından hikâyeyi böyle anlatmayı severiz. Oysa ekranın düzeni, bildirimlerin rengi, seçeneklerin sırası ve sana gösterilen öneriler kararından önce sahneye çıkmıştır. Algoritmik dürtme, seçim özgürlüğünü açıkça ortadan kaldırmadan davranışı belirli bir yöne doğru eğen dijital tasarımların adıdır. Kapı kilitli değildir; fakat koridorun ışıkları yalnızca bir çıkışı aydınlatır.
Klasik dürtme basit olabilir: Sağlıklı yiyecekleri göz hizasına koymak veya organ bağışı formunda varsayılan seçeneği değiştirmek gibi. Algoritmik dürtme ise seni tanıdığı ölçüde biçim değiştirir. Gece geç saatlerde duygusal videolara daha kolay kapıldığını, indirim sözcüğüne hızlı tepki verdiğini ya da tartışmalı içeriklerde daha uzun kaldığını öğrenebilir. Böylece herkes aynı koridorda yürümez; sistem, her insanın zaaflarına ve alışkanlıklarına göre kişisel bir koridor inşa eder.
İçimizdeki Görünmez Pazarlık
İnsan zihni bütünüyle akılcı bir hükümdar değildir. Daha çok, dürtülerle ilkelerin sürekli pazarlık yaptığı kalabalık bir meclise benzer. Hızlı düşünen yanımız kolay, tanıdık ve duygusal seçeneklere yönelirken daha yavaş yanımız sonuçları tartmaya çalışır. Algoritmik sistemler çoğu zaman sabırlı yanımıza değil, hemen tepki veren yanımıza seslenir. Kırmızı bildirim simgesi yalnızca bilgi taşımaz; eksiklik hissi üretir. Sonsuz kaydırma yalnızca kullanım kolaylığı değildir; durma kararını kullanıcıdan alıp belirsiz bir geleceğe erteler.
Buradaki felsefi düğüm şudur: Bir seçeneğin mevcut olması, kişinin gerçekten özgür olduğu anlamına gelir mi? Kumarhaneden çıkış kapısını bulabilen herkes özgür sayılabilir; fakat içeride saat yoksa, ışık hiç değişmiyorsa ve makineler davranışa göre ödül dağıtıyorsa bu özgürlük incelmiş demektir. Algoritmik dürtme yasağın sert elini kullanmaz. Bunun yerine arzuya bir maske takar ve insana kendi seçimini yaptığını düşündürür. Gölge tam da burada belirir: Yönetilme ihtimalimizi kabul etmek yerine bütün tercihlerimizi karakterimizin saf ifadesi sayarız.
İyi Dürtme Mümkün mü?
Elbette dürtmenin kendisi şeytani değildir. Bir uygulama düzenli ilaç kullanımını hatırlatabilir, enerji tüketimini azaltmayı kolaylaştırabilir veya yanlış bilgi paylaşmadan önce kullanıcıya kısa bir düşünme aralığı verebilir. Sorun, yönlendirmenin varlığından çok kime hizmet ettiğidir. Kullanıcının uzun vadeli iyiliğini destekleyen, açıklanabilir ve reddedilebilir bir dürtme ile yalnızca etkileşim süresini artırmayı amaçlayan manipülasyon aynı değildir. Biri pusula sunar; diğeri pusulanın ibresini gizlice çevirir.
Etik bir algoritmik tasarım için üç ölçüt önemlidir: şeffaflık, geri alınabilirlik ve çıkar uyumu. Kullanıcı neden belirli bir öneri gördüğünü anlayabilmeli, kişiselleştirmeyi kolayca kapatabilmeli ve sistemin hedefiyle kendi hedefi arasındaki çatışmayı görebilmelidir. Ayrıca tasarımcılar yalnızca tıklama ve ekranda kalma süresini değil, pişmanlık, esenlik ve bilinçli tercih gibi daha insani sonuçları da ölçmelidir. Ölçemediğimiz değerler, algoritmanın dünyasında kolayca yokmuş gibi davranılan değerlere dönüşür.
Özgürlüğün Yeni Egzersizi
Algoritmalardan bütünüyle kaçmak gerçekçi değildir; fakat onların çağırdığı her içsel sese itaat etmek de kader değildir. Bildirimleri kapatmak, öneri akışını sorgulamak, otomatik oynatmayı devre dışı bırakmak ve karar öncesinde kısa bir bekleme kuralı koymak küçük ama güçlü karşı hamlelerdir. Günümüzün özgür insanı yalnızca seçenekleri olan kişi değildir; seçeneklerin nasıl düzenlendiğini görebilen kişidir. Asıl uyanış, parmağımız ekrana uzandığında şu soruyu sorabilmektir: Bu isteği ben mi seçtim, yoksa seçim mimarisi bende bu isteği mi seçti?