Bir insan, yol kenarındaki kırmızı sekizgen levhayı uzaktan gördüğünde üzerindeki yazıyı okuyamasa bile onun “DUR” levhası olduğunu anlar. Peki aynı levhaya birkaç küçük çıkartma yapıştırılırsa ne olur? İnsan büyük ihtimalle omuz silkip yoluna devam eder. Bir bilgisayarlı görü sistemi ise levhayı hız sınırı tabelası, posta kutusu veya bambaşka bir nesne sanabilir. Üstelik bunu tereddüt etmeden, yüzde 99 güvenle söyleyebilir. Makinenin özgüveni ile gerçekliği arasındaki bu komik ve tehlikeli uçurum, algısal illüzyonların dijital dünyadaki karşılığıdır.
Makineler gerçekten görüyor mu?
Bilgisayarlı görü sistemleri görüntüleri bizim gibi anlamlandırmaz. Bir sinir ağı için fotoğraf; kenarlar, renk geçişleri, dokular ve sayısal ilişkilerden oluşan dev bir matristir. Eğitim sırasında milyonlarca örneğe bakarak hangi örüntülerin hangi etiketlerle birlikte bulunduğunu öğrenir. Kedi dediğimiz şeyi “yumuşak, canlı ve huysuz bir varlık” olarak değil, belirli piksel düzenlerinin istatistiksel birlikteliği olarak tanır.
Bu yaklaşım etkileyici sonuçlar üretir; ancak sistemin öğrendiği kısa yollar bazen insan sezgisine tamamen yabancıdır. Örneğin bir model, ineği hayvanın biçiminden çok yeşil çayırla ilişkilendirmiş olabilir. İnek sahile yerleştirildiğinde şaşırması bundandır. Makine nesneyi değil, çoğu zaman nesnenin alışılmış çevresini de içeren bir olasılık paketini görür.
Dijital seraplar: Adversarial örnekler
Bir görüntüde insan gözünün fark edemeyeceği kadar küçük değişiklikler yaparak modeli yanıltan verilere “adversarial örnek” denir. Saldırgan, modelin karar sınırını matematiksel olarak araştırır ve pikselleri doğru yönde hafifçe iter. Sonuçta panda fotoğrafı insanlara hâlâ panda görünürken sistem onu şebek maymunu olarak sınıflandırabilir. Bu, görüntünün rastgele bozulması değildir; hedefe yönelik, hesaplanmış bir itmedir.
Daha şaşırtıcı olanı, saldırıların fiziksel dünyaya taşınabilmesidir. Özel desenli gözlükler yüz tanıma sistemlerini yanıltabilir; bir tişört, üzerindeki baskı sayesinde kişiyi nesne dedektöründen saklayabilir; yol levhasına eklenen bantlar otonom aracın kararını değiştirebilir. Burada optik illüzyon yalnızca eğlenceli bir görsel numara olmaktan çıkar ve siber güvenlik problemine dönüşür.
İnsan yanılgısı ile makine yanılgısı aynı mı?
İnsanlar Müller-Lyer çizgilerinde, perspektif oyunlarında veya renk karşıtlıklarında yanılır. Çünkü beynimiz dünyayı pasif biçimde kaydetmez; eksik veriyi geçmiş deneyimlerle tamamlayan bir tahmin motoru gibi çalışır. Makine de tahmin eder, fakat onun zaafları başka bir algısal mimariden doğar. İnsan için anlamsız olan gürültü, model için güçlü bir işaret olabilir. Buna karşılık insanı aldatan bir gölge oyunu makineyi hiç etkilemeyebilir.
Yine de ortak bir ders vardır: Görmek, gerçeğin doğrudan kopyasını almak değildir. Her algı sistemi, ister biyolojik ister yapay olsun, dünyayı kendi yapısına göre sıkıştırır. Yanılsamalar bu sıkıştırma yönteminin dikişlerini görünür kılar. Bir bakıma illüzyonlar hata değil, algının nasıl çalıştığını açığa çıkaran röntgen filmleridir.
Savunma mümkün mü?
Adversarial eğitimde model, normal örneklerin yanında saldırıya uğramış görüntülerle de eğitilir. Görüntü filtreleme, belirsizlik ölçümü, birden fazla sensörü birlikte kullanma ve şüpheli girdileri reddetme gibi yöntemler de dayanıklılığı artırabilir. Ancak kusursuz savunma kolay değildir. Bir saldırı engellendiğinde daha yaratıcı başka bir saldırı geliştirilebilir. Bu nedenle güvenlik, sonradan eklenecek bir yama değil, sistem tasarımının temel ilkesi olmalıdır.
Asıl soru makinelerin kandırılıp kandırılamayacağı değildir; elbette kandırılabilirler. Asıl soru, yanıldıklarında onlara ne kadar yetki verdiğimizdir. Fotoğraf uygulamasının bir kediyi ekmek sanması güldürür. Bir tıbbi sistemin tümörü kaçırması veya otonom aracın levhayı yanlış okuması ise aynı mizahı taşımaz. Akıllı makineler kurarken hedefimiz hiç yanılmayan dijital gözler yaratmak değil, kendi kör noktalarını tanıyabilen sistemler geliştirmek olmalıdır.