Geçmişin Sözlüğü Bozulduğunda: Dil Modelleri Neden Eski Metinlere Çarpar?

Geçmişin Sözlüğü Bozulduğunda: Dil Modelleri Neden Eski Metinlere Çarpar?

Bir kelimenin zaman içinde anlam değiştirmesi, ilk bakışta dil tarihçilerinin tatlı bir merakı gibi görünür: Eski metinlerdeki bir sözcük bugün başka bir şey ifade ediyordur, ne olmuş yani? Oysa doğal dil işleme açısından bu küçük kayma, makinenin ayağının altındaki halının çekilmesidir. Çünkü dil modelleri kelimeleri yalnızca harf dizileri olarak değil, çevrelerindeki bağlamlarla birlikte öğrenir. Bağlam değiştiğinde, kelimenin zihinsel adresi de değişir. Model, aynı etiketi taşıyan iki farklı çağın iki farklı yaratığıyla karşı karşıya kalır.

Semantik kayma, bir sözcüğün anlam alanının zamanla genişlemesi, daralması, yön değiştirmesi veya büsbütün başka bir kavrama taşınmasıdır. Türkçede ‘yavuz’ bir zamanlar daha çok sert, korkutucu, güçlü anlamlarına yaklaşırken bugün çoğu kulakta tarihsel bir isim ve hayranlık çağrışımı taşır. İngilizcede ‘awful’ eskiden hayranlık uyandıran, huşu veren bir şeyi anlatırken bugün kötü veya berbat anlamına gelir. Bir model bu kelimeleri tek ve sabit bir koordinata yerleştirdiğinde, geçmişin sesini bugünün kulağıyla duymaya başlar. İşte hata burada başlar: Makine yalnızca metni okumaz, çağları birbirine karıştırır.

Ezberci Yapay Zekâ: Her Soruyu Kopyadan Çözmeye Çalışan Makine

Ezberci Yapay Zekâ: Her Soruyu Kopyadan Çözmeye Çalışan Makine

Yapay zekâ bazen dâhi bir matematikçi gibi görünür; bazen de sınavdan önce defterin kenarındaki örnekleri ezberleyip gerçek soruda donakalan panik bir öğrenciye dönüşür. İşte bu ikinci hâlin teknik adı overfitting, yani aşırı öğrenme ya da daha dürüst bir ifadeyle: öğrenmiş gibi yapma sendromudur. Model, eğitim sırasında gördüğü örnekleri o kadar ciddiye alır ki, onların ardındaki genel kuralı yakalamak yerine detaylara, istisnalara, gürültülere ve hatta kazara oluşmuş tesadüflere âşık olur.

Bir makine öğrenmesi modeli düşünelim. Ona binlerce kedi fotoğrafı gösteriyoruz. Modelin görevi kediyi tanımak. Sağlıklı bir model kulak şekli, göz yerleşimi, bıyık, beden oranı gibi genellenebilir özellikleri kavrar. Aşırı öğrenen model ise daha tuhaf bir yola sapar: Eğitim setindeki kedilerin çoğu kırmızı koltukta oturuyorsa, kırmızı koltuğu kedi olmanın gizli alameti sanabilir. Artık karşısına beyaz fonda bir kedi geldiğinde tereddüt eder; kırmızı koltukta duran bir tost makinesine ise şüpheyle miyavlayabilir.

Veriler Konuşmaz; Onları Birbirine Tanıştırmanız Gerekir

Tek başına bir veri, kalabalık bir odada ne söyleyeceğini bilemeyen yabancıya benzer. “42” sayısını düşünün. Yaş mı, sıcaklık mı, ürün adedi mi, yoksa evrenin meşhur cevabı mı? Değer oradadır ama anlam henüz gelmemiştir. Anlam, verinin başka verilerle kurduğu ilişkiden doğar. Bir sayıyı zamana, kişiye, konuma veya olaya bağladığımız anda sessiz kayıtlar konuşmaya başlar.

Verileri ilişkilendirmek, iki tabloyu ortak bir sütundan birleştirmekten fazlasıdır. Teknik düzeyde kimlikler, anahtarlar ve bağlantılar kullanırız; düşünsel düzeyde ise şu soruyu sorarız: “Bunların aynı gerçekliğin parçaları olduğuna neden inanıyorum?” İyi bir veri sistemi yalnızca kayıt saklamaz, kayıtlar arasındaki mantığı da temsil eder. Kötü bir sistem ise her şeyi toplar ama hiçbir şey hatırlamaz.

Bağlantının anahtarı: kimlik

Bir müşteri tablosunda “Ayşe Yılmaz”, sipariş tablosunda “A. Yılmaz” ve destek kayıtlarında “[email protected]” bulunabilir. İnsan gözü bunların aynı kişi olabileceğini sezer; bilgisayar ise kanıt ister. Bu nedenle benzersiz kimlikler kullanılır. Müşteri numarası gibi birincil anahtarlar, farklı kayıtlardaki parçaları aynı varlığa bağlar. Yabancı anahtarlar da tablolar arasında köprü kurar. Böylece “Kim, neyi, ne zaman aldı?” sorusu tek bir sorguyla yanıtlanabilir.

Soy Ağacımız Bir Veritabanı Olsaydı: Dedeler, Genler ve Kayıp Düğümler

İnsan soyunu yazılımsal olarak modellemek, ilk bakışta masum bir aile ağacı çizmek gibi görünür: kökte büyük büyük büyükanne, dallarda çocuklar, yapraklarda biz. Fakat biraz yaklaşınca tablo çatırdamaya başlar. Çünkü insanlık tarihi, düzenli klasörlere ayrılmış fotoğraflardan değil; göçlerden, kayıp kayıtlardan, evlat edinmelerden, bilinmeyen babalardan, akraba evliliklerinden, mutasyonlardan ve bazen de aile yemeklerinde kimsenin konuşmak istemediği sırlardan oluşur. Yani mesele yalnızca “Ahmet, Mehmet’in babasıdır” demek değildir; mesele, biyolojik aktarımı, kültürel kimliği ve belirsizliği aynı veri yapısında yaşatabilmektir.

Hiyerarşi Güzel, Ama Hayat Daha Kurnaz

Hiyerarşik veritabanları, veriyi ağaç biçiminde düzenler: her düğümün bir ebeveyni, onun da çocukları vardır. Dosya sistemleri, organizasyon şemaları ve klasik soy ağaçları bu modele çok yakındır. Bir kişinin anne ve babasını üst düğümler, çocuklarını alt düğümler olarak düşünürüz. Sorgu da basittir: “Bu kişinin ataları kimler?”, “Şu soydan kimler geliyor?” Ağaçta yukarı çık, aşağı in, dalları takip et.

Kodun Bize Fısıldadığı Sır: Hayatta Her Detayı Bilmek Zorunda Değilsin

Programlamada soyutlama, ilk bakışta teknik bir kavram gibi görünür: karmaşık ayrıntıları sakla, kullanıcıya yalnızca gereken düğmeyi, fonksiyonu, arayüzü göster. Fakat dikkatli bakınca bunun sadece bilgisayarların değil, insan zihninin de hayatta kalma stratejisi olduğunu fark ederiz. Sabah kahve makinesine bastığınızda termodinamik, elektrik devreleri, su basıncı ve metal alaşımlar üzerine düşünmezsiniz. Sadece kahve istersiniz. Makine size evrenin tüm mühendislik dramını değil, bardağı verir. İşte soyutlama budur: kaosu kullanışlı bir şekle sokma sanatı.

Kodun Perde Arkası

Bir yazılımcı için soyutlama, karmaşayı yenmenin en zarif yollarından biridir. Diyelim ki bir uygulamada kullanıcı kaydı yapıyorsunuz. Parola şifrelenecek, veri tabanına bağlantı kurulacak, e-posta doğrulaması gönderilecek, hata kontrolü yapılacak. Bunların hepsini her seferinde tek tek yazarsanız kodunuz kısa sürede dijital bir çöp sahasına dönüşür. Bunun yerine kullaniciOlustur() gibi bir fonksiyon yazarsınız. Artık içerideki ayrıntılar saklanır; dışarıdan bakınca yalnızca anlamlı bir eylem görünür. Bu, bilgisayara emir vermekten çok, düşünceyi düzenlemektir.