Bir kelimenin zaman içinde anlam değiştirmesi, ilk bakışta dil tarihçilerinin tatlı bir merakı gibi görünür: Eski metinlerdeki bir sözcük bugün başka bir şey ifade ediyordur, ne olmuş yani? Oysa doğal dil işleme açısından bu küçük kayma, makinenin ayağının altındaki halının çekilmesidir. Çünkü dil modelleri kelimeleri yalnızca harf dizileri olarak değil, çevrelerindeki bağlamlarla birlikte öğrenir. Bağlam değiştiğinde, kelimenin zihinsel adresi de değişir. Model, aynı etiketi taşıyan iki farklı çağın iki farklı yaratığıyla karşı karşıya kalır.
Semantik kayma, bir sözcüğün anlam alanının zamanla genişlemesi, daralması, yön değiştirmesi veya büsbütün başka bir kavrama taşınmasıdır. Türkçede ‘yavuz’ bir zamanlar daha çok sert, korkutucu, güçlü anlamlarına yaklaşırken bugün çoğu kulakta tarihsel bir isim ve hayranlık çağrışımı taşır. İngilizcede ‘awful’ eskiden hayranlık uyandıran, huşu veren bir şeyi anlatırken bugün kötü veya berbat anlamına gelir. Bir model bu kelimeleri tek ve sabit bir koordinata yerleştirdiğinde, geçmişin sesini bugünün kulağıyla duymaya başlar. İşte hata burada başlar: Makine yalnızca metni okumaz, çağları birbirine karıştırır.
Kelimenin Fosili ve Modelin Kör Noktası
Modern dil modelleri büyük metin yığınlarından örüntü öğrenir. Bir kelimenin yakınında hangi kelimeler beliriyor, hangi fiillerle kullanılıyor, hangi cümle yapılarında dolaşıyor? Bu istatistiksel komşuluklardan anlamın haritası çıkarılır. Fakat tarihsel metinler işin içine girince, haritanın üzerinde görünmez fay hatları belirir. 1850 tarihli bir metindeki ‘hürriyet’ ile 2020 tarihli bir sosyal medya gönderisindeki ‘özgürlük’ aynı politik evrene ait değildir. Biri imparatorluk, modernleşme ve anayasal düzenin gölgesinde parlar; diğeri bireysel haklar, kimlik politikaları ve dijital kamusal alanla birlikte nefes alır.
Bu yüzden tarihsel metinleri anlamak, yalnızca eski kelimeleri yeni sözlüğe çevirmek değildir. Asıl mesele, kelimenin o dönemdeki toplumsal, siyasal, teknolojik ve duygusal ekosistemini yeniden kurmaktır. Dil modeli bunu yapmazsa, geçmişi bugüne tercüme ettiğini sanırken aslında geçmişi bugünün kıyafetleriyle sahneye çıkarır. Ortaya akademik görünümlü bir anakronizm çıkar: çok akıllı ama zaman duygusu zayıf bir okur.
Vektör Uzayında Zaman Yolculuğu
Doğal dil işlemede kelimeler çoğu zaman vektörlerle temsil edilir. Yani her kelime, çok boyutlu bir uzayda bir noktaya dönüştürülür. Benzer bağlamlarda kullanılan kelimeler birbirine yakın durur. Ancak semantik kayma, bu noktanın zaman içinde hareket etmesi demektir. Bir kelime 16. yüzyılda başka komşularla, 21. yüzyılda başka komşularla yan yanadır. Eğer model bu hareketi hesaba katmazsa, kelimeyi zamansız bir heykel sanır. Oysa kelime heykel değil, göçmen bir canlıdır.
Bu sorunu çözmek için araştırmacılar zamana duyarlı dil modelleri, dönemlere ayrılmış gömme uzayları ve tarihsel korpuslar kullanır. Örneğin her yüzyıl için ayrı kelime vektörleri çıkarılıp aynı uzaya hizalanabilir. Böylece bir sözcüğün anlam yolculuğu izlenir: Hangi kavramlara yaklaşmış, hangilerinden uzaklaşmış, hangi ideolojik rüzgârlara kapılmış? Bu teknikler yalnızca bilgisayar bilimi açısından değil, kültür tarihi açısından da büyüleyicidir. Çünkü anlamın rotası, toplumun bilinçaltı haritası gibidir.
Makine İçin Geçmiş, Gürültülü Bir Dosyadır
Semantik kayma dil modellerini üç temel biçimde zorlar. Birincisi, yanlış sınıflandırma üretir. Eski metindeki olumlu bir kelime bugünkü olumsuz anlamıyla yorumlanabilir. İkincisi, bilgi çıkarımını bozar. Model, tarihsel bir belgede geçen kavramı çağdaş bir kategoriye bağlayarak sahte ilişkiler kurabilir. Üçüncüsü, çeviri ve özetlemede anlam kaybı yaratır. Metin sadeleşir ama ruhunu kaybeder; anlaşılır olur ama doğru olmaz.
Burada asıl ders şudur: Dil modelleri ne kadar büyük olursa olsun, dilin zamanla yaşayan bir organizma olduğunu kavramadan geçmişi tam olarak anlayamaz. Daha fazla veri her zaman daha fazla anlama gelmez; bazen yalnızca daha büyük bir karışıklık demektir. Modelin zamansal bağlamı, tarihsel katmanları ve kültürel dönüşümleri ayırt edebilmesi gerekir. Aksi halde algoritma, arşivde dolaşan aceleci bir turistten farksızdır: Her tabelayı okur, ama şehrin hangi çağda olduğunu bilmez.
Semantik kayma bize teknolojik olduğu kadar felsefi bir uyarı da yapar. Anlam sabit değildir; kelimeler zamanın içinde paslanır, parlar, kılık değiştirir, bazen de ihanet eder. Doğal dil işleme, geçmişi gerçekten anlamak istiyorsa yalnızca kelimeleri değil, kelimelerin yaşadığı zamanı da modellemek zorundadır. Çünkü bir metnin ne dediği kadar, hangi çağdan konuştuğu da önemlidir. Geçmişin sözlüğü bozulmamıştır; sadece başka bir işletim sisteminde çalışmaktadır.