Daha Çok Çalışmak Yetmez: Hayatının Algoritması Ne Kadar Hızlı?

Bir işi ne kadar hızlı bitirdiğimizi çoğu zaman irade, disiplin ve kahve miktarıyla açıklarız. Oysa bilgisayar biliminin soğukkanlı dünyası bize daha rahatsız edici bir şey söyler: Aynı problemi çözmek için seçtiğin yöntem, harcadığın çabadan daha belirleyici olabilir. İşte Big O Notation, yani zaman kompleksitesi, tam olarak bunu ölçmeye yarar. Bir algoritmanın, girdi büyüdükçe ne kadar yavaşladığını anlatır. Hayat da çoğu zaman bir algoritma seçme sanatıdır.

Diyelim ki evde kaybolan anahtarını arıyorsun. Bir yöntem, bütün evi rastgele altüst etmektir. Koltuk altına bak, sonra buzdolabına, sonra tekrar koltuk altına, sonra mont cebine, sonra varoluşsal krize. Bu yaklaşım kötü tasarlanmış bir algoritmaya benzer. Çok enerji harcarsın ama ilerleme hissin yanıltıcıdır. Başka bir yöntem ise son kullandığın yerleri sırayla düşünmek, giriş kapısı çevresinden başlamak, çantaları ve cepleri sistematik kontrol etmektir. Aynı insan, aynı anahtar, aynı ev; fakat farklı algoritma.

Big O bize ne anlatır?

Big O, küçük ayrıntıları değil, büyüme davranışını önemser. Bir işin 10 birimde nasıl davrandığı değil, 10.000 birimde neye dönüştüğü sorulur. O(1) sabit zamandır: Girdi büyüse de işlem süresi değişmez. Mesela telefonunda favorilere eklediğin bir kişiyi aramak gibi. O(n) doğrusal zamandır: Liste büyüdükçe süre de aynı oranda artar. Bir sınıftaki herkesin adını tek tek okumak buna benzer. O(n²) ise tehlikeli bölgedir: Her şeyi herkesle karşılaştırırsın. Toplantıda herkesin herkesle ayrı ayrı fikir alışverişi yapması gibi; katılımcı sayısı arttıkça zaman birden şişer.

Hayatta da bazı işler O(n²) gibi davranır. Gelen kutusunu düzensiz bırakırsan, her yeni e-posta sadece bir e-posta değildir; eski karmaşayla etkileşime giren yeni bir düğümdür. Notlarını kategorize etmezsen, bilgi birikimin büyüdükçe zekân değil, sürtünmen artar. Bir proje planın yoksa, ekipteki kişi sayısı arttıkça iletişim maliyeti patlar. Sonra insanlar şaşırır: Bu kadar çalışıyoruz, neden ilerlemiyoruz? Çünkü çalışma miktarı arttıkça sistemin verimsizliği de büyüyordur.

Bu noktada acı gerçek ortaya çıkar: Yoğunluk verimlilik değildir. Klavyeye hızlı basmak, doğru problemi çözdüğün anlamına gelmez. Bir yazılımcı yanlış algoritmayla milyonlarca işlem yapabilir; bir insan da yanlış alışkanlıkla yıllarca dönüp durabilir. Big O’nun hayata hediyesi, bize şunu sormayı öğretmesidir: Ben bu işi daha fazla kas gücüyle mi çözmeye çalışıyorum, yoksa yöntemi mi değiştirmeliyim?

Hayatındaki algoritmaları denetle

Sabah rutinin O(n²) mi? Yani bir çorabı ararken akşamdan kalan tabakları, bildirimleri, dağınık masayı ve gecikmiş kararları aynı anda mı işliyorsun? Öğrenme biçimin O(n) bile değil de rastgele arama mı? Aynı konuyu tekrar tekrar açıp kapatıyor, fakat hiçbir özet, örnek veya pratik üretmiyor musun? İlişkilerinde her anlaşmazlığı sıfırdan mı tartışıyorsun, yoksa ortak kurallar ve açık beklentiler gibi bir önbellek kurdun mu?

Bilgisayar biliminde iyi bir algoritma, problemi daha akıllıca temsil eder. Hayatta da mesele budur. Takvim kullanmak, zihni boşaltan bir veri yapısıdır. Kontrol listesi, tekrar eden hataları azaltan bir otomasyondur. Önceliklendirme, sonsuz görevler kümesinde arama alanını daraltmaktır. Hayır demek, gereksiz girdiyi sisteme almamaktır. Dinlenmek bile bir optimizasyondur; çünkü yorgun işlemci daha çok hata üretir.

Elbette her şeyi optimize etmeye çalışmak da ayrı bir tuzaktır. İnsan makine değildir; bazen en verimli yol, en anlamlı yol olmayabilir. Ama Big O bize mekanikleşmeyi değil, kör çabayı sorgulamayı önerir. Eğer sürekli yetişemiyorsan, sorun karakterinde olmayabilir. Belki de hayatını O(n²) bir düzende çalıştırıyorsundur.

Sonuç basit ama güçlü: Daha hızlı yaşamak için daha fazla koşmak zorunda değilsin; bazen rotayı yeniden çizmen gerekir. Hayatın performansını belirleyen şey yalnızca motivasyonun değil, kullandığın algoritmadır. Ve iyi haber şu: Algoritmalar değiştirilebilir.

Kurşunsuz Savaşın Kanı: Siber Cephede İnsan Hakları Kime Emanet?

Bir savaş düşünün: Gökyüzünde uçak yok, sokakta tank yok, haber bültenlerinde dumanı tüten binalar yok. Ama bir sabah hastanelerin sistemleri kilitleniyor, elektrik şebekesi çöküyor, bankadaki paranız bir sayı hatasına dönüşüyor, kimlik bilgileriniz karanlık forumlarda açık artırmaya çıkıyor. Kurşun sıkılmadı diye buna savaş demeyecek miyiz? Daha da önemlisi: Bedenimize dokunmayan bir saldırı, insan haklarımızı ihlal etmemiş mi sayılacak?

Siber savaşların etik sorusu tam da burada başlar. Modern insan artık yalnızca etten, kemikten ve nüfus cüzdanından ibaret değildir; veriyle örülmüş ikinci bir bedene sahiptir. Sağlık kayıtlarımız, konum geçmişimiz, yazışmalarımız, finansal hareketlerimiz ve hatta dikkatimizin ritmi, dijital varlığımızın organlarıdır. Bir devlet ya da örgüt bu dijital bedene saldırdığında, yalnızca bilgisayarlara değil, insanın güvenlik, mahremiyet, yaşam ve onur hakkına temas eder.

Hasar görünmüyorsa daha mı az gerçektir?

Geleneksel savaş etiğinde “orantılılık” ve “sivilleri ayırt etme” ilkeleri vardır. Bir hedef askeri mi, sivil mi? Verilecek zarar beklenen askeri avantajla orantılı mı? Siber alanda bu sorular sisli bir aynaya bakmak gibidir. Bir enerji santralini hedef aldığınızda karşınızda yalnızca bir tesis yoktur; yoğun bakım üniteleri, trafik ışıkları, soğuk hava depoları, evinde solunum cihazına bağlı yaşayan insanlar da aynı ağın kırılgan iplerine tutunuyor olabilir.

Üstelik siber silahlar bazen boomerang gibidir. Bugün düşman ülkenin sistemine bırakılan zararlı yazılım, yarın tarafsız bir ülkedeki hastaneye sıçrayabilir. Bir virüs milliyet sormaz; kodun pasaportu yoktur. Bu yüzden siber savaşta “cerrahi hassasiyet” iddiası çoğu zaman parlak bir pazarlama cümlesidir. Kod, niyetle değil, koşullarla hareket eder.

İnsan hakları açısından mesele daha da derinleşir. Yaşam hakkı yalnızca mermiden korunmak değildir; yaşamsal altyapılara erişim hakkını da kapsar. Sağlık hakkı, randevu sisteminin çökmediği; mahremiyet hakkı, verilerin savaş ganimeti yapılmadığı; ifade özgürlüğü, devletlerin dijital propaganda ve sansürle yurttaş zihnini işgal etmediği bir düzen gerektirir. Siber savaşta hedef çoğu zaman beden değil, güven duygusudur. Toplumun sinir sistemi kesilir: Kimse neyin doğru, kimin yetkili, hangi bilginin gerçek olduğunu bilemez.

Devletin kılıcı, hackerın gölgesi

Etik karmaşayı artıran şeylerden biri de failin belirsizliğidir. Bir saldırı kimin emriyle yapıldı? Devlet mi, taşeron grup mu, “vatansever” hackerlar mı, yoksa sahte bayrak operasyonu mu? Geleneksel savaşta üniforma en azından bir itiraf biçimidir. Siber savaşta ise saldırgan maske takar, iz bırakır, sonra o izi başkasının ayakkabısına benzetir. Bu belirsizlik, hesap verebilirliği eritir. Hesap verebilirlik yoksa adalet, sisin içinde yankılanan güzel bir kelimeye dönüşür.

Burada tavır almak gerekir: Siber saldırılar, “kan dökülmedi” bahanesiyle etik dışı hafifletme rejimine sokulamaz. Bir hastanenin sistemini kilitlemek, bir su şebekesini zehirlenebilir hale getirmek, seçim altyapısını manipüle etmek ya da milyonlarca insanın mahrem bilgisini ifşa etmek, doğrudan insan hakları meselesidir. Dijital araçla işlenen zarar, analog vicdanla yargılanmalıdır.

Elbette savunma hakkı vardır. Devletler kritik altyapılarını korumak, saldırıları önlemek, istihbarat toplamak isteyecektir. Ancak savunma ile saldırı arasındaki çizgi, siber alanda özellikle tehlikeli biçimde incelir. “Önleyici saldırı” adı altında başlatılan operasyonlar, kısa sürede sürekli istisna haline dönüşebilir. Bir kez “güvenlik” büyülü kelimesi söylendi mi, mahremiyet çoğu zaman odadan ilk çıkarılan misafir olur.

Dijital Cenevre mümkün mü?

İhtiyacımız olan şey, romantik bir teknoloji karşıtlığı değil; sert, gerçekçi ve insan merkezli bir etik mimaridir. Kritik sivil altyapılara saldırıyı açıkça yasaklayan uluslararası normlar, siber silahların yayılımını denetleyen anlaşmalar, bağımsız olay inceleme mekanizmaları ve şirketlerin de sorumluluğunu tanıyan yeni bir hukuk dili gerekir. Çünkü bulut sunucuları, denizaltı kabloları ve yazılım tedarik zincirleri artık jeopolitiğin görünmeyen cepheleridir.

Sonuçta siber savaş bize eski bir hakikati yeni bir ekranda gösteriyor: İnsan yalnızca vurulduğunda zarar görmez; susturulduğunda, izlendiğinde, aldatıldığında, elektriksiz bırakıldığında, veriye indirgenip savunmasız bırakıldığında da yaralanır. Kurşunsuz savaşın kanı görünmez olabilir, ama insan hakları tam da görünmeyeni ciddiye alma sanatıdır. Ekran karardığında mesele teknoloji değil, insanın onurudur.

Kod Neden Pasaport İster: Taşınabilirliğin Küresel Rüyası

Bir programcının en eski dualarından biri şudur: Burada çalıştıysa orada da çalışsın. Kulağa teknik bir istek gibi gelir; oysa içinde küçük bir uygarlık tasarımı saklıdır. Kodun taşınabilirliği, yalnızca bir uygulamanın Windows’tan Linux’a, telefondan buluta, yerel makineden uzak sunucuya nazlanmadan geçmesi değildir. Daha derinde, bir fikrin coğrafyadan, donanımdan, işletim sisteminden ve hatta bazen kültürden bağımsız biçimde var olabilmesi arzusudur.

Bu yüzden portability, yazılım dünyasının küreselleşme felsefesidir. Nasıl ki bir para birimi, bir dil ya da bir ölçü standardı sınırları aşmayı kolaylaştırıyorsa; taşınabilir kod da fikrin gümrükte takılmadan dolaşmasını sağlar. Fakat burada romantizme fazla kapılmayalım: Her yerde çalışan kod, kendiliğinden ortaya çıkan büyülü bir varlık değildir. O, disiplinli soyutlama, dikkatli bağımlılık yönetimi, standartlara saygı ve çevresel farklara karşı paranoyak bir uyanıklık ister.

Makineden Bağımsız Düşünmek

Taşınabilirlik önce zihinde başlar. Kötü programcı yalnızca kendi bilgisayarını evren sanır. İyi programcı ise evrenin klavye düzeninden dosya yoluna, saat diliminden karakter kodlamasına kadar tuzaklarla dolu olduğunu bilir. Bir yerde eğik çizgiyle çalışan dosya yolu, başka yerde ters eğik çizgi ister. Bir sistemde küçük harf-büyük harf farkı önemsizdir, diğerinde kader belirler. Bir ülkede virgül ondalık ayırıcıdır, başka bir yerde nokta. Kod, bu farklılıkları yok saydığında yerel bir lehçeye dönüşür; onları hesaba kattığında ise ortak dile yaklaşır.

Bu ortak dilin en önemli araçları standartlardır. POSIX, Unicode, HTTP, SQL, ECMAScript gibi isimler ilk bakışta sıkıcı teknik tabelalar gibi görünür. Fakat aslında bunlar yazılım medeniyetinin demiryollarıdır. Ray açıklığı herkes için aynıysa trenler kıta boyunca ilerler. Protokoller, dosya biçimleri ve dil standartları da böyledir: Fikirlerin başka makinelerde yeniden doğmasını sağlar.

Taşınabilirlik Bedava Değildir

Elbette her soyutlama bir bedel ister. Taşınabilir kod yazmak çoğu zaman daha fazla planlama, daha fazla test, daha az kestirme yol demektir. Sisteme özel bir özelliği kullanmak hızlıdır; fakat sizi o sisteme zincirler. Taşınabilir bir çözüm ise bazen daha yavaş, daha genel, daha zahmetli olabilir. Burada stratejik soru şudur: Hızlıca yerel bir zafer mi istiyoruz, yoksa uzun vadeli küresel hareket kabiliyeti mi?

Bu sorunun cevabı bağlama göre değişir. Gömülü sistemlerde donanıma yakın optimizasyon hayatidir. Bir oyun motorunda grafik kartının özel yeteneklerinden yararlanmak performans getirir. Fakat bir iş uygulaması, bir kütüphane, bir eğitim aracı ya da açık kaynak projesi geliştiriyorsanız, taşınabilirlik sizi çoğaltır. Kodunuz tek bir makinede çalışan bir not olmaktan çıkar, dünyanın farklı köşelerinde yorumlanan bir besteye dönüşür.

Küreselleşmenin Yazılımcı Versiyonu

Küreselleşme çoğu zaman malların, sermayenin ve kültürün dolaşımı olarak anlatılır. Yazılımda ise dolaşan şey daha soyuttur: yöntem, algoritma, arayüz, deneyim. Bir geliştirici İstanbul’da bir paket yazar, Tokyo’da biri onu projeye ekler, Berlin’de başka biri hata bildirir, Nairobi’de biri çatallayıp geliştirir. Kod taşınabilir değilse bu ağ kırılır. Çalıştırma talimatları büyü kitabına, kurulum süreci çile ritüeline dönüşür.

Docker, sanal makineler, konteynerler ve bulut platformları bu soruna modern cevaplar sunar. İlginçtir: Eskiden kodu ortama uydurmaya çalışırdık; şimdi çoğu zaman ortamı kodla birlikte paketliyoruz. Yani taşınabilirlik yalnızca kodun hafiflemesiyle değil, dünyanın küçük bir kopyasını yanımıza almamızla da sağlanıyor. Bu, dijital çağın valiz felsefesidir: Sadece fikir değil, fikrin yaşadığı iklim de taşınır.

Fakat en büyük risk şudur: Taşınabilirliği yalnızca teknik uyumluluk sanmak. Bir yazılım her cihazda açılabilir ama her insan için anlaşılır olmayabilir. Dil desteği, erişilebilirlik, yerelleştirme, kültürel varsayımlar ve etik tasarım da taşınabilirliğin geniş halkalarıdır. Gerçekten küresel bir kod, yalnızca işlemciler arasında değil, insanlar arasında da çalışır.

Sonuçta taşınabilirlik, programcının egosuna atılmış zarif bir tokattır. Dünya senin bilgisayarından ibaret değildir. Kodunu, başka makinelerin, başka alışkanlıkların, başka saat dilimlerinin ve başka hayatların içinden geçecek bir yolcu gibi tasarla. Çünkü iyi yazılım, doğduğu yere sadık kalırken oraya mahkum olmayan yazılımdır. Bir ortamda yazılan fikrin her yerde çalışması, sadece mühendislik başarısı değil; dijital çağın en pratik özgürlük tanımlarından biridir.

Bir Tüy Dünyayı Nasıl Konuşturur? f52d’nin Görünmeyen Dili

Ekranda küçük bir tüy kalem görürüz ve çoğumuz aynı anda “yaz”, “düzenle” ya da “üret” fikrine yaklaşırız. Oysa bilgisayar, tüylerden, mürekkepten ve edebî çağrışımlardan habersizdir. Onun gördüğü şey, örneğin U+F52D gibi sayısal bir konumdur. Font Awesome gibi bir ikon yazı tipinde bu kod noktasına tüy biçimli bir glif atanabilir. Böylece soğuk bir sayı, insan zihninde şiir, yazarlık ve ifade özgürlüğü çağrıştıran görsel bir işarete dönüşür. İşte semiyotik ile bilişimin el sıkıştığı yer tam burasıdır.

Kod, biçim ve anlam

Bir ikonun iletişim kurabilmesi için üç katmanın birlikte çalışması gerekir. İlk katmanda makinenin işlediği kod bulunur: f52d. İkinci katmanda uygun yazı tipi bu kodu görünür bir şekle, yani tüye dönüştürür. Üçüncü katmanda insan zihni şekli yorumlayarak ona anlam verir. Charles Sanders Peirce’ın göstergebilimsel üçgenini hatırlatırcasına kod, nesne ve yorum arasında hareketli bir ilişki oluşur. Kod tek başına tüy değildir; tüy resmi de tek başına “yazmak” demek değildir. Anlam, kullanıcının deneyimiyle arayüzün bağlamı arasında üretilir.

Burada önemli bir düzeltme yapmak gerekir: f52d bütünüyle evrensel bir anlam kodu değildir. U+F52D, Unicode’un özel kullanım alanında yer alır. Başka bir deyişle aynı kod, farklı bir ikon yazı tipinde bambaşka bir şekil gösterebilir; gerekli yazı tipi yüklenmezse ekranda boş bir kutu bile belirebilir. Evrensel olan şey kodun anlamı değil, bilgisayarların kod noktalarını işleme mantığıdır. İkonun tutarlılığı ise tasarım kütüphanesine, teknik standarda ve ortak kullanım sözleşmesine bağlıdır.

Diller üstü, kültür içi

İkonların gücü, sözcükleri atlayarak algıya seslenmelerinden gelir. Bir büyüteç “ara”, çöp kutusu “sil”, kalp “beğen” diyebilir. Kullanıcı bunları Türkçe, Japonca ya da İspanyolca okumaz; görür ve çoğu zaman anında davranır. Bu hız, ikonları küresel arayüzlerin vazgeçilmez unsurları yapar. Fakat “diller üstü” olmak, “kültür dışı” olmak değildir. Tüy kalem, yazının klavye veya sesli komutla üretildiği bir çağda bile tarihsel hafızamız sayesinde yazarlığı temsil eder. İkon, geçmişten ödünç aldığı bir nesneyi geleceğin ekranına taşır.

Üstelik her işaret aynı açıklıkta değildir. Disket simgesi, disket kullanmamış kuşaklar için bile “kaydet” anlamını sürdürür. Telefon ahizesi, günümüz telefonlarına hiç benzemediği hâlde arama eylemini anlatır. Bu örnekler, ikonların nesnelerin kopyası olmaktan çıkarak dijital dünyanın ideogramlarına dönüştüğünü gösterir. Başlangıçta benzerlik yoluyla çalışan ikon, zamanla alışkanlık sayesinde simgeleşir. Tüy artık yalnızca tüy değildir; yazma eylemine açılan küçük bir kültürel kapıdır.

Görsel Esperanto mümkün mü?

Evrensel bir ikon ağı kurmak cazip görünür, fakat bunun için yalnızca kod standardı yetmez. Tasarımcıların erişilebilirliği gözetmesi, ikonlara metinsel etiketler eklemesi ve kültürel farklılıkları sınaması gerekir. Ekran okuyucu kullanan biri açısından görsel tüy sessizdir; ona anlam kazandıran, doğru bir erişilebilirlik açıklamasıdır. Aynı şekilde belirsiz bir ikonun yanında kısa bir sözcük bulunması iletişimi zayıflatmaz, tersine sağlamlaştırır. En iyi arayüz, görüntü ile dili rakip değil ortak kabul eder.

Sonuçta f52d’nin göstergebilimsel gücü, sayının içinde saklı mistik bir anlamdan değil, makinelerle insanlar arasında kurduğu zincirden doğar. Kod düzen sağlar, yazı tipi biçim verir, kültür çağrışım üretir, bağlam ise doğru eylemi seçtirir. Küçücük bir tüy, bu katmanlar uyumlu olduğunda kıtaları ve alfabeleri aşabilir. Ancak ikonların dili doğuştan evrensel değildir; tekrar, uzlaşma ve tasarım yoluyla evrenselleşir. Dijital çağın ortak dili, belki de herkesin bildiği işaretlerden değil, birlikte öğrenmeyi kabul ettiği işaretlerden kurulacaktır.

Model Haklı Çıktı, Peki Nedenini Kim Biliyor?

Derin öğrenme çağının en tuhaf manzarası şudur: Bir sistem milyonlarca görüntüye, metne, sese bakar; sonra bir karar verir. Kanserli hücreyi işaret eder, kredi başvurusunu reddeder, yüzünüzün kime benzediğini söyler, arabanın frene basmasına karar verir. Çoğu zaman da doğru çıkar. Fakat kapıyı açıp içeri baktığınızda, karşınızda düzenli bir mantık sarayı değil, milyarlarca sayısal ağırlıktan oluşan titreşimli bir orman bulursunuz. Model konuşur, ama gerekçe vermez. Sanki çok zeki ama içine kapanık bir kahinle çalışıyoruz.

Bu yüzden derin öğrenmenin kara kutu problemi sadece teknik bir mesele değildir; güven, sorumluluk ve iktidar meselesidir. Klasik yazılımda geliştirici genellikle şunu diyebilir: Eğer kullanıcı yaşı 18’den küçükse, erişim reddedilir. Mantık izlenebilir, hata ayıklanabilir, mahkemede anlatılabilir. Derin öğrenmede ise karar, tek tek yazılmış kurallardan değil, veriden öğrenilmiş karmaşık örüntülerden doğar. Modelin içinde insanın satır satır okuyacağı bir yasa kitabı yoktur; daha çok, deneyimle biçimlenmiş bir sezgi haritası vardır.

Kural Değil, Örüntü

Bir sinir ağı, veriler arasındaki ilişkileri katman katman dönüştürür. İlk katmanlar basit özellikleri yakalayabilir: kenarlar, renk geçişleri, ses frekansları, kelime parçaları. Daha derin katmanlarda bunlar birleşir, soyutlanır, yeni temsillere dönüşür. Sonuçta model, insanın doğrudan adlandıramadığı ara kavramlarla çalışabilir. Bir kediyi tanırken bıyık, kulak ve pati de görür; ama belki bizim fark etmediğimiz piksel ritimlerini de kullanır. İşte sorun burada başlar: Modelin doğru cevaba hangi patikadan gittiğini bilmek, cevabın kendisini bilmekten çok daha zordur.

Bu durum bazen komik, bazen tehlikelidir. Bir model hastalığı teşhis ediyor sanılırken aslında görüntü cihazının köşesindeki hastane işaretini öğrenmiş olabilir. Bir işe alım algoritması başarıyı ölçüyor sanılırken geçmişteki ayrımcı tercihleri cilalayıp yeniden üretiyor olabilir. Bir güvenlik sistemi suç riskini hesaplıyor sanılırken yoksulluğu cezalandırıyor olabilir. Kara kutu yalnızca karanlık olduğu için değil, karanlıkta neyi büyüttüğünü bilmediğimiz için ürkütücüdür.

Elbette bilim insanları bu kutuya el fenerleriyle girmeye çalışıyor. Açıklanabilir yapay zeka yöntemleri, modelin hangi özelliklere dikkat ettiğini göstermeye çalışır. Isı haritaları, bir görüntü sınıflandırılırken hangi bölgelerin etkili olduğunu renklendirir. SHAP ve LIME gibi teknikler, tekil kararların arkasındaki değişken etkilerini yaklaşık olarak hesaplar. Model damıtma, karmaşık bir ağı daha basit ve anlaşılır bir modele taklit ettirmeye çalışır. Bunlar önemlidir; fakat dürüst olmak gerekir: El feneri mağaranın tamamı değildir.

Doğruluk Yetmez

Bir sistemin yüksek doğruluk oranına sahip olması, onun adil, güvenilir veya açıklanabilir olduğu anlamına gelmez. Uçak iyi uçuyor diye kokpit göstergelerini sökmezsiniz. Tıp, hukuk, finans, eğitim ve güvenlik gibi alanlarda sadece sonuç değil, gerekçe de değerlidir. Çünkü insanlar istatistiksel nesneler değildir; itiraz eder, anlam arar, hesap sorar. Bir algoritma hayatınızı etkiliyorsa, size yalnızca sonuç değil, anlaşılabilir bir neden de borçludur.

Burada pratik yaklaşım şudur: Her problemi en büyük ve en opak modelle çözmeye çalışmamak gerekir. Bazen basit bir karar ağacı, lojistik regresyon ya da kural tabanlı sistem yeterince iyi ve çok daha şeffaftır. Derin öğrenme kullanılacaksa veri denetimi, önyargı testleri, açıklama araçları, insan gözetimi ve sürekli izleme birlikte tasarlanmalıdır. Modelin performansı kadar, nerede başarısız olduğu da ölçülmelidir. Çünkü gerçek mühendislik, yalnızca çalışan şeyi yapmak değil, çalışmadığında nasıl davranacağını da bilmektir.

Kara kutu meselesi bize garip bir ayna tutuyor. İnsan zihni de çoğu zaman kendi kararlarını sonradan açıklayan bir kara kutu değil midir? Önce sever, sonra gerekçe buluruz. Önce korkar, sonra mantık üretiriz. Fakat makinelerle farkımız şurada: Onlara sorumluluk devrederken, kendi bilinç bulanıklığımızı da kodun içine saklama lüksümüz yoktur. Derin öğrenme güçlüdür; ama güç, açıklama olmadan büyüdüğünde tekinsizleşir. Geleceğin en akıllı sistemleri sadece doğru tahmin yapanlar değil, hatasını gösterebilen, sınırını bilen ve insanın anlayabileceği bir dille hesap verebilen sistemler olacaktır.