Bir dağın tepesinde olduğunuzu düşünün. Gözleriniz bağlı. Haritanız yok, yıldızları göremiyorsunuz, vadinin nerede bittiğini bilmiyorsunuz. Tek yapabildiğiniz şey, ayağınızın altındaki zeminin eğimini hissetmek. Sol taraf biraz daha dik aşağı gidiyor, sağ taraf neredeyse düz, önünüzde taşlar var. Amacınız basit gibi görünür: en hızlı şekilde aşağı inmek ve vadinin en dibini bulmak. Makine öğrenmesinde gradyan inişi tam olarak böyle çalışır: kör ama hisseden bir yolcu gibi.
Gradyan İnişi Nedir?
Bir model eğitilirken aslında sürekli hata yapar. Bir resmi kedi yerine köpek sanır, bir evin fiyatını olduğundan düşük tahmin eder, bir cümledeki duyguyu yanlış okur. Bu hataların toplamına kayıp fonksiyonu diyebiliriz. Kayıp ne kadar yüksekse model o kadar şaşkındır. Gradyan inişi, bu kaybı azaltmak için modelin parametrelerini adım adım güncelleyen yöntemdir. Yani algoritma, dağın yamacında durur ve şu soruyu sorar: Hata en hızlı hangi yönde azalıyor?
