Optimizasyon
Giriş
Ders Hangi Soruyu Sorar?
Optimizasyon, kısıtlara uyarak bir amaç fonksiyonunu en küçük ya da en büyük yapan değerleri bulmayı inceler. Yapay zekâda bir modeli eğitmek, kayıp fonksiyonunu en küçükleyen ağırlıkları aramaktır; bu yüzden her öğrenme algoritmasının içinde bir optimizasyon yöntemi çalışır.
Bir bakışta
amaç ve kısıtların matematiksel modeli
amaç fonksiyonu ve kısıtlar
en iyi ya da ona yakın çözüm
amaç değeri, yakınsama hızı
kuramın kendisi
gerekmez
Giriş
Kısa Tarihçe
Cauchy, denklem sistemlerini çözmek için en dik iniş (gradyan inişi) yöntemini önerir.
Dantzig doğrusal programlama için simpleks yöntemini geliştirir.
Kuhn ve Tucker, kısıtlı problemlerde en iyiliğin koşullarını (KKT) yayımlar.
Bellman'ın Dynamic Programming kitabı yayımlanır.
Karmarkar, doğrusal programlama için polinom zamanlı iç nokta yöntemini tanıtır.
Kingma ve Ba, derin ağların eğitiminde yaygınlaşacak Adam yöntemini önerir.
Ders
Temel Kavramlar
En küçüklenecek maliyet ya da kayıp.
Çözümün uyması gereken eşitlik ve eşitsizlikler.
Doğrusal amaç ve kısıtlar; simpleks yöntemi.
Her yerel en iyi aynı zamanda global en iyidir.
Eğimin tersi yönünde küçük adımlar atmak.
Her adımda verinin küçük bir parçasını kullanmak.
Kısıtları amaca katarak çözmek; KKT koşulları.
Değişkenler tam sayı; çoğu zaman çok zordur.
Ders
Tipik İş Akışı
Dene
Fiyat Modelini Eğitmek
Ev fiyatını “fiyat = w·alan + b” ile tahmin eden modelin iki ağırlığı, kaybı en aza indiren yere gradyan inişiyle gidiyor. Haritada başlangıca tıklayın, öğrenme hızını değiştirin.
Konum
Ön Koşullar
Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.
| Ders | Neden gerekir |
|---|---|
| Doğrusal Cebir | gradyan, Hessian, konvekslik |
| Analiz (Kalkülüs) | türev, kısmi türev ve Taylor açılımı: gradyanın ve Hessian'ın dili |
| Algoritmalar | dinamik programlama, açgözlü yöntemler ve karmaşıklık |
Konum
Dersin Komşuları
Örtüşme
Örtüştüğü Dersler
| İlişki | Ders | Ortak konu |
|---|---|---|
| temel alır | Makine Öğrenmesi bu dersi temel alır | kayıp en küçükleme, düzenlileştirme |
| temel alır | Yapay Sinir Ağları bu dersi temel alır | gradyan inişi, öğrenme hızı |
| temel alır | Bu ders Doğrusal Cebir dersini temel alır | gradyan, Hessian, konvekslik |
| yöntem paylaşır | Yapay Zekâ ile yöntem paylaşır | durum uzayında arama, kısıt sağlama |
| yöntem paylaşır | Pekiştirmeli Öğrenme ile yöntem paylaşır | dinamik programlama, politika gradyanı |
| yöntem paylaşır | Evrimsel ve Metasezgisel Optimizasyon ile yöntem paylaşır | türevsiz ve global optimizasyon |
Ayrışma
Ayrıştığı Noktalar (1/2)
| Ölçüt | Optimizasyon | Evrimsel Optimizasyon | Yapay Zekâ |
|---|---|---|---|
| Temel soru | Bir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur? | Türev yokken ya da arama uzayı çok büyükken iyi bir çözüm nasıl bulunur? | Bir makine arayarak, çıkarım yaparak ve plan kurarak nasıl akıllıca davranır? |
| Yaklaşım | amaç ve kısıtların matematiksel modeli | popülasyon ve sezgisel arama | arama, mantık, olasılık ve öğrenme bir arada |
| Girdi | amaç fonksiyonu ve kısıtlar | amaç fonksiyonu ve çözüm gösterimi | problem tanımı: durumlar, eylemler, hedef |
| Çıktı | en iyi ya da ona yakın çözüm | iyi bir çözüm (en iyisi garanti değil) | eylem dizisi, plan ya da karar |
| Başarı ölçütü | amaç değeri, yakınsama hızı | çözüm kalitesi, değerlendirme sayısı | hedefe ulaşma, maliyet, rasyonellik |
| Matematik yükü | kuramın kendisi | düşük-orta | orta: mantık, olasılık, çizge |
| Veri ihtiyacı | gerekmez | gerekmez; değerlendirme yeter | az; çoğu zaman model ve bilgi yeter |
- Evrimsel Optimizasyon: Evrimsel yöntemler türev kullanmadan arar; bu ders problemin yapısını (türev, konvekslik) kullanan yöntemleri öğretir.
- Yapay Zekâ: YZ işe problemi etmen ve çevre olarak modellemekle başlar; optimizasyon matematiksel olarak kurulmuş problemi çözer.
Ayrışma
Ayrıştığı Noktalar (2/2)
| Ölçüt | Optimizasyon | Makine Öğrenmesi | Pekiştirmeli Öğrenme |
|---|---|---|---|
| Temel soru | Bir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur? | Bir program örneklerden nasıl genelleme yapar? | Yalnız ödül sinyaliyle, deneme yanılma yoluyla iyi kararlar nasıl öğrenilir? |
| Yaklaşım | amaç ve kısıtların matematiksel modeli | istatistiksel öğrenme | ödülle deneme yanılma |
| Girdi | amaç fonksiyonu ve kısıtlar | etiketli ya da etiketsiz örnekler | ortamla etkileşim: durum ve ödül |
| Çıktı | en iyi ya da ona yakın çözüm | tahmin yapan model | politika: durumdan eyleme kural |
| Başarı ölçütü | amaç değeri, yakınsama hızı | görülmemiş veride hata | toplam beklenen ödül |
| Matematik yükü | kuramın kendisi | yüksek: doğrusal cebir, olasılık, optimizasyon | yüksek: olasılık, dinamik programlama |
| Veri ihtiyacı | gerekmez | orta ve çok | etkileşimle üretilir |
- Makine Öğrenmesi: MÖ eğitim kaybını küçültürken yeni veride başarıyı da ister; optimizasyon yalnız verilen amacı en iyi yapar.
- Pekiştirmeli Öğrenme: Pekiştirmeli öğrenme ödülü deneme yanılmayla en büyükler; bu derste amaç fonksiyonu baştan açıkça yazılıdır.
Uygulama
Uygulama Alanları
Kaybı en küçükleyen ağırlıkları bulmak.
En geniş aralıklı ayırıcı: konveks problem.
Öğrenme hızı ve düzenlileştirme seçimi.
Rota, taşıma ve depo yerleşimi.
Vardiya, üretim ve ders programı.
Getiri ile riski dengelemek.
Uygulama
Araçlar ve Örnek Veriler
Araçlar ve kütüphaneler
Klasik örnek problemler
Uygulama
Sık Karıştırılanlar
| Yaygın düşünce | Doğrusu |
|---|---|
| Gradyan inişi her zaman en iyi çözümü bulur. | Konveks olmayan problemlerde yerel bir en iyide ya da eyer noktasında kalabilir. |
| Öğrenme hızı ne kadar büyükse o kadar hızlı. | Çok büyük adım minimumu aşar ve kayıp ıraksar; çok küçüğü ise eğitimi uzatır. |
| Tam sayılı problemler yuvarlayarak çözülür. | Doğrusal çözümü yuvarlamak kısıtları bozabilir ya da en iyiden çok uzak kalabilir. |
| Kayıp en küçükse model en iyisidir. | Eğitim kaybını sıfırlamak aşırı uydurma demek olabilir; YZ'de amaç genellemedir. |
Sonrası
Bu Dersten Sonra
Bu dersi temel alan ya da genişleten dersler
İlgili meslekler
Sonrası
Kaynaklar
- Boyd ve Vandenberghe, Convex Optimization, Cambridge University Press, 2004.
- Nocedal ve Wright, Numerical Optimization, 2. baskı, Springer, 2006.
- Bertsimas ve Tsitsiklis, Introduction to Linear Optimization, Athena Scientific, 1997.
- Bottou, Curtis ve Nocedal, "Optimization Methods for Large-Scale Machine Learning", SIAM Review 60(2), 2018.