Optimizasyon

Yapay Zekâ ve Veri Dersleri Rehberi · Kısım V: Matematik Temeli
Amaç ve kısıtDoğrusal programlamaKonvekslikGradyan yöntemleriYZ'de neredeKomşu dersler
Sercan KÜLCÜ · Giresun Üniversitesi · Bilgisayar Mühendisliği

Giriş

Ders Hangi Soruyu Sorar?

Bir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur?

Optimizasyon, kısıtlara uyarak bir amaç fonksiyonunu en küçük ya da en büyük yapan değerleri bulmayı inceler. Yapay zekâda bir modeli eğitmek, kayıp fonksiyonunu en küçükleyen ağırlıkları aramaktır; bu yüzden her öğrenme algoritmasının içinde bir optimizasyon yöntemi çalışır.

Bir bakışta

Yaklaşım

amaç ve kısıtların matematiksel modeli

Girdi

amaç fonksiyonu ve kısıtlar

Çıktı

en iyi ya da ona yakın çözüm

Başarı ölçütü

amaç değeri, yakınsama hızı

Matematik yükü

kuramın kendisi

Veri ihtiyacı

gerekmez

Giriş

Kısa Tarihçe

1847

Cauchy, denklem sistemlerini çözmek için en dik iniş (gradyan inişi) yöntemini önerir.

1947

Dantzig doğrusal programlama için simpleks yöntemini geliştirir.

1951

Kuhn ve Tucker, kısıtlı problemlerde en iyiliğin koşullarını (KKT) yayımlar.

1957

Bellman'ın Dynamic Programming kitabı yayımlanır.

1984

Karmarkar, doğrusal programlama için polinom zamanlı iç nokta yöntemini tanıtır.

2014

Kingma ve Ba, derin ağların eğitiminde yaygınlaşacak Adam yöntemini önerir.

Ders

Temel Kavramlar

Amaç fonksiyonu

En küçüklenecek maliyet ya da kayıp.

Kısıtlar

Çözümün uyması gereken eşitlik ve eşitsizlikler.

Doğrusal programlama

Doğrusal amaç ve kısıtlar; simpleks yöntemi.

Konvekslik

Her yerel en iyi aynı zamanda global en iyidir.

Gradyan inişi

Eğimin tersi yönünde küçük adımlar atmak.

Stokastik gradyan

Her adımda verinin küçük bir parçasını kullanmak.

Lagrange çarpanları

Kısıtları amaca katarak çözmek; KKT koşulları.

Tam sayılı programlama

Değişkenler tam sayı; çoğu zaman çok zordur.

Ders

Tipik İş Akışı

Modelledeğişken, amaç,kısıtSınıflandırdoğrusal mı,konveks mi?Yöntem seçsimpleks,gradyan, ...ÇözyakınsamayıizleDoğruladuyarlılık,kısıt denetimi
Örnek: Bir sinir ağını eğitmek bir optimizasyon problemidir: değişkenler ağırlıklar, amaç ortalama kayıptır. Problem konveks değildir; bu yüzden küçük gruplarla stokastik gradyan inişi ya da Adam kullanılır ve kayıp eğrisi doğrulama kümesinde izlenir.

Dene

Fiyat Modelini Eğitmek

Ev fiyatını “fiyat = w·alan + b” ile tahmin eden modelin iki ağırlığı, kaybı en aza indiren yere gradyan inişiyle gidiyor. Haritada başlangıca tıklayın, öğrenme hızını değiştirin.

Öğrenme hızı küçükse model ağır ilerler, büyükse dar vadide sekip ıraksar. Özellikleri ölçeklemek vadiyi yuvarlar; sinir ağlarında normalleştirme bu yüzden eğitimi hızlandırır.

Konum

Ön Koşullar

Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.

DersNeden gerekir
Doğrusal Cebirgradyan, Hessian, konvekslik
Analiz (Kalkülüs)türev, kısmi türev ve Taylor açılımı: gradyanın ve Hessian'ın dili
Algoritmalardinamik programlama, açgözlü yöntemler ve karmaşıklık

Konum

Dersin Komşuları

alt alantemel alıryöntem paylaşıruygulama

Örtüşme

Örtüştüğü Dersler

İlişkiDersOrtak konu
temel alırMakine Öğrenmesi bu dersi temel alırkayıp en küçükleme, düzenlileştirme
temel alırYapay Sinir Ağları bu dersi temel alırgradyan inişi, öğrenme hızı
temel alırBu ders Doğrusal Cebir dersini temel alırgradyan, Hessian, konvekslik
yöntem paylaşırYapay Zekâ ile yöntem paylaşırdurum uzayında arama, kısıt sağlama
yöntem paylaşırPekiştirmeli Öğrenme ile yöntem paylaşırdinamik programlama, politika gradyanı
yöntem paylaşırEvrimsel ve Metasezgisel Optimizasyon ile yöntem paylaşırtürevsiz ve global optimizasyon

Ayrışma

Ayrıştığı Noktalar (1/2)

ÖlçütOptimizasyonEvrimsel OptimizasyonYapay Zekâ
Temel soruBir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur?Türev yokken ya da arama uzayı çok büyükken iyi bir çözüm nasıl bulunur?Bir makine arayarak, çıkarım yaparak ve plan kurarak nasıl akıllıca davranır?
Yaklaşımamaç ve kısıtların matematiksel modelipopülasyon ve sezgisel aramaarama, mantık, olasılık ve öğrenme bir arada
Girdiamaç fonksiyonu ve kısıtlaramaç fonksiyonu ve çözüm gösterimiproblem tanımı: durumlar, eylemler, hedef
Çıktıen iyi ya da ona yakın çözümiyi bir çözüm (en iyisi garanti değil)eylem dizisi, plan ya da karar
Başarı ölçütüamaç değeri, yakınsama hızıçözüm kalitesi, değerlendirme sayısıhedefe ulaşma, maliyet, rasyonellik
Matematik yükükuramın kendisidüşük-ortaorta: mantık, olasılık, çizge
Veri ihtiyacıgerekmezgerekmez; değerlendirme yeteraz; çoğu zaman model ve bilgi yeter
  • Evrimsel Optimizasyon: Evrimsel yöntemler türev kullanmadan arar; bu ders problemin yapısını (türev, konvekslik) kullanan yöntemleri öğretir.
  • Yapay Zekâ: YZ işe problemi etmen ve çevre olarak modellemekle başlar; optimizasyon matematiksel olarak kurulmuş problemi çözer.

Ayrışma

Ayrıştığı Noktalar (2/2)

ÖlçütOptimizasyonMakine ÖğrenmesiPekiştirmeli Öğrenme
Temel soruBir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur?Bir program örneklerden nasıl genelleme yapar?Yalnız ödül sinyaliyle, deneme yanılma yoluyla iyi kararlar nasıl öğrenilir?
Yaklaşımamaç ve kısıtların matematiksel modeliistatistiksel öğrenmeödülle deneme yanılma
Girdiamaç fonksiyonu ve kısıtlaretiketli ya da etiketsiz örneklerortamla etkileşim: durum ve ödül
Çıktıen iyi ya da ona yakın çözümtahmin yapan modelpolitika: durumdan eyleme kural
Başarı ölçütüamaç değeri, yakınsama hızıgörülmemiş veride hatatoplam beklenen ödül
Matematik yükükuramın kendisiyüksek: doğrusal cebir, olasılık, optimizasyonyüksek: olasılık, dinamik programlama
Veri ihtiyacıgerekmezorta ve çoketkileşimle üretilir
  • Makine Öğrenmesi: MÖ eğitim kaybını küçültürken yeni veride başarıyı da ister; optimizasyon yalnız verilen amacı en iyi yapar.
  • Pekiştirmeli Öğrenme: Pekiştirmeli öğrenme ödülü deneme yanılmayla en büyükler; bu derste amaç fonksiyonu baştan açıkça yazılıdır.

Uygulama

Uygulama Alanları

Model eğitimi

Kaybı en küçükleyen ağırlıkları bulmak.

SVM

En geniş aralıklı ayırıcı: konveks problem.

Hiperparametre arama

Öğrenme hızı ve düzenlileştirme seçimi.

Lojistik

Rota, taşıma ve depo yerleşimi.

Çizelgeleme

Vardiya, üretim ve ders programı.

Portföy seçimi

Getiri ile riski dengelemek.

Uygulama

Araçlar ve Örnek Veriler

Araçlar ve kütüphaneler

SciPy (scipy.optimize)CVXPYGoogle OR-ToolsPuLPGurobiPyTorch (torch.optim)

Klasik örnek problemler

Diyet problemiTaşıma problemiSırt çantası problemiGezgin satıcıMarkowitz portföyüRosenbrock fonksiyonu

Uygulama

Sık Karıştırılanlar

Yaygın düşünceDoğrusu
Gradyan inişi her zaman en iyi çözümü bulur.Konveks olmayan problemlerde yerel bir en iyide ya da eyer noktasında kalabilir.
Öğrenme hızı ne kadar büyükse o kadar hızlı.Çok büyük adım minimumu aşar ve kayıp ıraksar; çok küçüğü ise eğitimi uzatır.
Tam sayılı problemler yuvarlayarak çözülür.Doğrusal çözümü yuvarlamak kısıtları bozabilir ya da en iyiden çok uzak kalabilir.
Kayıp en küçükse model en iyisidir.Eğitim kaybını sıfırlamak aşırı uydurma demek olabilir; YZ'de amaç genellemedir.

Sonrası

Bu Dersten Sonra

Bu dersi temel alan ya da genişleten dersler

İlgili meslekler

Yöneylem araştırmacısıMakine öğrenmesi mühendisiLojistik ve planlama analistiKantitatif analist
Bu dersten sonra makine öğrenmesi ve sinir ağlarında eğitimin nasıl işlediği açıklık kazanır. Türev kullanılamayan problemler için evrimsel ve metasezgisel optimizasyona, ardışık kararlar için pekiştirmeli öğrenmeye, kaynak paylaşımı için yöneylem araştırmasına geçilebilir.

Sonrası

Kaynaklar

  • Boyd ve Vandenberghe, Convex Optimization, Cambridge University Press, 2004.
  • Nocedal ve Wright, Numerical Optimization, 2. baskı, Springer, 2006.
  • Bertsimas ve Tsitsiklis, Introduction to Linear Optimization, Athena Scientific, 1997.
  • Bottou, Curtis ve Nocedal, "Optimization Methods for Large-Scale Machine Learning", SIAM Review 60(2), 2018.

Son

Bölüm 33: Optimizasyon
← Önceki bölüm · Alanın haritası · Sonraki bölüm →
1 / 1 Sercan KÜLCÜ, Tüm hakları saklıdır.