Evrimsel ve Metasezgisel Optimizasyon
Giriş
Ders Hangi Soruyu Sorar?
Evrimsel ve metasezgisel optimizasyon, türevi olmayan ya da arama uzayı çok büyük problemlerde iyi bir çözümü deneme, seçme ve değiştirme döngüsüyle arar. Doğal seçilim, metal tavlama ya da karınca kolonisi gibi süreçlerden esinlenen bu yöntemler en iyi çözümü garanti etmez, kısa sürede iyi bir çözüm verir.
Bir bakışta
popülasyon ve sezgisel arama
amaç fonksiyonu ve çözüm gösterimi
iyi bir çözüm (en iyisi garanti değil)
çözüm kalitesi, değerlendirme sayısı
düşük-orta
gerekmez; değerlendirme yeter
Giriş
Kısa Tarihçe
Holland, genetik algoritmanın temelini atan "Adaptation in Natural and Artificial Systems"i yayımlar.
Kirkpatrick, Gelatt ve Vecchi benzetilmiş tavlamayı (simulated annealing) tanıtır.
Dorigo doktora tezinde karınca kolonisi optimizasyonunu önerir.
Kennedy ve Eberhart parçacık sürüsü optimizasyonunu (PSO) yayımlar.
Wolpert ve Macready "bedava öğle yemeği yok" teoremini yayımlar: tüm problemlerde üstün yöntem yok.
Deb ve arkadaşları çok amaçlı arama için NSGA-II algoritmasını yayımlar.
Ders
Temel Kavramlar
Çözümün kodlanışı: ikili dizi, permütasyon, gerçel vektör.
Bir çözümün ne kadar iyi olduğunu söyleyen amaç değeri.
İyi çözümlere çoğalma şansı vermek: turnuva, rulet.
İki ebeveynin parçalarını birleştirip yeni çözüm kurmak.
Çözümü rastgele küçük adımlarla değiştirip çeşitlilik katmak.
Yeni bölgeleri aramak ile iyi bölgeyi incelemek arasında denge.
Tepe tırmanma, benzetilmiş tavlama, tabu araması.
Çok amaçlı problemde birbirine üstün olmayan çözümler.
Ders
Tipik İş Akışı
Dene
Kargo Aracının Turunu Evrimleştir
Kargo aracı depodan (D) çıkıp 11 adrese uğrayacak ve geri dönecek. Genetik algoritma 40 turluk bir nüfusu çaprazlama ve mutasyonla iyileştiriyor. Nesil ilerletin, mutasyon oranını değiştirip farkı görün.
Konum
Ön Koşullar
Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.
| Ders | Neden gerekir |
|---|---|
| Yapay Zekâ | sezgisel arama |
| Algoritmalar | karmaşıklık, NP-zor problemler ve açgözlü yöntemler |
| Programlama | diziler, rastgele sayı üretimi ve döngüler |
Konum
Dersin Komşuları
Örtüşme
Örtüştüğü Dersler
| İlişki | Ders | Ortak konu |
|---|---|---|
| alt alan | Bu ders, Yapay Zekâ dersinin alt alanıdır | sezgisel arama |
| yöntem paylaşır | Yapay Sinir Ağları ile yöntem paylaşır | nöroevrim, hiperparametre arama |
| yöntem paylaşır | Optimizasyon ile yöntem paylaşır | türevsiz ve global optimizasyon |
Ayrışma
Ayrıştığı Noktalar (1/2)
| Ölçüt | Evrimsel Optimizasyon | Optimizasyon | Yapay Zekâ |
|---|---|---|---|
| Temel soru | Türev yokken ya da arama uzayı çok büyükken iyi bir çözüm nasıl bulunur? | Bir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur? | Bir makine arayarak, çıkarım yaparak ve plan kurarak nasıl akıllıca davranır? |
| Yaklaşım | popülasyon ve sezgisel arama | amaç ve kısıtların matematiksel modeli | arama, mantık, olasılık ve öğrenme bir arada |
| Girdi | amaç fonksiyonu ve çözüm gösterimi | amaç fonksiyonu ve kısıtlar | problem tanımı: durumlar, eylemler, hedef |
| Çıktı | iyi bir çözüm (en iyisi garanti değil) | en iyi ya da ona yakın çözüm | eylem dizisi, plan ya da karar |
| Başarı ölçütü | çözüm kalitesi, değerlendirme sayısı | amaç değeri, yakınsama hızı | hedefe ulaşma, maliyet, rasyonellik |
| Matematik yükü | düşük-orta | kuramın kendisi | orta: mantık, olasılık, çizge |
| Veri ihtiyacı | gerekmez; değerlendirme yeter | gerekmez | az; çoğu zaman model ve bilgi yeter |
- Optimizasyon: Optimizasyon türev ve konvekslikle kanıtlanabilir en iyiye ulaşır; bu ders türevsiz, garantisiz ama geniş uygulanabilir aramayı öğretir.
- Yapay Zekâ: YZ'deki A* gibi aramalar durum uzayında hedefe giden yolu bulur; bu ders doğrudan iyi bir tam çözüm arar.
Ayrışma
Ayrıştığı Noktalar (2/2)
| Ölçüt | Evrimsel Optimizasyon | Pekiştirmeli Öğrenme | Yapay Sinir Ağları |
|---|---|---|---|
| Temel soru | Türev yokken ya da arama uzayı çok büyükken iyi bir çözüm nasıl bulunur? | Yalnız ödül sinyaliyle, deneme yanılma yoluyla iyi kararlar nasıl öğrenilir? | Basit birimlerden kurulan ağlar ağırlıklarını ayarlayarak nasıl öğrenir? |
| Yaklaşım | popülasyon ve sezgisel arama | ödülle deneme yanılma | ağırlıklı basit birimlerden ağ |
| Girdi | amaç fonksiyonu ve çözüm gösterimi | ortamla etkileşim: durum ve ödül | sayısal öznitelik vektörü |
| Çıktı | iyi bir çözüm (en iyisi garanti değil) | politika: durumdan eyleme kural | sınıf ya da sayı tahmini |
| Başarı ölçütü | çözüm kalitesi, değerlendirme sayısı | toplam beklenen ödül | kayıp ve doğruluk |
| Matematik yükü | düşük-orta | yüksek: olasılık, dinamik programlama | orta-yüksek: türev, matris |
| Veri ihtiyacı | gerekmez; değerlendirme yeter | etkileşimle üretilir | orta |
- Pekiştirmeli Öğrenme: PÖ ortamla etkileşerek durumdan eyleme bir politika öğrenir; bu ders tek bir amaç fonksiyonu için iyi çözüm arar.
- Yapay Sinir Ağları: YSA ağırlıkları gradyanla eğitir; bu ders gradyan olmadan, örneğin ağ yapısını ya da hiperparametreleri evrimle arar.
Uygulama
Uygulama Alanları
Kargo ve dağıtım turlarını kısaltmak.
Ders programı, üretim ve vardiya planı.
Anten, kanat ve yapı biçimi tasarlamak.
Öğrenme modellerinin ayarlarını bulmak.
Devre elemanı ve tesis yerleşimi.
Getiri ile risk arasında çok amaçlı denge.
Uygulama
Araçlar ve Örnek Veriler
Araçlar ve kütüphaneler
Klasik örnek problemler
Uygulama
Sık Karıştırılanlar
| Yaygın düşünce | Doğrusu |
|---|---|
| Genetik algoritma en iyi çözümü bulur. | Metasezgiseller en iyiyi garanti etmez; makul sürede iyi bir çözüm bulmayı hedefler. |
| Doğadan esinlenen yöntem daha güçlüdür. | Esin kaynağı başarımı belirlemez; yeni adlı birçok yöntem eskilerin küçük çeşitlemesidir. |
| Bir yöntem her probleme en iyisidir. | "Bedava öğle yemeği yok" teoremine göre tüm problemler üzerinde ortalamada hiçbir yöntem üstün değildir. |
| Türev varken de evrimsel yöntem seçilmeli. | Türev kullanılabiliyorsa gradyan yöntemleri çoğunlukla çok daha az değerlendirmeyle sonuca ulaşır. |
Sonrası
Bu Dersten Sonra
Bu dersi temel alan ya da genişleten dersler
İlgili meslekler
Sonrası
Kaynaklar
- Goldberg, Genetic Algorithms in Search, Optimization, and Machine Learning, Addison-Wesley, 1989.
- Eiben ve Smith, Introduction to Evolutionary Computing, 2. baskı, Springer, 2015.
- Talbi, Metaheuristics: From Design to Implementation, Wiley, 2009.
- Luke, Essentials of Metaheuristics, 2. baskı, Lulu, 2013.