Evrimsel ve Metasezgisel Optimizasyon

Yapay Zekâ ve Veri Dersleri Rehberi · Kısım II: Yapay Zekânın Dalları
Popülasyon ve uygunlukGenetik algoritmaYerel aramaSürü zekâsıÇok amaçlı aramaKomşu dersler
Sercan KÜLCÜ · Giresun Üniversitesi · Bilgisayar Mühendisliği

Giriş

Ders Hangi Soruyu Sorar?

Türev yokken ya da arama uzayı çok büyükken iyi bir çözüm nasıl bulunur?

Evrimsel ve metasezgisel optimizasyon, türevi olmayan ya da arama uzayı çok büyük problemlerde iyi bir çözümü deneme, seçme ve değiştirme döngüsüyle arar. Doğal seçilim, metal tavlama ya da karınca kolonisi gibi süreçlerden esinlenen bu yöntemler en iyi çözümü garanti etmez, kısa sürede iyi bir çözüm verir.

Bir bakışta

Yaklaşım

popülasyon ve sezgisel arama

Girdi

amaç fonksiyonu ve çözüm gösterimi

Çıktı

iyi bir çözüm (en iyisi garanti değil)

Başarı ölçütü

çözüm kalitesi, değerlendirme sayısı

Matematik yükü

düşük-orta

Veri ihtiyacı

gerekmez; değerlendirme yeter

Giriş

Kısa Tarihçe

1975

Holland, genetik algoritmanın temelini atan "Adaptation in Natural and Artificial Systems"i yayımlar.

1983

Kirkpatrick, Gelatt ve Vecchi benzetilmiş tavlamayı (simulated annealing) tanıtır.

1992

Dorigo doktora tezinde karınca kolonisi optimizasyonunu önerir.

1995

Kennedy ve Eberhart parçacık sürüsü optimizasyonunu (PSO) yayımlar.

1997

Wolpert ve Macready "bedava öğle yemeği yok" teoremini yayımlar: tüm problemlerde üstün yöntem yok.

2002

Deb ve arkadaşları çok amaçlı arama için NSGA-II algoritmasını yayımlar.

Ders

Temel Kavramlar

Gösterim

Çözümün kodlanışı: ikili dizi, permütasyon, gerçel vektör.

Uygunluk

Bir çözümün ne kadar iyi olduğunu söyleyen amaç değeri.

Seçilim

İyi çözümlere çoğalma şansı vermek: turnuva, rulet.

Çaprazlama

İki ebeveynin parçalarını birleştirip yeni çözüm kurmak.

Mutasyon

Çözümü rastgele küçük adımlarla değiştirip çeşitlilik katmak.

Keşif ve sömürü

Yeni bölgeleri aramak ile iyi bölgeyi incelemek arasında denge.

Yerel arama

Tepe tırmanma, benzetilmiş tavlama, tabu araması.

Pareto cephesi

Çok amaçlı problemde birbirine üstün olmayan çözümler.

Ders

Tipik İş Akışı

BaşlatrastgelepopülasyonDeğerlendiruygunlukhesabıSeçiyi ebeveynlerÇaprazla,mutasyonyeni çözümlerDurdur?nesil sınırı,yakınsama
Örnek: Bir kargo firması 50 durağı en kısa turla dolaşmak ister. Rastgele 100 tur üretilir, her turun uzunluğu ölçülür, kısa turlar ebeveyn seçilir, sıraları birleştirilip birkaç durak yer değiştirilir. Yüzlerce nesil sonra en iyi bilinen çözüme yakın bir tur bulunur.

Dene

Kargo Aracının Turunu Evrimleştir

Kargo aracı depodan (D) çıkıp 11 adrese uğrayacak ve geri dönecek. Genetik algoritma 40 turluk bir nüfusu çaprazlama ve mutasyonla iyileştiriyor. Nesil ilerletin, mutasyon oranını değiştirip farkı görün.

Mutasyonu %0 yapıp baştan başlatın: nüfus birbirine benzeyen turlarla dolar ve arama çoğu zaman erken takılır. Mutasyon çeşitliliği korur.
Evrimsel yöntem çözümü aramaz, yetiştirir: iyi turların parçalarını birleştirir, küçük değişikliklerle yeniliği korur. En iyiyi garanti etmez ama dev arama uzaylarında hızla iyi tur bulur.

Konum

Ön Koşullar

Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.

DersNeden gerekir
Yapay Zekâsezgisel arama
Algoritmalarkarmaşıklık, NP-zor problemler ve açgözlü yöntemler
Programlamadiziler, rastgele sayı üretimi ve döngüler

Konum

Dersin Komşuları

alt alantemel alıryöntem paylaşıruygulama

Örtüşme

Örtüştüğü Dersler

İlişkiDersOrtak konu
alt alanBu ders, Yapay Zekâ dersinin alt alanıdırsezgisel arama
yöntem paylaşırYapay Sinir Ağları ile yöntem paylaşırnöroevrim, hiperparametre arama
yöntem paylaşırOptimizasyon ile yöntem paylaşırtürevsiz ve global optimizasyon

Ayrışma

Ayrıştığı Noktalar (1/2)

ÖlçütEvrimsel OptimizasyonOptimizasyonYapay Zekâ
Temel soruTürev yokken ya da arama uzayı çok büyükken iyi bir çözüm nasıl bulunur?Bir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur?Bir makine arayarak, çıkarım yaparak ve plan kurarak nasıl akıllıca davranır?
Yaklaşımpopülasyon ve sezgisel aramaamaç ve kısıtların matematiksel modeliarama, mantık, olasılık ve öğrenme bir arada
Girdiamaç fonksiyonu ve çözüm gösterimiamaç fonksiyonu ve kısıtlarproblem tanımı: durumlar, eylemler, hedef
Çıktıiyi bir çözüm (en iyisi garanti değil)en iyi ya da ona yakın çözümeylem dizisi, plan ya da karar
Başarı ölçütüçözüm kalitesi, değerlendirme sayısıamaç değeri, yakınsama hızıhedefe ulaşma, maliyet, rasyonellik
Matematik yüküdüşük-ortakuramın kendisiorta: mantık, olasılık, çizge
Veri ihtiyacıgerekmez; değerlendirme yetergerekmezaz; çoğu zaman model ve bilgi yeter
  • Optimizasyon: Optimizasyon türev ve konvekslikle kanıtlanabilir en iyiye ulaşır; bu ders türevsiz, garantisiz ama geniş uygulanabilir aramayı öğretir.
  • Yapay Zekâ: YZ'deki A* gibi aramalar durum uzayında hedefe giden yolu bulur; bu ders doğrudan iyi bir tam çözüm arar.

Ayrışma

Ayrıştığı Noktalar (2/2)

ÖlçütEvrimsel OptimizasyonPekiştirmeli ÖğrenmeYapay Sinir Ağları
Temel soruTürev yokken ya da arama uzayı çok büyükken iyi bir çözüm nasıl bulunur?Yalnız ödül sinyaliyle, deneme yanılma yoluyla iyi kararlar nasıl öğrenilir?Basit birimlerden kurulan ağlar ağırlıklarını ayarlayarak nasıl öğrenir?
Yaklaşımpopülasyon ve sezgisel aramaödülle deneme yanılmaağırlıklı basit birimlerden ağ
Girdiamaç fonksiyonu ve çözüm gösterimiortamla etkileşim: durum ve ödülsayısal öznitelik vektörü
Çıktıiyi bir çözüm (en iyisi garanti değil)politika: durumdan eyleme kuralsınıf ya da sayı tahmini
Başarı ölçütüçözüm kalitesi, değerlendirme sayısıtoplam beklenen ödülkayıp ve doğruluk
Matematik yüküdüşük-ortayüksek: olasılık, dinamik programlamaorta-yüksek: türev, matris
Veri ihtiyacıgerekmez; değerlendirme yeteretkileşimle üretilirorta
  • Pekiştirmeli Öğrenme: PÖ ortamla etkileşerek durumdan eyleme bir politika öğrenir; bu ders tek bir amaç fonksiyonu için iyi çözüm arar.
  • Yapay Sinir Ağları: YSA ağırlıkları gradyanla eğitir; bu ders gradyan olmadan, örneğin ağ yapısını ya da hiperparametreleri evrimle arar.

Uygulama

Uygulama Alanları

Araç rotalama

Kargo ve dağıtım turlarını kısaltmak.

Çizelgeleme

Ders programı, üretim ve vardiya planı.

Mühendislik tasarımı

Anten, kanat ve yapı biçimi tasarlamak.

Hiperparametre arama

Öğrenme modellerinin ayarlarını bulmak.

Yerleşim

Devre elemanı ve tesis yerleşimi.

Portföy seçimi

Getiri ile risk arasında çok amaçlı denge.

Uygulama

Araçlar ve Örnek Veriler

Araçlar ve kütüphaneler

DEAPpymoojMetalPyGADECJMATLAB Global Optimization ToolboxOptuna

Klasik örnek problemler

TSPLIB (gezgin satıcı)Sırt çantası problemiOneMaxRastrigin ve Ackley fonksiyonlarıZDT ve DTLZ çok amaçlı testlerCEC kıyaslama fonksiyonları
Bu derste veri seti yerine kıyaslama problemleri kullanılır: yöntemler aynı problemlerde aynı değerlendirme bütçesiyle karşılaştırılır.

Uygulama

Sık Karıştırılanlar

Yaygın düşünceDoğrusu
Genetik algoritma en iyi çözümü bulur.Metasezgiseller en iyiyi garanti etmez; makul sürede iyi bir çözüm bulmayı hedefler.
Doğadan esinlenen yöntem daha güçlüdür.Esin kaynağı başarımı belirlemez; yeni adlı birçok yöntem eskilerin küçük çeşitlemesidir.
Bir yöntem her probleme en iyisidir."Bedava öğle yemeği yok" teoremine göre tüm problemler üzerinde ortalamada hiçbir yöntem üstün değildir.
Türev varken de evrimsel yöntem seçilmeli.Türev kullanılabiliyorsa gradyan yöntemleri çoğunlukla çok daha az değerlendirmeyle sonuca ulaşır.

Sonrası

Bu Dersten Sonra

Bu dersi temel alan ya da genişleten dersler

Bu ders çoğunlukla uç noktadır; öteki dersleri temel alır.

İlgili meslekler

Yöneylem araştırmacısıLojistik ve planlama mühendisiTasarım optimizasyonu mühendisiMakine öğrenmesi mühendisi
Bu ders klasik optimizasyonun eriştiği yerin ötesine geçer. Sonrasında kanıtlanabilir yöntemler için optimizasyona, ağ yapılarını evrimle aramak için yapay sinir ağlarına ya da sürü davranışının etmen bakışı için çok etmenli sistemlere geçilebilir.

Sonrası

Kaynaklar

  • Goldberg, Genetic Algorithms in Search, Optimization, and Machine Learning, Addison-Wesley, 1989.
  • Eiben ve Smith, Introduction to Evolutionary Computing, 2. baskı, Springer, 2015.
  • Talbi, Metaheuristics: From Design to Implementation, Wiley, 2009.
  • Luke, Essentials of Metaheuristics, 2. baskı, Lulu, 2013.

Son

Bölüm 10: Evrimsel ve Metasezgisel Optimizasyon
← Önceki bölüm · Alanın haritası · Sonraki bölüm →
1 / 1 Sercan KÜLCÜ, Tüm hakları saklıdır.