Örüntü Tanıma

Yapay Zekâ ve Veri Dersleri Rehberi · Kısım II: Yapay Zekânın Dalları
Öznitelik çıkarmaBayes kararıSınıflandırıcılarKümelemeBaşarım ölçmeKomşu dersler
Sercan KÜLCÜ · Giresun Üniversitesi · Bilgisayar Mühendisliği

Giriş

Ders Hangi Soruyu Sorar?

Ölçümlerden bir nesnenin hangi sınıfa ait olduğuna nasıl karar verilir?

Örüntü tanıma, ölçümlerden çıkarılan öznitelik vektörüne bakarak bir nesnenin hangi sınıfa ait olduğuna karar vermeyi inceler. Ders algılayıcıdan karara uzanan zinciri bütün olarak ele alır: ön işleme, öznitelik seçimi, sınıflandırıcı tasarımı ve hata çözümlemesi.

Bir bakışta

Yaklaşım

istatistiksel karar kuramı

Girdi

ölçüm ya da öznitelik vektörü

Çıktı

sınıf etiketi

Başarı ölçütü

sınıflandırma hatası

Matematik yükü

orta-yüksek: olasılık, doğrusal cebir

Veri ihtiyacı

etiketli örnekler

Giriş

Kısa Tarihçe

1936

Fisher doğrusal ayırtaç analizini yayımlar; makalede kullandığı Iris verisi bugün de ilk örnektir.

1962

Hu, öteleme, ölçek ve dönmeye karşı değişmeyen moment özniteliklerini tanıtır.

1967

Cover ve Hart, en yakın komşu kuralının hatasının Bayes hatasının iki katını aşmadığını gösterir.

1973

Duda ve Hart, alanın temel ders kitabı "Pattern Classification and Scene Analysis"i yayımlar.

1991

Turk ve Pentland özyüzlerle (eigenfaces) yüz tanımayı PCA üzerine kurar.

1998

LeCun ve arkadaşları LeNet-5'i ve MNIST el yazısı rakam verisini yayımlar.

Ders

Temel Kavramlar

Öznitelik vektörü

Nesneyi temsil eden ölçümler: uzunluk, renk, doku.

Öznitelik uzayı

Her örnek bir nokta; sınıflar bu uzayda bölgeler.

Bayes karar kuramı

Sonsal olasılığı en büyük sınıfı seçmek; en az hata.

Karar sınırı

Öznitelik uzayını sınıf bölgelerine ayıran yüzey.

Yoğunluk kestirimi

Parametrik (Gauss) ya da parametresiz (Parzen).

En yakın komşu

Yeni örneği en yakın etiketli örneklerin sınıfına ata.

Boyut indirgeme

PCA ve LDA ile az ama ayırt edici öznitelik.

Karışıklık matrisi

Hangi sınıfın hangisiyle karıştığını gösterir.

Ders

Tipik İş Akışı

Algılakamera,mikrofonÖn işlegürültü,normalleştirmeÖznitelikçıkarayırt ediciölçümlerSınıflandırkarar kuralıDeğerlendirhata oranı,karışıklık
Örnek: Bir posta ayırma makinesi zarftaki posta kodunu tarar, görüntüyü ikili hâle getirip rakamlara böler, her rakamdan biçim öznitelikleri çıkarır, en yakın komşu ya da SVM ile hangi rakam olduğuna karar verir ve yanlış okunan zarfları elle ayırmaya gönderir.

Dene

Kusurlu Parçayı Ayıkla

Üretim hattında her vidanın boyu ölçülüyor; kusurlu vidalar ortalamada daha uzun ama dağılımlar örtüşüyor. Kusur oranını ve hata maliyetini değiştirin, Bayes karar sınırının nasıl kaydığını izleyin; grafiğe tıklayıp parça ölçün.

Örüntü tanıma kararı olasılık ve maliyetle verir: aynı ölçüm, kusur oranı ve hatanın bedeli değişince başka sınıfa atanır. Bayes kuralı beklenen kaybı en aza indiren sınırı verir.

Konum

Ön Koşullar

Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.

DersNeden gerekir
Olasılık ve İstatistikBayes karar kuramı, yoğunluk kestirimi
ProgramlamaPython ya da Java ile dizi, döngü ve fonksiyonlar
Doğrusal Cebirvektör, uzaklık, özdeğer: PCA ve LDA'nın dili

Konum

Dersin Komşuları

alt alantemel alıryöntem paylaşıruygulama

Örtüşme

Örtüştüğü Dersler

İlişkiDersOrtak konu
temel alırBu ders Olasılık ve İstatistik dersini temel alırBayes karar kuramı, yoğunluk kestirimi
uygulamaBiyometrik Sistemler bu dersin yöntemlerini uygulareşleme, doğrulama ve tanımlama
yöntem paylaşırMakine Öğrenmesi ile yöntem paylaşırsınıflandırıcılar, karar sınırları
yöntem paylaşırGörüntü İşleme ile yöntem paylaşıröznitelik çıkarma, şablon eşleme
yöntem paylaşırBilgisayarlı Görü ile yöntem paylaşırnesne sınıflandırma

Ayrışma

Ayrıştığı Noktalar (1/2)

ÖlçütÖrüntü TanımaMakine ÖğrenmesiBilgisayarlı Görü
Temel soruÖlçümlerden bir nesnenin hangi sınıfa ait olduğuna nasıl karar verilir?Bir program örneklerden nasıl genelleme yapar?Bilgisayar bir görüntüde ya da videoda ne olduğunu nasıl anlar?
Yaklaşımistatistiksel karar kuramıistatistiksel öğrenmegörüntüden anlam çıkarma
Girdiölçüm ya da öznitelik vektörüetiketli ya da etiketsiz örneklergörüntü ya da video
Çıktısınıf etiketitahmin yapan modeletiket, kutu, derinlik, 3B yapı
Başarı ölçütüsınıflandırma hatasıgörülmemiş veride hatadoğruluk, mAP, IoU
Matematik yüküorta-yüksek: olasılık, doğrusal cebiryüksek: doğrusal cebir, olasılık, optimizasyonyüksek: geometri, doğrusal cebir
Veri ihtiyacıetiketli örneklerorta ve çokçok etiketli görüntü
  • Makine Öğrenmesi: MÖ öğrenme algoritmalarını genel olarak inceler; bu ders ölçümden sınıf kararına giden tasarımı ve Bayes hatasını odağa alır.
  • Bilgisayarlı Görü: Bilgisayarlı görü görüntüde sahneyi anlamaya çalışır; bu ders herhangi bir ölçüm türünden sınıf kararı vermeyi genel olarak ele alır.

Ayrışma

Ayrıştığı Noktalar (2/2)

ÖlçütÖrüntü TanımaGörüntü İşlemeBiyometri
Temel soruÖlçümlerden bir nesnenin hangi sınıfa ait olduğuna nasıl karar verilir?Bir görüntü nasıl iyileştirilir, dönüştürülür ve parçalara ayrılır?Bir kişi yüzünden, parmak izinden ya da sesinden nasıl tanınır?
Yaklaşımistatistiksel karar kuramıpiksel düzeyinde dönüşümeşleme ve doğrulama
Girdiölçüm ya da öznitelik vektörügörüntüyüz, parmak izi, iris, ses
Çıktısınıf etiketiişlenmiş görüntü ya da bölgelerkimlik kararı
Başarı ölçütüsınıflandırma hatasıgörsel kalite, PSNRFAR, FRR, EER
Matematik yüküorta-yüksek: olasılık, doğrusal cebirorta: evrişim, Fourierorta
Veri ihtiyacıetiketli örnekleraz; öğrenme şart değilkişi başına az örnek
  • Görüntü İşleme: Görüntü işleme görüntüyü iyileştirip dönüştürür, sonuç yine görüntüdür; bu dersin çıktısı bir sınıf etiketidir.
  • Biyometri: Biyometri örüntü tanımanın bir uygulamasıdır; bu ders kişiye özgü değil, genel karar yöntemlerini öğretir.

Uygulama

Uygulama Alanları

El yazısı tanıma

Posta kodu, banka çeki, form okuma.

Optik karakter tanıma

Taranmış belgeyi düzenlenebilir metne çevirme.

Yüz ve parmak izi

Kimlik doğrulama ve tanımlama.

Endüstriyel denetim

Üretim hattında kusurlu ürünü ayırma.

Tıbbi tanı

EKG, kan tahlili ya da doku örneğini sınıflama.

Konuşmacı tanıma

Sesten kimin konuştuğunu bulma.

Uygulama

Araçlar ve Örnek Veriler

Araçlar ve kütüphaneler

scikit-learnNumPyOpenCVMATLAB Statistics and ML ToolboxWekaPRTools

Tanınmış veri setleri

IrisMNISTOptical Recognition of Handwritten Digits (UCI)Wisconsin Breast CancerAT&T (ORL) yüz veri setiEMNIST

Uygulama

Sık Karıştırılanlar

Yaygın düşünceDoğrusu
Örüntü tanıma makine öğrenmesinin eski adıdır.İki alan büyük ölçüde örtüşür; örüntü tanıma algılama ve öznitelik tasarımını da kapsayan mühendislik bakışıdır.
Sınıflandırıcı seçimi en önemli adımdır.Çoğu problemde başarıyı belirleyen öznitelik seçimidir; kötü öznitelikle iyi sınıflandırıcı kurtarmaz.
Doğru öznitelikle hata sıfıra iner.Sınıflar örtüşüyorsa en iyi karar bile Bayes hatası kadar yanılır.
Ne kadar çok öznitelik, o kadar iyi.Boyut arttıkça örnekler seyrekleşir (boyut laneti); gereksiz öznitelik başarımı düşürür.

Sonrası

Bu Dersten Sonra

Bu dersi temel alan ya da genişleten dersler

İlgili meslekler

Görüntü ve sinyal işleme mühendisiMakine öğrenmesi mühendisiBiyometri uzmanıKalite denetim sistemleri mühendisi
Örüntü tanıma bilgisayarlı görü, konuşma tanıma ve biyometrinin ortak çekirdeğidir. Bu dersten sonra bir algılama alanına (görü, ses, biyometri) geçilebilir ya da öznitelikleri de veriden öğrenen derin öğrenmeye ilerlenebilir.

Sonrası

Kaynaklar

  • Duda, Hart ve Stork, Pattern Classification, 2. baskı, Wiley, 2001.
  • Bishop, Pattern Recognition and Machine Learning, Springer, 2006.
  • Theodoridis ve Koutroumbas, Pattern Recognition, 4. baskı, Academic Press, 2009.
  • Fukunaga, Introduction to Statistical Pattern Recognition, 2. baskı, Academic Press, 1990.

Son

Bölüm 8: Örüntü Tanıma
← Önceki bölüm · Alanın haritası · Sonraki bölüm →
1 / 1 Sercan KÜLCÜ, Tüm hakları saklıdır.