Olasılık ve İstatistik

Yapay Zekâ ve Veri Dersleri Rehberi · Kısım V: Matematik Temeli
Olasılık ve BayesDağılımlarKestirimHipotez testiYZ'de neredeKomşu dersler
Sercan KÜLCÜ · Giresun Üniversitesi · Bilgisayar Mühendisliği

Giriş

Ders Hangi Soruyu Sorar?

Belirsizlik nasıl ölçülür ve sınırlı veriden nasıl güvenilir sonuç çıkarılır?

Olasılık belirsizliği ölçmenin dilidir; istatistik bu dili kullanarak sınırlı veriden genel sonuç çıkarır. Yapay zekâ ve veri derslerindeki her model bir belirsizlikle çalışır: tahminin ne kadar güvenilir olduğunu ancak bu ders söyleyebilir.

Bir bakışta

Yaklaşım

olasılık modeli ve çıkarım

Girdi

örneklem verisi

Çıktı

kestirim, güven aralığı, test sonucu

Başarı ölçütü

yansızlık, güç, anlamlılık

Matematik yükü

kuramın kendisi

Veri ihtiyacı

örneklem

Giriş

Kısa Tarihçe

1654

Pascal ve Fermat, yarıda kalan bir şans oyununun paylaşımı üzerine mektuplaşır.

1763

Bayes'in makalesi ölümünden sonra yayımlanır: kanıtla güncellenen olasılık.

1908

Gosset, "Student" takma adıyla küçük örneklemler için t dağılımını yayımlar.

1925

Fisher'ın Statistical Methods for Research Workers kitabı anlamlılık testini yaygınlaştırır.

1933

Kolmogorov olasılığı aksiyomlarla kurar; olasılık kuramı ölçü kuramına dayanır.

1979

Efron bootstrap yöntemini önerir: belirsizliği yeniden örneklemeyle ölçmek.

Ders

Temel Kavramlar

Koşullu olasılık

Bir bilgi verildiğinde olasılığın değişmesi.

Bayes kuralı

Önsel inancı kanıtla sonsal inanca çevirmek.

Rastgele değişken

Beklenen değer, varyans ve dağılım.

Normal dağılım

Merkezi limit kuramı: ortalamalar normale yaklaşır.

En çok olabilirlik

Veriyi en olası kılan parametreyi seçmek.

Güven aralığı

Kestirimin belirsizliğini bir aralıkla vermek.

Hipotez testi

Gözlenen fark rastlantı mı, gerçek mi?

Regresyon

Bir değişkeni ötekilerle açıklamak ve sınamak.

Ders

Tipik İş Akışı

Soru sorneyi merakediyoruz?ÖrneklerastgeleörneklemModelledağılımvarsayımıKestirparametre,aralıkKarar vertest, risk
Örnek: Bir YZ ekibi yeni öneri modelinin tıklamayı artırıp artırmadığını sorar. Kullanıcıların yarısı rastgele yeni modeli görür (A/B testi), tıklama oranları kestirilir, farkın güven aralığı hesaplanır ve fark rastlantıyla açıklanamıyorsa model yayına alınır.

Dene

Yeni Öneri Modeli İşe Yarıyor mu?

Yeni öneri modeli satın alma oranını artırıyor mu? Ziyaretçilerin yarısı eski modeli (A), yarısı yeniyi (B) görüyor. Örneklemi ve gerçek farkı değiştirip deneyi tekrarlayın.

Küçük örneklemde aralıklar geniştir: gerçek bir iyileşme çoğu deneyde “anlamsız” çıkar. Testi açmadan önce yeterli n’yi hesaplamak, modeli boşuna çöpe atmamayı sağlar.

Konum

Ön Koşullar

Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.

DersNeden gerekir
Analiz (Kalkülüs)integral ve türev: sürekli dağılımlar ve en çok olabilirlik
Ayrık Matematikkümeler ve sayma (permütasyon, kombinasyon)

Konum

Dersin Komşuları

alt alantemel alıryöntem paylaşıruygulama

Örtüşme

Örtüştüğü Dersler

İlişkiDersOrtak konu
temel alırYapay Zekâ bu dersi temel alırbelirsizlik altında akıl yürütme, Bayes kuralı
temel alırMakine Öğrenmesi bu dersi temel alırgenelleme hatası, yanlılık-varyans, olasılıksal modeller
temel alırÖrüntü Tanıma bu dersi temel alırBayes karar kuramı, yoğunluk kestirimi
temel alırOlasılıksal Grafik Modeller bu dersi temel alırkoşullu bağımsızlık, ortak dağılım
temel alırVeri Madenciliği bu dersi temel alırdestek, güven, anlamlılık
temel alırVeri Bilimi bu dersi temel alırhipotez testi, regresyon, görselleştirme
temel alırZaman Serisi Analizi ve Tahmin bu dersi temel alırdurağanlık, öz ilinti, ARIMA
yöntem paylaşırBilgi Kuramı ile yöntem paylaşırentropi, ortak bilgi

Ayrışma

Ayrıştığı Noktalar (1/2)

ÖlçütOlasılık ve İstatistikMakine ÖğrenmesiVeri Bilimi
Temel soruBelirsizlik nasıl ölçülür ve sınırlı veriden nasıl güvenilir sonuç çıkarılır?Bir program örneklerden nasıl genelleme yapar?Veriden doğru soruları sorup karara dönüşen sonuçlar nasıl çıkarılır?
Yaklaşımolasılık modeli ve çıkarımistatistiksel öğrenmesoru, veri, analiz, anlatı
Girdiörneklem verisietiketli ya da etiketsiz örneklerham, dağınık veri
Çıktıkestirim, güven aralığı, test sonucutahmin yapan modelrapor, görselleştirme, model
Başarı ölçütüyansızlık, güç, anlamlılıkgörülmemiş veride hatakararlara katkı, doğruluk
Matematik yükükuramın kendisiyüksek: doğrusal cebir, olasılık, optimizasyonorta: istatistik
Veri ihtiyacıörneklemorta ve çokorta ve çok
  • Makine Öğrenmesi: MÖ tahmin başarımını öne çıkarır; istatistik modelin anlamını, varsayımlarını ve belirsizliğini sorar.
  • Veri Bilimi: Veri bilimi bütün süreci (veri, çözümleme, iletişim) kapsar; bu ders o sürecin çıkarım kuramını verir.

Ayrışma

Ayrıştığı Noktalar (2/2)

ÖlçütOlasılık ve İstatistikOlasılıksal Grafik ModellerBilgi Kuramı
Temel soruBelirsizlik nasıl ölçülür ve sınırlı veriden nasıl güvenilir sonuç çıkarılır?Birbirine bağlı, belirsiz çok sayıda değişken nasıl modellenir ve sorgulanır?Bilgi nasıl ölçülür, en az kayıpla nasıl sıkıştırılır ve iletilir?
Yaklaşımolasılık modeli ve çıkarımolasılık ve çizge bir aradaolasılıkla bilgi ölçümü
Girdiörneklem verisideğişkenler, bağımlılık yapısı, verikaynak ve kanal modeli
Çıktıkestirim, güven aralığı, test sonucukoşullu olasılık, en olası açıklamasınır, kod, sıkıştırma oranı
Başarı ölçütüyansızlık, güç, anlamlılıkolabilirlik, çıkarım doğruluğubit, kanal kapasitesi
Matematik yükükuramın kendisiyüksek: olasılıkyüksek: olasılık
Veri ihtiyacıörneklemortagerekmez
  • Olasılıksal Grafik Modeller: Olasılıksal grafik modeller çok değişkenli dağılımları çizgeyle yapılandırır; bu ders tek ve az değişkenle başlar.
  • Bilgi Kuramı: Bilgi kuramı belirsizliği entropiyle ölçer; bu ders olasılıkla kestirim ve karar üzerine kuruludur.

Uygulama

Uygulama Alanları

A/B testi

Yeni modelin gerçekten daha iyi olup olmadığı.

Naive Bayes

Metin ve istenmeyen e-posta sınıflandırma.

Belirsizlik

Tahminin güven aralığı ve kalibrasyonu.

Model karşılaştırma

İki modelin farkı anlamlı mı?

Üretken modeller

Verinin dağılımını öğrenip örneklemek.

Tıbbi testler

Duyarlılık, özgüllük ve taban oranı.

Uygulama

Araçlar ve Örnek Veriler

Araçlar ve kütüphaneler

RSciPy (scipy.stats)statsmodelspandasPyMCStan

Klasik örnek problemler

Monty HallDoğum günü paradoksuTıbbi test ve taban oranıGalton'un boy verisiA/B testiKumarbaz yanılgısı

Uygulama

Sık Karıştırılanlar

Yaygın düşünceDoğrusu
p = 0,03 ise hipotezin doğru olma olasılığı %97'dir.p değeri, sıfır hipotezi doğruysa bu kadar uç verinin görülme olasılığıdır; hipotezin olasılığı değildir.
İlinti varsa neden-sonuç vardır.Ortak bir neden ya da rastlantı da ilinti üretir; nedensellik için deney gerekir.
Test %99 doğruysa pozitif sonuç %99 hastalıktır.Hastalık nadirse pozitiflerin çoğu yanlış alarm olabilir; Bayes kuralı taban oranını katar.
Çok veri varsa istatistiğe gerek kalmaz.Büyük veride önemsiz farklar bile "anlamlı" çıkar; etki büyüklüğü ve yanlılık hâlâ sorulur.

Sonrası

Bu Dersten Sonra

Bu dersi temel alan ya da genişleten dersler

İlgili meslekler

İstatistikçiVeri bilimciMakine öğrenmesi araştırmacısıBiyoistatistikçiAktüer
Bu dersten sonra makine öğrenmesine, olasılıksal grafik modellere, örüntü tanımaya ve bilgi kuramına geçmek kolaylaşır. Bayesçi istatistik ve nedensel çıkarım, belirsizliği ve neden-sonuç ilişkisini daha derin ele alan iki doğal devam yoludur.

Sonrası

Kaynaklar

  • Wasserman, All of Statistics, Springer, 2004.
  • DeGroot ve Schervish, Probability and Statistics, 4. baskı, Pearson, 2012.
  • Blitzstein ve Hwang, Introduction to Probability, 2. baskı, CRC Press, 2019.
  • Gelman, Carlin, Stern, Dunson, Vehtari ve Rubin, Bayesian Data Analysis, 3. baskı, CRC Press, 2013.

Son

Bölüm 32: Olasılık ve İstatistik
← Önceki bölüm · Alanın haritası · Sonraki bölüm →
1 / 1 Sercan KÜLCÜ, Tüm hakları saklıdır.