Olasılık ve İstatistik
Giriş
Ders Hangi Soruyu Sorar?
Olasılık belirsizliği ölçmenin dilidir; istatistik bu dili kullanarak sınırlı veriden genel sonuç çıkarır. Yapay zekâ ve veri derslerindeki her model bir belirsizlikle çalışır: tahminin ne kadar güvenilir olduğunu ancak bu ders söyleyebilir.
Bir bakışta
olasılık modeli ve çıkarım
örneklem verisi
kestirim, güven aralığı, test sonucu
yansızlık, güç, anlamlılık
kuramın kendisi
örneklem
Giriş
Kısa Tarihçe
Pascal ve Fermat, yarıda kalan bir şans oyununun paylaşımı üzerine mektuplaşır.
Bayes'in makalesi ölümünden sonra yayımlanır: kanıtla güncellenen olasılık.
Gosset, "Student" takma adıyla küçük örneklemler için t dağılımını yayımlar.
Fisher'ın Statistical Methods for Research Workers kitabı anlamlılık testini yaygınlaştırır.
Kolmogorov olasılığı aksiyomlarla kurar; olasılık kuramı ölçü kuramına dayanır.
Efron bootstrap yöntemini önerir: belirsizliği yeniden örneklemeyle ölçmek.
Ders
Temel Kavramlar
Bir bilgi verildiğinde olasılığın değişmesi.
Önsel inancı kanıtla sonsal inanca çevirmek.
Beklenen değer, varyans ve dağılım.
Merkezi limit kuramı: ortalamalar normale yaklaşır.
Veriyi en olası kılan parametreyi seçmek.
Kestirimin belirsizliğini bir aralıkla vermek.
Gözlenen fark rastlantı mı, gerçek mi?
Bir değişkeni ötekilerle açıklamak ve sınamak.
Ders
Tipik İş Akışı
Dene
Yeni Öneri Modeli İşe Yarıyor mu?
Yeni öneri modeli satın alma oranını artırıyor mu? Ziyaretçilerin yarısı eski modeli (A), yarısı yeniyi (B) görüyor. Örneklemi ve gerçek farkı değiştirip deneyi tekrarlayın.
Konum
Ön Koşullar
Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.
| Ders | Neden gerekir |
|---|---|
| Analiz (Kalkülüs) | integral ve türev: sürekli dağılımlar ve en çok olabilirlik |
| Ayrık Matematik | kümeler ve sayma (permütasyon, kombinasyon) |
Konum
Dersin Komşuları
Örtüşme
Örtüştüğü Dersler
| İlişki | Ders | Ortak konu |
|---|---|---|
| temel alır | Yapay Zekâ bu dersi temel alır | belirsizlik altında akıl yürütme, Bayes kuralı |
| temel alır | Makine Öğrenmesi bu dersi temel alır | genelleme hatası, yanlılık-varyans, olasılıksal modeller |
| temel alır | Örüntü Tanıma bu dersi temel alır | Bayes karar kuramı, yoğunluk kestirimi |
| temel alır | Olasılıksal Grafik Modeller bu dersi temel alır | koşullu bağımsızlık, ortak dağılım |
| temel alır | Veri Madenciliği bu dersi temel alır | destek, güven, anlamlılık |
| temel alır | Veri Bilimi bu dersi temel alır | hipotez testi, regresyon, görselleştirme |
| temel alır | Zaman Serisi Analizi ve Tahmin bu dersi temel alır | durağanlık, öz ilinti, ARIMA |
| yöntem paylaşır | Bilgi Kuramı ile yöntem paylaşır | entropi, ortak bilgi |
Ayrışma
Ayrıştığı Noktalar (1/2)
| Ölçüt | Olasılık ve İstatistik | Makine Öğrenmesi | Veri Bilimi |
|---|---|---|---|
| Temel soru | Belirsizlik nasıl ölçülür ve sınırlı veriden nasıl güvenilir sonuç çıkarılır? | Bir program örneklerden nasıl genelleme yapar? | Veriden doğru soruları sorup karara dönüşen sonuçlar nasıl çıkarılır? |
| Yaklaşım | olasılık modeli ve çıkarım | istatistiksel öğrenme | soru, veri, analiz, anlatı |
| Girdi | örneklem verisi | etiketli ya da etiketsiz örnekler | ham, dağınık veri |
| Çıktı | kestirim, güven aralığı, test sonucu | tahmin yapan model | rapor, görselleştirme, model |
| Başarı ölçütü | yansızlık, güç, anlamlılık | görülmemiş veride hata | kararlara katkı, doğruluk |
| Matematik yükü | kuramın kendisi | yüksek: doğrusal cebir, olasılık, optimizasyon | orta: istatistik |
| Veri ihtiyacı | örneklem | orta ve çok | orta ve çok |
- Makine Öğrenmesi: MÖ tahmin başarımını öne çıkarır; istatistik modelin anlamını, varsayımlarını ve belirsizliğini sorar.
- Veri Bilimi: Veri bilimi bütün süreci (veri, çözümleme, iletişim) kapsar; bu ders o sürecin çıkarım kuramını verir.
Ayrışma
Ayrıştığı Noktalar (2/2)
| Ölçüt | Olasılık ve İstatistik | Olasılıksal Grafik Modeller | Bilgi Kuramı |
|---|---|---|---|
| Temel soru | Belirsizlik nasıl ölçülür ve sınırlı veriden nasıl güvenilir sonuç çıkarılır? | Birbirine bağlı, belirsiz çok sayıda değişken nasıl modellenir ve sorgulanır? | Bilgi nasıl ölçülür, en az kayıpla nasıl sıkıştırılır ve iletilir? |
| Yaklaşım | olasılık modeli ve çıkarım | olasılık ve çizge bir arada | olasılıkla bilgi ölçümü |
| Girdi | örneklem verisi | değişkenler, bağımlılık yapısı, veri | kaynak ve kanal modeli |
| Çıktı | kestirim, güven aralığı, test sonucu | koşullu olasılık, en olası açıklama | sınır, kod, sıkıştırma oranı |
| Başarı ölçütü | yansızlık, güç, anlamlılık | olabilirlik, çıkarım doğruluğu | bit, kanal kapasitesi |
| Matematik yükü | kuramın kendisi | yüksek: olasılık | yüksek: olasılık |
| Veri ihtiyacı | örneklem | orta | gerekmez |
- Olasılıksal Grafik Modeller: Olasılıksal grafik modeller çok değişkenli dağılımları çizgeyle yapılandırır; bu ders tek ve az değişkenle başlar.
- Bilgi Kuramı: Bilgi kuramı belirsizliği entropiyle ölçer; bu ders olasılıkla kestirim ve karar üzerine kuruludur.
Uygulama
Uygulama Alanları
Yeni modelin gerçekten daha iyi olup olmadığı.
Metin ve istenmeyen e-posta sınıflandırma.
Tahminin güven aralığı ve kalibrasyonu.
İki modelin farkı anlamlı mı?
Verinin dağılımını öğrenip örneklemek.
Duyarlılık, özgüllük ve taban oranı.
Uygulama
Araçlar ve Örnek Veriler
Araçlar ve kütüphaneler
Klasik örnek problemler
Uygulama
Sık Karıştırılanlar
| Yaygın düşünce | Doğrusu |
|---|---|
| p = 0,03 ise hipotezin doğru olma olasılığı %97'dir. | p değeri, sıfır hipotezi doğruysa bu kadar uç verinin görülme olasılığıdır; hipotezin olasılığı değildir. |
| İlinti varsa neden-sonuç vardır. | Ortak bir neden ya da rastlantı da ilinti üretir; nedensellik için deney gerekir. |
| Test %99 doğruysa pozitif sonuç %99 hastalıktır. | Hastalık nadirse pozitiflerin çoğu yanlış alarm olabilir; Bayes kuralı taban oranını katar. |
| Çok veri varsa istatistiğe gerek kalmaz. | Büyük veride önemsiz farklar bile "anlamlı" çıkar; etki büyüklüğü ve yanlılık hâlâ sorulur. |
Sonrası
Bu Dersten Sonra
Bu dersi temel alan ya da genişleten dersler
İlgili meslekler
Sonrası
Kaynaklar
- Wasserman, All of Statistics, Springer, 2004.
- DeGroot ve Schervish, Probability and Statistics, 4. baskı, Pearson, 2012.
- Blitzstein ve Hwang, Introduction to Probability, 2. baskı, CRC Press, 2019.
- Gelman, Carlin, Stern, Dunson, Vehtari ve Rubin, Bayesian Data Analysis, 3. baskı, CRC Press, 2013.