Açıklanabilir Yapay Zekâ ve Yapay Zekâ Etiği
Giriş
Ders Hangi Soruyu Sorar?
Bu ders, bir yapay zekâ sisteminin kararını insanların anlayabileceği biçimde açıklamayı ve sistemin adil, güvenilir ve hesap verebilir olmasını inceler. Teknik soru "model neden bu kararı verdi?", etik soru "bu karar kime zarar verebilir ve sorumlusu kim?" sorusudur.
Bir bakışta
insan merkezli değerlendirme
model, verisi ve kullanım bağlamı
açıklama, denetim raporu, ilke
anlaşılırlık, adalet, hesap verebilirlik
düşük-orta
modelin kendi verisi
Giriş
Kısa Tarihçe
ProPublica, COMPAS suç riski puanının siyahi sanıklar aleyhine yanlı olduğunu öne süren analizi yayımlar.
Ribeiro, Singh ve Guestrin LIME yöntemini tanıtır: tek bir tahmini yerel, basit bir modelle açıklamak.
Lundberg ve Lee SHAP yöntemini yayımlar: oyun kuramındaki Shapley değerleriyle öznitelik katkısı.
AB Genel Veri Koruma Tüzüğü (GDPR) yürürlüğe girer; otomatik kararlara itiraz hakkı tanınır.
Gender Shades çalışması, ticari yüz analizi sistemlerinin koyu tenli kadınlarda çok daha sık yanıldığını gösterir.
AB Yapay Zekâ Yasası (AI Act) kabul edilir: sistemler risk düzeyine göre sınıflandırılır.
Ders
Temel Kavramlar
İç işleyişi insan tarafından izlenemeyen model.
Doğası gereği okunabilen model: karar ağacı, doğrusal.
Tek bir tahmini açıklamak: LIME, SHAP değerleri.
Modelin bütün davranışı: öznitelik önemi, PDP.
"Gelirin şu kadar olsaydı kredi onaylanırdı."
Eğitim verisindeki dengesizliğin karara taşınması.
Demografik eşitlik, eşit fırsat, kalibrasyon.
Kararın denetlenmesi, kaydı ve sorumlusu.
Ders
Tipik İş Akışı
Dene
Kredi Modeli İki Gruba Adil mi?
Model her başvuruya 0–100 arası puan veriyor; eşiğin üstü onaylanır. Puanlar B grubunda tarihsel veriden dolayı düşük. Eşikleri kaydırın, iki adalet ölçütünün nasıl değiştiğine bakın.
Konum
Ön Koşullar
Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.
| Ders | Neden gerekir |
|---|---|
| Programlama | Python ile model eğitme ve sonuçları çözümleme |
| Algoritmik Oyun Kuramı | Shapley değeri: SHAP açıklamalarının kuramsal kökeni |
| Felsefe ya da hukuk | etik kuramlar, kişisel veri hakları ve sorumluluk kavramı |
Konum
Dersin Komşuları
Örtüşme
Örtüştüğü Dersler
| İlişki | Ders | Ortak konu |
|---|---|---|
| yöntem paylaşır | Makine Öğrenmesi ile yöntem paylaşır | model açıklama, öznitelik önemi |
| yöntem paylaşır | Uzman Sistemler ve Bilgi Temsili ile yöntem paylaşır | okunabilir kurallarla açıklanabilir karar |
| yöntem paylaşır | Tıbbi Görüntü İşleme ile yöntem paylaşır | tanıda açıklanabilirlik ve sorumluluk |
| yöntem paylaşır | Veri Bilimi ile yöntem paylaşır | veri yanlılığı, adalet ölçütleri |
| yöntem paylaşır | Siber Güvenlikte Yapay Zekâ ile yöntem paylaşır | güvenilirlik, düşmanca örnekler |
Ayrışma
Ayrıştığı Noktalar (1/2)
| Ölçüt | Açıklanabilir YZ ve Etik | Makine Öğrenmesi | Veri Bilimi |
|---|---|---|---|
| Temel soru | Bir yapay zekâ sisteminin kararına nasıl güvenilir ve sonucundan kim sorumludur? | Bir program örneklerden nasıl genelleme yapar? | Veriden doğru soruları sorup karara dönüşen sonuçlar nasıl çıkarılır? |
| Yaklaşım | insan merkezli değerlendirme | istatistiksel öğrenme | soru, veri, analiz, anlatı |
| Girdi | model, verisi ve kullanım bağlamı | etiketli ya da etiketsiz örnekler | ham, dağınık veri |
| Çıktı | açıklama, denetim raporu, ilke | tahmin yapan model | rapor, görselleştirme, model |
| Başarı ölçütü | anlaşılırlık, adalet, hesap verebilirlik | görülmemiş veride hata | kararlara katkı, doğruluk |
| Matematik yükü | düşük-orta | yüksek: doğrusal cebir, olasılık, optimizasyon | orta: istatistik |
| Veri ihtiyacı | modelin kendi verisi | orta ve çok | orta ve çok |
- Makine Öğrenmesi: MÖ modelin doğru tahmin etmesine odaklanır; bu ders tahminin nedenini ve kimi nasıl etkilediğini sorgular.
- Veri Bilimi: Veri bilimi veriden sonuç çıkarır; bu ders o sonucun yanlı, adil ya da açıklanabilir olup olmadığını denetler.
Ayrışma
Ayrıştığı Noktalar (2/2)
| Ölçüt | Açıklanabilir YZ ve Etik | Siber Güvenlikte YZ | Uzman Sistemler |
|---|---|---|---|
| Temel soru | Bir yapay zekâ sisteminin kararına nasıl güvenilir ve sonucundan kim sorumludur? | Yapay zekâ saldırıları nasıl yakalar ve kendisi nasıl saldırıya uğrar? | Bir uzmanın bilgisi nasıl yazıya dökülür ve çıkarım için kullanılır? |
| Yaklaşım | insan merkezli değerlendirme | güvenlik bilgisi ve MÖ | sembolik mantık ve kurallar |
| Girdi | model, verisi ve kullanım bağlamı | ağ trafiği, kayıtlar, dosyalar | olgular ve uzman kuralları |
| Çıktı | açıklama, denetim raporu, ilke | uyarı, sınıf, risk puanı | sonuç ve gerekçesi |
| Başarı ölçütü | anlaşılırlık, adalet, hesap verebilirlik | tespit oranı, yanlış alarm oranı | uzmanla uyum, açıklanabilirlik |
| Matematik yükü | düşük-orta | orta | düşük: önerme ve yüklem mantığı |
| Veri ihtiyacı | modelin kendi verisi | dengesiz ve sürekli değişen | az; bilgi tabanı |
- Siber Güvenlikte YZ: Siber güvenlik saldırgana karşı korur; bu ders sistemin saldırı olmadan da insanlara verdiği zararı inceler.
- Uzman Sistemler: Uzman sistemler kurallarıyla zaten açıktır; bu ders kara kutu modelleri sonradan açıklamanın yollarını arar.
Uygulama
Uygulama Alanları
Ret gerekçesini başvurana açıklamak.
Hekime modelin neye baktığını göstermek.
Özgeçmiş elemede cinsiyet ve yaş yanlılığı.
Risk puanlarının adil olup olmadığını denetlemek.
Gruplar arası hata farklarını ölçmek.
AB YZ Yasası ve KVKK için belgeleme.
Uygulama
Araçlar ve Örnek Veriler
Araçlar ve kütüphaneler
Tanınmış veri setleri
Uygulama
Sık Karıştırılanlar
| Yaygın düşünce | Doğrusu |
|---|---|
| Korunan özniteliği (cinsiyet, ırk) çıkarmak yeter. | Posta kodu ya da isim gibi vekil öznitelikler aynı bilgiyi taşıyabilir; yanlılık sürer. |
| Algoritma sayılarla çalıştığı için tarafsızdır. | Model, geçmiş kararlardaki yanlılığı veriden öğrenir ve ölçekler. |
| Açıklama modelin gerçek işleyişini gösterir. | LIME ve SHAP gibi yöntemler yaklaşıktır; açıklamanın kendisi de yanıltıcı olabilir. |
| Bütün adalet ölçütleri birlikte sağlanabilir. | Gruplar arasında taban oranlar farklıysa kalibrasyon ve eşit hata oranları çoğu zaman birlikte sağlanamaz. |
Sonrası
Bu Dersten Sonra
Bu dersi temel alan ya da genişleten dersler
İlgili meslekler
Sonrası
Kaynaklar
- Molnar, Interpretable Machine Learning, 2. baskı, kendi yayını (çevrim içi), 2022.
- Barocas, Hardt ve Narayanan, Fairness and Machine Learning: Limitations and Opportunities, MIT Press, 2023.
- O'Neil, Weapons of Math Destruction, Crown, 2016.
- Ribeiro, Singh ve Guestrin, "Why Should I Trust You?: Explaining the Predictions of Any Classifier", KDD, 2016.
- Lundberg ve Lee, "A Unified Approach to Interpreting Model Predictions", NeurIPS, 2017.