Korunan özelliği (cinsiyet, etnik köken) modelden çıkarmak neden adaleti sağlamaya yetmez?

Vekil değişkenler korunan özelliği dolaylı taşır; bu yüzden sonuçlar grup bazında ölçülmelidir.

“Sağlık ihtiyacı” yerine “sağlık harcaması” tahmin edilince erişimi az olan grup düşük riskli görünür. Bu hangi önyargı kaynağıdır?

Hedef doğrudan ölçülemeyince bir vekil kullanılır; vekil ile hedef arasındaki fark gruba göre değişirse önyargı doğar.

Bir grubun karışıklık matrisi: TP = 30, FP = 10, FN = 20, TN = 40. Doğru pozitif oranı (TPR) kaçtır?

TPR = TP/(TP + FN) = 30/50 = 0,6. 0,75 PPV (30/40), 0,4 seçim oranı, 0,2 FPR'dir (10/50).

A grubunun seçim oranı 0,50, B grubununki 0,35. Beşte dört kuralına göre sonuç nedir?

Kural küçük seçim oranının büyüğe oranına bakar: 0,35/0,50 = 0,70, 0,8'in altında. Fark değil oran karşılaştırılır.

Eşitlenmiş olasılıklar (equalized odds) ölçütü gruplar arasında neyin eşit olmasını ister?

Gerçek sonuç koşulu altında iki hata oranı da eşit olmalıdır. Yalnız TPR eşitliği fırsat eşitliği, seçim oranı demografik eşitlik, PPV tahmin eşitliğidir.

Bir model kalibre ise ne söylenebilir?

Kalibrasyon puanın grup ne olursa olsun aynı riski anlatmasıdır. Bölümdeki model kalibre olduğu hâlde TPR ve seçim oranları farklıdır.

Bölümdeki örnekte model kalibredir, PPV ve NPV iki grupta da 0,8'dir. Aşağıdakilerden hangisi sağlanmaz?

Seçim oranları A'da 0,5, B'de 0,2'dir. Taban oranları farklı (%50 ve %32) olduğu için kalibre bir model onay oranlarını eşitleyemez.

Bireysel adalet: |f(x) − f(y)| ≤ L·d(x, y), L = 2, d(x, y) = 0,05, f(x) = 0,7. f(y) için izin verilen aralık nedir?

L·d = 2·0,05 = 0,1 ⟹ |f(y) − 0,7| ≤ 0,1. L'yi unutmak [0,65; 0,75] aralığını verir.

Özdeşlik FPR = p/(1 − p) · (1 − PPV)/PPV · TPR. p = 0,25, PPV = 0,6, TPR = 0,9 ise FPR kaçtır?

FPR = (0,25/0,75)·(0,4/0,6)·0,9 = (1/3)·(2/3)·0,9 = 0,2. Taban oranı p değişirse aynı PPV ve TPR farklı bir FPR'ye götürür.

Bir grupta 40 kişi öder, 60 kişi ödemez. Eşitlenmiş olasılıklar için TPR = 0,75 ve FPR = 0,25 zorlanırsa bu grubun PPV'si ne olur?

TP = 40·0,75 = 30, FP = 60·0,25 = 15 ⟹ PPV = 30/45 ≈ 0,67. Hata oranları eşitlenince taban oranı farklı grupta PPV değişir: tahmin eşitliği bozulur.

COMPAS tartışmasında ProPublica FPR farkını, Northpointe kalibrasyonu gösterdi. En doğru yorum hangisidir?

Chouldechova özdeşliği bunu açıklar: mükemmel tahmin olmadıkça farklı taban oranlarında tahmin eşitliği ve eşit hata oranları çatışır. Tartışma hangi adalet tanımının seçileceğidir.

b_grubu(q): TP = 16 + 16q, FP = 4 + 64q; doğruluk = (TP + 68 − FP)/100. q = 0,5 için B grubunun doğruluğu kaçtır?

TP = 24, FP = 36, TN = 68 − 36 = 32 ⟹ (24 + 32)/100 = 0,56. 0,75 bu durumdaki TPR'dir; rastgele onay TPR'yi artırırken doğruluğu düşürür.

Kes-ve-seç: Ali pastanın her yerine eşit değer verir. Ayşe için vanilya [0; 0,5] 1/5, çikolata [0,5; 1] 4/5 değerinde. Ayşe keser, Ali seçer. Ali kaç alır?

Ayşe kendi gözünde yarıdan keser: 0,2 + 1,6(x − 0,5) = 0,5 ⟹ x = 0,6875 = 11/16. Ali sol parçayı seçer ve 11/16 alır: seçen avantajlıdır.

İki kişilik bir paylaşımda orantılılık ile kıskançsızlık arasındaki ilişki nedir?

v(X₁) ≥ 1/2 ise v(X₂) = 1 − v(X₁) ≤ 1/2 ≤ v(X₁). Üç ve daha fazla kişide kıskançsızlık daha güçlü hâle gelir.

Değerler: Ali (X 0,5; Y 0,2; Z 0,3), Ayşe (X 0,35; Y 0,34; Z 0,31), Cem (X 0,2; Y 0,3; Z 0,5). Paylaşım Ali→X, Ayşe→Y, Cem→Z. Doğru olan hangisi?

Herkes ≥ 1/3 alır (0,5; 0,34; 0,5) ⟹ orantılı. Ama Ayşe için X (0,35) kendi Y'sinden (0,34) değerli ⟹ kıskançlık var.

Sırayla seçim, Ali başlar. Ali'nin değerleri m1–m4: 6, 5, 4, 1; Ayşe'ninki: 5, 6, 2, 3. Sonuç ne olur?

Ali m1 (6), Ayşe m2 (6), Ali m3 (4), Ayşe m4 (3). Ali: 10 ≥ 6; Ayşe: 9 ≥ 7 (m1 + m3 = 5 + 2). Kimse kıskanmaz; sırayla seçim en az EF1 garantiler.

Goodhart yasası neyi söyler?

İnsanlar ölçülen şeye göre davranışını değiştirir (tıklama sayısı → tıklama tuzağı). Diğer şıklar Chouldechova, Dwork ve kes-ve-seç sonuçlarıdır.

Stratejik sınıflandırma örneğinde kurum, oyunlamayı engellemek için eşiği 0,6'dan 0,75'e yükseltti. Sonuç ne oldu?

B'nin nitelikli 5 kişisinden yalnız 3'ü geçer, A'da 5/5. Puan yükseltme maliyeti gruplar arasında farklı olunca önlem yeni bir eşitsizlik doğurur (Hu, Immorlica, Vaughan 2019).

Geri besleme kodu: kayit = [4, 6], gercek = [3, 3]; devriye her gün kaydı fazla olan bölgeye gider ve yalnız orada kayıt tutulur. 3 gün sonra bölge 0'ın kayıt payı kaçtır?

Devriye hep bölge 1'e gider: kayit = [4, 15], pay = 4/19 ≈ 0,21. Gerçek olaylar eşit olduğu hâlde başlangıçtaki küçük fark büyür. 4/15 paydayı yanlış alır.

AB Yapay Zekâ Yasası (2024) kredi skorlama ve işe alım sistemlerini hangi sınıfa koyar?

Yasa risk tabanlıdır; kredi skorlama ve işe alım yüksek risk sınıfındadır ve ek yükümlülükler getirir. GDPR md. 22 ise otomatik kararlara itiraz hakkı tanır.