Siber Güvenlikte Yapay Zekâ
Giriş
Ders Hangi Soruyu Sorar?
Siber güvenlikte yapay zekâ iki soruyu birlikte sorar: makine öğrenmesi saldırıları, zararlı yazılımları ve oltalamayı nasıl yakalar; YZ sistemlerinin kendisi nasıl kandırılır? Alanı ayıran şey düşmanca ortamdır: karşıda modeli atlatmaya çalışan bir saldırgan vardır.
Bir bakışta
güvenlik bilgisi ve MÖ
ağ trafiği, kayıtlar, dosyalar
uyarı, sınıf, risk puanı
tespit oranı, yanlış alarm oranı
orta
dengesiz ve sürekli değişen
Giriş
Kısa Tarihçe
Denning, saldırı tespitini olağandışı davranışı yakalayan bir model olarak tanımlar.
KDD Cup 1999 saldırı tespiti veri seti yayımlanır; uzun yıllar ölçüt olarak kullanılır.
Paul Graham, "A Plan for Spam" ile Bayesçi istenmeyen e-posta süzgecini yaygınlaştırır.
Szegedy ve ark. düşmanca örnekleri gösterir: gözle görülmeyen değişiklik sınıflandırıcıyı yanıltır.
DARPA Cyber Grand Challenge: makineler insan müdahalesi olmadan açık bulup yamalar.
OWASP büyük dil modeli uygulamaları için ilk Top 10 listesini yayımlar; istem enjeksiyonu başta gelir.
Ders
Temel Kavramlar
İmza tabanlı ve anormallik tabanlı yaklaşımlar.
Dosyayı statik ya da davranışsal özniteliklerle sınıflama.
Sahte e-posta, alan adı ve web sayfalarını ayırmak.
Saldırılar normal trafiğin yanında çok nadirdir.
Kesinlik, duyarlılık; analistin yorulması.
Modeli yanıltmak için özenle bozulmuş girdiler.
Eğitim verisine kötü niyetli örnek sokmak.
Dil modeline gizli talimatla amacını değiştirtmek.
Ders
Tipik İş Akışı
Dene
Şüpheli Oturum Açmaları Yakala
Şirketin oturum açma kayıtlarında olağan girişlerin arasına parola deneme saldırıları karışmış. Model her girişe bir anormallik puanı verir. Eşiği kaydırın ya da grafiğe tıklayın; saldırgan uyum sağlayınca ne olur?
Konum
Ön Koşullar
Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.
| Ders | Neden gerekir |
|---|---|
| Makine Öğrenmesi | saldırı tespiti, kötü amaçlı yazılım sınıflandırma |
| İşletim Sistemleri | süreçler, dosya sistemi ve izinler: saldırıların hedef aldığı katman |
| Bilgisayar Ağları | TCP/IP, port ve paketler: ağ trafiğini okuyabilmek |
| C ile Programlama | bellek ve işaretçiler: taşma açıklarının nasıl oluştuğunu görmek |
Konum
Dersin Komşuları
Örtüşme
Örtüştüğü Dersler
| İlişki | Ders | Ortak konu |
|---|---|---|
| uygulama | Bu ders Makine Öğrenmesi yöntemlerini uygular | saldırı tespiti, kötü amaçlı yazılım sınıflandırma |
| yöntem paylaşır | Açıklanabilir Yapay Zekâ ve Yapay Zekâ Etiği ile yöntem paylaşır | güvenilirlik, düşmanca örnekler |
| yöntem paylaşır | Biyometrik Sistemler ile yöntem paylaşır | kimlik doğrulama, sahtecilik tespiti |
Ayrışma
Ayrıştığı Noktalar (1/2)
| Ölçüt | Siber Güvenlikte YZ | Makine Öğrenmesi | Açıklanabilir YZ ve Etik |
|---|---|---|---|
| Temel soru | Yapay zekâ saldırıları nasıl yakalar ve kendisi nasıl saldırıya uğrar? | Bir program örneklerden nasıl genelleme yapar? | Bir yapay zekâ sisteminin kararına nasıl güvenilir ve sonucundan kim sorumludur? |
| Yaklaşım | güvenlik bilgisi ve MÖ | istatistiksel öğrenme | insan merkezli değerlendirme |
| Girdi | ağ trafiği, kayıtlar, dosyalar | etiketli ya da etiketsiz örnekler | model, verisi ve kullanım bağlamı |
| Çıktı | uyarı, sınıf, risk puanı | tahmin yapan model | açıklama, denetim raporu, ilke |
| Başarı ölçütü | tespit oranı, yanlış alarm oranı | görülmemiş veride hata | anlaşılırlık, adalet, hesap verebilirlik |
| Matematik yükü | orta | yüksek: doğrusal cebir, olasılık, optimizasyon | düşük-orta |
| Veri ihtiyacı | dengesiz ve sürekli değişen | orta ve çok | modelin kendi verisi |
- Makine Öğrenmesi: MÖ veri dağılımının sabit kaldığını varsayar; bu derste karşı taraf modeli atlatmak için girdiyi bilerek değiştirir.
- Açıklanabilir YZ ve Etik: Açıklanabilir YZ güvenilirliği genel olarak ele alır; bu ders saldırgana karşı dayanıklılığa ve saldırıyı yakalamaya odaklanır.
Ayrışma
Ayrıştığı Noktalar (2/2)
| Ölçüt | Siber Güvenlikte YZ | Biyometri | Veri Madenciliği |
|---|---|---|---|
| Temel soru | Yapay zekâ saldırıları nasıl yakalar ve kendisi nasıl saldırıya uğrar? | Bir kişi yüzünden, parmak izinden ya da sesinden nasıl tanınır? | Büyük veri yığınlarındaki gizli ve işe yarar örüntüler nasıl bulunur? |
| Yaklaşım | güvenlik bilgisi ve MÖ | eşleme ve doğrulama | keşfe dayalı çözümleme |
| Girdi | ağ trafiği, kayıtlar, dosyalar | yüz, parmak izi, iris, ses | büyük tablo ya da işlem verisi |
| Çıktı | uyarı, sınıf, risk puanı | kimlik kararı | kural, küme, aykırı değer |
| Başarı ölçütü | tespit oranı, yanlış alarm oranı | FAR, FRR, EER | ilginçlik, destek, güven |
| Matematik yükü | orta | orta | orta |
| Veri ihtiyacı | dengesiz ve sürekli değişen | kişi başına az örnek | çok |
- Biyometri: Biyometri kişiyi tanıyarak kimlik doğrular; bu ders ağdan dosyaya, e-postadan modele kadar geniş saldırı yüzeyine bakar.
- Veri Madenciliği: Veri madenciliği olağandışı örüntüleri keşif için arar; bu ders onları saldırı olarak yorumlar ve alarma dönüştürür.
Uygulama
Uygulama Alanları
Ağ trafiğinde olağandışı bağlantıları bulmak.
Dosyayı çalıştırmadan zararlı mı diye kestirmek.
Sahte e-posta ve web sayfalarını ayıklamak.
Şüpheli işlem ve hesap ele geçirme tespiti.
Binlerce uyarıyı önceliklendirip sunmak.
Düşmanca örnek, zehirleme, istem enjeksiyonu.
Uygulama
Araçlar ve Örnek Veriler
Araçlar ve kütüphaneler
Tanınmış veri setleri
Uygulama
Sık Karıştırılanlar
| Yaygın düşünce | Doğrusu |
|---|---|
| %99 doğruluk iyi bir saldırı tespitidir. | Saldırılar çok nadirse her şeye normal diyen model de %99 doğrudur; kesinlik ve yanlış alarm oranı bakılır. |
| Model bir kez eğitilince saldırıları yakalar. | Saldırganlar yöntem değiştirir; model yeni örneklerle sürekli güncellenmelidir. |
| YZ güvenlik analistinin yerini alır. | YZ uyarıları süzer ve önceliklendirir; karar ve soruşturma hâlâ insandadır. |
| Derin ağlar saldırıya karşı dayanıklıdır. | Göze görünmeyen küçük değişiklikler (düşmanca örnekler) modelin kararını kolayca değiştirebilir. |
Sonrası
Bu Dersten Sonra
Bu dersi temel alan ya da genişleten dersler
İlgili meslekler
Sonrası
Kaynaklar
- Chio ve Freeman, Machine Learning and Security, O'Reilly, 2018.
- Denning, "An Intrusion-Detection Model", IEEE Transactions on Software Engineering 13(2), 1987.
- Sommer ve Paxson, "Outside the Closed World: On Using Machine Learning for Network Intrusion Detection", IEEE Symposium on Security and Privacy, 2010.
- Goodfellow, Shlens ve Szegedy, "Explaining and Harnessing Adversarial Examples", ICLR, 2015.