Siber Güvenlikte Yapay Zekâ

Yapay Zekâ ve Veri Dersleri Rehberi · Kısım VI: Sistem ve Uygulama
Saldırı tespitiZararlı yazılımDengesiz veriDüşmanca saldırılarYZ'nin güvenliğiKomşu dersler
Sercan KÜLCÜ · Giresun Üniversitesi · Bilgisayar Mühendisliği

Giriş

Ders Hangi Soruyu Sorar?

Yapay zekâ saldırıları nasıl yakalar ve kendisi nasıl saldırıya uğrar?

Siber güvenlikte yapay zekâ iki soruyu birlikte sorar: makine öğrenmesi saldırıları, zararlı yazılımları ve oltalamayı nasıl yakalar; YZ sistemlerinin kendisi nasıl kandırılır? Alanı ayıran şey düşmanca ortamdır: karşıda modeli atlatmaya çalışan bir saldırgan vardır.

Bir bakışta

Yaklaşım

güvenlik bilgisi ve MÖ

Girdi

ağ trafiği, kayıtlar, dosyalar

Çıktı

uyarı, sınıf, risk puanı

Başarı ölçütü

tespit oranı, yanlış alarm oranı

Matematik yükü

orta

Veri ihtiyacı

dengesiz ve sürekli değişen

Giriş

Kısa Tarihçe

1987

Denning, saldırı tespitini olağandışı davranışı yakalayan bir model olarak tanımlar.

1999

KDD Cup 1999 saldırı tespiti veri seti yayımlanır; uzun yıllar ölçüt olarak kullanılır.

2002

Paul Graham, "A Plan for Spam" ile Bayesçi istenmeyen e-posta süzgecini yaygınlaştırır.

2014

Szegedy ve ark. düşmanca örnekleri gösterir: gözle görülmeyen değişiklik sınıflandırıcıyı yanıltır.

2016

DARPA Cyber Grand Challenge: makineler insan müdahalesi olmadan açık bulup yamalar.

2023

OWASP büyük dil modeli uygulamaları için ilk Top 10 listesini yayımlar; istem enjeksiyonu başta gelir.

Ders

Temel Kavramlar

Saldırı tespiti

İmza tabanlı ve anormallik tabanlı yaklaşımlar.

Zararlı yazılım

Dosyayı statik ya da davranışsal özniteliklerle sınıflama.

Oltalama tespiti

Sahte e-posta, alan adı ve web sayfalarını ayırmak.

Dengesiz veri

Saldırılar normal trafiğin yanında çok nadirdir.

Yanlış alarm

Kesinlik, duyarlılık; analistin yorulması.

Düşmanca örnekler

Modeli yanıltmak için özenle bozulmuş girdiler.

Veri zehirleme

Eğitim verisine kötü niyetli örnek sokmak.

İstem enjeksiyonu

Dil modeline gizli talimatla amacını değiştirtmek.

Ders

Tipik İş Akışı

Toplaağ akışı,kayıtlarÖznitelikçıkarbayt, akış,davranışSınıfla yada puanlaMÖ modeli,anormallikUyaranalistkuyruğuUyumsağlayeni saldırı,yeniden eğitim
Örnek: Bir kurumun ağ geçidi bağlantı kayıtlarını toplar; her bağlantı için süre, bayt sayısı ve port gibi öznitelikler çıkarılır. Bir model şüpheli akışları puanlar ve yalnız en yüksek puanlılar analiste gider. Analistin kararları yeni etiketlere dönüşür ve model güncellenir.

Dene

Şüpheli Oturum Açmaları Yakala

Şirketin oturum açma kayıtlarında olağan girişlerin arasına parola deneme saldırıları karışmış. Model her girişe bir anormallik puanı verir. Eşiği kaydırın ya da grafiğe tıklayın; saldırgan uyum sağlayınca ne olur?

Puan, girişin olağan davranıştan ne kadar şaşırtıcı olduğudur: başarısız deneme sayısı, saat, yeni cihaz, yabancı ülke. Model yalnız olağan girişlerden öğrendi.
Siber güvenlikte yapay zekâ olağanı öğrenip sapmayı yakalar; imzası bilinmeyen saldırıyı da görür. Ama karşıda öğrenen bir rakip var: model ve özellikler sürekli güncellenmeli.

Konum

Ön Koşullar

Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.

DersNeden gerekir
Makine Öğrenmesisaldırı tespiti, kötü amaçlı yazılım sınıflandırma
İşletim Sistemlerisüreçler, dosya sistemi ve izinler: saldırıların hedef aldığı katman
Bilgisayar AğlarıTCP/IP, port ve paketler: ağ trafiğini okuyabilmek
C ile Programlamabellek ve işaretçiler: taşma açıklarının nasıl oluştuğunu görmek

Konum

Dersin Komşuları

alt alantemel alıryöntem paylaşıruygulama

Örtüşme

Örtüştüğü Dersler

İlişkiDersOrtak konu
uygulamaBu ders Makine Öğrenmesi yöntemlerini uygularsaldırı tespiti, kötü amaçlı yazılım sınıflandırma
yöntem paylaşırAçıklanabilir Yapay Zekâ ve Yapay Zekâ Etiği ile yöntem paylaşırgüvenilirlik, düşmanca örnekler
yöntem paylaşırBiyometrik Sistemler ile yöntem paylaşırkimlik doğrulama, sahtecilik tespiti

Ayrışma

Ayrıştığı Noktalar (1/2)

ÖlçütSiber Güvenlikte YZMakine ÖğrenmesiAçıklanabilir YZ ve Etik
Temel soruYapay zekâ saldırıları nasıl yakalar ve kendisi nasıl saldırıya uğrar?Bir program örneklerden nasıl genelleme yapar?Bir yapay zekâ sisteminin kararına nasıl güvenilir ve sonucundan kim sorumludur?
Yaklaşımgüvenlik bilgisi ve MÖistatistiksel öğrenmeinsan merkezli değerlendirme
Girdiağ trafiği, kayıtlar, dosyalaretiketli ya da etiketsiz örneklermodel, verisi ve kullanım bağlamı
Çıktıuyarı, sınıf, risk puanıtahmin yapan modelaçıklama, denetim raporu, ilke
Başarı ölçütütespit oranı, yanlış alarm oranıgörülmemiş veride hataanlaşılırlık, adalet, hesap verebilirlik
Matematik yüküortayüksek: doğrusal cebir, olasılık, optimizasyondüşük-orta
Veri ihtiyacıdengesiz ve sürekli değişenorta ve çokmodelin kendi verisi
  • Makine Öğrenmesi: MÖ veri dağılımının sabit kaldığını varsayar; bu derste karşı taraf modeli atlatmak için girdiyi bilerek değiştirir.
  • Açıklanabilir YZ ve Etik: Açıklanabilir YZ güvenilirliği genel olarak ele alır; bu ders saldırgana karşı dayanıklılığa ve saldırıyı yakalamaya odaklanır.

Ayrışma

Ayrıştığı Noktalar (2/2)

ÖlçütSiber Güvenlikte YZBiyometriVeri Madenciliği
Temel soruYapay zekâ saldırıları nasıl yakalar ve kendisi nasıl saldırıya uğrar?Bir kişi yüzünden, parmak izinden ya da sesinden nasıl tanınır?Büyük veri yığınlarındaki gizli ve işe yarar örüntüler nasıl bulunur?
Yaklaşımgüvenlik bilgisi ve MÖeşleme ve doğrulamakeşfe dayalı çözümleme
Girdiağ trafiği, kayıtlar, dosyalaryüz, parmak izi, iris, sesbüyük tablo ya da işlem verisi
Çıktıuyarı, sınıf, risk puanıkimlik kararıkural, küme, aykırı değer
Başarı ölçütütespit oranı, yanlış alarm oranıFAR, FRR, EERilginçlik, destek, güven
Matematik yüküortaortaorta
Veri ihtiyacıdengesiz ve sürekli değişenkişi başına az örnekçok
  • Biyometri: Biyometri kişiyi tanıyarak kimlik doğrular; bu ders ağdan dosyaya, e-postadan modele kadar geniş saldırı yüzeyine bakar.
  • Veri Madenciliği: Veri madenciliği olağandışı örüntüleri keşif için arar; bu ders onları saldırı olarak yorumlar ve alarma dönüştürür.

Uygulama

Uygulama Alanları

Saldırı tespiti

Ağ trafiğinde olağandışı bağlantıları bulmak.

Zararlı yazılım

Dosyayı çalıştırmadan zararlı mı diye kestirmek.

Oltalama ve spam

Sahte e-posta ve web sayfalarını ayıklamak.

Sahtekârlık

Şüpheli işlem ve hesap ele geçirme tespiti.

Güvenlik operasyonu

Binlerce uyarıyı önceliklendirip sunmak.

YZ'yi korumak

Düşmanca örnek, zehirleme, istem enjeksiyonu.

Uygulama

Araçlar ve Örnek Veriler

Araçlar ve kütüphaneler

scikit-learnZeekSuricataWiresharkYARAElastic StackAdversarial Robustness Toolbox

Tanınmış veri setleri

KDD Cup 1999 / NSL-KDDCICIDS2017UNSW-NB15EMBER (zararlı yazılım)Enron-SpamPhishTank
Eski veri setleri (KDD Cup 1999) hâlâ çok kullanılır ama bugünün trafiğini yansıtmaz; sonuçlar güncel veri setlerinde de sınanmalıdır.

Uygulama

Sık Karıştırılanlar

Yaygın düşünceDoğrusu
%99 doğruluk iyi bir saldırı tespitidir.Saldırılar çok nadirse her şeye normal diyen model de %99 doğrudur; kesinlik ve yanlış alarm oranı bakılır.
Model bir kez eğitilince saldırıları yakalar.Saldırganlar yöntem değiştirir; model yeni örneklerle sürekli güncellenmelidir.
YZ güvenlik analistinin yerini alır.YZ uyarıları süzer ve önceliklendirir; karar ve soruşturma hâlâ insandadır.
Derin ağlar saldırıya karşı dayanıklıdır.Göze görünmeyen küçük değişiklikler (düşmanca örnekler) modelin kararını kolayca değiştirebilir.

Sonrası

Bu Dersten Sonra

Bu dersi temel alan ya da genişleten dersler

Bu ders çoğunlukla uç noktadır; öteki dersleri temel alır.

İlgili meslekler

Güvenlik analisti (SOC)Tehdit avcısıZararlı yazılım analistiGüvenlik veri bilimcisiYZ güvenliği uzmanı
Bu ders iki yöne açılır: güvenlik tarafında ağ güvenliği, adli bilişim ve zararlı yazılım analizi; yapay zekâ tarafında düşmanca dayanıklılık, gizliliği koruyan öğrenme ve büyük dil modellerinin güvenliği. Açıklanabilir YZ ve etik dersi bu ikinci yolun doğal komşusudur.

Sonrası

Kaynaklar

  • Chio ve Freeman, Machine Learning and Security, O'Reilly, 2018.
  • Denning, "An Intrusion-Detection Model", IEEE Transactions on Software Engineering 13(2), 1987.
  • Sommer ve Paxson, "Outside the Closed World: On Using Machine Learning for Network Intrusion Detection", IEEE Symposium on Security and Privacy, 2010.
  • Goodfellow, Shlens ve Szegedy, "Explaining and Harnessing Adversarial Examples", ICLR, 2015.

Son

Bölüm 38: Siber Güvenlikte Yapay Zekâ
← Önceki bölüm · Alanın haritası · Sonraki bölüm →
1 / 1 Sercan KÜLCÜ, Tüm hakları saklıdır.