Doğrusal Cebir

Yapay Zekâ ve Veri Dersleri Rehberi · Kısım V: Matematik Temeli
Vektör ve matrisDenklem sistemleriÖzdeğerSVD ve PCAYZ'de neredeKomşu dersler
Sercan KÜLCÜ · Giresun Üniversitesi · Bilgisayar Mühendisliği

Giriş

Ders Hangi Soruyu Sorar?

Vektörler ve matrisler veriyi ve dönüşümleri nasıl temsil eder?

Doğrusal cebir vektörleri, matrisleri ve doğrusal dönüşümleri inceler. Yapay zekâ ve veri derslerinde neredeyse her şey bir vektördür: bir görüntü, bir sözcük, bir kullanıcı. Bir sinir ağı katmanı da büyük ölçüde bir matris çarpımıdır.

Bir bakışta

Yaklaşım

vektör uzayları ve dönüşümler

Girdi

vektör, matris

Çıktı

çözüm, ayrıştırma, dönüşüm

Başarı ölçütü

doğruluk, sayısal kararlılık

Matematik yükü

kuramın kendisi

Veri ihtiyacı

gerekmez

Giriş

Kısa Tarihçe

1844

Grassmann, çok boyutlu vektör uzayı düşüncesini ilk kez sistemli biçimde ortaya koyar.

1858

Cayley matrisleri kendi başına cebirsel nesneler olarak ele alır; matris çarpımı tanımlanır.

1901

Pearson, verideki en iyi uyan doğru ve düzlemleri bulur: temel bileşenler analizi (PCA).

1936

Eckart ve Young, SVD ile bir matrisin en iyi düşük ranklı yaklaşımını gösterir.

1965

Golub ve Kahan, SVD'yi bilgisayarda kararlı biçimde hesaplayan yöntemi verir.

1979

BLAS yayımlanır: bugünkü bilimsel ve YZ kütüphanelerinin altındaki temel matris işlemleri.

Ders

Temel Kavramlar

Vektör ve uzay

Veriyi çok boyutlu bir noktaya çevirmek.

Matris çarpımı

Bir dönüşümü ya da bir ağ katmanını uygulamak.

İç çarpım ve norm

Benzerlik (kosinüs) ve uzaklık ölçmek.

Rank ve taban

Verinin gerçekte kaç bağımsız yöne yayıldığı.

Doğrusal sistemler

Ax = b; en küçük kareler çözümü.

Özdeğer, özvektör

Dönüşümün yönünü değiştirmediği vektörler.

SVD

Her matrisi döndürme, ölçekleme, döndürmeye ayırmak.

İzdüşüm

Bir vektörün bir alt uzaydaki en yakın karşılığı.

Ders

Tipik İş Akışı

Veriyivektörleöznitelik,gömmeMatrisedizörnek ×öznitelikDönüştürağırlıkmatrisiAyrıştırözdeğer, SVDYorumlaboyut indirgeme,benzerlik
Örnek: Yüz tanımada her yüz görüntüsü uzun bir piksel vektörüdür. Yüzler bir matrise dizilir, ortalama çıkarılır, SVD ile en önemli birkaç yön (özyüzler) bulunur ve her yüz bu az sayıdaki yönün ağırlıklarıyla temsil edilip karşılaştırılır.

Dene

Rakam Görüntüsünü Çoğaltmak

El yazısı rakam tanıyan bir model için az örnek var; her görüntüyü döndürüp eğerek yenilerini üretmek (veri artırma) her pikseli bir 2×2 matrisle çarpmaktır. Matrisi değiştirip “7”ye ne olduğunu izleyin.

Determinant alanın kaç katına çıktığını, özvektörler dönüşümün bozmadığı yönleri söyler. Aynı özvektör fikri PCA’da verinin en çok yayıldığı yönleri bulur.

Konum

Ön Koşullar

Bu dersten önce bilinmesi yararlı olan dersler ve neden gerektikleri.

DersNeden gerekir
Lise matematiğidenklem çözme, fonksiyon ve koordinat düzlemi
Programlamadiziler ve döngüler: matris işlemlerini kodla denemek

Konum

Dersin Komşuları

alt alantemel alıryöntem paylaşıruygulama

Örtüşme

Örtüştüğü Dersler

İlişkiDersOrtak konu
temel alırMakine Öğrenmesi bu dersi temel alıröznitelik vektörleri, matris çarpımı, PCA
temel alırYapay Sinir Ağları bu dersi temel alırağırlık matrisleri, vektörleştirilmiş hesap
temel alırBilgisayar Grafiği bu dersi temel alırdönüşüm matrisleri, izdüşüm
temel alırRobotik ve Robot Görüsü bu dersi temel alırkoordinat dönüşümleri, kinematik
temel alırBilgi Erişimi ve Öneri Sistemleri bu dersi temel alırvektör uzayı modeli, matris ayrıştırma
temel alırSosyal Ağ Analizi bu dersi temel alırkomşuluk matrisi, spektral yöntemler
temel alırOptimizasyon bu dersi temel alırgradyan, Hessian, konvekslik

Ayrışma

Ayrıştığı Noktalar (1/2)

ÖlçütDoğrusal CebirOptimizasyonOlasılık ve İstatistik
Temel soruVektörler ve matrisler veriyi ve dönüşümleri nasıl temsil eder?Bir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur?Belirsizlik nasıl ölçülür ve sınırlı veriden nasıl güvenilir sonuç çıkarılır?
Yaklaşımvektör uzayları ve dönüşümleramaç ve kısıtların matematiksel modeliolasılık modeli ve çıkarım
Girdivektör, matrisamaç fonksiyonu ve kısıtlarörneklem verisi
Çıktıçözüm, ayrıştırma, dönüşümen iyi ya da ona yakın çözümkestirim, güven aralığı, test sonucu
Başarı ölçütüdoğruluk, sayısal kararlılıkamaç değeri, yakınsama hızıyansızlık, güç, anlamlılık
Matematik yükükuramın kendisikuramın kendisikuramın kendisi
Veri ihtiyacıgerekmezgerekmezörneklem
  • Optimizasyon: Optimizasyon en iyi değerleri arar; doğrusal cebir bu aramada kullanılan gradyan, Hessian ve sistem çözümünü sağlar.
  • Olasılık ve İstatistik: Olasılık belirsizliği ölçer; doğrusal cebir veriyi ve kovaryans matrisini temsil edip ayrıştırır.

Ayrışma

Ayrıştığı Noktalar (2/2)

ÖlçütDoğrusal CebirMakine ÖğrenmesiBilgisayar Grafiği
Temel soruVektörler ve matrisler veriyi ve dönüşümleri nasıl temsil eder?Bir program örneklerden nasıl genelleme yapar?Bir sahnenin tanımından gerçekçi bir görüntü nasıl üretilir?
Yaklaşımvektör uzayları ve dönüşümleristatistiksel öğrenmegeometri ve ışık benzetimi
Girdivektör, matrisetiketli ya da etiketsiz örneklersahne: model, ışık, kamera
Çıktıçözüm, ayrıştırma, dönüşümtahmin yapan modelgörüntü ya da animasyon
Başarı ölçütüdoğruluk, sayısal kararlılıkgörülmemiş veride hatagerçekçilik, kare hızı
Matematik yükükuramın kendisiyüksek: doğrusal cebir, olasılık, optimizasyonyüksek: doğrusal cebir, geometri
Veri ihtiyacıgerekmezorta ve çokgerekmez
  • Makine Öğrenmesi: MÖ veriden model öğrenir; doğrusal cebir o modelin içinde dönen hesabın dilidir, kendisi öğrenmez.
  • Bilgisayar Grafiği: Bilgisayar grafiği 3B dönüşüm matrislerini uygular; bu ders bu matrislerin genel kuramını verir.

Uygulama

Uygulama Alanları

Sinir ağları

Katman = matris çarpımı ve etkinleştirme.

PCA

Boyut indirgeme ve görselleştirme.

Öneri sistemleri

Kullanıcı-ürün matrisini ayrıştırma.

Sözcük gömmeleri

Anlam benzerliği = vektör yakınlığı.

PageRank

Bağlantı matrisinin baskın özvektörü.

Görüntü işleme

Dönüşümler, sıkıştırma ve süzgeçler.

Uygulama

Araçlar ve Örnek Veriler

Araçlar ve kütüphaneler

NumPySciPy (scipy.linalg)PyTorchMATLABGNU OctaveLAPACK ve BLAS

Klasik örnek problemler

En küçük kareler ile doğru uydurmaÖzyüzler (eigenfaces)PageRank özvektörüSVD ile görüntü sıkıştırmaNetflix Prize matris ayrıştırmaMarkov zinciri kararlı durumu
Matris işlemleri elle değil, yılların emeği olan LAPACK ve BLAS üzerinden yapılır; NumPy ve PyTorch da bunları çağırır.

Uygulama

Sık Karıştırılanlar

Yaygın düşünceDoğrusu
Doğrusal cebir yalnızca denklem çözmektir.Asıl güç dönüşümleri ve ayrıştırmaları anlamaktadır: PCA, SVD ve gömmeler bunun üstüne kurulur.
Ters matrisi hesaplayıp çarpmak doğru yoldur.Pratikte ters alınmaz; LU, QR ya da Cholesky ile sistem çözülür, daha hızlı ve kararlıdır.
Yüksek boyutlu uzay 3B gibi davranır.Yüksek boyutta noktalar birbirine benzer uzaklıkta durur; sezgi yanıltır (boyut laneti).
Kütüphaneler varken kuramı bilmek gereksiz.Rank kaybı, kötü koşulluluk ve boyut hataları ancak kuram bilinirse anlaşılır.

Sonrası

Bu Dersten Sonra

Bu dersi temel alan ya da genişleten dersler

İlgili meslekler

Makine öğrenmesi mühendisiVeri bilimciBilgisayar grafiği geliştiricisiSayısal hesaplama uzmanı
Doğrusal cebir rehberdeki hemen her dersin önkoşuludur. Bu dersten sonra optimizasyona, makine öğrenmesine, sinir ağlarına ve bilgisayar grafiğine rahatça geçilebilir. Sayısal doğrusal cebir ve GPU programlama, aynı hesapları büyük ölçekte hızlı yapmayı öğretir.

Sonrası

Kaynaklar

  • Strang, Introduction to Linear Algebra, 6. baskı, Wellesley-Cambridge Press, 2023.
  • Strang, Linear Algebra and Learning from Data, Wellesley-Cambridge Press, 2019.
  • Trefethen ve Bau, Numerical Linear Algebra, SIAM, 1997.
  • Deisenroth, Faisal ve Ong, Mathematics for Machine Learning, Cambridge University Press, 2020.

Son

Bölüm 31: Doğrusal Cebir
← Önceki bölüm · Alanın haritası · Sonraki bölüm →
1 / 1 Sercan KÜLCÜ, Tüm hakları saklıdır.