Guide to AI and Data Courses
Undergraduate, Giresun University, Computer Engineering, 2023
This course is a map of the courses around artificial intelligence and data. Each of its 38 course presentations introduces one course: the question it asks, its core concepts, a typical workflow, its prerequisites, the courses it overlaps with and the points where it differs from its nearest neighbours, its applications and tools. An opening map and a closing comparison frame the series. There are no lecture notes, code examples or textbook: the aim is to help students see the field as a whole before choosing their electives.
Ders Haritası
Bölüm 1: Alanın Haritası
Bu bölümde rehberin amacı, yapay zekâ, makine öğrenmesi, yapay sinir ağları ve derin öğrenmenin iç içe ilişkisi, dersleri bölen altı kısım, dersler arasındaki dört ilişki türü (alt alan, temel alma, yöntem paylaşma, uygulama) ve karşılaştırma ölçütleri tanıtılır. Etkileşimli haritada bir derse tıklanınca komşuları ve ilişkileri görünür.
Kısım I: Çekirdek
Bölüm 2: Yapay Zekâ
Bir makine arayarak, çıkarım yaparak ve plan kurarak nasıl akıllıca davranır? Yapay zekâ, çevresini algılayıp amacına en uygun eylemi seçen akıllı etmenler tasarlamayı inceler. Ders arama, mantıksal çıkarım, olasılıklı akıl yürütme, planlama ve öğrenmeyi tek bir çerçevede toplar. Makine öğrenmesi bu çerçevenin bir parçasıdır, tamamı değildir.
Bölüm 3: Makine Öğrenmesi
Bir program örneklerden nasıl genelleme yapar? Makine öğrenmesi, açıkça programlanmadan örneklerden öğrenen ve öğrendiğini yeni örneklere genelleyen algoritmaları inceler. Mitchell’in tanımıyla bir program, T görevindeki P ile ölçülen başarımı E deneyimiyle artıyorsa öğreniyordur.
Bölüm 4: Yapay Sinir Ağları
Basit birimlerden kurulan ağlar ağırlıklarını ayarlayarak nasıl öğrenir? Yapay sinir ağları, ağırlıklı toplam alıp bir etkinleştirme fonksiyonundan geçiren basit birimlerin katmanlar hâlinde bağlanmasıyla kurulan modelleri inceler. Öğrenme, kayıp fonksiyonunu küçültecek biçimde ağırlıkları ayarlamaktır; bunun temel aracı geri yayılım ve gradyan inişidir.
Bölüm 5: Derin Öğrenme
Çok katmanlı ağlar ham veriden kullanışlı temsilleri nasıl kendisi öğrenir? Derin öğrenme, çok katmanlı sinir ağlarının ham veriden (piksel, ses, metin) işe yarar ara temsilleri katman katman kendisinin öğrenmesini inceler. Öznitelikleri elle tasarlamak yerine temsil öğrenme esastır; bunu büyük veri, GPU ve iyi mimariler mümkün kılar.
Kısım II: Yapay Zekânın Dalları
Bölüm 6: Doğal Dil İşleme ve Metin Madenciliği
Bilgisayar insan dilini nasıl çözümler, anlar ve üretir? Doğal dil işleme, bilgisayarın insan dilini çözümlemesini, anlamasını ve üretmesini inceler; metin madenciliği ise büyük metin yığınlarından bilgi ve örüntü çıkarır. Dersin merkezinde metni sayılara çeviren metin temsili ve sıradaki sözcüğü tahmin eden dil modelleri vardır.
Bölüm 7: Pekiştirmeli Öğrenme
Yalnız ödül sinyaliyle, deneme yanılma yoluyla iyi kararlar nasıl öğrenilir? Pekiştirmeli öğrenme, bir etmenin çevreyle etkileşerek, yalnız aldığı ödül sinyaline bakıp uzun vadede toplam ödülü en büyük yapan davranışı deneme yanılmayla öğrenmesini inceler. Doğru eylem önceden söylenmez; eylemlerin sonucu çoğu zaman gecikmeli gelir.
Bölüm 8: Örüntü Tanıma
Ölçümlerden bir nesnenin hangi sınıfa ait olduğuna nasıl karar verilir? Örüntü tanıma, ölçümlerden çıkarılan öznitelik vektörüne bakarak bir nesnenin hangi sınıfa ait olduğuna karar vermeyi inceler. Ders algılayıcıdan karara uzanan zinciri bütün olarak ele alır: ön işleme, öznitelik seçimi, sınıflandırıcı tasarımı ve hata çözümlemesi.
Bölüm 9: Bulanık Mantık ve Bulanık Sistemler
“Sıcak”, “hızlı” gibi keskin sınırı olmayan kavramlarla nasıl akıl yürütülür? Bulanık mantık, bir ögenin bir kümeye ya ait olduğu ya da olmadığı keskin ayrımı bırakır; ögeye 0 ile 1 arasında bir üyelik derecesi verir. Böylece “sıcak”, “biraz hızlı” gibi dilsel kavramlarla kurallar yazılır ve bu kurallardan sayısal bir karar ya da denetim sinyali üretilir.
Bölüm 10: Evrimsel ve Metasezgisel Optimizasyon
Türev yokken ya da arama uzayı çok büyükken iyi bir çözüm nasıl bulunur? Evrimsel ve metasezgisel optimizasyon, türevi olmayan ya da arama uzayı çok büyük problemlerde iyi bir çözümü deneme, seçme ve değiştirme döngüsüyle arar. Doğal seçilim, metal tavlama ya da karınca kolonisi gibi süreçlerden esinlenen bu yöntemler en iyi çözümü garanti etmez, kısa sürede iyi bir çözüm verir.
Bölüm 11: Uzman Sistemler ve Bilgi Temsili
Bir uzmanın bilgisi nasıl yazıya dökülür ve çıkarım için kullanılır? Uzman sistemler, bir alan uzmanının bilgisini kurallar ve olgular biçiminde bir bilgi tabanına yazar ve bir çıkarım motoruyla bu bilgiden sonuç çıkarır. Bilgi temsili ise bilginin bilgisayarın akıl yürütebileceği biçimde nasıl kodlanacağını inceler: mantık, çerçeveler, anlamsal ağlar ve ontolojiler.
Bölüm 12: Olasılıksal Grafik Modeller
Birbirine bağlı, belirsiz çok sayıda değişken nasıl modellenir ve sorgulanır? Olasılıksal grafik modeller, çok sayıda belirsiz değişkenin ortak dağılımını bir çizge ile gösterir: düğümler değişkenler, kenarlar doğrudan bağımlılıklardır. Çizgenin söylediği koşullu bağımsızlıklar dev bir dağılımı küçük parçalara böler; böylece hem modellemek hem de sorgulamak mümkün olur.
Bölüm 13: Üretken Modeller
Bir model gerçek veriye benzeyen yeni örnekleri nasıl üretir? Üretken modeller, verinin olasılık dağılımını öğrenip o dağılımdan yeni örnekler üreten modelleri inceler. Ayırt edici bir model “bu görüntü kedi mi?” diye sorarken üretken model “kedi görüntüleri nasıl dağılır, yenisini nasıl çizerim?” diye sorar.
Bölüm 14: Çok Etmenli Sistemler
Birden çok özerk etmen birlikte ya da birbirine karşı nasıl karar verir? Çok etmenli sistemler, her biri kendi hedefi ve bilgisiyle karar veren birden çok özerk etmenin aynı ortamda nasıl birlikte çalıştığını ya da yarıştığını inceler. Tek etmenin en iyi kararı yetmez: öteki etmenlerin ne yapacağı da hesaba katılmalı, ortak davranış iletişim ve kurallarla yönlendirilmelidir.
Bölüm 15: Açıklanabilir Yapay Zekâ ve Yapay Zekâ Etiği
Bir yapay zekâ sisteminin kararına nasıl güvenilir ve sonucundan kim sorumludur? Bu ders, bir yapay zekâ sisteminin kararını insanların anlayabileceği biçimde açıklamayı ve sistemin adil, güvenilir ve hesap verebilir olmasını inceler. Teknik soru “model neden bu kararı verdi?”, etik soru “bu karar kime zarar verebilir ve sorumlusu kim?” sorusudur.
Kısım III: Sinyal, Görüntü ve Ses
Bölüm 16: Sayısal Sinyal İşleme
Örneklenmiş sinyaller nasıl çözümlenir, süzülür ve dönüştürülür? Sayısal sinyal işleme, belirli aralıklarla örneklenmiş ses, titreşim, EKG ya da radyo sinyallerini matematiksel dönüşümlerle çözümler, süzer ve dönüştürür. Ders öğrenmeye değil kesin matematiğe dayanır; ses, görüntü ve haberleşme derslerinin ortak temelidir.
Bölüm 17: Görüntü İşleme
Bir görüntü nasıl iyileştirilir, dönüştürülür ve parçalara ayrılır? Görüntü işleme, bir görüntüyü alıp yeni bir görüntüye ya da bölgelere dönüştüren yöntemleri inceler: gürültüyü azaltmak, karşıtlığı artırmak, kenarları ve nesne sınırlarını bulmak. Girdi de çıktı da görüntüdür; görüntüde ne olduğunu anlamak bilgisayarlı görünün işidir.
Bölüm 18: Bilgisayarlı Görü
Bilgisayar bir görüntüde ya da videoda ne olduğunu nasıl anlar? Bilgisayarlı görü, bir görüntüden ya da videodan anlam çıkarmayı inceler: hangi nesneler var, nerede, sahne nasıl bir üç boyutlu yapıya sahip. Girdi görüntüdür ama çıktı görüntü değil; etiket, kutu, maske ya da derinliktir. Görüntüyü dönüştürmek görüntü işlemenin işidir.
Bölüm 19: Konuşma Tanıma ve Ses İşleme
Ses dalgasından sözcükler, konuşmacı ve olaylar nasıl çıkarılır? Konuşma tanıma ve ses işleme, mikrofondan gelen ses dalgasını çözümleyip ondan sözcükleri, konuşmacının kimliğini ya da ortamdaki olayları çıkarmayı inceler. Ses önce zaman-frekans özniteliklerine çevrilir; akustik model ve dil modeli birlikte en olası metni bulur.
Bölüm 20: Tıbbi Görüntü İşleme
Röntgen, BT ve MR görüntüleri tanıya ve tedaviye nasıl yardım eder? Tıbbi görüntü işleme, röntgen, BT, MR ve ultrason görüntülerini tanı ve tedaviye yardım edecek biçimde iyileştirir, bölütler, ölçer ve karşılaştırır. Görüntü işleme ve bilgisayarlı görü yöntemlerini, az veri, pahalı etiket ve hasta güvenliği kısıtları altında uygular.
Bölüm 21: Uzaktan Algılama
Uydu ve hava görüntülerinden yeryüzü hakkında ne öğrenilir? Uzaktan algılama, yeryüzüne dokunmadan, uydu, uçak ya da insansız hava aracındaki algılayıcılarla yansıyan ve yayılan enerjiyi ölçerek bilgi çıkarır. Görüntü yalnızca renkli bir fotoğraf değil, her bandı farklı bir fiziksel ölçüm taşıyan çok bantlı bir veridir.
Bölüm 22: Bilgisayar Grafiği
Bir sahnenin tanımından gerçekçi bir görüntü nasıl üretilir? Bilgisayar grafiği, geometri, malzeme, ışık ve kamera ile tanımlanmış bir sahneden görüntü üretmeyi (rendering) inceler. Bilgisayarlı görünün tersidir: görü görüntüden sahneyi çıkarır, grafik sahneden görüntüyü üretir.
Bölüm 23: Robotik ve Robot Görüsü
Bir makine fiziksel dünyayı nasıl algılar, konumunu nasıl bilir ve nasıl hareket eder? Robotik, fiziksel dünyayı algılayıp onda hareket eden makineleri tasarlamayı ve denetlemeyi inceler. Ders algılama, konum kestirimi, planlama ve denetimi gürültülü ölçümler ve gerçek zaman kısıtı altında birleştirir; robot görüsü bu döngünün gözüdür.
Bölüm 24: Biyometrik Sistemler
Bir kişi yüzünden, parmak izinden ya da sesinden nasıl tanınır? Biyometrik sistemler, kişiyi yüz, parmak izi, iris ya da ses gibi bedensel ve davranışsal özelliklerinden tanır. Ders bir örnekten şablon çıkarmayı, iki şablonu eşlemeyi ve eşik seçerek kabul ya da ret kararı vermeyi inceler; güvenlik ve gizlilik bu kararın ayrılmaz parçasıdır.
Kısım IV: Veri
Bölüm 25: Veri Madenciliği
Büyük veri yığınlarındaki gizli ve işe yarar örüntüler nasıl bulunur? Veri madenciliği, büyük veri yığınlarında önceden bilinmeyen, geçerli ve işe yarar örüntüleri keşfetmeyi inceler. Makine öğrenmesiyle aynı algoritmaları kullanır; ama amaç yeni örnekte tahmin değil, verinin kendisi hakkında kural, küme ve aykırılık bulmaktır.
Bölüm 26: Veri Bilimi
Veriden doğru soruları sorup karara dönüşen sonuçlar nasıl çıkarılır? Veri bilimi, bir soruyla başlayıp veriyi bulmayı, temizlemeyi, çözümlemeyi ve sonucu karara dönüşecek biçimde anlatmayı kapsayan süreçtir. İstatistik, programlama ve alan bilgisini birleştirir; veri madenciliği ve makine öğrenmesi bu sürecin araçlarıdır.
Bölüm 27: Büyük Veri Sistemleri
Tek bir makineye sığmayan veri nasıl saklanır ve işlenir? Büyük veri sistemleri, tek bir makineye sığmayan ya da tek makinenin yetişemeyeceği hızda gelen veriyi çok sayıda makineye dağıtarak saklamayı ve işlemeyi inceler. Ders bölümleme, kopyalama, hata toleransı ve tutarlılık arasındaki ödünleşimlerle ilgilenir.
Bölüm 28: Bilgi Erişimi ve Öneri Sistemleri
Kullanıcıya en ilgili belge ya da ürün milyonlarca aday içinden nasıl getirilir? Bilgi erişimi, bir sorguya karşılık milyonlarca belge arasından en ilgili olanları bulup sıralayan sistemleri inceler. Öneri sistemleri aynı işi sorgu olmadan yapar: kullanıcının geçmişinden neyi beğeneceğini kestirir. İkisinin de çıktısı bir yanıt değil, sıralı bir listedir.
Bölüm 29: Zaman Serisi Analizi ve Tahmin
Zamana bağlı ölçümlerden yapı nasıl çıkarılır ve gelecek nasıl tahmin edilir? Zaman serisi analizi, sırası önemli olan ölçümleri inceler: dünkü değer bugünkünü etkiler. Ders seriyi eğilim, mevsimsellik ve gürültüye ayırmayı, öz ilintiyi modellemeyi ve geleceği belirsizliğiyle birlikte tahmin etmeyi öğretir.
Bölüm 30: Sosyal Ağ Analizi
Kişiler ve ilişkilerden oluşan ağlar nasıl çözümlenir? Sosyal ağ analizi kişileri düğüm, ilişkileri bağlantı sayarak oluşan çizgeyi inceler. Soru tek tek kişilerin özelliği değil, ilişkilerin yapısıdır: kim merkezde, hangi gruplar var, bir söylenti ya da hastalık ağda nasıl yayılır.
Kısım V: Matematik Temeli
Bölüm 31: Doğrusal Cebir
Vektörler ve matrisler veriyi ve dönüşümleri nasıl temsil eder? Doğrusal cebir vektörleri, matrisleri ve doğrusal dönüşümleri inceler. Yapay zekâ ve veri derslerinde neredeyse her şey bir vektördür: bir görüntü, bir sözcük, bir kullanıcı. Bir sinir ağı katmanı da büyük ölçüde bir matris çarpımıdır.
Bölüm 32: Olasılık ve İstatistik
Belirsizlik nasıl ölçülür ve sınırlı veriden nasıl güvenilir sonuç çıkarılır? Olasılık belirsizliği ölçmenin dilidir; istatistik bu dili kullanarak sınırlı veriden genel sonuç çıkarır. Yapay zekâ ve veri derslerindeki her model bir belirsizlikle çalışır: tahminin ne kadar güvenilir olduğunu ancak bu ders söyleyebilir.
Bölüm 33: Optimizasyon
Bir amaç fonksiyonunu en iyi yapan değerler nasıl bulunur? Optimizasyon, kısıtlara uyarak bir amaç fonksiyonunu en küçük ya da en büyük yapan değerleri bulmayı inceler. Yapay zekâda bir modeli eğitmek, kayıp fonksiyonunu en küçükleyen ağırlıkları aramaktır; bu yüzden her öğrenme algoritmasının içinde bir optimizasyon yöntemi çalışır.
Bölüm 34: Bilgi Kuramı
Bilgi nasıl ölçülür, en az kayıpla nasıl sıkıştırılır ve iletilir? Bilgi kuramı, bir mesajın taşıdığı bilgiyi olasılıkla ölçer: az beklenen olay daha çok bilgi taşır ve ortalama bilgi entropi ile ifade edilir. Ders, verinin en çok ne kadar sıkıştırılabileceğini ve gürültülü bir kanaldan ne hızla güvenle iletilebileceğini gösteren sınırları kurar.
Kısım VI: Sistem ve Uygulama
Bölüm 35: Makine Öğrenmesi Sistemleri ve MLOps
Bir model laboratuvardan üretime nasıl taşınır ve orada nasıl ayakta tutulur? MLOps, makine öğrenmesi modellerini üretime taşıyıp orada güvenilir biçimde çalıştırmak için yazılım mühendisliği ve DevOps alışkanlıklarını MÖ’ye uygular. Ders veriyi, kodu ve modeli birlikte sürümlemeyi, boru hattını otomatikleştirmeyi, dağıtmayı ve üretimdeki modeli izlemeyi inceler.
Bölüm 36: Gömülü Yapay Zekâ
Yapay zekâ modelleri küçük, düşük güçlü cihazlarda nasıl çalışır? Gömülü yapay zekâ, eğitilmiş modelleri telefon, kamera ya da mikrodenetleyici gibi belleği, işlem gücü ve enerjisi kısıtlı cihazlarda çalıştırmayı inceler. Ders modeli nicemleme, budama ve damıtmayla küçültmeyi, cihaza taşımayı ve gecikmeyle enerjiyi ölçmeyi kapsar; en uç biçimine TinyML denir.
Bölüm 37: GPU Programlama ve Paralel Hesaplama
Binlerce çekirdek aynı hesabı nasıl paylaşır? GPU programlama, aynı işlemi binlerce veri öğesine aynı anda uygulayan veri paralel hesaplamayı inceler. Ders CUDA gibi bir model üzerinden iş parçacıklarını düzenlemeyi, bellek hiyerarşisini verimli kullanmayı ve hızlanmayı ölçmeyi öğretir; derin öğrenmeyi pratikte mümkün kılan da bu donanımdır.
Bölüm 38: Siber Güvenlikte Yapay Zekâ
Yapay zekâ saldırıları nasıl yakalar ve kendisi nasıl saldırıya uğrar? Siber güvenlikte yapay zekâ iki soruyu birlikte sorar: makine öğrenmesi saldırıları, zararlı yazılımları ve oltalamayı nasıl yakalar; YZ sistemlerinin kendisi nasıl kandırılır? Alanı ayıran şey düşmanca ortamdır: karşıda modeli atlatmaya çalışan bir saldırgan vardır.
Bölüm 39: Biyoenformatik
Biyolojik diziler ve moleküler veriler hesaplamayla nasıl çözümlenir? Biyoenformatik, DNA, RNA ve protein dizileri gibi biyolojik verileri algoritma ve istatistikle çözümler. Ders dizi hizalama, genom birleştirme, gen ifadesi analizi ve protein yapısı tahmini gibi problemleri, bu verinin büyüklüğü ve gürültüsüyle başa çıkan yöntemlerle ele alır.
Kapanış
Bölüm 40: Karşılaştırma ve Yol Haritaları
Bütün dersler yaklaşım, girdi, çıktı, başarı ölçütü, matematik yükü ve veri ihtiyacına göre tek bir tabloda karşılaştırılır. Sık karıştırılan ders çiftlerinin farkları, gerçek problemlerin hangi derse düştüğünü soran örnekler, ilgi alanına göre ders öneren etkileşimli bir süzgeç ve birlikte alındığında anlamlı olan ders yolları verilir.
Course Map
Chapter 1: Map of the Field
This chapter sets out the purpose of the guide, how artificial intelligence, machine learning, neural networks and deep learning nest inside one another, the six parts that group the courses, the four kinds of relation between courses (subfield, builds on, shares methods, application) and the criteria used to compare them. Clicking a course on the interactive map shows its neighbours and relations.
Part I: Core
Chapter 2: Artificial Intelligence
How does a machine act intelligently by searching, reasoning and planning? Artificial intelligence studies how to design intelligent agents that perceive their environment and choose the action that best serves their goal. The course brings search, logical inference, probabilistic reasoning, planning and learning into one framework. Machine learning is part of that framework, not all of it.
Chapter 3: Machine Learning
How does a program generalize from examples? Machine learning studies algorithms that learn from examples without being explicitly programmed and generalize what they learn to new examples. In Mitchell’s definition, a program learns if its performance on task T, measured by P, improves with experience E.
Chapter 4: Artificial Neural Networks
How do networks of simple units learn by adjusting their weights? Artificial neural networks are models built by connecting, in layers, simple units that take a weighted sum and pass it through an activation function. Learning means adjusting the weights so as to reduce a loss function; the main tools for this are backpropagation and gradient descent.
Chapter 5: Deep Learning
How do many-layered networks learn useful representations from raw data? Deep learning studies how multilayer neural networks learn useful intermediate representations from raw data (pixels, audio, text) on their own, layer by layer. The key idea is representation learning instead of hand-designed features; big data, GPUs and good architectures make it possible.
Part II: Branches of AI
Chapter 6: Natural Language Processing and Text Mining
How does a computer analyze, understand and generate human language? Natural language processing studies how computers analyze, understand and generate human language; text mining extracts information and patterns from large collections of text. At the heart of the course are text representation, which turns text into numbers, and language models that predict the next word.
Chapter 7: Reinforcement Learning
How can good decisions be learned by trial and error from a reward signal alone? Reinforcement learning studies how an agent, interacting with its environment and guided only by a reward signal, learns by trial and error the behavior that maximizes total reward in the long run. The right action is never given in advance, and the effects of actions often arrive with a delay.
Chapter 8: Pattern Recognition
How do we decide from measurements which class an object belongs to? Pattern recognition studies how to decide which class an object belongs to by looking at a feature vector extracted from measurements. The course treats the chain from sensor to decision as a whole: preprocessing, feature selection, classifier design and error analysis.
Chapter 9: Fuzzy Logic and Fuzzy Systems
How do we reason with concepts like “hot” or “fast” that have no sharp boundary? Fuzzy logic drops the sharp line between belonging and not belonging to a set; it gives each element a degree of membership between 0 and 1. Rules can then be written with linguistic terms such as “hot” or “fairly fast”, and these rules produce a numeric decision or control signal.
Chapter 10: Evolutionary and Metaheuristic Optimization
How do we find a good solution when there is no gradient or the search space is huge? Evolutionary and metaheuristic optimization searches for a good solution to problems without derivatives or with huge search spaces through a loop of trying, selecting and varying. Inspired by processes such as natural selection, annealing of metals or ant colonies, these methods do not guarantee the optimum but find a good solution quickly.
Chapter 11: Expert Systems and Knowledge Representation
How is an expert’s knowledge written down and used for inference? An expert system writes a domain expert’s knowledge into a knowledge base of rules and facts and draws conclusions from it with an inference engine. Knowledge representation studies how to encode knowledge so that a computer can reason with it: logic, frames, semantic networks and ontologies.
Chapter 12: Probabilistic Graphical Models
How do we model and query many interdependent, uncertain variables? Probabilistic graphical models represent the joint distribution of many uncertain variables with a graph: nodes are variables and edges are direct dependencies. The conditional independences encoded by the graph break a huge distribution into small pieces, making it possible both to model and to query it.
Chapter 13: Generative Models
How does a model generate new samples that look like real data? Generative models learn the probability distribution of data and generate new samples from it. A discriminative model asks “is this image a cat?”, while a generative model asks “how are cat images distributed, and how do I draw a new one?”
Chapter 14: Multi-Agent Systems
How do several autonomous agents decide together or against each other? Multi-agent systems study how several autonomous agents, each deciding with its own goals and knowledge, cooperate or compete in a shared environment. One agent’s best decision is not enough: what the other agents will do must be taken into account, and joint behavior is steered by communication and rules.
Chapter 15: Explainable AI and AI Ethics
When can we trust an AI system’s decision, and who is responsible for the outcome? This course studies how to explain an AI system’s decisions in a way people can understand, and how to make the system fair, reliable and accountable. The technical question is “why did the model decide this?”; the ethical question is “whom can this decision harm, and who is responsible?”
Part III: Signals, Images and Audio
Chapter 16: Digital Signal Processing
How are sampled signals analyzed, filtered and transformed? Digital signal processing analyzes, filters and transforms audio, vibration, ECG or radio signals that have been sampled at regular intervals, using mathematical transforms. The course rests on exact mathematics, not learning; it is the common foundation of the audio, image and communications courses.
Chapter 17: Image Processing
How is an image enhanced, transformed and divided into regions? Image processing studies methods that take an image and turn it into a new image or into regions: reducing noise, boosting contrast, finding edges and object boundaries. Both input and output are images; understanding what is in the image is the job of computer vision.
Chapter 18: Computer Vision
How does a computer understand what is in an image or a video? Computer vision studies how to extract meaning from an image or video: which objects are there, where they are, what 3D structure the scene has. The input is an image but the output is not; it is a label, a box, a mask or depth. Transforming the image is the job of image processing.
Chapter 19: Speech Recognition and Audio Processing
How are words, speakers and events extracted from a sound wave? Speech recognition and audio processing study how to analyze the sound wave from a microphone and extract words, the speaker’s identity or events in the environment. Sound is first converted to time-frequency features; the acoustic model and the language model together find the most likely text.
Chapter 20: Medical Image Processing
How do X-ray, CT and MRI images help diagnosis and treatment? Medical image processing enhances, segments, measures and compares X-ray, CT, MRI and ultrasound images to support diagnosis and treatment. It applies image processing and computer vision methods under the constraints of little data, expensive labels and patient safety.
Chapter 21: Remote Sensing
What can satellite and aerial images tell us about the Earth? Remote sensing extracts information about the Earth without touching it, by measuring reflected and emitted energy with sensors on satellites, aircraft or drones. An image is not just a color photo but multiband data, where each band carries a different physical measurement.
Chapter 22: Computer Graphics
How is a realistic image produced from the description of a scene? Computer graphics studies how to render an image from a scene described by geometry, materials, lights and a camera. It is the inverse of computer vision: vision recovers the scene from an image, graphics produces the image from the scene.
Chapter 23: Robotics and Robot Vision
How does a machine sense the physical world, know where it is and move? Robotics studies how to design and control machines that sense and move in the physical world. The course combines perception, localization, planning and control under noisy measurements and real-time constraints; robot vision is the eye of this loop.
Chapter 24: Biometric Systems
How is a person recognized from their face, fingerprint or voice? Biometric systems recognize a person by physical and behavioral traits such as face, fingerprint, iris or voice. The course covers extracting a template from a sample, matching two templates and accepting or rejecting by a threshold; security and privacy are an inseparable part of that decision.
Part IV: Data
Chapter 25: Data Mining
How are hidden, useful patterns found in large piles of data? Data mining studies how to discover patterns in large data collections that are previously unknown, valid and useful. It uses the same algorithms as machine learning, but the goal is not prediction on new examples; it is finding rules, clusters and anomalies in the data itself.
Chapter 26: Data Science
How do we ask the right questions of data and turn the answers into decisions? Data science is the process that starts with a question and covers finding, cleaning and analyzing data, then communicating the result so that it leads to a decision. It combines statistics, programming and domain knowledge; data mining and machine learning are its tools.
Chapter 27: Big Data Systems
How is data that does not fit on one machine stored and processed? Big data systems study how to store and process data that does not fit on one machine, or arrives faster than one machine can keep up, by spreading it over many machines. The course deals with the trade-offs between partitioning, replication, fault tolerance and consistency.
Chapter 28: Information Retrieval and Recommender Systems
How are the most relevant documents or products picked from millions of candidates? Information retrieval studies systems that find the documents most relevant to a query among millions and rank them. Recommender systems do the same job without a query: they predict what a user will like from past behavior. Both return a ranked list, not an answer.
Chapter 29: Time Series Analysis and Forecasting
How do we find structure in measurements over time and forecast the future? Time series analysis studies measurements whose order matters: yesterday’s value affects today’s. The course teaches how to split a series into trend, seasonality and noise, how to model autocorrelation, and how to forecast the future together with its uncertainty.
Chapter 30: Social Network Analysis
How are networks of people and their relationships analyzed? Social network analysis studies the graph formed by treating people as nodes and relationships as edges. The question is not the traits of individuals but the structure of their ties: who is central, which groups exist, and how a rumor or a disease spreads through the network.
Part V: Mathematical Foundations
Chapter 31: Linear Algebra
How do vectors and matrices represent data and transformations? Linear algebra studies vectors, matrices and linear transformations. In AI and data courses almost everything is a vector: an image, a word, a user. A neural network layer is, to a large extent, a matrix multiplication.
Chapter 32: Probability and Statistics
How is uncertainty measured, and how do we draw reliable conclusions from limited data? Probability is the language for measuring uncertainty; statistics uses it to draw general conclusions from limited data. Every model in AI and data courses works under uncertainty, and only this course can say how far a prediction can be trusted.
Chapter 33: Optimization
How do we find the values that make an objective function best? Optimization studies how to find the values that minimize or maximize an objective function while respecting constraints. Training an AI model means searching for the weights that minimize a loss function, so an optimization method runs inside every learning algorithm.
Chapter 34: Information Theory
How is information measured, and how is it compressed and transmitted with the least loss? Information theory measures the information in a message by probability: an unlikely event carries more information, and the average information is called entropy. The course derives the limits on how far data can be compressed and how fast it can be sent reliably over a noisy channel.
Part VI: Systems and Applications
Chapter 35: Machine Learning Systems and MLOps
How is a model taken from the lab into production and kept running there? MLOps applies software engineering and DevOps practice to ML so that models reach production and run reliably there. The course covers versioning data, code and models together, automating the pipeline, deploying, and monitoring the model in production.
Chapter 36: Embedded AI
How do AI models run on small, low-power devices? Embedded AI studies running trained models on devices with limited memory, compute and energy, such as phones, cameras or microcontrollers. The course covers shrinking a model by quantization, pruning and distillation, moving it onto the device, and measuring latency and energy; the extreme form is called TinyML.
Chapter 37: GPU Programming and Parallel Computing
How do thousands of cores share the same computation? GPU programming studies data-parallel computation, which applies the same operation to thousands of data elements at once. Using a model such as CUDA, the course teaches how to organize threads, use the memory hierarchy efficiently and measure speedup; this is also the hardware that makes deep learning practical.
Chapter 38: AI in Cybersecurity
How does AI catch attacks, and how is it attacked itself? AI in cybersecurity asks two questions together: how can machine learning catch intrusions, malware and phishing, and how can AI systems themselves be fooled? What sets the field apart is the adversarial setting: on the other side is an attacker trying to evade the model.
Chapter 39: Bioinformatics
How are biological sequences and molecular data analyzed computationally? Bioinformatics analyses biological data such as DNA, RNA and protein sequences with algorithms and statistics. The course covers problems such as sequence alignment, genome assembly, gene expression analysis and protein structure prediction, using methods that cope with the size and noise of this data.
Wrap-Up
Chapter 40: Comparisons and Roadmaps
All courses are compared in one table by approach, input, output, success measure, math load and data needs. The chapter also covers the differences between often-confused pairs, real problems to sort into the right course, an interactive filter that suggests courses by interest, and tracks of courses that make sense together.