Giriş

Öğrenme Çıktıları

Giriş

Neden Çok İşlemci?

• Saat hızı ≈ 2005’ten beri 3–5 GHz’de takıldı (Dennard ölçeklemesinin sonu); transistör bütçesi artık daha çok çekirdeğe gidiyor.
• İşletim sistemi: işlemci tahsisi, senkronizasyon, süreçler arası iletişim ve paylaşılan verinin tutarlılığı.

Amdahl: paralel kesim p ise n işlemcide hızlanma 1 / ((1 − p) + p/n). p = 0,95 için 8 işlemcide 5,93; 64 işlemcide 15,42; sınır 20. “İşlemci ekledikçe performans artar” ancak seri kısım küçükse doğrudur.

Çok İşlemcili Donanım

UMA: Veri Yolu Tabanlı Mimari

• UMA (Uniform Memory Access): her CPU her bellek sözcüğüne aynı sürede erişir; paralel programlama kolaylaşır.
• (a) Tek veri yolu: CPU sayısı arttıkça yol doyar; 2–4 işlemciden sonra CPU’lar zamanlarının çoğunu beklemekle geçirir.
• (b) Önbellek okumaların çoğunu yerelde karşılar, trafik azalır; ama aynı satırın kopyaları tutarlı tutulmalıdır (MESI).
• (c) Özel bellek (private memory): program kodu, sabitler, yığın ve yerel değişkenler; paylaşılan bellek yalnız paylaşılan değişkenler için.

Eski sunumda UMA “Unified Memory Access” diye açılmıştı; doğrusu Uniform (tekdüze). Günümüzde tek bir paylaşılan veri yolu yerine yonga içi halka ya da ızgara ağları kullanılır (Intel mesh, AMD Infinity Fabric).

Çok İşlemcili Donanım

Çapraz Çubuk (Crossbar) Anahtar

Örnek: eski Sun Fire E25K 18 × 18 çapraz çubuk kullanıyordu; bugün yonga içinde çekirdekler ile L3 dilimleri arasında küçük çapraz çubuklar yaygındır.

Çok İşlemcili Donanım

Omega Ağında Yönlendirme

Eski sunumdaki iki ifade düzeltildi: omega “senkron iletişim” sağlamaz, birçok aktarımı eşzamanlı taşıyabilir ama çakışmada bekletir; anahtar sayısı (n/2)·log₂n olduğu için çapraz çubuktan çok daha az donanım ve güç ister.

Çok İşlemcili Donanım

NUMA Çok İşlemcileri

Eski sunumda “Non-unified” yazıyordu; terim Non-Uniform Memory Access’tir. Tek soketli yongalar da içeride NUMA olabilir (AMD EPYC’de NPS ayarı, Intel SNC).

Çok İşlemcili Donanım

Dizin Tabanlı CC-NUMA

Bu basit tasarımda bir satır tek düğümde önbelleklenebilir. Gerçek sistemler kopya kümesini bit vektörü ya da sınırlı işaretçi listesiyle tutar; çok çekirdekli yongalarda “snoop filter” aynı işi görür.

Çok İşlemcili Donanım

Önbellek Tutarlılığı Sorunu

Tutarlılık tek bir adresle ilgilidir; farklı adreslerin sırası bellek tutarlılık modelinin (x86-TSO, ARM zayıf model) konusudur; bu yüzden kilitler bellek bariyerleri içerir.

Çok İşlemcili Donanım

MESI Protokolü

Çok İşlemcili Donanım

MESI Adım Adım

Çok İşlemcili Donanım

Yanlış Paylaşım (False Sharing)

struct sayaclar {      /* kötü */
  long a;   /* ofset 0 */
  long b;   /* ofset 8 */
};

struct dolgulu {       /* iyi */
  _Alignas(64) long a;
  _Alignas(64) long b;
};

/* iş parçacığı 0: for(..) s.a++;
   iş parçacığı 1: for(..) s.b++; */

Çok İşlemcili Donanım

Çok Çekirdekli ve Heterojen Yongalar

Çok İşlemcili Donanım

Eşzamanlı Çoklu İş Parçacığı (SMT)

• Bir fiziksel çekirdek iki mantıksal CPU gibi görünür (Intel Hyper-Threading, AMD SMT); yazmaç kümeleri ikidir, yürütme birimleri ve L1/L2 ortaktır.
• Kazanç tipik olarak %10–30; iki iş parçacığı aynı birimi isterse hiç yoktur. Çizelgeleyici önce boş fiziksel çekirdekleri doldurmalıdır.
• Güvenlik: ortak önbellek yan kanal açar (L1TF, MDS) → Linux core scheduling yalnız güvenilen iş parçacıklarını aynı çekirdeğe koyar. Intel Lunar Lake (2024) P-çekirdeklerinde SMT’yi kaldırdı.

Çok İşlemcili Donanım

GPU ve Heterojen Hesaplama

Çok İşlemcili İşletim Sistemleri

Her CPU’nun Kendi İşletim Sistemi

Bugünkü karşılığı: bölümlenmiş (partitioned) sistemler ve hipervizör üzerindeki ayrı sanal makineler; araştırmada Barrelfish “multikernel” her çekirdeği mesajla haberleşen ayrı bir düğüm gibi ele alır.

Çok İşlemcili İşletim Sistemleri

Usta-Köle (Master-Slave) Modeli

Pptx’teki “AMP”nin klasik biçimi budur. Bugün gömülü yongalarda asimetrik düzen yaşar: Linux çalıştıran Cortex-A çekirdeklerin yanında RTOS çalıştıran bir Cortex-M çekirdeği (OpenAMP, remoteproc).

Çok İşlemcili İşletim Sistemleri

Simetrik Çok İşlemciler (SMP)

Çok İşlemcili İşletim Sistemleri

Üç Modelin Karşılaştırması

Senkronizasyon

TSL ve Veri Yolu Kilidi

Senkronizasyon

Bilet Kilidi (Ticket Lock)

import java.util.concurrent.atomic.*;
public class Bilet {
  static AtomicInteger next = new AtomicInteger();
  static volatile int serving = 0;
  static int sayac = 0;
  static void lock() {
    int my = next.getAndIncrement();
    while (serving != my) Thread.onSpinWait();
  }
  static void unlock() { serving++; }
  public static void main(String[] a)
      throws Exception {
    Runnable is = () -> {
      for (int i = 0; i < 100_000; i++) {
        lock(); sayac++; unlock(); } };
    Thread t0 = new Thread(is);
    Thread t1 = new Thread(is);
    t0.start(); t1.start(); t0.join(); t1.join();
    System.out.println("sayac = " + sayac);
  }
}

Senkronizasyon

Dönen Kilitler ve Önbellek Trafiği

• (a) Saf TSL döngüsü her denemede yazar: kilit satırı CPU’lar arasında sürekli taşınır, sahibin işi de yavaşlar.
• (b) Önce oku, sonra TSL (TTAS): yerel kopya üzerinde dön; serbest görününce TSL dene. Ek olarak üstel geri çekilme (backoff) çakışmayı azaltır.
• (c) MCS (Mellor-Crummey & Scott, 1991): her bekleyenin ayrı satırda kendi bayrağı; bırakma tek bir uzak yazmadır. Linux qspinlock bu fikre dayanır.

Eski sunumdaki “önbellekte veri tutarsızlığını önlemek için çoklu kilit” ifadesi düzeltildi: amaç tutarsızlığı değil, tutarlılık trafiğini (cache thrashing) önlemektir.

Senkronizasyon

Dönmek mi, Geçiş Yapmak mı?

Çizelgeleme

Zaman Paylaşımı: Ortak Hazır Kuyruğu

Çizelgeleme

Afinite ve Yük Dengeleme

Çizelgeleme

Alan Paylaşımı (Space Sharing)

• Birbirine bağlı iş parçacıkları aynı anda ayrı CPU’larda çalıştırılır: iş başladığında istediği kadar CPU’ya ayrılır, bitene kadar onları tutar.
• CPU başına çok programlama yok → bağlam değiştirme yok. Yetecek CPU yoksa iş, yeterli CPU boşalana kadar bekler (en basit: FCFS).
• Sakınca: iş parçacığı G/Ç için bloke olunca CPU’su boşa durur. Bugün HPC kümelerinde iş zamanlayıcıları (Slurm, PBS) düğümleri böyle bölümler.

Çizelgeleme

Çete (Gang) Çizelgeleme

Çoklu Bilgisayarlar

Çoklu Bilgisayarlar ve Ağ Arayüzleri

• Çoklu bilgisayar (multicomputer, küme): her düğüm CPU + RAM + ağ arayüzü; bellek paylaşılmaz, her düğümde kendi OS kopyası çalışır. İletişim yalnız mesajla.
• Bir mesaj en kötü 5 kez kopyalanır; her kopya mikrosaniye harcar. Çözüm: NIC belleğini kullanıcı alanına eşle, DMA ve RDMA (InfiniBand, RoCE): çekirdek hiç devreye girmez.
• Kullanım: büyük ölçekli simülasyon, HPC, yapay zekâ eğitimi; TOP500 sistemleri on binlerce düğümlü çoklu bilgisayarlardır.

Çoklu Bilgisayarlar

Ara Bağlantı Topolojileri

Çap = en kötü durumda atlama sayısı; hiperküpte log₂n. Bugünkü süper bilgisayarlar çoğunlukla fat-tree ve dragonfly topolojisi kullanır; Fugaku 6B simit (Tofu) ağına sahiptir.

Çoklu Bilgisayarlar

Hiperküpte Yönlendirme

Çoklu Bilgisayarlar

Sakla ve İlet ya da Kesip Geç

Çoklu Bilgisayarlar

Bloke Eden ve Etmeyen Gönderim

MPI’de MPI_Send/MPI_Recv bloke eden, MPI_Isend/MPI_Irecv + MPI_Wait bloke etmeyen çağrılardır; Linux’ta io_uring ve sıfır kopya MSG_ZEROCOPY aynı soruna modern yanıtlardır.

Çoklu Bilgisayarlar

Uzak Prosedür Çağrısı (RPC)

Zorluklar: işaretçiler (başka adres uzayı → kopyala-geri yükle), uzunluğu bilinmeyen diziler, global değişkenler, kısmi hatalar (çağrı en az bir kez mi, en çok bir kez mi?). Koçan (stub) arayüz tanımından otomatik üretilir; bugün gRPC + Protocol Buffers, Thrift, Java RMI.

Çoklu Bilgisayarlar

Dağıtık Paylaşımlı Bellek (DSM)

Sayfa (4 KiB) ağda pahalıdır ve kaba tanelidir; bu yüzden DSM yerini mesaj iletimine (MPI) ve PGAS dillerine bıraktı. Bugünkü karşılığı CXL ile makineler arası bellek havuzlarıdır.

Çoklu Bilgisayarlar

Çizge Kuramsal Deterministik Atama

Çoklu Bilgisayarlar

Dağıtık Sezgisel Yük Dengeleme

Sanallaştırma

Hipervizörler: Tip 1 ve Tip 2

Sanallaştırma

Tuzak ve Benzet: VT-x / AMD-V

Donanım desteğinden önce VMware (1999) hassas komutları çalışma anında ikili çeviri ile değiştiriyordu. Eski sunumdaki “misafir OS donanıma erişemez, komutu hipervizöre iletir” ifadesi kesinleştirildi: yalnız hassas komutlar tuzağa düşer, diğerleri doğrudan donanımda çalışır.

Sanallaştırma

Yarı Sanallaştırma (Paravirtualization)

• Misafir OS değiştirilir: hassas komutlar yerine hipervizöre doğrudan hiperçağrı (hypercall) yapar — sistem çağrısının bir alt katmandaki benzeri.
• Tuzak ve benzetme maliyeti yok, daha hızlı; ama kaynak kodu değiştirilebilen OS gerekir (Xen 2003).
• VMI (Virtual Machine Interface), tek çekirdeğin hem donanımda hem farklı hipervizörlerde çalışması için önerildi; 2011’de Linux’tan kaldırıldı. Bugün yarı sanallaştırma sürücülerde yaşar: virtio disk/ağ, paravirt saat, Hyper-V aydınlatmaları.

Günümüz bulutlarında CPU ve bellek donanım destekli tam sanallaştırılır; G/Ç ise virtio ya da SR-IOV ile doğrudan aygıt ataması kullanır.

Sanallaştırma

Bellek Sanallaştırma: Gölge Tablo ve EPT

Sanallaştırma

Konteynerler ve Sanal Makineler

Arada: Firecracker mikro-VM’leri (AWS Lambda), gVisor ve Kata Containers, konteyner kolaylığını VM yalıtımıyla birleştirir.

Dağıtık Sistemler

Dağıtık Sistemler ve Ara Yazılım

• Dağıtık sistem: ağ üzerinden haberleşen özerk bilgisayarlar; her biri kendi OS’ini, belleğini ve kaynaklarını yönetir, kullanıcıya tek bir tutarlı sistem gibi görünmeye çalışır.
• Düğümler farklı donanım ve OS çalıştırabilir, farklı kurumlara ait olabilir, dünyaya yayılabilir. Ortaklık ara yazılım katmanıyla sağlanır.
• Dört paradigma: belge (Web), dosya (NFS, SMB), nesne (CORBA, RMI, gRPC), koordinasyon (Linda, yayınla-abone ol).

Eski sunumdaki “kaynak tahsisi dağıtık işletim sistemi tarafından yönetilir” ifadesi düzeltildi: gerçek dağıtık OS’ler (Amoeba, Plan 9) araştırmada kaldı; bugün her düğüm kendi OS’ini çalıştırır, dağıtımı ara yazılım ve küme yöneticileri (Kubernetes) yapar.

Dağıtık Sistemler

Üç Sistem Türünün Karşılaştırması

Tanenbaum (MOS 4e, Şekil 8-29). Eski sunumda dağıtık sistemde çevre birimleri “tümü paylaşılır” yazıyordu; doğrusu her düğümün kendi tam setine sahip olmasıdır. Çoklu bilgisayarda da disk her zaman paylaşılmaz.

Dağıtık Sistemler

Ağ Donanımı ve Kapsülleme

• Klasik Ethernet (1976) tek kabloyu paylaşıyordu; bugün her bilgisayar bir anahtara bağlı, bağlantılar 1–400 Gb/s ve tam çift yönlü.
• LAN’lar yönlendiricilerle birbirine, yerel ağlar ISS’lere ve İnternet omurgasına (yüksek hızlı fiber hatlar, değişim noktaları) bağlanır.

Dağıtık Sistemler

Ağ Protokolleri ve Servis Türleri

Güvenilir servis: teslim ve sıra garanti, alındı onayı (ACK). Bağlantı yönelimli: önce kurulum, sonra veri, sonra sonlandırma; bağlantısız servis kurulum maliyeti olmadan her paketi bağımsız gönderir. Eski sunumdaki “UDP’de hata algılama yok” düzeltildi: UDP sağlama toplamıyla bozuk paketi algılar ama düzeltmez ya da yeniden göndermez.

Dağıtık Sistemler

Belge Tabanlı Ara Yazılım: Web

Eski sunumdaki akış (port 80, her nesne için yeni TCP bağlantısı, sonra kapat) HTTP/1.0 dönemine aitti; bugün varsayılan HTTPS (443), kalıcı bağlantılar ve HTTP/2–3 çoğullamasıdır.

Dağıtık Sistemler

Dosya Sistemi Tabanlı Ara Yazılım

Adlandırma: makine:/yol (konum şeffaf değil) → uzak sistemi yerel ağaca bağlama → tüm makinelerde aynı tek ad alanı (konumdan bağımsızlık). Bugünkü örnekler: NFSv4, SMB 3, nesne depolama (S3).

Dağıtık Sistemler

Dosya Paylaşımının Anlamı

Dağıtık Sistemler

Nesne Tabanlı Ara Yazılım: CORBA

Eski sunumdaki “SII, DII’nin önceden derlenmiş sürümüdür” ifadesi düzeltildi: ikisi ayrı mekanizmalardır. CORBA (OMG, 1991) bugün eski sistemlerde yaşar; yeni sistemlerde gRPC/Protobuf, REST ve Java RMI tercih edilir.

Dağıtık Sistemler

Koordinasyon Tabanlı Ara Yazılım: Linda

Dağıtık Sistemler

Yayınla-Abone Ol ve Jini

Dağıtık Sistemler

Bulut ve Kümeler

• Küme: hızlı ağla bağlı, tek yönetimdeki sunucular (HPC, veri merkezi). Bulut: bu kaynakların ağ üzerinden, isteğe bağlı ve kullandıkça öde biçiminde sunulması (AWS, Azure, Google Cloud).
• Altyapı: KVM/Nitro sanallaştırma, konteynerler ve Kubernetes (pod’ları düğümlere çizelgeler, çökeni yeniden başlatır: dağıtık OS’in bugünkü karşılığı).
• Bu bölümün tüm konuları burada birleşir: NUMA sunucular, sanal makineler, RDMA ağları, yük dengeleme, yayınla-abone ol kuyrukları.

Özet

Özet

Özet

Kontrol Soruları

1. 64 × 64 çapraz çubukta kaç kesişim, 64 girişli omega ağında kaç 2 × 2 anahtar var?
2. Omega ağında CPU 011 → bellek 110 isteği hangi anahtar ve çıkışlardan geçer?
3. Yerel 80 ns, uzak 140 ns, erişimlerin %75’i yerel: ortalama erişim süresi?
4. MESI’de E ve S durumundaki bir satıra yazmanın veri yolu açısından farkı nedir?
5. İki iş parçacığının ayrı sayaçları neden birbirini yavaşlatabilir? Çözüm?
6. Bilet kilidi saf TSL döngüsünden hangi iki açıdan üstündür?
7. Çete çizelgelemenin iki koşulu nedir, hangi sorunu çözer?
8. 256 düğümlü hiperküpün çapı nedir? 16 × 16 simidin çapı nedir?
9. 4 düzeyli tablolar ve EPT ile TLB kaçırması en kötü kaç bellek erişimi ister?
10. in("abc", ? x, 5) (x int), ("abc", 2, 5) ve ("abc", 2.0, 5) demetlerinden hangisiyle eşleşir?

Özet

Kaynaklar

• A. S. Tanenbaum, H. Bos, Modern Operating Systems, 4. baskı (2014) / 5. baskı (2022), Pearson — Bölüm 8: Multiple Processor Systems; Bölüm 7: Virtualization and the Cloud.
• A. Silberschatz, P. B. Galvin, G. Gagne, Operating System Concepts, 10. baskı, Wiley, 2018 — Bölüm 5.5 (Multi-Processor Scheduling), 18 (Virtual Machines), 19 (Networks and Distributed Systems).
• R. H. Arpaci-Dusseau, A. C. Arpaci-Dusseau, Operating Systems: Three Easy Pieces (OSTEP), ostep.org — “Multiprocessor Scheduling”, “Locks”, “Distributed Systems”, “Sun’s NFS”, “AFS”, Ek: “Virtual Machine Monitors”.
• J. L. Hennessy, D. A. Patterson, Computer Architecture: A Quantitative Approach, 6. baskı, Morgan Kaufmann, 2017 — Bölüm 5: Thread-Level Parallelism (tutarlılık, MESI, dizin protokolleri).
• J. M. Mellor-Crummey, M. L. Scott, “Algorithms for Scalable Synchronization on Shared-Memory Multiprocessors”, ACM TOCS, 1991; A. D. Birrell, B. J. Nelson, “Implementing Remote Procedure Calls”, ACM TOCS, 1984; G. J. Popek, R. P. Goldberg, CACM, 1974.
• Linux çekirdek belgeleri: “CFS/EEVDF Scheduler”, “Scheduler Domains”, “NUMA Memory Policy”, “Core Scheduling”; Intel SDM Cilt 3 (VMX, EPT).