Paralleles und verteiltes Rechnen

Aktuelles

7.11. Ab heute ist die Vorlesung in H16.

7.10. Es gibt im Moment keine Teilnehmerbegrenzung mehr. Wir suchen eine andere Lösung.

9.9. ~~Es gibt eine Teilnehmerbegrenzung auf maximal 80 Teilnehmer.~~

Inhalt

Diese Veranstaltung führt in die Grundlagen des parallelen und verteilten Rechnens ein:

Parallelarchitekturen,
Parallele Programmiermodelle anhand von (iterativen) Lineare-Gleichungssystem-Lösern...
...und anhand von weiteren gut parallelisierbaren Algorithmen.

Der Inhalt ist so in etwa das, was hier steht:
Buch von Rauber-Rünger: Kapitel 2.1-2.5, 4.2, 4.5.1, (wird fortgesetzt).
Buch von Golub-Ortega: 3.2, 3.3 (nur bis "Schnelle Matrixmultiplikation")

Die Übungen ergänzen dies komplementär mit praktischen Übungen zu Netzwerk-Protokollen sowie Client-Server-Programmierung in python oder perl.
Siehe auch die ekVV-Seiten zur Vorlesung und zur Übung.

Quellen zur Vorlesung:

Rauber, Rünger: Parallele Programmierung (pdf über Unibibliothek erhältlich)
Golub, Ortega: Scientific Computing

Die Folien

Die handschriftlichen Folien, bzw Tafelanschriebe.

(17.10.) Kap. 1: Parallele Architekturen: n-bit-Rechner, Vektorrechner
(24.10.) Kap. 1: Parallele Architekturen: Pipelining, SISD, SIMD, MIMD
(31.10.) Kap. 2: Netzwerktopologie: Graphen; die Kandidaten.
(7.11.) Kap. 2: Die Sieger; Einbettungen; zur Preisfrage: Einbettung vollständiger Binärbäume in Gittergraphen.
(21.11.) Kap. 3: Parallele Rechnermodelle: Übersicht; RAM einfach; RAM erweitert - PRAM; CRCW - CREW - EREW.
(28.11.) Kap. 4: Parallelisierbarkeit: axpy - summieren; A·v - erfüllende Belegungen; Amdahls Gesetz.
(5.12.) Kap. 5: Erinnerung an Lineare Algebra, Kap. 6: Lineare Algebra-Operationen parallel: axpy - ⟨v, w⟩, A·x .
(Entschuldigen Sie die Qualität, ich habe die Fotos verbockt)
(12.12.) Kap. 6: Lineare Algebra-Operationen parallel: A·B Schleifen schachteln, A·B Speicherzugriff.
(19.12.) Kap. 7: Sortieren auf Parallelrechnern: Mergesort klassisch, Mergesort parallel: Idee, Mergesort parallel: Algorithmus und Laufzeit.
(Sorry, die a_i heißen im Beweis nach Schritt 2 plötzlich k_i.)

Organisatorisches

Vorlesung: Fr 12-14 in ~~S0-209~~ in H16.
Übungen: Als Block nach der Vorlesungszeit, Anfang/Mitte Februar. Details folgen.

Zuletzt geändert am 19.12.2025 Dirk Frettlöh