Aktuelles und Neuigkeiten.

Aktuelles und Neuigkeiten über unsere Gruppe finden Sie unten auf dieser Seite.

 

 

 

 

PARALLELE UND VERTEILTE SYSTEME

Willkommen bei der Arbeitsgruppe Parallele und Verteilte Systeme des Institus für Informatik am Fachbereich Mathematik und Informatik der Universität Münster. Wir beschäftigen uns mit Fragestellungen, die im Kontext von parallelen und verteilten Systemen auftreten. Bitte nutzen Sie die Links in der Navigationsleiste, um Informationen über unsere Forschung, das Lehrangebot sowie die Mitarbeiter der Arbeitsgruppe zu erhalten.

 

 

 

Vorstellung auf PLDI'24

Wir freuen uns mitteilen zu können, dass wir auf der internationalen Top-Konferenz ACM SIGPLAN Conference on Programming Language Design and Implementation (Rank A*) dieses Jahr gleich zwei Arbeiten vorstellen konnten.

Bastian Köpcke stellte unsere GPU-Sprache Descend vor, die von Rust inspiriert eine sichere Programmierung von GPUs ermöglicht.

Ari Rasch stellte einen formal-basierten Ansatz zum Ausdrücken und Optimieren von datenparallelen Berechnungen vor, basierend auf unserer Theorie der Multi-Dimensionalen Homomorphismen. Die Arbeit ist insbesondere im Bereich der künstlichen Intelligenz von hoher Relevanz und in dem Top-Journal ACM Transactions on Programming Languages and Systems (TOPLAS) veröffentlicht. 

Vorstellung auf CC-Konferenz

Unsere neuesten Arbeiten zu GPU/CPU-Optimierungen mithilfe sog. Scheduling-Sprachen wurden auf der prominenten ACM SIGPLAN 2023 International Conference on Compiler Construction von Ari Rasch und Richard Schulze in Montreal, Kanada vorgestellt:

(De/Re)-Compositions Expressed Systematically via MDH-Based Schedules

Autoren:

• Ari Rasch (University of Münster, Germany)

• Richard Schulze (University of Münster, Germany)

• Denys Shabalin (Google Zurich, Switzerland)

• Anne C. Elster (Norwegian University of Science and Technology (NTNU), Norway)
• Sergei Gorlatch (University of Münster, Germany)
• Mary Hall (University of Utah, USA)

Die Arbeit ist entstanden in Kollaboration mit Google Zürich, der Norwegian University of Science and Technology (NTNU), sowie der University of Utah, USA.

Co-Organisation einer Internationaler Tagung: Lorentz-Center Workshop "Generic Autotuning Technology for GPU Applications"

Das Lorentz-Zentrum ist ein Workshop-Zentrum in den Niederlanden, das wissenschaftliche Treffen für internationale Teilnehmer veranstaltet. Ungleich üblichen Workshops, zeichnen sich die Veranstaltungen des Lorentz-Zentrums durch eine offene und interaktive Atmosphäre aus, sowie durch eine hohe wissenschaftliche Qualität.

Unsere Arbeitsgruppe ist an der Organisation eines bevorstehenden Workshops im März 2022 maßgeblich beteiligt. Ziel des Workshops ist es, Technologien aus dem Bereich der automatischen Programmoptimierung (auch bekannt als auto-tuning) mit führenden internationalen Experten auf dem Gebiet zu diskutieren und offene Forschungsfragen zu identifizieren und anzugehen.

Unsere AG wird maßgeblich sowohl zur Organisation als auch zu den Diskussionen und Vorträgen des Workshops beitragen, gestützt durch unsere Arbeiten zu den Forschungsprojekten Auto-Tuning Framework (ATF) und Elevate. Vertreten wird die AG auf der Tagung durch: Richard Schulze (Teilnehmer), Johannes Lenfers (Teilnehmer), und Ari Rasch (Organisator).

DFG-Projekt: „Performance, Portabilität und Produktivität für Deep-Learning Anwendungen auf Multi- und Many-Core Architekturen (PPP-DL)“

Die Deutsche Forschungsgemeinschaft (DFG) hat erfreulicherweise unseren Antrag genehmigt und wird das Forschungsprojekt mit dem o.g. Titel für insgesamt 36 Monate mit einer Summe von ca. 600.000 € inkl. Programmpauschale fördern.

Deep Learning (DL) ist derzeit die populärste Methode des maschinellen Lernens, mit der eine Vielzahl realer Probleme sowohl in der Wissenschaft als auch in der Industrie gelöst werden. Der Erfolg von DL-Anwendungen hängt entscheidend von der Qualität der Software ab, die DL-Algorithmen auf modernen hoch-performanten Architekturen mit multi-core CPU und Grafikprozessoren (GPU) implementiert.

In unserem Projekt werden wir einen neuartigen Ansatz zur automatischen Codegenerierung und -optimierung für DL-Anwendungen entwickeln, basierend auf der Theorie der Multi-Dimensionalen Homomorphismen (MDH), die in unserer Arbeitsgruppe aktiv entwickelt wird. Durch unseren MDH-Ansatz sollen drei fundamentale Herausforderungen für die Codegenerierung und -optimierung für DL angegangen werden: Performance, Portabilität und Produktivität (PPP).

Die Arbeiten im Projekt werden von zwei Wissenschaftlichen Mitarbeitern in Vollzeit – Ari Rasch und Richard Schulze – durchgeführt, unterstützt von einer studentischen Hilfskraft, unter der allgemeinen Federführung von Prof. Sergei Gorlatch.

SIGPLAN Research Highlight 2021

Die Special Interest Group on Programming Languages (SIGPLAN) der Association for Computing Machinery (ACM) veranstaltet weltweit Top-Konferenzen im Bereich Konzept, Design und Implementierung von Programmiersprachen und zugehörigen Tools. Zusätzlich zeichnet die SIGPLAN jährlich wenige Paper besonderer Qualität als sogenannte Research Highlights aus.

Erfreulicherweise wurde unser Forschungsbeitrag "Achieving high-performance the functional way: a functional pearl on expressing high-performance optimizations as rewrite strategies" (angenommen und veröffentlicht bei ICFP 2020, Rank A) nun als SIGPLAN Research Highlight ausgezeichnet.

Nomination Statement of the ACM:

"High-performance array code, for applications such as machine learning or image processing, needs both good algorithms and highly tuned code. While the algorithms are quite general, the tuning–involving optimisations such as tiling, vectorisation, and loop unrolling–is very platform specific. This paper cleanly separates those concerns, providing domain-specific languages for specifying the algorithm and the optimisations independently, with an optimisation language that supports abstraction and reuse properly for the first time. As a result we can enjoy elegance, and state-of-the-art performance, both at the same time. Sometimes we can have our cake and eat it too."

Autoren:

• Dr. Bastian Hagedorn – ehemaliger Doktorand der AG PVS an der Universität Münster, jetzt Senior Deep Learning Compiler Engineer bei NVIDIA
• Johannes Lenfers - Doktorand der AG PVS an der Universität Münster
• Thomas Kœhler - Doktorand an der Univ. Glasgow
• Xueying Qin - jetzt Doktorandin an der Univ. Edinburgh
• Prof. Sergei Gorlatch - Leiter der AG PVS an der Universität Münster
• Dr. Michel Steuwer - Lecturer an der Univ. Edinburgh, ehemaliger Doktorand der AG PVS an der Universität Münster

Diese Arbeit ist im Rahmen der Kooperation der Arbeitsgruppe PVS mit den Universitäten Glasgow und Edinburgh (UK) entstanden, welche auch in Zukunft weitergetrieben wird.

 

 

PACT'20: 1st Place at ACM/Microsoft Student Research Competition (SRC)

Wir freuen uns mitteilen zu können, dass wir dieses Jahr auch auf der internationalen Top-Tagung PACT (ACM/IEEE International Conference on Parallel Architectures and Compilation Techniques) den 1. Preis der Microsoft/ACM Student Research Competition (SRC) gewonnen haben.

PACT ist eine jährlich stattfindende Top-Tagung (A-Ranking), die sich mit neuesten Kompiliertechniken für parallele Architekturen beschäftigt.

Ari Rasch hat auf dem PACT SRC die aktuellen Ergebnisse zur Code-Generierung und automatischen Code-Optimierungen für Stencil-Berechnungen vorgestellt, mit dem Titel: "md_stencil: High-Performance Stencil Computations on CPU and GPU via Multi-Dimensional Homomorphisms", entstanden in Zusammenarbeit mit Richard Schulze in unserer Arbeitsgruppe.

Die Arbeit hat sehr großes Interesse auf der Tagung erweckt und wurde mit dem höchsten Preis ausgezeichnet.

Herzlichen Glückwunsch!

CGO'20: 1st Place at ACM/Microsoft Student Research Competition (SRC)

Wir freuen uns mitteilen zu können, dass Ari Rasch -- Doktorand in der AG für "Parallel und Verteile Systeme" -- die ACM/Microsoft Student Research Competition (SRC) der internationalen Top-Tagung CGO (ACM/IEEE International Symposium on Code Generation and Optimization) mit dem 1. Platz belegt hat. Auf dem Symposium wurden die aktuellen Arbeiten von Ari Rasch, Richard Schulze und Sergei Gorlatch zu Polyhedralen-Kompiliertechniken und Multi-Dimensionalen Homomorphismen vorgestellt, mit dem Titel "md_poly: A Performance-Portable Polyhedral Compiler Based on Multi-Dimensional Homomorphisms".

 

Best Poster Award PUMPS+AI'19

 

Die PUMPS+AI (Programming and Tuning Massively Parallel Systems + Artificial Intelligence) ist eine jährlich stattfinde internationale Tagung, die Experten in Bereichen der künstlicher Intelligenz und der parallelen Programmierung von Hochleistungsrechnern vereint. Sie wird von den führenden Universitäten (Urbana-Champaign, Barcelona, etc.) sowie den marktführenden Hardware-Herstellern (NVIDIA Corp., etc.) organisiert.

 

Das Format der Tagung beinhaltet traditionell eingeladene Vorträge führender Wissenschaftler sowie Poster von Doktoranden.  

 

Erfreulicherweise  wurde das Poster von Richard Schulze (Doktorand der AG PVS), in Zusammenarbeit mit Ari Rasch und Sergei Gorlatch, mit dem renommierten *Best Poster Award 2019* ausgezeichnet. Der Preis wurde von Prof. Wen-mei Hwu (University of Illinois at Urbana-Champaign) und Dr. David Kirk (NVIDIA Corp.) im Rahmen einer festlichen Zeremonie übergeben.

 

Best Paper Award CGO'18

Das ACM/IEEE International Symposium on Code Generation and Optimization (CGO) ist eine der Top-Tagungen weltweit auf dem Gebiet der Softwareentwicklung, -Kompilierung  und -Optimierung.

Erfreulicherweise wurde unser neuester Forschungsbeitrag unter dem Titel: "High Performance Stencil Computations with Lift" bei der CGO 2018 mit dem begehrten Best Paper Award ausgezeichnet.

Die Autoren des Papers sind:

M.Sc. Bastian Hagedorn – Hauptautor, Doktorand in der AG PVS an der Universität Münster,

Prof. Sergei Gorlatch – Leiter der AG PVS an der Universität Münster,

Dr. Michel Steuwer – Lecturer an der Univ. Glasgow, ehemaliger Doktorand der AG PVS,

Larisa Stolzfuss – Doktorandin an der Univ. Edinburgh,

Prof. Christophe Dubach – Reader an der Univ. Edinburgh.

Der Award wurde im Rahmen einer festlichen Zeremonie an Bastian Hagedorn von der Program Chairperson des Symposiums Mrs. Teresa Johnson (Google) übergeben, siehe Photo.

Diese Arbeit ist in einer laufenden Kooperation (Lift Projekt) mit den Universitäten Glasgow und Edinburgh (UK) entstanden, die auch in der Zukunft weiter betrieben wird. Im Rahmen dieser Kooperation sind Bachelor- und Masterarbeiten sowie Projektseminare geplant.