Jülich Supercomputing Centre, Forschungszentrum Jülich GmbH

Projekt

Forschungszentrum Jülich (FZJ) – Supercomputing als Treiber der Wissenschaft

Das Forschungszentrum Jülich (FZJ) – ein Mitglied der Helmholtz-Gemeinschaft – ist mit fast 7000 Mitarbeitern eines der größten Forschungszentren in Europa. Es führt interdisziplinäre Spitzenforschung zu den gesellschaftlichen Herausforderungen in den Bereichen Gesundheit, Energie und Umwelt sowie Informationstechnologien durch. Innerhalb des Forschungszentrums ist das Jülich Supercomputing Centre (JSC) als Teil des Gauss Centre for Supercomputing (GCS) eines der drei nationalen Supercomputing-Zentren in Deutschland. Gegenwärtig betreibt das JSC das leistungsfähigste Rechensystem in Europa (JUWELS) und stellt es der breiten Wissenschaftsgemeinschaft zur Verfügung.

Höchstleisungsrechnen ermöglicht große Sprachmodelle

Das JSC bringt in OpenGPT-X seine Expertise in Höchstleistungsrechnen (HPC) ein, fokussiert auf drei Aspekte:
i) Entwicklung von Methoden für Hochskalierung der Sprachmodelle auf Supercomputers;
ii) Optimierung von Sprachmodellen auf hunderten von GPU-Rechnerknoten; und
iii) Identifikation der Anforderungen von Sprachmodellen auf zukünftigen HPC-Architekturen.