Erweiterung NHR&Tier3 HPC-Cluster 2023/2024 an der FAU um 4 Racks und optionalen NVMe-Storage für bayerische KI-Forschung

2023 hat das Zentrum für Nationales Hochleistungsrechnen Erlangen (NHR@FAU) der Friedrich-Alexander-Universität Erlangen-Nürnberg die Beschaffung (a) eines Linux-basierten Parallelrechners ("CPU-Segment") mit hoher Applikationsleistung für kommunikations- und rechenintensive Anwendungen inkl. parallelem Dateisystem sowie (b) eines neuen Beschleuniger-Segments für AI/ML-Anwendungen sowie Molekulardynamik-Simulationen ausgeschrieben (2023/S 077-232968). Das System wird in Q4/2024 bzw. Q1/2025 geliefert werden. Im Folgenden wird dieses System stets als "Basissystem" bezeichnet. Das Basissystem enthält bereits eine Komponente mit Nvidia H100 GPGPUs für die Versorgung bayerischer KI-Forschender. Zur Abdeckung des weiter steigenden Rechenbedarfs der bayerischen Wissenschaft, beabsichtigt das Zentrum für Nationales Hochleistungsrechnen Erlangen (NHR@FAU) die Erweiterung des oben genannten "Basissystems" um mindestens 380 Nvidia H200 GPGPUs. Im Folgenden werden diese zusätzlichen GPGPU-Knoten stets als "Erweiterung" bezeichnet. Das "Basissystem" und die beabsichtige "Erweiterung" sind als ein gemeinsames, möglichst homogenes System zu betreiben. Optional soll ein NVMe-Storage ergänzt werden, der dann bei Bedarf über Building-Blocks für einen Zeitraum von bis zu 24 Monaten ab Abnahme durch Nachkäufe zu transparenten Konditionen erweiterbar sein muss. Die Softwareinstallation wird dabei durch das "Basissystem" vorgegeben. Login- und Admin-Knoten werden ebenfalls durch das "Basissystem" gestellt. Für die Erweiterung steht nur beschränkt Stellfläche zur Verfügung und die Strom-/Kühlinfrastruktur ist entsprechend der Infrastruktur des "Basissystems" vorbereitet. Um einen einheitlichen Betrieb von "Basissystem" und "Erweiterung" als ein einziges, möglichst homogenes Gesamtsystems zu gewährleisten, ist eine Produkt- und Hersteller-neutrale Formulierung für die "Erweiterung" im Gegensatz zur vorausgegangenen Ausschreibung des "Basissystems" in weiten Teilen nicht möglich. Sofern die Lieferung der Erweiterung nicht aus "einer Hand" erfolgt, muss in den Angebotsunterlagen klar dargelegt werden, wie für den Auftraggeber die Risiken minimiert werden, die sich aus der Sicherstellung der Gewährleistungsansprüche und der Haftung ergeben, sowie wie der Betrieb als ein einheitliches Gesamtsystem aus unterschiedlichen Quellen sichergestellt wird.