Das Zentrum für Nationales Hochleistungsrechnen an der Friedrich-Alexander-Universität Erlangen-Nürnberg (NHR@FAU) hat im Dezember letzten Jahres der Fa. MEGWARE Computer Vertrieb und Service GmbH aus Chemnitz-Röhrsdorf den Auftrag für die Installation zweier neuer Supercomputer erteilt. Mit den neuen High-Tech-Geräten wächst der NHR-Standort in Nordbayern weiter und steht Forschenden aus ganz Deutschland mit noch mehr Leistungskraft zur Verfügung. Finanziert werden die Systeme aus Mitteln des Nationalen Hochleistungsrechnen sowie der FAU, des Bayerischen Staatsministeriums für Wissenschaft und Kunst, der Katholischen Universität Eichstätt-Ingolstadt und der Hochschule Hof.
Wir haben mit Prof. Dr. René Peinl, Professor an der Fakultät Informatik und Leiter des Instituts für Informationssysteme (iisys) der Hochschule Hof über das Projekt gesprochen.
Prof. Peinl, was ist Ziel des Projekts?
Es geht darum die notwendigen Rechenressourcen für die Forschung an tiefen neuronalen Netzen, z.B. für Sprachassistenten, Chatbots und Bild-basierter Qualitätssicherung, an zentraler Stelle zu sammeln, anstatt in jeder einzelnen Hochschule kleinere Rechencluster aufzubauen. Dadurch können zum einen die Einkaufspreise reduziert werden, weil die Verhandlungsposition durch die Auftragsgröße viel besser ist. Zum anderen ist die Betriebsmannschaft in Erlangen besser aufgestellt mit Vertretern für Urlaub und Krankheit. Auch die Auslastung steigt, so dass es insgesamt effizienter ist. Die Strategie mit einigen wenigen großen Rechenzentren halte ich für sehr gut. Starke Zentralisierung lähmt meist und bedeutet eine zu große Machtkonzentration und Abhängigkeiten. Klein-Klein, jeder macht sein eigenes Ding, ist andererseits häufig ineffizient und meist auch weniger professionell organisiert. Ich würde mir wünschen, dass auch bei anderen zentralen IT-Systemen der Hochschule wie E-Mail, Studentenverwaltung und Collaboration-Software so verfahren wird.
Wie ist die Kooperation zustande gekommen?
Prof. Dr. Gerhard Wellein, Leiter des NHR@FAU, ist seit Oktober letzten Jahres Mitglied unseres Hochschulrats und steht im Rahmen dieser Funktion in engem Austausch mit der Hochschulleitung. Als bei uns eine Erweiterung der Rechentechnik anstand kamen wir darüber in Kontakt. Ich war persönlich erst etwas skeptisch. Es galt Herausforderungen hinsichtlich Datenschutz und Datenlagerung zu klären. Wenn wir jedes Mal erst stundenlang Daten von Hof nach Erlangen kopieren müssen, bevor wir loslegen können, dann wäre das schwierig. Es geht ja um große Datenmengen im Terabyte Bereich. Wir konnten diese Dinge aber lösen und jetzt bin ich sehr froh, dass die Kooperation zustande gekommen ist.
Wie sieht die Kooperation mit der FAU konkret aus?
Es gibt ein Onlineportal, in dem wir selbst neue Benutzerinnen und Benutzer freischalten können. Ein Benutzer meldet sich dann per Fernzugriff dort an, kopiert seine Daten und das Trainingsprogramm auf den Rechencluster in Erlangen, konfiguriert einen Arbeitsauftrag an den Rechencluster und schickt ihn ab. Der Scheduler, das ist eine automatisierte Verwaltung der Rechenkapazitäten, sortiert den Arbeitsauftrag dann ein, wenn gerade die angeforderte Kapazität frei ist. Aufträge können maximal 24h laufen. Dann müssen sie ihr (Zwischen-) Ergebnis abspeichern und ggfs. einen Folgeauftrag anstoßen, der an dem Zwischenergebnis weiterarbeitet. Trainingsdurchläufe können schnell mal 2-3 Wochen dauern.
Wofür werden die Supercomputer eingesetzt?
In Erlangen selbst wird viel im Bereich Naturwissenschaften mit Simulationen gearbeitet. Bei uns in Hof geht es hauptsächlich um Deep Learning, die Technologie hinter dem aktuellen KI-Hype. Wir bauen auf bestehenden Open Source KI-Modellen auf und trainieren diese mit eigenen Daten weiter, so dass sie für bestimmte Anwendungsfälle besser geeignet sind als vorher. Wir kooperieren dafür mit Unternehmen, insbesondere KMU aus der Region. Momentan passiert das v.a. im Zusammenhang mit unserem EFRE-Projekt „Multimodale Mensch-Maschine-Schnittstelle mit KI“, kurz M4-SKI. Multimodal bedeutet, dass das Modell nicht nur Sprache versteht, oder Bilder analysieren kann, sondern ein Modell Eingaben in Form von Bild, Text, Audio und anderen Modalitäten verwenden kann und/oder auch Ergebnisse in Form mehrerer Modalitäten produziert. So könnte z.B. ein Bild dem Benutzer helfen, eine textuelle Antwort einfacher zu verstehen.
Inwiefern profitiert die Hochschule Hof bzw. das iisys von diesem Projekt?
Wie schon gesagt, bekommen wir günstigere Einkaufspreise, müssen keine eigenen Ressourcen für die Betreuung des Rechenclusters aufwenden und zu guter Letzt auch nicht den Strom bezahlen. Das Training solcher Modelle erfordert erhebliche Mengen an Energie. Der gesamte Rechencluster in Erlangen benötigt zu Spitzenzeiten bis zu 672 kW. Wir Hofer nutzen natürlich nur einen kleinen Teil davon. Auch wenn die Auswirkungen der KI auf den Klimaschutz oft übertrieben werden, weil z.B. ein einziger Überseeflug deutlich mehr CO2 Äquivalente produziert als das Training vieler Modelle, darf man das nicht außer Acht lassen. Ich hoffe, die FAU nutzt überwiegend Ökostrom.
