Rechenzentrumsplanung mit KI
So stemmt Ihr Datacenter Künstliche Intelligenz
Künstliche Intelligenz (KI) wird im Unternehmensfeld immer mehr zum Standard. Damit geht allerdings auch ein erhöhter Energiebedarf der Rechenzentren einher, denn KIKI ist vieles - aber nicht energieeffizient. Der durchschnittliche Energiebedarf eines Datacenter-Serverracks, auf dem gängige Unternehmensapplikationen laufen, liegt bei sieben kW. KI-Apps bringen es hingegen im Schnitt auf 30 kW pro Rack - wie die Infrastruktur-Spezialisten von Afcom herausgefunden haben. Alles zu Künstliche Intelligenz auf CIO.de
Foto: Yentafern - shutterstock.com
Das liegt daran, dass Künstliche Intelligenz die Prozessoren in besonderem Maße fordert, was diese - insbesondere die GPUs - wiederum enorm leistungshungrig macht. Eine moderne GPU ist beispielsweise um Welten schneller als eine CPU - braucht aber auch circa doppelt so viel Rechenkraft pro Chip. Verkompliziert wird die Sache dadurch, dass sich viele DatacenterDatacenter in Sachen Auslastung bereits an den Grenzen ihrer Leistungsfähigkeit bewegen. Alles zu Rechenzentrum auf CIO.de
Auch wenn es um die Kühlung im Rechenzentrum geht, kann KI Probleme verursachen. ServerServer, die für den Einsatz mit Künstlicher Intelligenz ausgelegt sind, erfordern eine höhere Prozessordichte, was wiederum zu mehr Wärmeentwicklung und steigenden Kosten für die Serverkühlung führt. Alles zu Server auf CIO.de
Was also tun, wenn KI aus Wettbewerbsgründen zur Pflicht wird, das eigene Datacenter aber nicht leistungsfähig genug ist, um die Technologie zu stemmen?
Option 1: Liquid Cooling
Übersteigt der Energiebedarf eines Racks den Wert von 15 kW, verliert die Kühlung der Technik per Luft ihre Wirkung. Wasser kann im Vergleich ungefähr 3000mal so viel Wärme absorbieren. Deshalb setzen inzwischen viele Hersteller von Server Equipment bei ihren Produkten auf Wasserkühlung und statten diese mit "liquid pipes" aus. "Wasserkühlung ist eine gute Option für Workloads, die eine höhere Prozessordichte erfordern", weiß John Sasser vom Datacenter-Spezialisten Sabey. "Wasser absorbiert wesentlich mehr Hitze als Luft und bringt die Kühlungsleistung mit Hilfe von Leitungen zielgerichtet an ihren Bestimmungsort. Im Bereich High Performance Computing kommt Wasserkühlung häufig zum Einsatz."
Das Gros der Rechenzentren ist auf einen Betrieb mit Luftkühlung ausgelegt - eine Umstellung auf Wasserkühlung wird also Investitionen nach sich ziehen. Dennoch kann sich ein Umstieg unter Umständen auf lange Sicht lohnen, insbesondere wenn Ihr Unternehmen bei künftig stärker auf Künstliche Intelligenz setzen möchte.
Option 2: KI-Workloads reduzieren
Auch Datacenter, die schon einige Jahre auf dem Buckel haben, können KI-Workloads stemmen. Allerdings sollte dazu deren Komplexität reduziert werden. Im Regelfall können Sie nämlich bei den meisten Workloads auf eine Berechnung mit Doppelter Genauigkeit verzichten, wie Seve Conway von Hyperion Research empfiehlt: "Für einige Problemstellungen reicht Halbe Genauigkeit vollkommen aus."
Gleitkommazahlen-Berechnungen mit doppelter Genauigkeit, so der Experte weiter, kämen insbesondere im wissenschaftlichen Bereich zum Einsatz, nicht aber für KI-Trainings- oder Deep-Learning-Modelle, weil es schlicht nötig sei. Auch Nvidia empfiehlt für neurale Netzwerke Berechnungen mit Einfacher oder Halber Genauigkeit.
Option 3: Raum für Künstliche Intelligenz
Künstliche Intelligenz wird Teil Ihres Geschäfts. Aber sehr wahrscheinlich nicht in allen Bereichen. Das sollte sich auch innerhalb Ihres Rechenzentrums niederschlagen. "Neue Rechenzentren werden heutzutage darauf konzipiert, dass bestimmte Bereiche gezielt für Aufgaben mit erhöhtem Energiebedarf zum Einsatz kommen", weiß Doug Hollidge vom Datacenter-Betreiber Five 9s Digital.
Dazu müsse im ersten Schritt die Energieversorgung seitens des Betreibers sichergestellt sein. Im nächsten Schritt sollte ein IT-Spezialist einbezogen werden, um zu ermitteln, welcher Teil des Datacenters sich am besten für Workloads mit hoher Prozessordichte eignet, so der Experte weiter: "Die Anforderungen der Workloads bestimmen, was die beste Lösung ist. Weil kein Rechenzentrum dem anderen gleicht, gibt es auch keine one-size-fits-all-Lösung".