Eigener KI-Server im Rechenzentrum:
192 GB VRAM für Medienworkflows

Wer KI in der Medienproduktion ernst meint, landet irgendwann bei der Frage, wo gerechnet wird. Die Antwort entscheidet über Kosten, über Geschwindigkeit und darüber, wem das Material zwischendurch gehört.

Unsere Antwort ist ein eigener Server. Er kam per Spedition, ging direkt weiter ins Rechenzentrum und läuft dort seither.

Die Bestückung ist auf große Sprachmodelle ausgelegt. Der Speicher auf den Grafikkarten ist dabei der Engpass, der über die Modellgröße entscheidet, nicht die reine Rechenleistung.

Das ist kein Versuchsaufbau, um zu sehen, was maschinelles Lernen kann. Es ist Infrastruktur mit Datensouveränität, für alle, die es ernst meinen.

Material aus laufenden Produktionen verlässt damit nicht das Haus, nur weil ein Modell darauf zugreifen soll. Wer schon einmal geklärt hat, ob Rohmaterial in eine fremde Cloud darf, kennt den Wert dieser Frage.

Der Server steht bei der tal.de GmbH in Wuppertal und wurde dort integriert. Anbindung, Strom und Kühlung sind damit kein Thema mehr, das nebenbei mitlaufen muss.

Betrieben wird er mit SimplyHUB, aktuell für ein Kundenprojekt im Bereich Reality.

Solche Aufbauten liefern wir auch für Kunden, von der Auslegung über die Integration bis zum Betrieb. Die sinnvolle Bestückung hängt daran, welche Modelle laufen sollen und wie viel Material gleichzeitig durch die Maschine geht.