November 16, 2026
KI im Unternehmen: Wann die bestehende IT-Infrastruktur nicht mehr reicht — und was dann zu tun ist
Die meisten Unternehmen, die sich heute mit KI beschäftigen, fangen bei der Software an. Welches Modell? Welche Plattform? Welcher Anbieter? Das ist verständlich — die Software ist sichtbar, die Hardware nicht.
Aber die Hardware entscheidet, ob ein KI-Projekt nach der Testphase auch in den Produktivbetrieb kommt. Oder ob es an der Infrastruktur scheitert, bevor es Wirkung zeigen kann.
Dieser Text richtet sich nicht an GPU-Experten, sondern an IT-Verantwortliche und Geschäftsführer, die wissen wollen: Muss ich jetzt investieren? Und wenn ja — wo fange ich an?
Drei Phasen, die fast jedes KI-Projekt durchläuft
Phase 1: Experimentieren. Ein Team will ausprobieren, ob KI für einen bestimmten Anwendungsfall funktioniert — Bilderkennung, Textanalyse, Prognosemodelle, Prozessautomatisierung. In dieser Phase reicht oft ein Cloud-Dienst oder eine einzelne Workstation mit GPU. Die Investition ist gering, das Risiko überschaubar. Viele Projekte bleiben in dieser Phase, weil der Nutzen noch nicht bewiesen ist.
Phase 2: Validieren. Das Experiment hat funktioniert. Jetzt soll das Modell mit echten Unternehmensdaten trainiert werden, auf größeren Datensätzen, mit mehreren Iterationen. Hier wird die Hardware zum Engpass: Cloud-Kosten steigen schnell, wenn die GPU stundenlang läuft. Datenschutzfragen tauchen auf, wenn vertrauliche Daten in die Cloud gehen. Und die einzelne Workstation-GPU reicht nicht mehr, weil das Modell oder der Datensatz zu groß geworden ist.
Phase 3: Produktivbetrieb. Das Modell läuft, liefert Ergebnisse und soll dauerhaft verfügbar sein. Jetzt braucht es dedizierte Hardware: einen GPU-Server mit ausreichend VRAM, zuverlässiger Kühlung, redundanter Stromversorgung und Storage, der die Trainingsdaten schnell genug liefert. Die Anforderungen sind grundlegend anders als bei einem klassischen Unternehmensserver.
Die meisten Infrastruktur-Fehlentscheidungen passieren beim Übergang von Phase 1 zu Phase 2 — wenn klar wird, dass Cloud-Kosten explodieren, aber noch kein Budget für eigene Hardware eingeplant ist.
Was die bestehende Infrastruktur kann — und was nicht
Bevor neue Hardware beschafft wird, lohnt sich ein ehrlicher Blick auf das, was vorhanden ist.
Vorhandene Server prüfen. Hat der aktuelle Virtualisierungs-Host freie PCIe-Slots? Manche Anwendungen — etwa Inference mit kleinen Modellen — können mit einer einzelnen GPU in einem bestehenden Server betrieben werden, ohne dass ein neues System nötig ist. Das setzt voraus, dass der Slot physisch frei ist, das Netzteil die zusätzliche Last verkraftet und die Kühlung ausreicht.
Workstations prüfen. Wenn ein Arbeitsplatz bereits eine professionelle GPU hat — etwa für CAD oder Simulation — kann dieselbe GPU unter Umständen auch für erste ML-Experimente genutzt werden. Nicht ideal, aber für Phase 1 oft ausreichend.
Netzwerk und Storage prüfen. KI-Training arbeitet mit großen Datensätzen. Wenn diese Daten auf einem NAS liegen, das über 1GbE angebunden ist, wird der Datentransfer zum Engpass, bevor die GPU überhaupt rechnen kann. Schon eine Umstellung auf 10GbE oder die Verlagerung der Trainingsdaten auf lokalen NVMe-Storage kann den Durchsatz vervielfachen — ohne neuen Server.
Wann neue Hardware nötig wird
Neue Hardware ist nötig, wenn mindestens einer der folgenden Punkte zutrifft:
Die GPU-Auslastung ist dauerhaft hoch — mehrere Stunden am Tag, mehrere Tage pro Woche. Cloud-Kosten summieren sich in diesem Fall schnell auf Beträge, die einen eigenen Server innerhalb von 12 bis 18 Monaten amortisieren.
Der Datenschutz erfordert lokale Verarbeitung. Wer mit personenbezogenen Daten, vertraulichen Geschäftsdaten oder regulierten Informationen arbeitet, will und darf diese Daten nicht auf fremder Infrastruktur verarbeiten.
Das Modell passt nicht in den verfügbaren GPU-Speicher. Wenn das VRAM einer einzelnen GPU nicht ausreicht, braucht es entweder eine GPU mit mehr Speicher oder ein Multi-GPU-System — beides erfordert in der Regel einen dedizierten Server.
Die Rechenzeit wird zum Projektverzögerer. Wenn ein Trainingslauf, der auf passender Hardware drei Stunden dauern würde, auf der vorhandenen Infrastruktur drei Tage braucht, bremst die Hardware das gesamte Projekt.
Wie man die Investition richtig plant
Nicht sofort den größten GPU-Server kaufen. Wer in Phase 1 steckt, braucht keinen Vier-GPU-Server. Eine einzelne leistungsfähige GPU in einer Workstation reicht für die Validierung. Erst wenn klar ist, dass der Workload dauerhaft läuft und wächst, lohnt sich die Investition in einen dedizierten GPU-Server.
Erweiterbarkeit einplanen. Wenn absehbar ist, dass die KI-Nutzung wachsen wird, sollte das System von Anfang an Platz für zusätzliche GPUs, mehr RAM und mehr Storage haben. Ein Chassis mit vier GPU-Slots, von denen zunächst nur einer bestückt wird, kostet beim Kauf etwas mehr — spart aber die komplette Neuanschaffung, wenn der Bedarf steigt.
Die Kosten jenseits der GPU berücksichtigen. Die GPU ist oft der größte Einzelposten, aber nicht der einzige. Ausreichend RAM, schneller NVMe-Storage, passende Netzwerkanbindung, Kühlung und Stromversorgung müssen zum GPU-Budget hinzukommen. Ein Chassis, das die GPU nicht kühlen kann, macht die teuerste GPU wertlos.
Cloud als Brücke nutzen. Wenn das Budget für eigene Hardware noch nicht freigegeben ist, der Bedarf aber da ist: Cloud-GPU-Instanzen überbrücken die Zeit zwischen Projektstart und Hardware-Beschaffung. Die Cloud-Kosten dokumentieren gleichzeitig den Bedarf und liefern das Argument für die spätere Investition.
Wo wir helfen — und wo nicht
Wir konfigurieren und liefern die Hardware: GPU-Server, KI-Workstations, Storage-Systeme für Trainingsdaten. Was wir nicht tun: KI-Modelle auswählen, Algorithmen entwickeln oder Software installieren. Dafür gibt es Datenwissenschaftler, ML-Engineers und spezialisierte Dienstleister.
Aber wir können die Frage beantworten, die vor der Software kommt: Welche Hardware braucht das Projekt — jetzt und in zwei Jahren? Und wir können sicherstellen, dass die GPU nicht an einem Chassis scheitert, das sie nicht kühlen kann, oder an einem Board, das nicht genug PCIe-Lanes liefert.
Über LS Computersysteme
Die LS Computersysteme GmbH & Co. KG mit Sitz in Langenfeld konfiguriert und liefert seit über 21 Jahren individuelle Server-, Storage- und Workstation-Systeme — zunehmend auch GPU-Server und KI-Infrastruktur. Unser Webshop unter server-konfigurieren.de zeigt vorkonfigurierte Systeme als Ausgangsbasis. Für GPU- und KI-Projekte beraten wir direkt per Telefon oder E-Mail.
KI-Projekte scheitern selten an der Idee. Sie scheitern am Übergang von der Testphase zum Produktivbetrieb — und dieser Übergang ist ein Hardware-Problem.
Weitere Inhalte zu diesem Thema: