Die erste Frage ist keine Kostenfrage

Bevor irgendjemand über Hardware-Preise oder Lizenzkosten nachdenkt, muss eine andere Frage beantwortet sein: Wie soll KI im Unternehmen eingesetzt werden?

Diese Frage entscheidet mehr als jede Kostenrechnung.

Externe KI und lokale KI sind heute keine gleichwertigen Alternativen für alle Aufgaben. Externe Modelle wie ChatGPT oder Microsoft Copilot sind breit einsetzbar, leistungsstark und für eine Vielzahl an Aufgaben optimiert. Texte schreiben, komplexe Analysen, kreative Aufgaben, allgemeine Fragen: externe KI ist dafür heute das stärkere Werkzeug.

Lokale KI ist im aktuellen Stand der Technik vor allem dann die richtige Wahl, wenn der Anwendungsfall klar definiert ist. Ein dedizierter Wissensspeicher aus internen Dokumenten. Ein spezifischer Automatisierungsworkflow. Eine konkrete Aufgabe, die dauerhaft und datenschutzkonform laufen soll. Die Stärke lokaler KI liegt in der Tiefe eines bestimmten Einsatzzwecks, nicht in der Breite allgemeiner Fähigkeiten.

Das verändert die Frage, die Entscheider stellen sollten. Nicht: „Ersetzen wir ChatGPT durch lokale KI?“ Sondern: „Welche unserer Prozesse haben einen klar definierten KI-Bedarf mit sensiblen Daten, der dauerhaft und automatisiert laufen soll?“ Dort, und genau dort, rechnet sich lokale KI. Erst wenn diese Frage beantwortet ist, macht eine Kostenrechnung Sinn.

Lokale KI vs. externe KI: der direkte Kostenvergleich

Was externe KI kostet: die offiziellen Preise

Alle Preise direkt von den Anbieterwebsites, Stand Juni 2026:

ChatGPT Business von OpenAI kostet 25 Dollar pro Nutzer und Monat bei jährlicher Abrechnung [1].

Microsoft 365 Copilot Business (für KMU bis 300 Nutzer) kostet als Add-on 18,20 Euro pro Nutzer und Monat, zuzüglich einer separat erforderlichen Microsoft-365-Basislizenz. Die Gesamtkosten liegen bei rund 30 Euro pro Nutzer und Monat [2].

Microsoft 365 Copilot für Enterprise-Kunden kostet als Add-on 26 Euro pro Nutzer und Monat, zuzüglich einer M365-Unternehmenslizenz. Mit M365 E3 entstehen Gesamtkosten von rund 65 Euro pro Nutzer und Monat [2].

Für automatisierte API-Workflows kostet GPT-5.4, das aktuelle OpenAI-Standardmodell, 2,50 Dollar pro Million Input-Tokens und 15 Dollar pro Million Output-Tokens [3]. Ein Token entspricht etwa 0,75 Wörtern. Bei Workflows, die viele und lange Antworten generieren, ist der Output-Preis der entscheidende Kostentreiber.

Was lokale KI kostet: Hardware in drei Szenarien

Die Hardwareentscheidung hängt davon ab, wie viele Nutzer gleichzeitig arbeiten, welche Modellgrößen benötigt werden und wo der Server betrieben wird.

Szenario 1: Einstieg und Startup

Für erste Tests, kleine Teams und einfache Workflows reicht Consumer-Hardware oder ein Apple-Gerät. Ein Apple Mac Mini M4 Pro mit 24 GB Unified Memory läuft Modelle bis 14 Milliarden Parametern zuverlässig und kostet ab 1.499 Euro [4]. Er läuft lautlos unter dem Schreibtisch, braucht keinen Serverraum und verbraucht unter 30 Watt. Eine vergleichbare Windows-Lösung mit NVIDIA RTX 4070 Ti liegt bei ähnlichen Gesamtkosten von rund 1.500 Euro.

Geeignet für: 1 bis 10 Nutzer, erste Use Cases, keine Produktionsanforderungen.

Szenario 2: KMU mit 10 bis 50 Mitarbeitern

Für produktive Nutzung mit mehreren gleichzeitigen Anfragen und größeren Modellen empfiehlt sich mehr Kapazität. Ein Apple Mac Studio M4 Max mit 64 GB Unified Memory kann Modelle bis 70 Milliarden Parametern laufen lassen und kostet ab 3.179 Euro [4]. Er läuft lautlos, verbraucht rund 60 Watt unter typischer KI-Last und ist ohne dedizierten Serverraum betreibbar.

Als Windows-Alternative: Ein PC mit NVIDIA RTX 4090 (24 GB Videospeicher) liegt bei rund 4.300 Euro Gesamtkosten. Die RTX 4090 kostet ab 3.490 Euro allein [5] und bietet höhere reine GPU-Inferenzgeschwindigkeit.

Geeignet für: 10 bis 50 Nutzer, produktive Workflows, RAG-Systeme.

Szenario 3: Industrieunternehmen mit 100 und mehr Mitarbeitern

Für Mehrbenutzerbetrieb mit großen Modellen, hohen Anfragevolumina und Anforderungen an Ausfallsicherheit ist professionelle Rack-Hardware der richtige Weg. Supermicro bietet mit dem AS-4125GS-TNRT einen 4U-Rack-Server an, der bis zu 8 professionelle GPUs aufnimmt und die NVIDIA RTX PRO 6000 Blackwell unterstützt. Der Basispreis liegt ab 13.406,99 Euro ohne GPUs [6]. Eine sinnvolle Konfiguration mit einer NVIDIA RTX 6000 Ada (48 GB, ab 7.006 Euro [5]) ergibt einen Gesamtpreis von rund 20.000 bis 25.000 Euro.

Geeignet für: 50 bis 500 Nutzer, industrielle Produktionsumgebungen, Hochverfügbarkeit.

Wo läuft der Server? Drei Deployment-Optionen im Vergleich

Colocation-Preise bei deutschen Anbietern werden auf Anfrage verhandelt und nicht öffentlich gelistet. Orientierungswerte liegen bei 50 bis 120 Euro pro Monat für den reinen Rack-Stellplatz (1U bis 2U), zuzüglich Strom nach Verbrauch [8].

Beispielrechnung 1: KMU mit 20 Mitarbeitern

Annahmen: 20 Nutzer interaktiv (ChatGPT Business), 2 automatisierte Workflows (täglich 200 E-Mails à 300 Wörter), internes Dokumentenarchiv via Wissensspeicher. Hardware lokal: Apple Mac Studio M4 Max, 64 GB.

Kostenvergleich monatlich:

Einmalinvest:

Break-even:

ROI: Was lokale KI dem KMU bringt

Annahmen: 1 Servicemitarbeiter, €38.000 Brutto → €46.000 Arbeitgeberbrutto (Faktor 1,21) [9].

Beispielrechnung 2: Industrieunternehmen mit 100 Mitarbeitern

Annahmen: 100 Nutzer mit Microsoft 365 Copilot Business, mehrere automatisierte Workflows, große interne Wissensdatenbank mit technischer Dokumentation, Protokollen und Handbüchern. Hardware: Supermicro AS-4125GS-TNRT mit NVIDIA RTX 6000 Ada.

Kostenvergleich monatlich:

Einmalinvest:

Break-even:

ROI: Was lokale KI dem Industrieunternehmen bringt

Annahmen: 20 Ingenieure und Servicetechniker, 25 Minuten täglich weniger Dokumentensuche, 220 Arbeitstage, interner Stundensatz €40.

Nicht berechnet, aber erheblich: Lokale KI kann Wartungstechniker dabei unterstützen, bei Maschinenfehlern schneller die richtige Lösung zu finden. In produzierenden Unternehmen übersteigen die Kosten eines Produktionsstillstands die gesamten KI-Infrastrukturkosten häufig bereits nach wenigen Stunden.

Für welche Branchen rechnet sich das noch

Die Rechnungen oben zeigen zwei Szenarien. Das Grundprinzip gilt breiter.

Anwaltskanzleien und Rechtsberatung: Komplexe Mandate mit hunderten Dokumenten, Schriftsätzen, Beweisen und Protokollen. Lokale KI durchsucht den gesamten Mandantenbestand, findet Widersprüche in Aussagen, zieht Querverbindungen und bereitet Argumentation vor. Kein einziges Mandantendokument verlässt die Kanzlei.

Logistik und Spedition: Lieferantenverträge, Transportdokumentation, Zollunterlagen, Schadensberichte. Lokale KI durchsucht jahrelange Vertragshistorie und findet relevante Klauseln in Sekunden.

Versicherungen: Schadensakten, Policen, Regulierungsdokumentation. Ähnliche Logik wie bei Kanzleien: hohes Dokumentenvolumen, hohe Datensensibilität, klarer Suchbedarf.

Wann rechnet sich lokale KI nicht

Lokale KI lohnt sich nicht, wenn der Anwendungsfall noch nicht klar definiert ist. Wer einfach „auch KI machen will“, ohne zu wissen welchen konkreten Prozess er damit lösen möchte, sollte mit externer KI starten. Der Einstieg ist einfacher, die Modelle sind stärker, und das Ausprobieren kostet wenig.

Darüber hinaus lohnt sich lokale KI nicht bei sehr kleinen Teams unter fünf aktiven Nutzern, bei sporadischer und unkritischer Nutzung ohne Automatisierungsanspruch, und wenn keine IT-Kapazität für Einrichtung und Wartung vorhanden ist. In diesen Fällen überwiegt der Aufwand den Nutzen.

Lokale KI ist kein Ersatz für externe KI. Sie ist die richtige Ergänzung, sobald der Anwendungsfall klar ist, die Daten schützenswert sind und der Prozess dauerhaft laufen soll.

Im nächsten Artikel dieser Serie geht es darum, wie ein RAG-System funktioniert: was hinter dem Wissensspeicher steckt, der in allen Beispielrechnungen dieses Artikels eine Rolle gespielt hat.