IT-Betrieb · ERP mit Odoo · Private AI

Lokaler KI-Server für Unternehmen: was er kostet und was er kann

Ein Server in Ihrem Haus oder in einer dedizierten Umgebung in Deutschland, auf dem Sprachmodelle laufen – ohne dass Dokumente das Unternehmen verlassen. Hier finden Sie Hardware-Klassen, Betriebsoptionen und Kosten, Stand Oktober 2026.

KI-Audit anfragen Kosten ansehen

Was auf einem lokalen KI-Server läuft

Ein lokaler KI-Server für Unternehmen ist kein Experimentierkasten, sondern ein Stück Infrastruktur mit festen Aufgaben:

Sprachmodelle über Ollama. Lokale Modelle, die wir austauschen können, ohne Ihre Anwendungen anzufassen – weil die Anwendungen mit dem Server sprechen, nicht mit einem bestimmten Modell.
Suche über eigene Dokumente (RAG). Handbücher, Verträge, Verfahrensanweisungen werden durchsuchbar; Antworten nennen die Quelle.
Rollen, Freigaben, Audit-Log. Wer darf was fragen, und wer hat was gefragt – nachvollziehbar für Geschäftsführung und Datenschutz.
Konnektoren. Anbindung an Odoo, E-Mail und Microsoft 365, damit Rechnungen, Tickets und Angebote dort landen, wo Sie arbeiten.
Anwendungen. Rechnungseingang, Ticketantwort, Angebotsentwurf, Dokumentensuche – die Fälle, die wir im Pilot messen.

Zwei Hardware-Klassen

Wir unterscheiden zwei Klassen – bewusst ohne Datenblatt, weil die passende Konfiguration vom Anwendungsfall abhängt und sich die verfügbaren Komponenten schnell ändern:

Klasse	Für wen	Typischer Einsatz
Klein	Wenige Nutzer, ein Anwendungsfall	Dokumentensuche, Entwürfe für E-Mails und Angebote
Mittel	Mehrere Fachbereiche, mehrere Modelle parallel	Rechnungseingang und Ticketantwort gleichzeitig, mehrere Konnektoren

Welche Klasse Sie brauchen, ist ein Ergebnis des KI-Audit – nicht einer Preisliste.

Betriebsoptionen: bei Ihnen oder in Deutschland

Server in Ihrem Haus. Sie kaufen oder leasen die Hardware, sie steht bei Ihnen, die Daten verlassen das Gebäude nicht. Voraussetzung sind Platz, Strom, Netzwerk und eine Sicherung – das prüfen wir im Audit.
Betrieb in Deutschland. Für Unternehmen ohne geeigneten Raum betreiben wir Ihren Server in Deutschland – als Ihr Server, nicht als geteilte Plattform.

In beiden Fällen installieren wir, überwachen den Betrieb, spielen Updates ein, wechseln Modelle und leisten Support. Wer bereits unsere IT-Betreuung nutzt, bekommt den KI-Server im selben Monitoring: IT-Dienstleister für den Mittelstand.

Was ein lokaler KI-Server kostet

Posten	Preis (zzgl. MwSt.)
Setup	ab 4 900 € einmalig, je nach Umfang bis 9 900 €
Betrieb (Monitoring, Updates, Modellwechsel, Support)	ab 590 € je Monat, je nach Umfang
Compliance-Paket (optional)	1 900 € einmalig + 99 € je Monat
Hardware	Kauf oder Leasing, je nach Klasse; Preis nach Konfiguration

Stand Oktober 2026. Die Hardware kaufen oder leasen Sie selbst – wir betreiben keine eigene Hardware-Flotte. Der Grund ist einfach: Der Server soll Ihnen gehören, mit allem, was darauf liegt. Für den Pilot vor der Kaufentscheidung stellen wir acht Wochen lang unsere Pilot-Hardware.

Leasing statt Kauf

Wer die Investition nicht auf einmal tragen will, least die Hardware über einen Leasingpartner. Die Konditionen nennt der Leasingpartner; wir liefern die Konfiguration und die Begründung aus dem Audit, damit Sie nicht zu groß oder zu klein kaufen. Für Förderanträge liefert das Audit die Unterlagen.

Der Weg zum eigenen KI-Server

Audit → Pilot → Installation → Betrieb. Niemand muss einen Server kaufen, bevor der Pilot gezeigt hat, dass sich der Einsatz lohnt. Den vollständigen Ablauf mit allen Preisen zeigt die KI-Werkstatt.

Häufige Fragen

Können wir den Server selbst betreiben?

Ja. Setup und Betrieb sind getrennte Posten. Wer eigene IT-Mitarbeitende hat, kann den Betrieb übernehmen; Updates und Modellwechsel brauchen allerdings Routine, deshalb bieten wir den Betrieb als Monatsleistung an.

Was passiert, wenn ein besseres Modell erscheint?

Der Modellwechsel ist Teil des Betriebs. Weil Ihre Anwendungen über Ollama mit dem Server sprechen, tauschen wir das Modell aus, ohne dass Konnektoren oder Rollen neu gebaut werden müssen.

Brauchen wir einen Serverraum?

Das hängt von der Klasse ab – Platz, Strom und Kühlung prüfen wir im Audit. Wer keinen geeigneten Raum hat, wählt den Betrieb in Deutschland.

Was bedeutet ein lokaler KI-Server für die DSGVO?

Er ist DSGVO-konform betreibbar: Ihre Daten bleiben auf Ihrem Server, und wir liefern die Dokumentation nach DSGVO und KI-VO. Die Bewertung, ob Ihr konkreter Einsatz zulässig ist, trifft Ihre Datenschutzberatung – wir liefern ihr die Unterlagen dafür.

Bevor Sie Hardware kaufen: Lassen Sie uns im KI-Audit klären, welche Klasse Sie wirklich brauchen.

KI-Audit anfragen