Zum Inhalt springen 
Hardware, Einrichtung, Betrieb und Break-even – transparent für 5 bis 50 Mitarbeiter.
Was kostet ein eigener KI-Server für die Kanzlei? Ehrliche Zahlen 2026
Wer nach den Kosten einer lokalen KI-Lösung sucht, findet meist zwei Extreme: Hobby-Anleitungen („läuft auf jedem Gaming-PC!“) und Enterprise-Angebote ohne Preisangabe („kontaktieren Sie unseren Vertrieb“). Beides hilft einer Kanzlei nicht weiter, die konkret budgetieren will.
Hier sind die realen Größenordnungen – aufgeschlüsselt nach Kanzleigröße, mit laufenden Kosten und einem ehrlichen Break-even-Vergleich zur Cloud.
Die Kostenblöcke im Überblick
Ein lokales KI-System für eine Kanzlei besteht aus vier Bausteinen:
- Hardware – Server mit professioneller Grafikkarte (GPU), auf der das Sprachmodell läuft
- Einrichtung – Installation, Modellauswahl, Weboberfläche mit Nutzerverwaltung, Anbindung an Ihre Dokumentenbestände (RAG), Absicherung
- Compliance & Schulung – Verarbeitungsverzeichnis, Nutzungsrichtlinie, Team-Einweisung
- Betrieb – Updates, Monitoring, Support
Die Software selbst – offene Sprachmodelle wie Qwen, Mistral oder Llama und die zugehörigen Betriebswerkzeuge – ist quelloffen und lizenzkostenfrei, auch für den kommerziellen Einsatz. Sie zahlen nicht für das Modell, sondern für Blech, Integration und Betrieb.
Was die Hardware kostet
Die Faustregel: Entscheidend ist der Grafikspeicher (VRAM), nicht die reine Rechenleistung. Er bestimmt, welche Modellgröße flüssig läuft und wie viele Nutzer parallel arbeiten können.
| Kanzleigröße | Typisches Setup | Hardware-Kosten |
|---|---|---|
| 3–10 Mitarbeiter | Workstation, 1 GPU mit 24 GB VRAM | 4.000–7.000 € |
| 10–25 Mitarbeiter | Server, 1–2 GPUs, 24–48 GB VRAM | 8.000–15.000 € |
| 25–50 Mitarbeiter | Rack-Server, 2+ GPUs, redundante Auslegung | 18.000–35.000 € |
Ein 24-GB-Setup betreibt heute Modelle, die bei typischen Kanzleiaufgaben – Zusammenfassen, Entwerfen, Recherche im eigenen Dokumentenbestand – ein mit großen Cloud-Diensten vergleichbares Arbeitsniveau erreichen. Mehr Hardware bedeutet vor allem: größere Modelle, mehr gleichzeitige Nutzer, schnellere Antworten.
Häufiger Fehler: an der GPU sparen und später feststellen, dass das gewünschte Modell nicht in den Speicher passt. Aufrüsten kostet mehr als von Anfang an richtig dimensionieren.
Was die Einrichtung kostet
Hier liegt der eigentliche Wert – und der größte Kostenblock. Ein produktives Kanzleisystem ist mehr als „Ollama installieren“:
- Modellauswahl und -konfiguration für Ihre Anwendungsfälle
- Weboberfläche mit Nutzerverwaltung, Rollen und Protokollierung
- RAG-Anbindung: Ihre Schriftsätze, Verträge, Vorlagen und Aktennotizen werden durchsuchbar – das ist der Produktivitätshebel, der lokale KI von einem Spielzeug unterscheidet
- Netzwerk-Absicherung, Backup-Konzept, Zugriffskonzept
- Compliance-Dokumentation (Verarbeitungsverzeichnis, ggf. Datenschutz-Folgenabschätzung)
- Schulung des Teams und Nutzungsrichtlinie
Realistische Projektkosten inklusive Hardware, je nach Umfang:
| Paket | Umfang | Gesamtkosten (einmalig) |
|---|---|---|
| Einstieg | Bis 10 Nutzer, 1 RAG-Anwendungsfall | ca. 15.000 € |
| Standard | Bis 25–30 Nutzer, mehrere Datenbestände, Compliance-Paket | ca. 25.000–30.000 € |
| Ausbau | 50+ Nutzer, redundant, tiefe Integration (DMS, DATEV-Umfeld) | ab 45.000 € |
Angebote deutlich darunter lassen erfahrungsgemäß einen der Bausteine weg – meist RAG, Absicherung oder die Compliance-Dokumentation. Genau die Teile, wegen derer Sie das Projekt machen. Eine erste Einordnung für Ihre Größe liefert unser Preisrechner für lokale KI.
Laufende Kosten
- Wartung und Support: 300–900 €/Monat je nach Umfang (Updates der Modelle und Software, Monitoring, Support-Reaktionszeiten). Modelle entwickeln sich schnell – ein System ohne Update-Pfad ist nach 18 Monaten veraltet.
- Strom: Ein Server mit einer GPU unter typischer Kanzleilast liegt grob bei 40–90 €/Monat – abhängig von Auslastung und Strompreis. Kein vernachlässigbarer, aber auch kein entscheidender Posten.
- Kein Posten: Lizenzkosten pro Nutzer. Das ist der strukturelle Unterschied zur Cloud – Ihre Kosten wachsen nicht mit jedem neuen Mitarbeiter.
Break-even: Lokale KI vs. Cloud-Abo
Rechnung für eine Kanzlei mit 15 Nutzern:
Cloud: KI-Team-Lizenzen kosten je nach Anbieter 25–60 € pro Nutzer/Monat. Bei 15 Nutzern: 4.500–10.800 € pro Jahr, dauerhaft, mit Preissteigerungsrisiko.
Lokal: Einstiegs-/Standardprojekt ca. 15.000–27.000 € einmalig plus ca. 500 €/Monat Betrieb – im ersten Jahr 21.000–33.000 €, danach rund 6.000 €/Jahr.
Break-even: typischerweise nach 2,5–4 Jahren – je größer das Team, desto schneller, weil die Cloud pro Kopf abrechnet und der Server nicht.
Zwei Posten, die in dieser Rechnung fehlen und beide für lokal sprechen:
- Das berufsrechtliche Restrisiko der Cloud (§ 203 StGB, CLOUD Act) taucht in keiner Lizenzrechnung auf – bis es auftaucht. Warum das kein theoretisches Problem ist: Darf ich ChatGPT mit Mandantendaten nutzen?
- Der Vertrauenswert: „Ihre Daten verlassen unsere Kanzlei nicht – auch nicht für KI“ ist ein Mandantenargument, das kein Cloud-Abo liefern kann.
Wann sich lokale KI (noch) nicht lohnt
Ehrlichkeit gehört dazu:
- Unter rund 5 Nutzern ist der Business Case rein finanziell dünn – da tragen eher Berufsrecht und Datenschutz die Entscheidung als die Kostenrechnung.
- Ohne konkrete Anwendungsfälle wird auch der beste Server zum Staubfänger. Erst Use Cases klären, dann Hardware kaufen.
- Wer nur gelegentlich allgemeine Recherche macht (ohne Mandatsbezug), kommt mit Cloud-Tools und einer sauberen Nutzungsrichtlinie aus.
Für alle anderen gilt: Die Frage ist weniger ob, sondern wie dimensioniert. Den fachlichen Rahmen dazu liefert der Leitfaden KI für Kanzleien ohne Cloud.
Häufige Fragen
Kann ich nicht einfach einen Gaming-PC nehmen?
Für private Experimente ja. Für den Kanzleibetrieb fehlen ECC-Speicher, Dauerlast-Auslegung, Fernwartung und vor allem: Nutzerverwaltung, Protokollierung und die Compliance-Dokumentation. Das Risiko liegt nicht im Blech, sondern im unkontrollierten Betrieb.
Wie lange hält die Hardware?
Kalkulieren Sie 4–5 Jahre Abschreibung. Die GPU ist das einzige Teil mit relevantem Veralterungsrisiko – deshalb lieber 24 GB VRAM von Anfang an.
Was ist mit Miet- oder Leasing-Modellen?
Möglich und für die Liquidität oft attraktiv: Hardware-Leasing plus Betriebsvertrag statt Einmalinvestition. Fragen Sie uns danach – gerade bei größeren Setups rechnet sich das steuerlich.
Muss ich die Einrichtung extern vergeben?
Technisch versierte Kanzleien können vieles selbst – unterschätzt werden regelmäßig RAG-Qualität (schlechte Anbindung = unbrauchbare Antworten) und die Compliance-Dokumentation. Ein Fixpreis-Projekt mit Übergabe ist meist günstiger als drei Monate interner Trial-and-Error.
Was würde es bei Ihnen konkret kosten?
Im KI-Readiness-Check (90 Minuten) erhalten Sie eine belastbare Kostenschätzung für Ihre Kanzleigröße und Ihre Anwendungsfälle – schriftlich, mit Break-even-Rechnung gegenüber Ihren aktuellen Cloud-Kosten.
Dieser Beitrag gibt einen allgemeinen Überblick und stellt ausdrücklich keine Rechts- oder Steuerberatung dar. Für die Beurteilung Ihres konkreten Falls wenden Sie sich bitte an Ihre Kammer oder einen fachkundigen Berater.
