Welche Hardware braucht lokale KI? Eine verständliche Erklärung

Warum Hardware bei lokaler KI eine Rolle spielt

Wer einen KI-Dienst im Internet nutzt, merkt von der Technik dahinter nichts. Die Rechenarbeit erledigen große Rechenzentren. Bei lokaler KI übernimmt diese Arbeit ein Rechner in Ihren Räumen. Dafür wird kein Rechenzentrum gebraucht, aber auch nicht jeder Bürorechner reicht aus. Ein Sprachmodell, also das Programm, das Texte versteht und schreibt, muss beim Arbeiten vollständig in einem schnellen Speicher liegen und braucht viel Rechenleistung auf einmal.

Die gute Nachricht: Für die Büroaufgaben einer Praxis oder Kanzlei, etwa Post sortieren, Entwürfe schreiben oder Unterlagen durchsuchen, genügen Modelle in einer Größe, die auf einem kompakten Gerät läuft.

Die wichtigsten Bauteile, einfach erklärt

Arbeitsspeicher. Das ist der Schreibtisch des Rechners. Was gerade bearbeitet wird, muss darauf Platz haben. Ein Sprachmodell belegt einen großen Teil davon. Je größer und fähiger das Modell, desto mehr Speicher braucht es. Ist der Speicher zu klein, läuft das Modell gar nicht oder nur sehr langsam.

Rechenchip für KI. Normale Prozessoren rechnen Schritt für Schritt. KI braucht dagegen sehr viele einfache Rechnungen gleichzeitig. Das können Grafikchips besonders gut, die ursprünglich für Computerspiele und Bildbearbeitung entwickelt wurden. Sie haben oft einen eigenen, sehr schnellen Speicher. Es gibt auch Geräte, bei denen Prozessor und Grafikchip sich einen gemeinsamen großen Speicher teilen. Beides kann funktionieren, wichtig ist, dass genug schneller Speicher für das gewählte Modell da ist.

Festplatte. Hier liegen das Modell selbst, Ihre durchsuchbaren Unterlagen und die Protokolle. Schnelle Festplatten ohne bewegliche Teile verkürzen die Startzeit und sind leise. Die Festplatte sollte verschlüsselt sein, damit ein gestohlenes Gerät nicht lesbar ist.

Netzwerk. Der Rechner wird in Ihr Praxis- oder Kanzleinetz eingebunden, damit er Mails abrufen und Dokumente ablegen kann. Er sollte dort nur die Verbindungen bekommen, die er wirklich braucht.

Worauf es im Büroalltag ankommt

• Lautstärke: Leistungsfähige Rechner werden warm und brauchen Lüfter. Im Empfangsbereich oder Besprechungsraum stört ein lautes Gerät. Ein gut belüfteter Platz in einem Nebenraum ist oft die bessere Wahl.
• Wärme und Platz: Das Gerät sollte nicht in einem geschlossenen Schrank ohne Luftzufuhr stehen.
• Strom: Ein KI-Rechner braucht mehr Strom als ein Bürorechner, vor allem wenn er rechnet. Im Ruhezustand ist der Verbrauch deutlich geringer.
• Stromausfall: Eine unterbrechungsfreie Stromversorgung, ein Akku-Gerät zwischen Steckdose und Rechner, schützt vor Datenverlust bei kurzen Ausfällen.
• Zugang: Der Rechner sollte an einem Ort stehen, zu dem nicht jeder Besucher Zugang hat, idealerweise abschließbar.

Größer ist nicht immer besser

Es ist verlockend, das leistungsfähigste Gerät zu kaufen. Sinnvoller ist es, von den Aufgaben auszugehen. Ein Modell, das Mails einordnen und Standardantworten entwerfen soll, kann deutlich kleiner sein als eines, das lange Schriftsätze zusammenfassen soll. Auch die Zahl der gleichzeitigen Nutzer spielt eine Rolle: In einer Praxis mit wenigen Mitarbeitenden laufen viele Aufgaben nacheinander im Hintergrund, da muss nicht alles in Sekunden fertig sein.

Deshalb steht am Anfang immer die Frage, was die KI bei Ihnen erledigen soll. Erst daraus ergibt sich, wie viel Speicher und Rechenleistung nötig ist.

Sicherheit gehört zur Hardware dazu

Ein Rechner im Haus hält Ihre Texte vom Internet fern, er ist aber nicht automatisch sicher. Das BSI weist darauf hin, dass generative KI neuartige IT-Sicherheitsrisiken mit sich bringt. Die Bundespsychotherapeutenkammer nennt bei einem lokalen Server in der Praxis allgemeine Sicherheitsvorkehrungen wie regelmäßige Updates. Dazu gehören:

• regelmäßige Updates des Betriebssystems und der KI-Programme
• eine Datensicherung, die getrennt vom Gerät aufbewahrt wird
• Zugriffsschutz mit eigenen Konten für jede Person
• eine klare Regel, wer aus der Ferne zugreifen darf, und ein Protokoll jedes Zugriffs
• keine Programme, die ungefragt Nutzungsdaten an Hersteller senden

Art. 32 DSGVO verlangt technische und organisatorische Maßnahmen, die dem Risiko angemessen sind. Welche das in Ihrem Fall sind, bewerten Sie mit Ihrem Datenschutzbeauftragten. Dieser Text ist keine Rechtsberatung.

Warum ein Rechner allein nicht reicht

Die Datenschutzkonferenz hält technisch geschlossene Systeme für datenschutzrechtlich vorzugswürdig. Ein eigener Rechner ist die Grundlage dafür. Den Nutzen bringt aber erst, was darauf eingerichtet ist: sortierte Post, vorbereitete Antworten, eine Suche in Ihren eigenen Unterlagen. Und ein Gerät, um das sich niemand kümmert, veraltet schnell.

Darum bieten wir keine Kaufberatung für Hardware an, sondern eine fertige Lösung: Wir wählen das Gerät passend zu Ihren Aufgaben, stellen es bei Ihnen auf, richten die Abläufe ein und betreuen alles. Fernzugriffe gibt es nur nach Ihrer Freigabe und mit Protokoll. Im Erstgespräch klären wir, was die KI bei Ihnen tun soll, und leiten daraus ab, was technisch nötig ist. Mehr dazu im Ratgeber On-Premise-KI.

Häufige Fragen

Weiterlesen

Quellen

1. BSI: Generative KI-Modelle, Chancen und Risiken
2. DSK: Orientierungshilfe Künstliche Intelligenz und Datenschutz, 06.05.2024
3. BPtK Praxis-Info: Administrative KI in Ihrer Praxis
4. Art. 32 DSGVO, Sicherheit der Verarbeitung

Stand: 2026-10-05. Dieser Beitrag dient der allgemeinen Information und ist keine Rechtsberatung. Die Bewertung Ihres konkreten Einsatzes liegt bei Ihnen und Ihrem Datenschutzbeauftragten.