Infrastructure · Live

Local AI Server

KI im eigenen Haus. Kein Byte verlässt Ihr Netz.

Ein vorkonfiguriertes Gerät führt die Modelle lokal aus und stellt die Anwendungen im eigenen Netz bereit. Der Zugriff erfolgt aus dem Haus oder über einen verschlüsselten Tunnel, ohne eine einzige Freigabe am Router. Einrichtung, Wartung und Updates übernehmen wir.

scroll
Modelle
Lokal, warmgehalten
Zugriff
Nur aus dem Netz
Wartung
Über sicheren Tunnel
Portfreigabe
Keine nötig
Woran es hakt

Die Daten, bei denen KI am meisten helfen würde, dürfen nicht in die Cloud.

Patientenakten, Mandantenunterlagen, Konstruktionsdaten, Personalvorgänge. Genau dort liegt der größte Hebel, und genau dort ist die Hürde am höchsten.

01

Die Freigabe dauert Monate

Auftragsverarbeitung, Datenschutzfolgenabschätzung, Betriebsrat, Berufsgeheimnis. Bis das geklärt ist, hat das Projekt seinen Schwung verloren.

02

Schatten-KI entsteht trotzdem

Wenn der offizielle Weg zu lang ist, nutzen Mitarbeitende private Zugänge. Dann fließen genau die Daten ab, die eigentlich geschützt werden sollten, nur ohne jede Kontrolle.

03

Eigenbetrieb gilt als zu komplex

Modelle, Container, Netzwerk, Absicherung, Updates. Ohne eigenes Team wirkt das wie ein Projekt, das man nicht anfangen will. Also fängt man gar nicht an.

Die Lösung

Ein lokaler KI-Server, der ankommt, angeschlossen wird und läuft.

Der lokale KI-Server ist keine Bauanleitung, sondern eine fertige Appliance. Sie steht bei Ihnen, sie gehört zu Ihrem Netz, und sie wird von uns betreut. Wächst der Bedarf, wächst der Aufbau mit.

Auf dem lokalen KI-Server läuft eine Modell-Engine, die die Sprachmodelle lokal ausführt und die häufig genutzten dauerhaft im Speicher hält, damit die Antwort sofort kommt. Davor sitzt ein Zugangs-Gateway, über das alle Anwendungen unter einer einzigen Adresse erreichbar sind, statt über eine Liste von Ports.

Wir setzen dabei auf quelloffene Modelle mit Lizenzen, die den kommerziellen Einsatz ausdrücklich erlauben. Das ist keine Notlösung: Für die Aufgaben, die im Alltag anfallen (zusammenfassen, strukturieren, umformulieren, einordnen, diktieren), reichen sie vollständig aus, und bei einfachen Aufgaben sind kleine Modelle spürbar schneller als große. Wo eine Aufgabe wirklich ein großes Modell braucht, sagen wir das vorher, statt lokal als überall gleichwertig zu verkaufen.

Jede Anwendung läuft in einem eigenen Container, daneben eine lokale Datenbank für Nutzer, Rollen und Inhalte. Neue Anwendungen kommen hinzu, ohne dass die bestehenden angefasst werden. Auch die Spracherkennung für Diktate läuft lokal, also verlässt selbst das gesprochene Wort das Haus nicht.

Der Aufbau skaliert in beide Richtungen. Reicht ein Gerät nicht mehr, kommt ein zweites daneben und teilt sich die Last. Für Standorte mit hoher Verfügbarkeitsanforderung steht ein Backup-Server bereit, der einspringt, ohne dass jemand eingreift. Und mehrere Standorte lassen sich zu einem Verbund koppeln, in dem jeder seine eigenen Daten behält.

Die Betreuung erfolgt über einen verschlüsselten Punkt-zu-Punkt-Tunnel. Er braucht keine Portfreigabe am Router und gibt keinen Zugriff auf andere Geräte im Netz. Dazu kommt die Härtung: Firewall, abgeschaltete Passwortanmeldung, Netzwerkisolation, getrennte Rollen für Betrieb und Anwendung. Die Einrichtung läuft über ein wiederholbares Skript, das nur repariert, was fehlt, und deshalb beliebig oft laufen kann.

Quelloffene ModelleModell-EngineZugangs-GatewayContainer je AnwendungLokale DatenbankSpracherkennungBackup-ServerSicherer Tunnel
Im Alltag

Drei Aufgaben, die sonst an der Freigabe scheitern.

Diktieren statt tippen

Befunde, Vermerke und Protokolle werden gesprochen und lokal in Text gewandelt. Weder die Aufnahme noch das Ergebnis verlässt das Gebäude.

Den eigenen Aktenbestand auswerten

Dokumente werden gelesen, strukturiert und durchsuchbar gemacht, auf dem eigenen Gerät. Auch bei Unterlagen, die eine Berufsverschwiegenheit schützt.

Fragen an das eigene Wissen

Die Fachfrage geht an die eigene Wissensbasis. Nicht nur die Antwort bleibt im Haus, sondern auch die Frage, und die verrät oft mehr als die Antwort.

So funktioniert es

Auslegen, aufstellen, einrichten, betreuen.

01

Auslegen

Anzahl der Arbeitsplätze, geplante Anwendungen und Modellgrößen bestimmen die Hardware. Zu klein bremst, zu groß kostet ohne Nutzen.

02

Aufstellen

Das Gerät kommt vorbereitet an, wird ins Netz gehängt und bekommt eine feste Adresse. Keine Portfreigabe, keine Änderung an der Firewall nach außen.

03

Einrichten

Ein wiederholbares Skript richtet alle Bestandteile ein: Modell-Engine, Gateway, Datenbank, Container, Spracherkennung und die Absicherung.

04

Betreuen

Updates, Modellpflege und Überwachung laufen über den verschlüsselten Tunnel. Sie sehen den Zustand jederzeit in der Oberfläche.

Klären wir in einem Gespräch, welche Ihrer Anwendungsfälle lokal tragen und welche nicht.

Gespräch vereinbaren
Kernfunktionen

Was das Modul mitbringt.

Vorkonfiguriert und erweiterbar

Hardware, Betriebssystem und alle Bestandteile aufeinander abgestimmt. Sie schließen an, wir haben vorbereitet. Reicht ein Gerät nicht mehr, kommt ein zweites daneben und teilt sich die Last.

Lokale Modell-Engine

Quelloffene Sprachmodelle laufen auf der Grafikeinheit des Geräts. Häufig genutzte bleiben im Speicher, damit die erste Antwort nicht auf das Laden wartet. Kleine Modelle für schnelle Aufgaben, größere für die anspruchsvollen.

Zentrales Zugangs-Gateway

Alle Anwendungen unter einer Adresse statt unter vielen Ports. Zugleich die Stelle für Protokollierung und spätere Zugriffssteuerung.

Container je Anwendung

Jede Anwendung isoliert. Neue kommen hinzu, ohne die bestehenden zu berühren, und lassen sich einzeln zurückrollen.

Lokale Datenbank

Nutzer, Rollen, Konfiguration und Anwendungsdaten an einer Stelle im Haus, mit gesicherter Sicherungskopie.

Lokale Spracherkennung

Diktate werden auf dem Gerät in Text gewandelt. Weder Aufnahme noch Transkript verlässt das Netz.

Verschlüsselter Fernzugang

Punkt-zu-Punkt-Tunnel für Wartung und mobiles Arbeiten. Ohne Portfreigabe am Router, ohne Zugriff auf andere Geräte im Netz.

Netzwerkisolation und Härtung

Firewall, Deaktivierung der Passwortanmeldung, abgeschaltete Telemetrie, getrennte Rollen für Betrieb und Anwendung. Der Server ist von außen nicht erreichbar.

Wiederholbare Einrichtung

Ein Skript richtet alles ein und repariert nur, was fehlt. Damit ist der Zustand jederzeit reproduzierbar, auch nach Jahren.

Monitoring-Oberfläche

Auslastung, Speicher, laufende Anwendungen und geladene Modelle auf einen Blick, im eigenen Netz erreichbar.

Anschluss der Module

Corporate Memory, Content Creator und die übrigen Module laufen auf demselben Gerät, mit denselben Rollen wie in der Cloud.

Dateifreigabe im Netz

Ein Ablageort im Haus, über den Dokumente in die lokale Verarbeitung gelangen, ohne Umweg über einen externen Dienst.

Wo es wirkt

Drei Umgebungen, in denen es sonst nicht geht.

Praxis und Klinik

Patientendaten unterliegen der Schweigepflicht. Auf dem lokalen Gerät lassen sich Befunde diktieren und Akten auswerten, ohne dass eine Auftragsverarbeitung nötig wird.

Kanzlei und Beratung

Mandantenunterlagen dürfen das Haus nicht verlassen. Recherche und Zusammenfassung laufen lokal, die Frage selbst bleibt vertraulich.

Industrie und Entwicklung

Konstruktionsdaten und Rezepturen sind das Kapital des Unternehmens. Auswertung im eigenen Netz schließt den Abfluss technisch aus statt vertraglich.

Einblick

Zwei Sichten auf dasselbe Gerät.

Links die Administration, die den Zustand verantwortet. Rechts die Anwenderin, die einfach arbeiten will und vom Server im Keller nichts merken soll. Die Reiter sind schaltbar.

Auslastung38 %
Speicher41 / 96 GB
Laufzeit84 Tage
Auslastung 7 Tage · Schwelle 85 Prozent nicht erreicht
Letztes Update vor 6 Tagen eingespielt, ohne Unterbrechung im Betrieb.
Warm Allzweckmodell, mittelgroß im Speicher
Warm Diktat und Transkription im Speicher
Auf Abruf Dokumentenverständnis, groß lädt in 9 s
Auf Abruf Bildverständnis selten genutzt
Warm gehaltene Modelle antworten sofort. Welche das sind, wird nach tatsächlicher Nutzung entschieden.
Sicherung heute 03:00 · vollständig
Backup-Server bereit · letzter Abgleich 04:12
Wiederherstellung zuletzt geprüft vor 21 Tagen
Die Wiederherstellung wird regelmäßig geprobt. Eine Sicherung, die nie zurückgespielt wurde, ist keine.
Zugang Nur aus dem lokalen Netz aktiv
Wartung Verschlüsselter Tunnel aktiv
Router Keine eingehende Portfreigabe geprüft
Anmeldung Passwortanmeldung abgeschaltet nur Schlüssel

Der Zustand des Servers auf einen Blick

Auslastung, geladene Modelle, laufende Anwendungen und die Sicherung. Erreichbar nur aus dem eigenen Netz oder über den verschlüsselten Tunnel.

Wissen Fragen an den eigenen Bestand offen
Diktat Befund oder Vermerk sprechen offen
Dokumente Akte auswerten offen
Posteingang Entwürfe für Antworten neu
Kein Konto bei einem Anbieter, keine Zustimmung zu Nutzungsbedingungen. Die Anmeldung ist die des Hauses.
Aufnahme 2:14 min
Erkennung lokal
Struktur fertig
Aufnahme und Text bleiben auf dem Gerät im Haus. Es gibt keinen Upload, den man vergessen könnte zu widerrufen.
Antwortzeit0,9 s
Fundstellen3
Datenabflusskeiner
Frage Welche Regelung gilt bei Kurzarbeit?
Antwort Mit Fundstelle aus dem eigenen Bestand 0,9 s
Beleg Betriebsvereinbarung 2024 · Seite 4
Hinweis Die Frage verlässt das Gebäude nicht
Nicht nur die Antwort bleibt im Haus, auch die Frage. Und die verrät oft mehr über ein Vorhaben als die Antwort.
Seiten heute1.240
Erkennunglokal
Ablageim Haus
Eingang Gescannter Aktenordner, 340 Seiten in Arbeit
Erkannt Text, Tabellen und Stempel fertig
Zugeordnet Vorgang, Datum, Beteiligte
Offen 6 Seiten unleserlich zur Sichtprüfung
Unleserliche Seiten werden gemeldet statt geraten. Was nicht erkannt wurde, taucht auch in keiner Auswertung auf.
Neu heute38
Entwürfe31
Freigegeben24
Anfrage Terminverschiebung, Standardfall Entwurf da SendenÄndern
Anfrage Unterlagen nachgefordert Entwurf da SendenÄndern
Anfrage Beschwerde, persönlicher Fall kein Entwurf SendenÄndern
Heikle Fälle bekommen bewusst keinen Entwurf. Der Server erkennt sie am Ton und legt sie einem Menschen vor.
Praxis Befund diktieren und strukturiert ablegen
Kanzlei Schriftsätze gegen den Aktenbestand prüfen
Industrie Prüfprotokolle auswerten und vergleichen
Personal Bewerbungen vorsortieren, ohne Datenabfluss
Technik Wartungsberichte in Kennzahlen überführen
Jede dieser Anwendungen läuft in einem eigenen Container. Eine neue kommt hinzu, ohne dass die bestehenden angefasst werden.

Für die Anwenderin ist es einfach eine Adresse im Haus

Alle Anwendungen unter einer Adresse, kein Portwissen nötig, keine Cloud-Anmeldung. Wer im Haus ist, ist drin.

Abstrahierte Darstellung mit erfundenen Werten. Welche Anwendungen, Modelle und Zugriffswege in Ihrer Installation laufen, legen wir gemeinsam fest.

Einordnung

Das Fundament, auf dem alles andere laufen kann.

Auf der Startseite steht dieses Modul unter „Betrieb und Hoheit", und genau das ist seine Rolle. Es ist kein weiteres Werkzeug, sondern der Ort, an dem die anderen Werkzeuge laufen können, wenn die Cloud keine Option ist.

Culture
Menschen befähigen, nicht ersetzen.
Agents
Prozesse automatisieren, Freiraum schaffen.
Knowledge
Erfahrungswissen sichern und nutzbar machen.
Content
Kommunikation skalieren, on brand und on quality.
Module, die hier laufen können
Corporate MemoryWissen mit Beleg, lokal
Content CreatorInhalte ohne Datenabfluss
Agent-as-a-ServiceAgenten im eigenen Netz

Nicht jede Aufgabe gehört auf ein lokales Gerät. Wo größere Modelle nötig sind und die Daten es zulassen, ist der hybride Betrieb der ehrlichere Weg. Wir sagen im Gespräch, welche Ihrer Anwendungsfälle lokal tragen und welche nicht.

Betrieb und Datenhoheit

Datenhoheit als Architekturprinzip, nicht als Zusatz.

Bei diesem Modul ist Datenhoheit nicht eine Betriebsvariante unter mehreren. Sie ist der ganze Zweck.

Ein Standort

Ein Gerät im Haus, alle Anwendungen darauf. Der Regelfall für Praxen, Kanzleien und einzelne Betriebsstätten.

Mehrere Standorte

Je Standort ein Gerät, zentrale Betreuung über den verschlüsselten Tunnel. Daten bleiben dort, wo sie entstehen.

Hybrid

Sensible Verarbeitung lokal, rechenintensive Aufgaben in europäischen Rechenzentren. Die Grenze ziehen Sie, und sie ist im Betrieb sichtbar.

Ein Zitat sagt mehr als viele Versprechen
„Die entscheidende Frage im Datenschutzgespräch war nicht, welches Modell wir nutzen, sondern wohin die Daten gehen. Die Antwort war nirgendwohin, und damit war das Thema nach zwanzig Minuten durch statt nach vier Monaten.“

Ärztliche Leitung, Facharztpraxis mit vier Standorten

Preise

Einrichtung, Betreuung und die Hardware transparent getrennt.

Gestaffelt nach Arbeitsplätzen, Modellgrößen und der Zahl der Anwendungen. Die Einrichtung deckt Auslegung, Aufbau, Absicherung und Einweisung.

PaketFür wenUmfang und Hardware *Einrichtung *Betrieb *
PraxisPraxis, Kanzlei, kleiner Betrieb1 Gerät · bis 15 Arbeitsplätze · 1 bis 3 Anwendungen · zzgl. Hardware 5.000 bis 8.000 €ab 4.900 €190 € / Mon.
BusinessMittelständischer Standortbis 50 Arbeitsplätze · größere Modelle · bis 3 Anwendungen · zzgl. Hardware 15.000 bis 20.000 €ab 9.900 €390 € / Mon.
ProMehrere Standorte, hohe Verfügbarkeitzweites Gerät zur Ausfallsicherheit · individuelle Anwendungen · zzgl. Hardware 30.000 bis 50.000 €ab 18.500 €690 € / Mon.
CorporateAusrollen über viele Standorte, Anbindung an ein bestehendes Verzeichnis oder besondere Anforderungen an Nachweise und Zertifizierung: auf Anfrage.

Auch als Mietmodell

Wer die Hardware nicht kaufen will, mietet sie. Gerät, Einrichtung, Wartung und Modellpflege laufen dann in einer monatlichen Rate, das Gerät bleibt in Ihrem Haus und die Daten ebenso. Sinnvoll, wenn eine Investition den Rahmen sprengt oder die Technik planbar erneuert werden soll. Wir unterbreiten dazu jederzeit ein individuelles Angebot.

Die Hardware wird transparent zum Beschaffungspreis zuzüglich Beschaffungspauschale weitergegeben oder von Ihnen gestellt. Die Spannen oben sind Erfahrungswerte und hängen an Speicher und Rechenleistung. Im Betrieb enthalten sind Wartung, Updates, Modellpflege und die Fernüberwachung. Wir verdienen an Einrichtung und Betreuung, nicht an einer Marge auf das Gerät.

* Orientierungswerte. Umfang, Hardware und Preise werden im Angebot fallspezifisch angepasst, weil Arbeitsplatzzahl, Modellgrößen und Verfügbarkeitsanforderung den Aufwand bestimmen.

Alle Preise verstehen sich netto, zzgl. der gesetzlichen Umsatzsteuer.

Häufige Fragen

Was Entscheider zuerst fragen.

Wie leistungsfähig ist das gegenüber der Cloud?

Für Zusammenfassen, Strukturieren, Diktat und Auswertung des eigenen Bestands reichen lokal ausgeführte Modelle heute klar aus. Bei sehr großen Modellen und sehr langen Zusammenhängen bleibt die Cloud vorn. Wir sagen vorab, welche Ihrer Anwendungsfälle in welche Kategorie fallen, statt lokal als überall gleichwertig zu verkaufen.

Was passiert, wenn das Gerät ausfällt?

Dann stehen die lokalen Anwendungen still, wie bei jedem Server im Haus. Deshalb gehören Sicherung und ein vereinbarter Wiederherstellungsweg zum Betrieb. Wo ein Ausfall nicht tragbar ist, sieht das Pro-Paket ein zweites Gerät vor.

Wer wartet das Gerät?

Wir, über den verschlüsselten Tunnel. Updates, Modellpflege und Überwachung sind Teil des Betriebs. Vor Ort ist niemand nötig, außer bei einem Hardwaredefekt.

Braucht es dafür eine Freigabe an der Firewall?

Nein. Der Wartungstunnel wird vom Gerät nach außen aufgebaut, nicht von außen nach innen. Es ist keine eingehende Portfreigabe nötig, und der Tunnel gibt keinen Zugriff auf andere Geräte in Ihrem Netz.

Können wir später in die Cloud wechseln oder umgekehrt?

Ja. Die Module sind dieselben, unabhängig davon, wo sie laufen. Ein Wechsel ist eine Umzugsaufgabe für Daten und Konfiguration und kein neues Projekt.

Der erste Schritt

Ihre Anwendungsfälle. Eine ehrliche Auslegung.

Nennen Sie uns, was Sie mit KI tun wollen und welche Daten dabei im Spiel sind. Wir sagen Ihnen, welche Fälle lokal tragen, welche Hardware dafür nötig ist und wo die Cloud der bessere Weg bleibt.