On-Premise LLM
Ein Modell auf Ihrer eigenen Hardware. Kein Token verlässt Ihr Netz. Betrieb über Docker, Update und Rollback wie bei jeder anderen Anwendung.
Säule 2
KI auf Ihren Servern.Nachweis inklusive.
Lokale LLMs, EU-Hosting und automatische Protokollierung für Kliniken, FinTechs und regulierte Unternehmen.
Für wen
Das passt, wenn bei Ihnen einer dieser Punkte zutrifft.
- Ihre Mitarbeiter nutzen KI-Werkzeuge, die Sie nie freigegeben haben.
- Personenbezogene oder besonders geschützte Daten dürfen das Haus nicht verlassen.
- Der EU AI Act oder DORA verlangt Nachweise, die Sie heute nicht haben.
- Die Rechtsabteilung hat KI gestoppt, weil niemand die Datenwege erklären kann.
- Sie wollen den Nutzen von KI, aber keine US-Cloud.
Use Cases
Was wir bauen.
EU-native Infrastruktur
Wenn eigene Hardware nicht passt, läuft das Modell in einer EU-Cloud unter Ihrem Vertrag. Kein Transfer in ein Drittland.
Automatisches Logging
Jede Anfrage wird protokolliert. Wer hat wann was gefragt, mit welchem Modell und welcher Version.
Kryptografische Data Lineage
Jeder Verarbeitungsschritt wird mit einer Hash-Kette abgelegt. So kann jeder Prüfer den Nachweis selbst nachrechnen.
Nachweise für die Prüfung
Die Protokolle gehen als Auszug an Qualitätsmanagement, Datenschutz oder Prüfer. Über Matproof auch als laufender GRC-Nachweis.
Ablauf
In vier Schritten.
- 01
Schutzbedarf klären
Welche Daten, welche Rechtsgrundlage, welcher Rahmen. DSGVO, EU AI Act, DORA oder Branchenrecht.
- 02
Architektur festlegen
On-Premise oder EU-Cloud. Modellwahl, Netztrennung, Rollen und Rechte.
- 03
Aufbau und Test
Wir stellen die Umgebung bereit und testen mit Ihren echten Fällen.
- 04
Nachweis anschließen
Protokoll und Lineage laufen ab Tag eins mit. Der erste Auszug geht direkt an die Prüfstelle.
Ergebnis
Was sich ändert.
- Mitarbeiter nutzen KI im freigegebenen Weg statt im Browser-Tab daneben.
- Sie können jederzeit zeigen, welche Daten ein Modell gesehen hat.
- Kein Transfer in ein Drittland und kein Dienstleister, den Sie nicht kennen.
- Eine Prüfung kostet Stunden statt Wochen.
Welche Daten dürfen Ihr Haus nicht verlassen?
Schreiben Sie uns den Fall. Sie bekommen innerhalb von 24 Stunden eine Antwort.