Wenn die Sensibilität der Daten oder regulatorische Anforderungen Cloud-Dienste ausschließen, bauen wir die KI-Umgebung auf der eigenen Infrastruktur des Unternehmens auf, von der Beschaffung der Geräte bis zum laufenden System.
Die Schritte des Aufbaus
01
Analyse
Einsatzzwecke, Datenvolumen und Anforderungen.
02
Dimensionierung und Beschaffung
Auswahl und Beschaffung der Hardware.
03
Installation
Modelle, Laufzeitumgebung und Benutzeroberfläche.
04
Übergabe
Tests, Dokumentation und Schulung.
Im Folgenden beschreiben wir, wann ein lokaler Betrieb sinnvoll ist, was der Aufbau umfasst und wie die Arbeit von der Analyse bis zur Übergabe abläuft.
Gründe für den lokalen Betrieb
Eine lokale Infrastruktur ist nötig, wenn die verarbeiteten Daten die Organisation nicht verlassen dürfen. Dazu können personenbezogene und Gesundheitsdaten, technische Dokumentation, Verträge oder Finanzdaten gehören, ebenso Branchen, in denen Vorschriften oder Kundenanforderungen eine interne Datenverarbeitung verlangen.
Bei hoher und gleichmäßiger Nutzung kann der lokale Betrieb langfristig auch kostengünstiger sein als ein nutzungsbasierter Cloud-Dienst.
Umfang des Aufbaus
Bedarfsanalyse und Dimensionierung
Wir erfassen die vorgesehenen Einsatzzwecke, die Zahl der Nutzer und das Datenvolumen und legen auf dieser Grundlage die benötigte Rechenkapazität und die passenden Modelle fest.
Beschaffung
Wir unterstützen bei Auswahl und Beschaffung der Server und Grafikbeschleuniger, abgestimmt auf die bestehende IT-Umgebung.
Installation und Inbetriebnahme
Wir installieren und konfigurieren die Open-Source-Modelle und die Laufzeitumgebung, richten Benutzeroberfläche und Rechteverwaltung ein und verbinden das System mit den benötigten internen Datenquellen.
Sicherheit und Zugriff
Das System läuft im Netzwerk des Unternehmens, Zugriffe sind an Rollen gebunden, und die Nutzung kann protokolliert werden.
Hybride Lösungen
Nicht jede Aufgabe muss lokal laufen. Häufig werden sensible Daten auf der eigenen Infrastruktur verarbeitet, während für andere Aufgaben ein Cloud-Dienst genutzt wird. Diese Grenze legen wir in der Analyse fest.
Betrieb und Weiterentwicklung
Nach der Übergabe übernehmen wir auf Wunsch die Überwachung des Systems, die Aktualisierung der Modelle und die Erweiterung der Kapazität. Betreibt das eigene IT-Team das System, stellen wir Dokumentation und Schulung bereit.
Häufige Fragen
Das hängt vom gewählten Modell und der Zahl der Nutzer ab. Auf Grundlage der Analyse empfehlen wir Server und Grafikbeschleuniger.
01 / 02
Welche Hardware wird benötigt?
Das hängt vom gewählten Modell und der Zahl der Nutzer ab. Auf Grundlage der Analyse empfehlen wir Server und Grafikbeschleuniger.