AI Ház

Aufbau von KI-Infrastruktur

Wenn die Sensibilität der Daten oder regulatorische Anforderungen Cloud-Dienste ausschließen, bauen wir die KI-Umgebung auf der eigenen Infrastruktur des Unternehmens auf, von der Beschaffung der Geräte bis zum laufenden System.

Die Schritte des Aufbaus

  1. 01

    Analyse

    Einsatzzwecke, Datenvolumen und Anforderungen.

  2. 02

    Dimensionierung und Beschaffung

    Auswahl und Beschaffung der Hardware.

  3. 03

    Installation

    Modelle, Laufzeitumgebung und Benutzeroberfläche.

  4. 04

    Übergabe

    Tests, Dokumentation und Schulung.

Im Folgenden beschreiben wir, wann ein lokaler Betrieb sinnvoll ist, was der Aufbau umfasst und wie die Arbeit von der Analyse bis zur Übergabe abläuft.

Gründe für den lokalen Betrieb

Eine lokale Infrastruktur ist nötig, wenn die verarbeiteten Daten die Organisation nicht verlassen dürfen. Dazu können personenbezogene und Gesundheitsdaten, technische Dokumentation, Verträge oder Finanzdaten gehören, ebenso Branchen, in denen Vorschriften oder Kundenanforderungen eine interne Datenverarbeitung verlangen.

Bei hoher und gleichmäßiger Nutzung kann der lokale Betrieb langfristig auch kostengünstiger sein als ein nutzungsbasierter Cloud-Dienst.

Umfang des Aufbaus

Bedarfsanalyse und Dimensionierung

Wir erfassen die vorgesehenen Einsatzzwecke, die Zahl der Nutzer und das Datenvolumen und legen auf dieser Grundlage die benötigte Rechenkapazität und die passenden Modelle fest.

Beschaffung

Wir unterstützen bei Auswahl und Beschaffung der Server und Grafikbeschleuniger, abgestimmt auf die bestehende IT-Umgebung.

Installation und Inbetriebnahme

Wir installieren und konfigurieren die Open-Source-Modelle und die Laufzeitumgebung, richten Benutzeroberfläche und Rechteverwaltung ein und verbinden das System mit den benötigten internen Datenquellen.

Sicherheit und Zugriff

Das System läuft im Netzwerk des Unternehmens, Zugriffe sind an Rollen gebunden, und die Nutzung kann protokolliert werden.

Hybride Lösungen

Nicht jede Aufgabe muss lokal laufen. Häufig werden sensible Daten auf der eigenen Infrastruktur verarbeitet, während für andere Aufgaben ein Cloud-Dienst genutzt wird. Diese Grenze legen wir in der Analyse fest.

Betrieb und Weiterentwicklung

Nach der Übergabe übernehmen wir auf Wunsch die Überwachung des Systems, die Aktualisierung der Modelle und die Erweiterung der Kapazität. Betreibt das eigene IT-Team das System, stellen wir Dokumentation und Schulung bereit.

Häufige Fragen

  • Das hängt vom gewählten Modell und der Zahl der Nutzer ab. Auf Grundlage der Analyse empfehlen wir Server und Grafikbeschleuniger.

Kontakt

Sprechen wir über Ihre eigene KI-Infrastruktur

Aufbau von KI-Infrastruktur | AI Ház