Google ermöglicht Gemini auf isolierten Servern: Das Ende der Cloud-Abhängigkeit
Google hat gemeinsam mit dem Infrastrukturanbieter Cirrascale eine Lösung vorgestellt. Sie erlaubt nämlich Unternehmen den Betrieb von Gemini vollständig abseits des Internets. Dabei wird das Modell auf einer einzelnen Acht-GPU-Appliance betrieben, die komplett von Google Cloud getrennt ist. Sobald der Stecker gezogen wird, verschwindet das Modell aus dem Speicher. Diese Entwicklung markiert jedoch einen Wendepunkt für Branchen, Allerdings mussten sie bislang aus Regulierungsgründen auf leistungsstarke KI verzichten.
Das Problem der isolierten KI-Systeme
Banken, Versicherungen, Gesundheitseinrichtungen und Regierungsbehörden standen vor einer schwierigen Wahl. Entweder nutzten sie Cloud-APIs und gaben sensible Daten an Drittanbieter weiter. Oder sie griffen auf weniger leistungsfähige Open-Source-Modelle zurück, die sie selbst hosten konnten. Deshalb bedeutet beides Kompromisse. Entweder Sicherheit oder Leistung.
Die Nachfrage nach privaten KI-Installationen wuchs in den vergangenen Jahren sprunghaft an. Unternehmen erkannten nämlich zunehmend, dass Nutzereingaben und KI-Ausgaben als vertraulich behandelt werden müssen. Schnell wurde klar: Wer Cloud-APIs nutzt, übergibt seine Prompts und Antworten an den Anbieter.
So funktioniert die private Gemini-Installation
Cirrascale liefert eine von Dell gefertigte Hardware-Appliance mit acht Nvidia-GPUs, die von Googles Confidential Computing geschützt wird. Das Modell befindet sich ausschließlich im flüchtigen Speicher. Sobald der Strom ausfällt, sind sämtliche Modellgewichte verschwunden. Zudem werden Nutzersitzungen automatisch gelöscht, sobald eine Sitzung endet.
Die Sicherheitsarchitektur geht noch weiter. Wer versucht, die Appliance zu manipulieren, macht sie unbrauchbar. Das System erkennt Eingriffe in die vertrauenswürdige Ausführungsumgebung und versetzt sich in einen Zustand, in dem die Maschine nicht mehr funktionsfähig ist. Ein Berührungsschutz, der das Modell unwiederbringlich löscht, wie auch VentureBeat berichtet.
Warum diese Lösung anders ist
Microsoft und AWS bieten bereits On-Premises-Varianten ihrer KI-Dienste an. Doch Google und Cirrascale unterscheiden sich in einem entscheidenden Punkt. Die Modellgewichte werden vollständig außerhalb der Infrastruktur des Anbieters deployed. Allerdings handelt es sich nicht um eine abgespeckte Version, sondern um das vollständige Gemini-Modell.
Während Google bei seinen eigenen Private-Instance-Angeboten eine erheblich größere Hardware-Abdeckung verlangt, ermöglicht die Cirrascale-Lösung den Betrieb auf einem einzelnen Acht-GPU-Server. Daher macht die Technologie auch kleinere Unternehmen und Behörden zugänglich. Auch unser Bericht zu isolierten Gemini-Servern zeigt diesen Trend.
