Google ermöglicht Gemini auf isolierten Servern
Google hat eine Partnerschaft mit Cirrascale angekündigt. Sie erlaubt Unternehmen nämlich, Gemini 3.1 Pro auf vollständig isolierten, vom Internet getrennten Servern zu betreiben. Außerdem richtet sich das Angebot an Finanzinstitute, Gesundheitsorganisationen und Behörden. Diese müssen gesetzliche Vorgaben oder Sicherheitsanforderungen erfüllen, Allerdings wollen sie nicht auf leistungsfähige Sprachmodelle verzichten.
Warum Air-Gapped für Unternehmen relevant ist
Für viele Organisationen war die Nutzung von Cloud-basierten KI-Diensten bisher mit einem Dilemma verbunden. Entweder nutzten sie öffentliche APIs und übermittelten sensible Daten an externe Server. Zudem setzt das System auf weniger leistungsfähige Open-Source-Modelle, die sie selbst hosten können. Mit der Air-Gapped-Option fällt diese Entscheidung jedoch leichter.
Cirrascale bietet einen Dell-Server mit acht Nvidia-GPUs an. Er wird dabei komplett außerhalb von Googles Infrastruktur betrieben. Die Modelldateien befinden sich ausschließlich im flüchtigen Speicher. Sobald der Strom abgeschaltet wird, sind alle Daten unwiderruflich gelöscht. Daher nennt das Unternehmen das Konzept einen Tresor. Das Modell läuft darin, aber niemand kann die Gewichte extrahieren oder inspizieren, wie auch VentureBeat berichtet.
Vertrauensfragen in der Cloud-Ära
Die Nachfrage nach privaten KI-Installationen ist in den vergangenen Jahren stark gewachsen. Dave Driggers, CEO von Cirrascale, beschreibt, wie das Vertrauensproblem schrittweise eskalierte. Zunächst sorgten sich Unternehmen um ihre proprietären Daten. Allerdings kam dann die Erkenntnis, dass auch die Nutzereingaben und Antworten als sensible Informationen betrachtet werden müssen.
Die entscheidende Wendung kam, als die Hyperscaler klarstellten, dass Prompts und Antworten zu ihren eigenen Daten gehören. Für viele Unternehmen war das der Moment, in dem vollständig private AI zur Notwendigkeit wurde. Auch unser Bericht zur Cloud-Unabhängigkeit zeigt diesen Trend.
Sicherheitsmechanismen des Systems
Das System nutzt Confidential Computing, um die Sicherheit der auf dem Server laufenden Modelle zu gewährleisten. Versucht jemand, das Gehäuse zu öffnen oder die Hardware zu manipulieren, wird die Maschine unbrauchbar gemacht. Driggers beschreibt es als eine Art Zeitzünder. Bereits der Verdacht auf einen Manipulationsversuch führt dazu, dass der Server zurückgesetzt werden muss.
Für Nutzer bedeutet das, dass ihre Eingaben nach Ende einer Sitzung automatisch gelöscht werden. Sofern sie nicht ausdrücklich gespeichert werden. Das System arbeitet zudem mit Cache-Speichern, die sich nach jeder Sitzung leeren. Daher bietet Cirrascale für Organisationen, die nicht einmal eine kurze Verbindung zu Google erlauben, einen physischen Austauschservice an.
