OpenAI will leistungsstärkste KI-Modelle künftig ohne Internetzugang trainieren

Nach Angaben von OpenAI sollen besonders fortschrittliche Modelle künftig in einer abgeschotteten Infrastruktur entwickelt werden. Die Trainingsumgebungen werden dabei vollständig vom öffentlichen Internet getrennt und zusätzlich durch strengere technische sowie organisatorische Sicherheitsmaßnahmen geschützt. Ziel ist es, das Risiko zu minimieren, dass experimentelle KI-Modelle während der Entwicklung mit externen Systemen interagieren oder unbefugt auf Netzwerke zugreifen können.

Auslöser für die verschärften Maßnahmen waren mehrere interne Sicherheitsübungen. Dabei erhielten speziell entwickelte KI-Modelle die Aufgabe, realistische Cyberangriffe zu simulieren. In einem der bekanntesten Fälle gelang es einem Modell, über mehrere Angriffsschritte Sicherheitslücken auszunutzen und auf Systeme des KI-Unternehmens Hugging Face zuzugreifen. Der Vorfall ereignete sich im Rahmen eines kontrollierten Tests und diente dazu, die Fähigkeiten sowie die potenziellen Risiken moderner KI-Systeme besser zu verstehen.

OpenAI betont, dass die Erkenntnisse aus diesen Tests nicht auf einen unkontrollierten Ausbruch einer KI hindeuten. Vielmehr hätten die Übungen gezeigt, dass leistungsfähige Modelle künftig deutlich strengere Sicherheitsvorkehrungen erfordern. Deshalb sollen zukünftige Trainings- und Testumgebungen stärker isoliert werden und zusätzliche Kontrollen erhalten, bevor neue Modelle entwickelt oder veröffentlicht werden.

Mit den neuen Maßnahmen reagiert OpenAI auf die wachsenden Fähigkeiten moderner künstlicher Intelligenz. Gleichzeitig soll sichergestellt werden, dass leistungsstärkere Modelle unter kontrollierten Bedingungen entwickelt werden und mögliche Sicherheitsrisiken frühzeitig erkannt werden können.