Pressemeldung
Der OpenAI-Hugging-Face-Vorfall macht deutlich: Mit den Fähigkeiten moderner KI steigen auch die Anforderungen an sichere Evaluierungsumgebungen. Gleichzeitig gewinnen lokal betriebene Open-Weight-Modelle für Forensik, Sicherheitsprüfungen und den Schutz sensibler Daten an Bedeutung.
Kontakt aufnehmen
Der Vorfall zwischen OpenAI und Hugging Face, bei dem ein im Rahmen einer Sicherheitsevaluierung getestetes KI-System aus seiner vorgesehenen Umgebung ausbrach und die Infrastruktur eines Drittunternehmens kompromittierte, verdeutlicht eine wichtige Entwicklung: Mit den Fähigkeiten von KI-Systemen steigen auch die Anforderungen an sichere Evaluierungsumgebungen.
Die Diskussion rund um den Vorfall konzentriert sich vor allem darauf, wozu die eingesetzte KI in der Lage war. Aus Sicht unabhängiger Sicherheitsprüfungen ist eine andere Frage mindestens ebenso relevant: Waren die umgebenden Schutzmaßnahmen überhaupt darauf ausgelegt, ein System mit derartigen Fähigkeiten zuverlässig einzudämmen?
Ein weiterer bemerkenswerter Aspekt zeigte sich während der Reaktion auf den Vorfall. Nach Angaben von Hugging Face konnten kommerzielle Frontier-Modelle nicht effektiv für die forensische Analyse eingesetzt werden. Die Schutzmechanismen der Anbieter blockierten die Verarbeitung von Angriffsprotokollen, Exploits und Command-and-Control-Artefakten. Hugging Face führte die digitale Forensik und Incident Response deshalb mit Unterstützung des Open-Weight-Modells GLM 5.2 durch, das vollständig innerhalb der eigenen Infrastruktur betrieben wurde. Dadurch blieben sensible Angriffsdaten, Zugangsdaten und weitere Untersuchungsartefakte unter der Kontrolle des Unternehmens.
Der Vorfall zeigt damit auch, welchen Stellenwert Open-Weight-Modelle und lokal einsetzbare Small Language Models, kurz SLMs, für die moderne IT-Forensik und Cybersecurity gewinnen. Sie ermöglichen es, sensible Daten innerhalb der eigenen Infrastruktur zu verarbeiten und die eingesetzten Systeme an die Anforderungen der jeweiligen Untersuchung anzupassen. Diese Beobachtung deckt sich eng mit dem Ansatz von TÜVIT.
Bei Cybersecurity-Assurance-Aktivitäten gehören Quellcode, Bedrohungsanalysen, Prüfverfahren und das geistige Eigentum von Kunden häufig zu den besonders sensiblen Informationen. TÜVIT konzentriert sich deshalb darauf, KI-Funktionen innerhalb isolierter Prüfumgebungen bereitzustellen, anstatt auf extern gehostete Dienste zurückzugreifen. In KI-gestützten Security-Testing-Pipelines können Open-Weight-Modelle und lokal einsetzbare SLMs direkt in kontrollierte Laborumgebungen integriert werden. Dadurch können Penetrationstester, Evaluatoren und Forensiker Quellcode analysieren, Sicherheitsmaßnahmen bewerten und Härtungsmaßnahmen validieren, ohne sensible Kundenartefakte, wie Quellcode oder anderes geistiges Eigentum, an externe Anbieter oder andere Dritte übermitteln zu müssen. Der lokale Betrieb unterstützt sowohl die erforderliche Vertraulichkeit als auch die Kontrolle über Daten, Modelle und Verarbeitungsschritte. Gleichzeitig trägt er zu der Nachvollziehbarkeit bei, die bei unabhängigen Prüf- und Bewertungsverfahren erwartet wird.
Leistungsfähige KI braucht eine belastbare und sichere technische Basis. Mit Penetrationstests deckt TÜVIT Schwachstellen gezielt auf und zeigt, wie sich Risiken wirksam reduzieren lassen.
Nach der aktuellen Methodik von TÜVIT können Software-Produktprüfungen in vollständig abgeschotteten und bei Bedarf auch air-gapped Umgebungen durchgeführt werden. Open-Weight- und lokal einsetzbare SLMs lassen sich dabei direkt in die bestehende Prüfinfrastruktur integrieren. Die KI-Systeme dienen als Beschleuniger für Sicherheitsexpert:innen. Sie unterstützen bei der Analyse großer Datenmengen, der Identifikation relevanter Zusammenhänge und der strukturierten Bewertung technischer Informationen. Die fachliche Einordnung und die Verantwortung für die Prüfergebnisse verbleiben bei den beteiligten Penetrationstestern und Evaluatoren.
Die Lehre aus dem Vorfall geht daher über die Sicherheit einzelner KI-Systeme hinaus. Organisationen müssen nicht nur sicherstellen, dass leistungsfähige KI-Modelle angemessen kontrolliert und innerhalb sicherer Grenzen betrieben werden. Auch Sicherheits- und Forensikteams benötigen Zugang zu vertrauenswürdigen KI-Werkzeugen, die lokal, transparent und innerhalb klar definierter Vertrauensgrenzen eingesetzt werden können. Open-Weight-Modelle und lokal einsetzbare SLMs entwickeln sich damit zu einem zunehmend wichtigen Bestandteil moderner Cybersecurity-Assurance- und Evaluierungsverfahren. Sie bieten die Möglichkeit, leistungsfähige KI-Unterstützung mit hohen Anforderungen an Vertraulichkeit, Kontrolle und Nachvollziehbarkeit zu verbinden.
Die TÜV Informationstechnik GmbH (Hauptsitz in Essen, Deutschland) ist ein renommierter IT-Sicherheitsdienstleister sowie ein unabhängiges Prüfinstitut und -labor für IT-Sicherheit und Cyber-Security in der Digitalisierung. Weltweit akkreditiert, seit 1995. TÜVIT schafft durch Schwachstellenanalysen, Audits und Evaluationen Vertrauen in Sicherheitsmaßnahmen auf der Ebene von Geschäftsprozessen, Daten, Applikationen und Technologien. In der Erkennung und Reaktion auf Cyberangriffe ist TÜVIT ein schlagkräftiger Partner und sorgt für eine schnelle Wiederherstellung der Geschäftsfähigkeit. Wirtschaft, Verwaltung und Betreiber kritischer Infrastrukturen stärken so ihre regulatorische Compliance in den Handlungsfeldern Vertraulichkeit, Integrität und Verfügbarkeit sowie ihre ganzheitliche Cyber-Resilienz und IT-Sicherheit in der Lieferkette.
Gemeinsam mit ALTER TECHNOLOGY bildet TÜVIT die Business Unit Digital & Semiconductor. Der Geschäftsbereich ist eine tragende Säule im Wissensunternehmen TÜV NORD GROUP, die seit über 150 Jahren weltweit für Sicherheit und Vertrauen steht. Ingenieur:innen und IT-Security-Expert:innen sorgen in mehr als 100 Ländern dafür, dass Unternehmen in der vernetzten Welt noch erfolgreicher werden.
