Vertrauenswürdige KI – TÜVIT-geprüft!
KI-Technologien durchdringen zunehmend alle Lebensbereiche unseres Alltags. Damit steigen gleichzeitig auch die Risiken durch fehlerbehaftete KI-Systeme, Datenmissbrauch oder Cyberangriffe.
Wir unterstützen Sie auf dem Weg zu einer vertrauenswürdigen KI: Unsere Expert:innen begleiten Sie schon beim Entwicklungsprozess und führen detaillierte Analysen (z.B. des gewählten Modelldesigns) und Tests (z.B. Robustheit, Bias, Erklärbarkeit) Ihrer KI-Systeme durch. Anschließend kann eine Zertifizierung die technischen Sicherheitseigenschaften Ihrer KI bestätigen.
Vorausschauend agieren
Die KI-Regulierung steht bevor. Mit einer KI-Prüfung & Zertifizierung bereiten Sie sich schon jetzt optimal auf kommende Anforderungen vor.
Verantwortung zeigen
Mit einer KI-Prüfung & Zertifizierung gehen Sie Ihrer unternehmerischen Verantwortung nach und belegen den hohen Stellenwert von KI-Sicherheit.
Better safe than sorry (sicher ist sicher)
Eine externe Prüfung hilft, potenziell bestehende Sicherheits-Schwachstellen frühzeitig aufzudecken und zu schließen.
Ihre Vorteile auf einen Blick
Nachweis über die Sicherheit Ihrer KI
Mit einer KI-Prüfung & Zertifizierung belegen Sie objektiv die Sicherheitseigenschaften Ihres Produktes.
Sicherheit & Robustheit als Wettbewerbsvorteil
Durch sichere und robuste KI-Systeme schaffen Sie Vertrauen und profitieren so von Wettbewerbsvorteilen.
Identifizierung von Schwachstellen Ihrer KI-Systeme
Wir prüfen Ihre KI-Systeme systematisch auf Schwächen, bevor diese in den Umlauf geraten.
Erfolgsfaktoren Transparenz & Fairness
Punkten Sie mit geprüften KI-Systemen, deren Entscheidungen erklärbar und vorurteilsfrei sind.
Konzentration auf Ihr Business
Sie benötigen Ihre Expert:innen für Ihre Produktentwicklung – unser Team unterstützt Sie bei der Sicherheit.
Der KI-Regulierung einen Schritt voraus
Die europaweite KI-Regulierung schreitet voran. Mit einer KI-Prüfung & Zertifizierung bereiten Sie sich optimal vor.
Optimiertes Training Ihrer KI
Auf Basis unserer Analyse können Sie gezielt mit zusätzlichen Datensätzen nachtrainieren.
Security & Safety by Design
Mithilfe unseres entwicklungsbegleitenden Ansatzes denken Sie Sicherheit von Anfang an mit.
Unsere Leistungen für Ihre KI-Sicherheit
Wir unterstützen Unternehmen bereits entwicklungsbegleitend und führen Analysen sowie Tests für KI-Systeme durch. Je nach Kundenwunsch kann anschließend auch eine Zertifizierung der technischen Sicherheitseigenschaften erfolgen.
(Entwicklungsbegleitende) Beratung zu Problemfeldern & Lösungsansätzen
Scoping & Gap-Analysen für KI-Prüfung/Zertifizierung
Theoretische Analyse (Entwicklungsprozess, Modelldesign)
Sicherheitsprüfung mit
spezieller Testsoftware
KI-Zertifizierung ist schon jetzt möglich
Nach Abschluss unserer Prüfungen können wir die Sicherheitseigenschaften Ihres Produktes im Rahmen unseres Trusted Product Schemas zertifizieren. Das Zertifikat bescheinigt die Ergebnisse der durchgeführten Prüfungen. Der Prüfbericht liefert darüber hinaus eine entsprechende, strukturierte Einordnung dieser Ergebnisse in den Gesamtkontext.
Der Zertifizierungsprozess im Überblick:
- Kick-off Workshop
- Definition von Assets und Bedrohungen
- Definition der gültigen Input- und Output-Bereiche
- Ableitung zertifizierbarer Anforderungen (Technische Sicherheitsanforderungen)
- Detaillierte Überprüfung der Modellarchitektur
- Ableitung eines Prüfplans
- Kalibrierung des Prüfwerkzeugs für die definierten Tests
- Prüfung des Modells mit dem Prüfwerkzeug
- Stichprobenartige Validierung der Ergebnisse
- Dokumentation der Ergebnisse
- Ausstellung des Prüfberichts
- Wenn alle Anforderungen erfüllt sind: Ausstellung des Zertifikats
Was sind mögliche Problemfelder Künstlicher Intelligenz?
Mit künstlicher Intelligenz (KI) lassen sich viele datengetriebene Probleme effizienter lösen als mit klassischer Softwareentwicklung. Trotz aller Vorteile führt ihr Einsatz aber auch immer zu zusätzlichen Fehlerquellen, die im Rahmen einer Risikoanalyse geeignet betrachtet werden müssen.
- Robustheit: KI-Systeme, die maschinelles Lernen einsetzen, haben in der Regel eine Robustheitsschwäche: Bereits kleinere Änderungen an der Eingabe können zu einer falschen Klassifizierung führen. Dies hat Auswirkungen auf die Sicherheit des Systems.
- Erklärbarkeit: Ein weiteres Problemfeld von KI ist die mangelnde Erklärbarkeit bzw. Transparenz von Entscheidungen, die durch KI-Systeme getroffen wurden. Das kann wiederum Auswirkungen auf die Fairness haben.
- Vorurteilsbehaftung (Bias): Der Einsatz Künstlicher Intelligenz lässt Vorurteile nicht verschwinden. Denn auch Maschinen können diskriminierende Entscheidungen treffen (Machine Bias).
Betrachtungsschwerpunkte einer KI-Prüfung & Zertifizierung
Sicherheit / Robustheit
(Robustheitsprüfung)
Ist die KI (sowohl im Sinne von Safety als auch von Security) sicher gegenüber Angriffen, Unfällen und Fehlern?
Transparenz
(Erklärbarkeitsprüfung)
Sind Entscheidungsfindung sowie Funktionsweise der KI transparent und nachvollziehbar?
Fairness
(Bias-Prüfung)
Sind die Entscheidungen, die durch die KI getroffen werden, fair gegenüber allen Betroffenen?
FAQ – Häufige Fragen im Überblick
Obwohl KI-spezifische Gesetze, Normen und Standards noch auf sich warten lassen, ist es bereits jetzt möglich, Eigenschaften von KI-Systemen zu zertifizieren.
Nach Abschluss unserer Prüfungen können wir die Sicherheitseigenschaften Ihres Produkts im Rahmen unseres Trusted Product Schemas zertifizieren. Das Zertifikat bescheinigt die Ergebnisse der durchgeführten Prüfungen und der Prüfbericht gibt eine entsprechende, strukturierte Einordnung dieser Ergebnisse in den Gesamtkontext.
Es gibt diverse Softwareprodukte für Sicherheitsprüfungen von KI. Welches für den jeweiligen Anwendungsfall am besten geeignet ist, lässt sich pauschal nicht beantworten, sondern wird im Rahmen der Prüfung ermittelt. TÜV IT verwendet in seinen Prüfungen immer ein eigenentwickeltes Prüfwerkzeug, welches auf den Anwendungsfall zugeschnitten wird. TÜV IT kann aber auch Gebrauch von externen Prüfwerkzeugen machen.
Kein Problem: Wir können auch Fremdwerkzeuge in unseren Prüfprozess einbinden, sofern wir sie als geeignet einstufen. Dies wird am Anfang der Prüfung zunächst festgestellt. Unser TÜV IT-eigenes Prüfwerkzeug dient dann als Referenz zur Kalibrierung und zur Bestätigung Ihrer Funktionstests.
KI-Systeme, die maschinelles Lernen einsetzen, haben in der Regel eine Robustheitsschwäche: Kleine Änderungen an der Eingabe führen zu einer falschen Klassifizierung. Dies kann weitreichende Folgen haben. Wird bei der kamerabasierten Erkennung von Verkehrsschildern KI eingesetzt, kann zum Beispiel Regen oder Schnee dazu führen, dass ein Stoppschild als Vorfahrtsschild erkannt wird.
Doch nicht nur natürliche Phänomene (wie das Wetter, Verschmutzungen, etc.) sondern auch bewusste Manipulation durch Angreifer:innen müssen betrachtet werden. Ein speziell präparierter kleiner Aufkleber auf dem Stoppschild oder ein großes Plakat im Hintergrund des Schilds können bewusst von Angreifer:innen dazu genutzt werden, die KI zu täuschen.
Hier setzt unsere Robustheitsanalyse an: Wir prüfen Ihr System systematisch auf diese Schwächen, bevor diese in den Umlauf kommen. Damit können Sie Ihr KI-System bereits in der Entwicklung entsprechend härten, um Fehlfunktionen im späteren Einsatz zu minimieren.
Durch eine Zertifizierung sorgen Sie dafür, dass Ihre Kunden Ihrem KI-System vertrauen können.
Diese KI-Themen könnten Sie auch interessieren:
Wie prüft man KI?
Sicherheits-Check für KI in Autos: BSI und ZF starten Projekt mit TÜViT
TÜV IT und Fraunhofer AISEC entwickeln gemeinsamen Ansatz zur Zertifizierung von KI
Warum wir ein starker Partner für Sie sind
Umfassende KI-Fachexpertise
Entwicklungsbegleitende Betreuung
Geballte KI-Erfahrung
Immer auf dem aktuellen Stand
Auf Sie zugeschnitten
Internationales Expertennetzwerk
Unabhängigkeit
