Vertrauenswürdige KI – TÜVIT-geprüft!
KI-Technologien durchdringen zunehmend alle Lebensbereiche unseres Alltags. Damit steigen gleichzeitig auch die Risiken durch fehlerbehaftete KI-Systeme, Datenmissbrauch oder Cyberangriffe.
Wir unterstützen Sie auf dem Weg zu einer vertrauenswürdigen KI: Unsere Expert:innen begleiten Sie schon beim Entwicklungsprozess und führen detaillierte Analysen (z.B. des gewählten Modelldesigns) und Tests (z.B. Robustheit, Bias, Erklärbarkeit) Ihrer KI-Systeme durch. Anschließend kann eine Zertifizierung die technischen Sicherheitseigenschaften Ihrer KI bestätigen.
Vorausschauend agieren
Die KI-Regulierung steht bevor. Mit einer KI-Prüfung & Zertifizierung bereiten Sie sich schon jetzt optimal auf kommende Anforderungen vor.
Verantwortung zeigen
Mit einer KI-Prüfung & Zertifizierung gehen Sie Ihrer unternehmerischen Verantwortung nach und belegen den hohen Stellenwert von KI-Sicherheit.
Better safe than sorry (sicher ist sicher)
Eine externe Prüfung hilft, potenziell bestehende Sicherheits-Schwachstellen frühzeitig aufzudecken und zu schließen.
AI Act: Regelwerk für künstliche Intelligenz
Mit dem Artificial Intelligence Act (AI Act) soll künstliche Intelligenz künftig reguliert und das Vertrauen in KI gestärkt werden. Wer vom AI Act betroffen ist, welche Anforderungen er mit sich bringt und wie der aktuelle Stand ist.
Was sind mögliche Problemfelder Künstlicher Intelligenz?
Mit künstlicher Intelligenz (KI) lassen sich viele datengetriebene Probleme effizienter lösen als mit klassischer Softwareentwicklung. Trotz aller Vorteile führt ihr Einsatz aber auch immer zu zusätzlichen Fehlerquellen, die im Rahmen einer Risikoanalyse geeignet betrachtet werden müssen.
Robustheit: KI-Systeme, die maschinelles Lernen einsetzen, haben in der Regel eine Robustheitsschwäche: Bereits kleinere Änderungen an der Eingabe können zu einer falschen Klassifizierung führen. Dies hat Auswirkungen auf die Sicherheit des Systems.
Erklärbarkeit: Ein weiteres Problemfeld von KI ist die mangelnde Erklärbarkeit bzw. Transparenz von Entscheidungen, die durch KI-Systeme getroffen wurden. Das kann wiederum Auswirkungen auf die Fairness haben.
Vorurteilsbehaftung (Bias): Der Einsatz Künstlicher Intelligenz lässt Vorurteile nicht verschwinden. Denn auch Maschinen können diskriminierende Entscheidungen treffen (Machine Bias).
Ihre Vorteile auf einen Blick
Nachweis über die Sicherheit Ihrer KI
Mit einer KI-Prüfung & Zertifizierung belegen Sie objektiv die Sicherheitseigenschaften Ihres Produktes.
Sicherheit & Robustheit als Wettbewerbsvorteil
Durch sichere und robuste KI-Systeme schaffen Sie Vertrauen und profitieren so von Wettbewerbsvorteilen.
Identifizierung von Schwachstellen Ihrer KI-Systeme
Wir prüfen Ihre KI-Systeme systematisch auf Schwächen, bevor diese in den Umlauf geraten.
Erfolgsfaktoren Transparenz & Fairness
Punkten Sie mit geprüften KI-Systemen, deren Entscheidungen erklärbar und vorurteilsfrei sind.
Konzentration auf Ihr Business
Sie benötigen Ihre Expert:innen für Ihre Produktentwicklung – unser Team unterstützt Sie bei der Sicherheit.
Der KI-Regulierung einen Schritt voraus
Die europaweite KI-Regulierung schreitet voran. Mit einer KI-Prüfung & Zertifizierung bereiten Sie sich optimal vor.
Optimiertes Training Ihrer KI
Auf Basis unserer Analyse können Sie gezielt mit zusätzlichen Datensätzen nachtrainieren.
Security & Safety by Design
Mithilfe unseres entwicklungsbegleitenden Ansatzes denken Sie Sicherheit von Anfang an mit.
Unsere Leistungen für Ihre KI-Sicherheit
Wir unterstützen Unternehmen bereits entwicklungsbegleitend und führen Analysen sowie Tests für KI-Systeme durch. Je nach Kundenwunsch kann anschließend auch eine Zertifizierung der technischen Sicherheitseigenschaften erfolgen.
(Entwicklungsbegleitende) Pre-Checks in Bezug auf Problemfelder & Lösungsansätze
Scoping & Gap-Analysen für KI-Prüfung/Zertifizierung
Theoretische Analyse (Entwicklungsprozess, Modelldesign)
Sicherheitsprüfung mit spezieller Testsoftware
Ablauf einer KI-Zertifizierung
Nach Abschluss unserer Prüfungen können wir die Sicherheitseigenschaften Ihres Produktes im Rahmen unseres Trusted Product Schemas zertifizieren. Das Zertifikat bescheinigt die Ergebnisse der durchgeführten Prüfungen. Der Prüfbericht liefert darüber hinaus eine entsprechende, strukturierte Einordnung dieser Ergebnisse in den Gesamtkontext.
1.
Scoping
Kick-off Workshop, Definition von Assets & Bedrohungen sowie der gültigen Input- & Output-Bereiche, Ableitung zertifizierbarer Anforderungen (Technische Sicherheitsanforderungen)
2.
Analyse & Prüfplan
Detaillierte Überprüfung der Modellarchitektur, Ableitung eines Prüfplans sowie Kalibrierung des Prüfwerkzeugs für die definierten Tests
3.
Prüfung
Prüfung des Modells mit dem Prüfwerkzeug und stichprobenartige Validierung der Ergebnisse
4.
Dokumentation & Zertifizierung
Dokumentation der Ergebnisse sowie Ausstellung des Prüfberichts
Wenn alle Anforderungen erfüllt sind: Ausstellung des Zertifikats.
Betrachtungsschwerpunkte einer KI-Prüfung & Zertifizierung
Sicherheit / Robustheit
(Robustheitsprüfung)
Ist die KI (sowohl im Sinne von Safety als auch von Security) sicher gegenüber Angriffen, Unfällen und Fehlern?
Transparenz
(Erklärbarkeitsprüfung)
Sind Entscheidungsfindung sowie Funktionsweise der KI transparent und nachvollziehbar?
Fairness
(Bias-Prüfung)
Sind die Entscheidungen, die durch die KI getroffen werden, fair gegenüber allen Betroffenen?
FAQ – Häufige Fragen im Überblick
Obwohl KI-spezifische Gesetze, Normen und Standards noch auf sich warten lassen, ist es bereits jetzt möglich, Eigenschaften von KI-Systemen zu zertifizieren.
Nach Abschluss unserer Prüfungen können wir die Sicherheitseigenschaften Ihres Produkts im Rahmen unseres Trusted Product Schemas zertifizieren. Das Zertifikat bescheinigt die Ergebnisse der durchgeführten Prüfungen und der Prüfbericht gibt eine entsprechende, strukturierte Einordnung dieser Ergebnisse in den Gesamtkontext.
KI-Systeme, die maschinelles Lernen einsetzen, haben in der Regel eine Robustheitsschwäche: Kleine Änderungen an der Eingabe führen zu einer falschen Klassifizierung. Dies kann weitreichende Folgen haben. Wird bei der kamerabasierten Erkennung von Verkehrsschildern KI eingesetzt, kann zum Beispiel Regen oder Schnee dazu führen, dass ein Stoppschild als Vorfahrtsschild erkannt wird.
Doch nicht nur natürliche Phänomene (wie das Wetter, Verschmutzungen, etc.) sondern auch bewusste Manipulation durch Angreifer:innen müssen betrachtet werden. Ein speziell präparierter kleiner Aufkleber auf dem Stoppschild oder ein großes Plakat im Hintergrund des Schilds können bewusst von Angreifer:innen dazu genutzt werden, die KI zu täuschen.
Hier setzt unsere Robustheitsanalyse an: Wir prüfen Ihr System systematisch auf diese Schwächen, bevor diese in den Umlauf kommen. Damit können Sie Ihr KI-System bereits in der Entwicklung entsprechend härten, um Fehlfunktionen im späteren Einsatz zu minimieren.
Durch eine Zertifizierung sorgen Sie dafür, dass Ihre Kunden Ihrem KI-System vertrauen können.
Es gibt diverse Softwareprodukte für Sicherheitsprüfungen von KI. Welches für den jeweiligen Anwendungsfall am besten geeignet ist, lässt sich pauschal nicht beantworten, sondern wird im Rahmen der Prüfung ermittelt. TÜVIT verwendet in seinen Prüfungen immer ein eigenentwickeltes Prüfwerkzeug, welches auf den Anwendungsfall zugeschnitten wird. TÜVIT kann aber auch Gebrauch von externen Prüfwerkzeugen machen.
Kein Problem: Wir können auch Fremdwerkzeuge in unseren Prüfprozess einbinden, sofern wir sie als geeignet einstufen. Dies wird am Anfang der Prüfung zunächst festgestellt. Unser TÜVIT-eigenes Prüfwerkzeug dient dann als Referenz zur Kalibrierung und zur Bestätigung Ihrer Funktionstests.
DSGVO-konforme Verwendung personenbezogener Daten in KI-Anwendungen
Wussten Sie schon?
Wenn Sie KI-Systeme in Ihrem Unternehmen nutzen wollen, gelten mitunter die Grundsätze der DSGVO und eine Vielzahl von datenschutzrechtlichen Vorgaben müssen berücksichtigt werden. Beispielsweise bedarf es einer entsprechenden Rechtsgrundlage, wenn personenbezogene Daten verarbeitet werden, und diese müssen mit geeigneten implementierten technischen und organisatorischen Maßnahmen geschützt werden. Besteht aufgrund der Art, des Umfangs, der Umstände oder der Zwecke der Datenverarbeitung ein besonders hohes Risiko für die Rechte und Freiheiten von Personen, so ist gemäß Art. 35 DSGVO eine Datenschutz-Folgenabschätzung (DSFA) durchzuführen. Die Durchführung einer solchen dient der Identifizierung von Risiken bei risikobehafteten Verarbeitungsvorgängen.
In diesen Fragestellungen unterstützen wir
- Datenschutzrechtliche Checks bei der Entwicklung von KI-Systemen (z.B. im Kontext Pseudonymisierung & Anonymisierung personenbezogener Daten)
- Datenschutz-Folgenabschätzung nach Art. 35 DSGVO
- Datenschutz-Audit Ihrer KI-Systeme oder KI-gestützten Verarbeitungen
- Erstellung eines unabhängigen Datenschutz-Gutachtens für Ihr KI-System
- Stellung eines externen Datenschutzbeauftragten
Der #explore-Podcast der TÜV NORD GROUP entdeckt, erklärt, erzählt. Jeden zweiten Mittwoch erscheint eine neue Folge über News, Trends und Digitales aus der vernetzten Welt. Darunter veröffentlichen wir auch immer wieder Podcasts rund um das Thema Künstliche Intelligenz und unsere Perspektiven aus Sicht einer Prüfgesellschaft für IT-Sicherheit.