Künstliche Intelligenz (KI) – Prüfung & Zertifizierung von KI-Sicherheit

Jetzt Kontakt aufnehmen

Vertrauenswürdige KI – TÜVIT-geprüft!

KI-Technologien durchdringen zunehmend alle Lebensbereiche unseres Alltags. Damit steigen gleichzeitig auch die Risiken durch fehlerbehaftete KI-Systeme, Datenmissbrauch oder Cyberangriffe.

Wir unterstützen Sie auf dem Weg zu einer vertrauenswürdigen KI: Unsere Expert:innen begleiten Sie schon beim Entwicklungsprozess und führen detaillierte Analysen (z.B. des gewählten Modelldesigns) und Tests (z.B. Robustheit, Bias, Erklärbarkeit) Ihrer KI-Systeme durch. Anschließend kann eine Zertifizierung die technischen Sicherheitseigenschaften Ihrer KI bestätigen.

  

  Vorausschauend agieren

Die KI-Regulierung steht bevor. Mit einer KI-Prüfung & Zertifizierung bereiten Sie sich schon jetzt optimal auf kommende Anforderungen vor. 
 

  Verantwortung zeigen

Mit einer KI-Prüfung & Zertifizierung gehen Sie Ihrer unternehmerischen Verantwortung nach und belegen den hohen Stellenwert von KI-Sicherheit. 
 

  Better safe than sorry (sicher ist sicher)

Eine externe Prüfung hilft, potenziell bestehende Sicherheits-Schwachstellen frühzeitig aufzudecken und zu schließen.

AI Act: Regelwerk für künstliche Intelligenz

Mit dem Artificial Intelligence Act (AI Act) soll künstliche Intelligenz künftig reguliert und das Vertrauen in KI gestärkt werden. Wer vom AI Act betroffen ist, welche Anforderungen er mit sich bringt und wie der aktuelle Stand ist.
  

Was sind mögliche Problemfelder Künstlicher Intelligenz?

Mit künstlicher Intelligenz (KI) lassen sich viele datengetriebene Probleme effizienter lösen als mit klassischer Softwareentwicklung. Trotz aller Vorteile führt ihr Einsatz aber auch immer zu zusätzlichen Fehlerquellen, die im Rahmen einer Risikoanalyse geeignet betrachtet werden müssen.

Robustheit: KI-Systeme, die maschinelles Lernen einsetzen, haben in der Regel eine Robustheitsschwäche: Bereits kleinere Änderungen an der Eingabe können zu einer falschen Klassifizierung führen. Dies hat Auswirkungen auf die Sicherheit des Systems.

Erklärbarkeit: Ein weiteres Problemfeld von KI ist die mangelnde Erklärbarkeit bzw. Transparenz von Entscheidungen, die durch KI-Systeme getroffen wurden. Das kann wiederum Auswirkungen auf die Fairness haben. 

Vorurteilsbehaftung (Bias): Der Einsatz Künstlicher Intelligenz lässt Vorurteile nicht verschwinden. Denn auch Maschinen können diskriminierende Entscheidungen treffen (Machine Bias). 

  

Ihre Vorteile auf einen Blick

Nachweis über die Sicherheit Ihrer KI
Mit einer KI-Prüfung & Zertifizierung belegen Sie objektiv die Sicherheitseigenschaften Ihres Produktes.
 

Sicherheit & Robustheit als Wettbewerbsvorteil
Durch sichere und robuste KI-Systeme schaffen Sie Vertrauen und profitieren so von Wettbewerbsvorteilen.
 

Identifizierung von Schwachstellen Ihrer KI-Systeme 
Wir prüfen Ihre KI-Systeme systematisch auf Schwächen, bevor diese in den Umlauf geraten.
 

Erfolgsfaktoren Transparenz & Fairness
Punkten Sie mit geprüften KI-Systemen, deren Entscheidungen erklärbar und vorurteilsfrei sind. 
 

Konzentration auf Ihr Business
Sie benötigen Ihre Expert:innen für Ihre Produktentwicklung – unser Team unterstützt Sie bei der Sicherheit.
 

Der KI-Regulierung einen Schritt voraus
Die europaweite KI-Regulierung schreitet voran. Mit einer KI-Prüfung & Zertifizierung bereiten Sie sich optimal vor.
 

Optimiertes Training Ihrer KI
Auf Basis unserer Analyse können Sie gezielt mit zusätzlichen Datensätzen nachtrainieren.
 

Security & Safety by Design
Mithilfe unseres entwicklungsbegleitenden Ansatzes denken Sie Sicherheit von Anfang an mit. 

Unsere Leistungen für Ihre KI-Sicherheit

Wir unterstützen Unternehmen bereits entwicklungsbegleitend und führen Analysen sowie Tests für KI-Systeme durch. Je nach Kundenwunsch kann anschließend auch eine Zertifizierung der technischen Sicherheitseigenschaften erfolgen.
  


(Entwicklungsbegleitende) Pre-Checks in Bezug auf Problemfelder & Lösungsansätze


Scoping & Gap-Analysen für KI-Prüfung/Zertifizierung


Theoretische Analyse (Entwicklungs­prozess, Modelldesign)


Sicherheitsprüfung mit spezieller Testsoftware

Ablauf einer KI-Zertifizierung

Nach Abschluss unserer Prüfungen können wir die Sicherheitseigenschaften Ihres Produktes im Rahmen unseres Trusted Product Schemas zertifizieren. Das Zertifikat bescheinigt die Ergebnisse der durchgeführten Prüfungen. Der Prüfbericht liefert darüber hinaus eine entsprechende, strukturierte Einordnung dieser Ergebnisse in den Gesamtkontext.
 
 

1. 

Scoping

Kick-off Workshop, Definition von Assets & Bedrohungen sowie der gültigen Input- & Output-Bereiche, Ab­lei­tung zertifizierbarer Anfor­de­rung­en (Technische Sicherheitsanforderungen)

2. 

Analyse & Prüfplan

Detaillierte Überprüfung der Modellarchitektur, Ableitung eines Prüfplans sowie Kalibrierung des Prüfwerkzeugs für die definierten Tests 

3. 

Prüfung

Prüfung des Modells mit dem Prüfwerkzeug und stichprobenartige Validierung der Ergebnisse 

4. 

Dokumentation & Zertifizierung

Dokumentation der Ergebnisse sowie Ausstellung des Prüfberichts

Wenn alle Anforderungen erfüllt sind: Ausstellung des Zertifikats.

Betrachtungsschwerpunkte einer KI-Prüfung & Zertifizierung


Sicherheit / Robustheit
(Robustheitsprüfung)


Ist die KI (sowohl im Sinne von Safety als auch von Security) sicher gegenüber Angriffen, Unfällen und Fehlern? 


Transparenz
(Erklärbarkeitsprüfung)


Sind Entscheidungsfindung sowie Funktionsweise der KI transparent und nachvollziehbar?


Fairness
(Bias-Prüfung)


Sind die Entscheidungen, die durch die KI getroffen werden, fair gegenüber allen Betroffenen?

FAQ – Häufige Fragen im Überblick

Ist eine KI-Zertifizierung bereits möglich?

Obwohl KI-spezifische Gesetze, Normen und Standards noch auf sich warten lassen, ist es bereits jetzt möglich, Eigenschaften von KI-Systemen zu zertifizieren.

Nach Abschluss unserer Prüfungen können wir die Sicherheitseigenschaften Ihres Produkts im Rahmen unseres Trusted Product Schemas zertifizieren. Das Zertifikat bescheinigt die Ergebnisse der durchgeführten Prüfungen und der Prüfbericht gibt eine entsprechende, strukturierte Einordnung dieser Ergebnisse in den Gesamtkontext. 

Was sind Beispiele für eine Robustheitsschwäche?

KI-Systeme, die maschinelles Lernen einsetzen, haben in der Regel eine Robustheitsschwäche: Kleine Änderungen an der Eingabe führen zu einer falschen Klassifizierung. Dies kann weitreichende Folgen haben. Wird bei der kamerabasierten Erkennung von Verkehrsschildern KI eingesetzt, kann zum Beispiel Regen oder Schnee dazu führen, dass ein Stoppschild als Vorfahrtsschild erkannt wird.

Doch nicht nur natürliche Phänomene (wie das Wetter, Verschmutzungen, etc.) sondern auch bewusste Manipulation durch Angreifer:innen müssen betrachtet werden. Ein speziell präparierter kleiner Aufkleber auf dem Stoppschild oder ein großes Plakat im Hintergrund des Schilds können bewusst von Angreifer:innen dazu genutzt werden, die KI zu täuschen.

Hier setzt unsere Robustheitsanalyse an: Wir prüfen Ihr System systematisch auf diese Schwächen, bevor diese in den Umlauf kommen. Damit können Sie Ihr KI-System bereits in der Entwicklung entsprechend härten, um Fehlfunktionen im späteren Einsatz zu minimieren.

Welchen Vorteil bringt eine Zertifizierung mit sich?

Durch eine Zertifizierung sorgen Sie dafür, dass Ihre Kunden Ihrem KI-System vertrauen können.

Mit welchen Prüfwerkzeugen kann KI geprüft werden? Welche Werkzeuge nutzt TÜVIT?

Es gibt diverse Softwareprodukte für Sicherheitsprüfungen von KI. Welches für den jeweiligen Anwendungsfall am besten geeignet ist, lässt sich pauschal nicht beantworten, sondern wird im Rahmen der Prüfung ermittelt. TÜVIT verwendet in seinen Prüfungen immer ein eigenentwickeltes Prüfwerkzeug, welches auf den Anwendungsfall zugeschnitten wird. TÜVIT kann aber auch Gebrauch von externen Prüfwerkzeugen machen.

Sie prüfen bereits selbst mit Prüfsoftware „XYZ" und möchten diese Ergebnisse durch eine unabhängige Stelle nachprüfen lassen?

Kein Problem: Wir können auch Fremdwerkzeuge in unseren Prüfprozess einbinden, sofern wir sie als geeignet einstufen. Dies wird am Anfang der Prüfung zunächst festgestellt. Unser TÜVIT-eigenes Prüfwerkzeug dient dann als Referenz zur Kalibrierung und zur Bestätigung Ihrer Funktionstests.

DSGVO-konforme Verwendung personenbezogener Daten in KI-Anwendungen

Wussten Sie schon?

Wenn Sie KI-Systeme in Ihrem Unternehmen nutzen wollen, gelten mitunter die Grundsätze der DSGVO und eine Vielzahl von datenschutzrechtlichen Vorgaben müssen berücksichtigt werden. Beispielsweise bedarf es einer entsprechenden Rechtsgrundlage, wenn personenbezogene Daten verarbeitet werden, und diese müssen mit geeigneten implementierten technischen und organisatorischen Maß­nahmen geschützt werden. Besteht aufgrund der Art, des Umfangs, der Umstände oder der Zwecke der Datenverarbeitung ein besonders hohes Risiko für die Rechte und Freiheiten von Personen, so ist gemäß Art. 35 DSGVO eine Datenschutz-Folgenabschätzung (DSFA) durchzuführen. Die Durchführung einer solchen dient der Identifizierung von Risiken bei risikobehafteten Verarbeitungsvorgängen.

In diesen Fragestellungen unterstützen wir

  • Datenschutzrechtliche Checks bei der Entwicklung von KI-Systemen (z.B. im Kontext Pseudonymisierung & Anonymisierung personenbezogener Daten)
  • Datenschutz-Folgenabschätzung nach Art. 35 DSGVO
  • Datenschutz-Audit Ihrer KI-Systeme oder KI-gestützten Verarbeitungen
  • Erstellung eines unabhängigen Datenschutz-Gutachtens für Ihr KI-System
  • Stellung eines externen Datenschutzbeauftragten  
     
KI-Projekte & Gremienarbeit

KI aktiv mitgestalten

TÜVIT in Gremien und Verbänden

AI Lab

Der TÜV-Verband hat es sich mit dem AI Lab zur Aufgabe gemacht, die technischen und regulatorischen Anforderungen an Künstliche Intelligenz zu ermitteln und die Entwicklung von zukünftigen Standards für die Prüfung sicherheitskritischer KI-Anwendungen zu begleiten. Seitens der TÜV NORD GROUP engagiert sich auch TÜVIT.

Mehr dazu

Projektbeteiligungen

Überblick zu unseren laufenden Projekten

AIMobilityAudit

BSI und ZF entwickeln Sicherheits-Check für Künstliche Intelligenz im Automobil

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben in den vergangenen zwölf Monaten im gemeinsamen Projekt AIMobilityAuditPrep Konzepte und Methoden zur Prüfung der IT-Sicherheit von KI-Systemen in Kraftfahrzeugen erarbeitet. Mit dem Folgeprojekt AIMobilityAudit soll die praktische Umsetzung von Sicherheits-Checks für KI beim automatisierten Fahren vorangetrieben werden. Als weiterer Projektpartner ist die TÜV Informationstechnik GmbH (TÜVIT) eingebunden …

Mehr dazu

 

 

AIMobilityAuditPrep

Sicherheits-Check für Künstliche Intelligenz in Autos

Mehr Sicherheit für künstliche Intelligenz (KI) im Straßenverkehr: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben ein gemeinsames Projekt gestartet um zu erforschen, wie die IT-Sicherheit von KI-Systemen in Autos nach allgemein anerkannten Kriterien getestet werden kann. Als Projektpartner ist zudem die TÜV Informationstechnik GmbH (TÜVIT) eingebunden.  Mit den Erkenntnissen aus dem Projekt sollen mittelfristig Prüfkriterien für KI-Systeme in Form einer modularen technischen Richtlinie erarbeitet werden ...

Mehr dazu

 

Der #explore-Podcast der TÜV NORD GROUP entdeckt, erklärt, erzählt. Jeden zweiten Mittwoch erscheint eine neue Folge über News, Trends und Digitales aus der vernetzten Welt. Darunter veröffentlichen wir auch immer wieder Podcasts rund um das Thema Künstliche Intelligenz und unsere Perspektiven aus Sicht einer Prüfgesellschaft für IT-Sicherheit.

Warum wir ein starker Partner für Sie sind

Umfassende KI-Fachexpertise

Unsere Expert:innen verfügen über das notwendige Spezialwissen und -werkzeug für eine professionelle Prüfung der Sicherheit, Fairness und Transparenz Ihrer KI-Systeme.

Entwicklungsbegleitende Betreuung

Von Anfang an: Wir unterstützen Ihr Unternehmen bereits entwicklungsbegleitend und führen entsprechende theoretische Analysen und Tests in Bezug auf Ihre KI-Systeme durch.

Geballte KI-Erfahrung

Schon seit 2018 entwickeln wir eigene In-House-Prüftools für KI und bauen parallel dazu die passenden Prüfdienstleistungen aus.

Immer auf dem aktuellen Stand

Unsere Expert:innen bleiben laufend auf dem aktuellsten Stand der Technik und haben weitgehende Einblicke in die aktuelle Forschungslandschaft zu KI-Prüfungen.

Unabhängigkeit

Unsere Mitarbeitenden unterliegen keinen Zielkonflikten, da sie keinen Produktanbietern, Systemintegratoren, Aktionären, Interessensgruppen oder Regierungsstellen verpflichtet sind.

Auf Sie zugeschnitten

Wir setzen auf individuelle Leistungen – und Lösungen –, die optimal zu Ihrer derzeitigen Unternehmenssituation und Ihren gesetzten Zielen passen.

Internationales Expertennetzwerk

Rund um den Globus: Wir unterstützen Sie sowohl national als auch international. Unser globales Expertennetzwerk steht Ihnen in allen IT-Sicherheitsfragen zur Seite.

 

Sie haben Fragen? Ich helfe gerne!

  

Eric Behrendt

+49 160 8880296
e.behrendt@tuvit.de