Künstliche Intelligenz (KI) – Prüfung & Zertifizierung von KI-Sicherheit

Haben Sie Fragen oder Anmerkungen? Kontaktieren Sie uns!

Vertrauenswürdige KI – TÜVIT-geprüft!

KI-Technologien durchdringen zunehmend alle Lebensbereiche unseres Alltags. Damit steigen gleichzeitig auch die Risiken durch fehlerbehaftete KI-Systeme, Datenmissbrauch oder Cyberangriffe.

Wir unterstützen Sie auf dem Weg zu einer vertrauenswürdigen KI: Unsere Expert:innen begleiten Sie schon beim Entwicklungsprozess und führen detaillierte Analysen (z.B. des gewählten Modelldesigns) und Tests (z.B. Robustheit, Bias, Erklärbarkeit) Ihrer KI-Systeme durch. Anschließend kann eine Zertifizierung die technischen Sicherheitseigenschaften Ihrer KI bestätigen.

  

 Vorausschauend agieren

Die KI-Regulierung steht bevor. Mit einer KI-Prüfung & Zertifizierung bereiten Sie sich schon jetzt optimal auf kommende Anforderungen vor. 
 

 Verantwortung zeigen

Mit einer KI-Prüfung & Zertifizierung gehen Sie Ihrer unternehmerischen Verantwortung nach und belegen den hohen Stellenwert von KI-Sicherheit. 
 

 Better safe than sorry (sicher ist sicher)

Eine externe Prüfung hilft, potenziell bestehende Sicherheits-Schwachstellen frühzeitig aufzudecken und zu schließen.

Künstliche Intelligenz (KI) – Prüfung & Zertifizierung von KI-Sicherheit Künstliche Intelligenz (KI) – Prüfung & Zertifizierung von KI-Sicherheit Künstliche Intelligenz (KI) – Prüfung & Zertifizierung von KI-Sicherheit Künstliche Intelligenz (KI) – Prüfung & Zertifizierung von KI-Sicherheit

Ihre Vorteile auf einen Blick

Künstliche Intelligenz (KI): Nachweis über die Sicherheit Ihrer KI Künstliche Intelligenz (KI): Nachweis über die Sicherheit Ihrer KI Künstliche Intelligenz (KI): Nachweis über die Sicherheit Ihrer KI Künstliche Intelligenz (KI): Nachweis über die Sicherheit Ihrer KI

Nachweis über die Sicherheit Ihrer KI
Mit einer KI-Prüfung & Zertifizierung belegen Sie objektiv die Sicherheitseigenschaften Ihres Produktes.

Künstliche Intelligenz (KI): Sicherheit & Robustheit als Wettbewerbsvorteil Künstliche Intelligenz (KI): Sicherheit & Robustheit als Wettbewerbsvorteil Künstliche Intelligenz (KI): Sicherheit & Robustheit als Wettbewerbsvorteil Künstliche Intelligenz (KI): Sicherheit & Robustheit als Wettbewerbsvorteil

Sicherheit & Robustheit als Wettbewerbsvorteil
Durch sichere und robuste KI-Systeme schaffen Sie Vertrauen und profitieren so von Wettbewerbsvorteilen.

Künstliche Intelligenz (KI): Identifizierung von Schwachstellen Ihrer KI-Systeme Künstliche Intelligenz (KI): Identifizierung von Schwachstellen Ihrer KI-Systeme Künstliche Intelligenz (KI): Identifizierung von Schwachstellen Ihrer KI-Systeme Künstliche Intelligenz (KI): Identifizierung von Schwachstellen Ihrer KI-Systeme

Identifizierung von Schwachstellen Ihrer KI-Systeme 
Wir prüfen Ihre KI-Systeme systematisch auf Schwächen, bevor diese in den Umlauf geraten.

Künstliche Intelligenz (KI): Erfolgsfaktoren Transparenz & Fairness Künstliche Intelligenz (KI): Erfolgsfaktoren Transparenz & Fairness Künstliche Intelligenz (KI): Erfolgsfaktoren Transparenz & Fairness Künstliche Intelligenz (KI): Erfolgsfaktoren Transparenz & Fairness

Erfolgsfaktoren Transparenz & Fairness
Punkten Sie mit geprüften KI-Systemen, deren Entscheidungen erklärbar und vorurteilsfrei sind. 

Künstliche Intelligenz (KI): Konzentration auf Ihr Business Künstliche Intelligenz (KI): Konzentration auf Ihr Business Künstliche Intelligenz (KI): Konzentration auf Ihr Business Künstliche Intelligenz (KI): Konzentration auf Ihr Business

Konzentration auf Ihr Business
Sie benötigen Ihre Expert:innen für Ihre Produktentwicklung – unser Team unterstützt Sie bei der Sicherheit.

Künstliche Intelligenz (KI): Der KI-Regulierung einen Schritt voraus Künstliche Intelligenz (KI): Der KI-Regulierung einen Schritt voraus Künstliche Intelligenz (KI): Der KI-Regulierung einen Schritt voraus Künstliche Intelligenz (KI): Der KI-Regulierung einen Schritt voraus

Der KI-Regulierung einen Schritt voraus
Die europaweite KI-Regulierung schreitet voran. Mit einer KI-Prüfung & Zertifizierung bereiten Sie sich optimal vor.

Künstliche Intelligenz (KI): Optimiertes Training Ihrer KI Künstliche Intelligenz (KI): Optimiertes Training Ihrer KI Künstliche Intelligenz (KI): Optimiertes Training Ihrer KI Künstliche Intelligenz (KI): Optimiertes Training Ihrer KI

Optimiertes Training Ihrer KI
Auf Basis unserer Analyse können Sie gezielt mit zusätzlichen Datensätzen nachtrainieren.

Künstliche Intelligenz (KI): Security & Safety by Design Künstliche Intelligenz (KI): Security & Safety by Design Künstliche Intelligenz (KI): Security & Safety by Design Künstliche Intelligenz (KI): Security & Safety by Design

Security & Safety by Design
Mithilfe unseres entwicklungsbegleitenden Ansatzes denken Sie Sicherheit von Anfang an mit. 

Unsere Leistungen für Ihre KI-Sicherheit

Wir unterstützen Unternehmen bereits entwicklungsbegleitend und führen Analysen sowie Tests für KI-Systeme durch. Je nach Kundenwunsch kann anschließend auch eine Zertifizierung der technischen Sicherheitseigenschaften erfolgen.
  

Leistungen Künstliche Intelligenz (KI): (Entwicklungsbegleitende) Beratung zu Problemfeldern & Lösungsansätzen Leistungen Künstliche Intelligenz (KI): (Entwicklungsbegleitende) Beratung zu Problemfeldern & Lösungsansätzen Leistungen Künstliche Intelligenz (KI): (Entwicklungsbegleitende) Beratung zu Problemfeldern & Lösungsansätzen Leistungen Künstliche Intelligenz (KI): (Entwicklungsbegleitende) Beratung zu Problemfeldern & Lösungsansätzen

(Entwicklungsbegleitende) Beratung zu Problemfeldern & Lösungsansätzen

Leistungen Künstliche Intelligenz (KI): Scoping & Gap-Analysen für KI-Prüfung/Zertifizierung Leistungen Künstliche Intelligenz (KI): Scoping & Gap-Analysen für KI-Prüfung/Zertifizierung Leistungen Künstliche Intelligenz (KI): Scoping & Gap-Analysen für KI-Prüfung/Zertifizierung Leistungen Künstliche Intelligenz (KI): Scoping & Gap-Analysen für KI-Prüfung/Zertifizierung

Scoping & Gap-Analysen für KI-Prüfung/Zertifizierung

Leistungen Künstliche Intelligenz (KI): Theoretische Analyse (Entwicklungsprozess, Modelldesign) Leistungen Künstliche Intelligenz (KI): Theoretische Analyse (Entwicklungsprozess, Modelldesign) Leistungen Künstliche Intelligenz (KI): Theoretische Analyse (Entwicklungsprozess, Modelldesign) Leistungen Künstliche Intelligenz (KI): Theoretische Analyse (Entwicklungsprozess, Modelldesign)

Theoretische Analyse (Entwicklungsprozess, Modelldesign)

Leistungen Künstliche Intelligenz (KI): Sicherheitsprüfung mit spezieller Testsoftware Leistungen Künstliche Intelligenz (KI): Sicherheitsprüfung mit spezieller Testsoftware Leistungen Künstliche Intelligenz (KI): Sicherheitsprüfung mit spezieller Testsoftware Leistungen Künstliche Intelligenz (KI): Sicherheitsprüfung mit spezieller Testsoftware

Sicherheitsprüfung mit
spezieller Testsoftware

KI-Zertifizierung ist schon jetzt möglich

Nach Abschluss unserer Prüfungen können wir die Sicherheitseigenschaften Ihres Produktes im Rahmen unseres Trusted Product Schemas zertifizieren. Das Zertifikat bescheinigt die Ergebnisse der durchgeführten Prüfungen. Der Prüfbericht liefert darüber hinaus eine entsprechende, strukturierte Einordnung dieser Ergebnisse in den Gesamtkontext.
 

Der Zertifizierungsprozess im Überblick:
 

KI-Zertifizierung: Scoping KI-Zertifizierung: Scoping KI-Zertifizierung: Scoping KI-Zertifizierung: Scoping
  • Kick-off Workshop
  • Definition von Assets und Bedrohungen
  • Definition der gültigen Input- und Output-Bereiche
  • Ableitung zertifizierbarer Anforderungen (Technische Sicherheitsanforderungen)
KI-Zertifizierung: Analyse & Prüfplan KI-Zertifizierung: Analyse & Prüfplan KI-Zertifizierung: Analyse & Prüfplan KI-Zertifizierung: Analyse & Prüfplan
  • Detaillierte Überprüfung der Modellarchitektur
  • Ableitung eines Prüfplans
  • Kalibrierung des Prüfwerkzeugs für die definierten Tests 
KI-Zertifizierung: Prüfung KI-Zertifizierung: Prüfung KI-Zertifizierung: Prüfung KI-Zertifizierung: Prüfung
  • Prüfung des Modells mit dem Prüfwerkzeug
  • Stichprobenartige Validierung der Ergebnisse 
KI-Zertifizierung: Dokumentation & Zertifizierung KI-Zertifizierung: Dokumentation & Zertifizierung KI-Zertifizierung: Dokumentation & Zertifizierung KI-Zertifizierung: Dokumentation & Zertifizierung
  • Dokumentation der Ergebnisse
  • Ausstellung des Prüfberichts
  • Wenn alle Anforderungen erfüllt sind: Ausstellung des Zertifikats

Was sind mögliche Problemfelder Künstlicher Intelligenz?

Problemfelder Künstlicher Intelligenz (KI) Problemfelder Künstlicher Intelligenz (KI) Problemfelder Künstlicher Intelligenz (KI) Problemfelder Künstlicher Intelligenz (KI)

Mit künstlicher Intelligenz (KI) lassen sich viele datengetriebene Probleme effizienter lösen als mit klassischer Softwareentwicklung. Trotz aller Vorteile führt ihr Einsatz aber auch immer zu zusätzlichen Fehlerquellen, die im Rahmen einer Risikoanalyse geeignet betrachtet werden müssen.
  

  • Robustheit: KI-Systeme, die maschinelles Lernen einsetzen, haben in der Regel eine Robustheitsschwäche: Bereits kleinere Änderungen an der Eingabe können zu einer falschen Klassifizierung führen. Dies hat Auswirkungen auf die Sicherheit des Systems.
  • Erklärbarkeit: Ein weiteres Problemfeld von KI ist die mangelnde Erklärbarkeit bzw. Transparenz von Entscheidungen, die durch KI-Systeme getroffen wurden. Das kann wiederum Auswirkungen auf die Fairness haben. 
  • Vorurteilsbehaftung (Bias): Der Einsatz Künstlicher Intelligenz lässt Vorurteile nicht verschwinden. Denn auch Maschinen können diskriminierende Entscheidungen treffen (Machine Bias). 

Betrachtungsschwerpunkte einer KI-Prüfung & Zertifizierung

Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Sicherheit / Robustheit (Robustheitsprüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Sicherheit / Robustheit (Robustheitsprüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Sicherheit / Robustheit (Robustheitsprüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Sicherheit / Robustheit (Robustheitsprüfung)


Sicherheit / Robustheit
(Robustheitsprüfung)


Ist die KI (sowohl im Sinne von Safety als auch von Security) sicher gegenüber Angriffen, Unfällen und Fehlern? 

Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Transparenz (Erklärbarkeitsprüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Transparenz (Erklärbarkeitsprüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Transparenz (Erklärbarkeitsprüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Transparenz (Erklärbarkeitsprüfung)


Transparenz
(Erklärbarkeitsprüfung)


Sind Entscheidungsfindung sowie Funktionsweise der KI transparent und nachvollziehbar?

Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Fairness (Bias-Prüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Fairness (Bias-Prüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Fairness (Bias-Prüfung) Betrachtungsschwerpunkte KI-Prüfung & Zertifizierung: Fairness (Bias-Prüfung)


Fairness
(Bias-Prüfung)


Sind die Entscheidungen, die durch die KI getroffen werden, fair gegenüber allen Betroffenen?

FAQ – Häufige Fragen im Überblick

Ist eine KI-Zertifizierung bereits möglich?

Obwohl KI-spezifische Gesetze, Normen und Standards noch auf sich warten lassen, ist es bereits jetzt möglich, Eigenschaften von KI-Systemen zu zertifizieren.

Nach Abschluss unserer Prüfungen können wir die Sicherheitseigenschaften Ihres Produkts im Rahmen unseres Trusted Product Schemas zertifizieren. Das Zertifikat bescheinigt die Ergebnisse der durchgeführten Prüfungen und der Prüfbericht gibt eine entsprechende, strukturierte Einordnung dieser Ergebnisse in den Gesamtkontext. 

Mit welchen Prüfwerkzeugen kann KI geprüft werden? Welche Werkzeuge nutzt TÜV IT?

Es gibt diverse Softwareprodukte für Sicherheitsprüfungen von KI. Welches für den jeweiligen Anwendungsfall am besten geeignet ist, lässt sich pauschal nicht beantworten, sondern wird im Rahmen der Prüfung ermittelt. TÜV IT verwendet in seinen Prüfungen immer ein eigenentwickeltes Prüfwerkzeug, welches auf den Anwendungsfall zugeschnitten wird. TÜV IT kann aber auch Gebrauch von externen Prüfwerkzeugen machen.

Sie prüfen bereits selbst mit Prüfsoftware „XYZ" und möchten diese Ergebnisse durch eine unabhängige Stelle nachprüfen lassen?

Kein Problem: Wir können auch Fremdwerkzeuge in unseren Prüfprozess einbinden, sofern wir sie als geeignet einstufen. Dies wird am Anfang der Prüfung zunächst festgestellt. Unser TÜV IT-eigenes Prüfwerkzeug dient dann als Referenz zur Kalibrierung und zur Bestätigung Ihrer Funktionstests.

Was sind Beispiele für eine Robustheitsschwäche?

KI-Systeme, die maschinelles Lernen einsetzen, haben in der Regel eine Robustheitsschwäche: Kleine Änderungen an der Eingabe führen zu einer falschen Klassifizierung. Dies kann weitreichende Folgen haben. Wird bei der kamerabasierten Erkennung von Verkehrsschildern KI eingesetzt, kann zum Beispiel Regen oder Schnee dazu führen, dass ein Stoppschild als Vorfahrtsschild erkannt wird.

Doch nicht nur natürliche Phänomene (wie das Wetter, Verschmutzungen, etc.) sondern auch bewusste Manipulation durch Angreifer:innen müssen betrachtet werden. Ein speziell präparierter kleiner Aufkleber auf dem Stoppschild oder ein großes Plakat im Hintergrund des Schilds können bewusst von Angreifer:innen dazu genutzt werden, die KI zu täuschen.

Hier setzt unsere Robustheitsanalyse an: Wir prüfen Ihr System systematisch auf diese Schwächen, bevor diese in den Umlauf kommen. Damit können Sie Ihr KI-System bereits in der Entwicklung entsprechend härten, um Fehlfunktionen im späteren Einsatz zu minimieren.

Welchen Vorteil bringt eine Zertifizierung mit sich?

Durch eine Zertifizierung sorgen Sie dafür, dass Ihre Kunden Ihrem KI-System vertrauen können.

Diese KI-Themen könnten Sie auch interessieren:

  

Wie prüft man KI?

Künstliche Intelligenz (KI) hält immer mehr Einzug in unseren Alltag. Doch wollen wir KI künftig auch das Steuer unserer Autos überlassen, muss sie jederzeit verlässlich funktionieren. Wie und nach welchen Kriterien KI für das autonome Auto geprüft werden kann, erklärt KI-Experte Vasilios Danos von TÜViT.

Sicherheits-Check für KI in Autos: BSI und ZF starten Projekt mit TÜViT

Wenn KI am Steuer sitzt, verschmelzen die Grenzen zwischen Fahrzeug und Fahrer. Daher sind völlig neue Prüfmethoden gefragt, um die Sicherheit im Straßenverkehr auch künftig zu gewährleisten. Gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Automobilzulieferer ZF arbeitet TÜV IT daher aktuell an der Entwicklung entsprechender Testkriterien.

TÜV IT und Fraunhofer AISEC entwickeln gemeinsamen Ansatz zur Zertifizierung von KI

In einem gemeinsamen Projekt mit Fraunhofer AISEC hat TÜV IT Verfahren erarbeitet, die die Vertrauenswürdigkeit von KI-Anwendungen mess- und überprüfbar machen sollen, da diese für Unternehmen aller Branchen, aber auch für staatliche Institutionen von höchster Wichtigkeit ist.

Warum wir ein starker Partner für Sie sind

Umfassende KI-Fachexpertise

Unsere Expert:innen verfügen über das notwendige Spezialwissen und -werkzeug für eine professionelle Prüfung der Sicherheit, Fairness und Transparenz Ihrer KI-Systeme.

Entwicklungsbegleitende Betreuung

Von Anfang an: Wir unterstützen Ihr Unternehmen bereits entwicklungsbegleitend und führen entsprechende theoretische Analysen und Tests in Bezug auf Ihre KI-Systeme durch.

Geballte KI-Erfahrung

Schon seit 2018 entwickeln wir eigene In-House-Prüftools für KI und bauen parallel dazu die passenden Prüf- und Beratungsdienstleistungen aus.

Immer auf dem aktuellen Stand

Unsere Expert:innen bleiben laufend auf dem aktuellsten Stand der Technik und haben weitgehende Einblicke in die aktuelle Forschungslandschaft zu KI-Prüfungen.

Auf Sie zugeschnitten

Wir setzen auf individuelle Leistungen – und Lösungen –, die optimal zu Ihrer derzeitigen Unternehmenssituation und Ihren gesetzten Zielen passen.

Internationales Expertennetzwerk

Rund um den Globus: Wir beraten und unterstützen Sie sowohl national als auch international. Unser globales Expertennetzwerk steht Ihnen in allen IT-Sicherheitsfragen mit Rat & Tat zur Seite.

Unabhängigkeit

Unsere Mitarbeitenden unterliegen keinen Zielkonflikten, da sie keinen Produktanbietern, Systemintegratoren, Aktionären, Interessensgruppen oder Regierungsstellen verpflichtet sind.