Mission

Künstliche Intelligenz (KI) findet zunehmend Eingang in alle Bereiche der Gesellschaft. Das TÜV AI.Lab nimmt es sich zur Aufgabe, gesellschaftliche und regulatorische Anforderungen, die z.B. die EU KI-Verordnung mit sich bringt, in Prüfkriterien und -Prozesse umzusetzen und die Entwicklung von Standards für die Prüfung sicherheitskritischer KI-Anwendungen zu begleiten.


87% der Unternehmen sind der Meinung, dass KI-Anwendungen abhängig von ihrem Risiko reguliert werden sollten.Die Anwendungsfelder Künstlicher Intelligenz gehen heute weit über Bilderkennung oder Chatbots hinaus. In der breiten Öffentlichkeit ist das Thema vor allem durch generative künstliche Intelligenzen wie ChatGPT und Co. bekannt. Zunehmend werden auch KI-Systeme eingesetzt, die Auswirkungen auf Leib und Leben von Menschen oder ihre elementaren Grundrechte haben können. Das ist etwa der Fall bei Systemen zur Früherkennung von Krebszellen auf MRT-Scans oder selbstfahrenden Fahrzeugen mit automatischer Verkehrsschilderkennung. Damit KI-Systeme im Sinne der Menschen eingesetzt werden, sind unterschiedliche Formen der Regulierung und Prüfung notwendig. Das TÜV AI.Lab hat es zum Ziel, Use-Case-zentriert und somit sektorspezifisch Anforderungen an jeweilige KI-Systeme zu definieren und entsprechende Prüfverfahren mit zu entwickeln.

So können KI-Prüfer:innen zum Beispiel ermitteln, wie sicher automatisierte Fahrzeuge mit KI–Systemen Personen, Verkehrszeichen oder bestimmte Hindernisse erkennen und darauf reagieren.

Prüfszenarien für KI

Grundlage für die Entwicklung von Standards zur Prüfung von Künstlicher Intelligenz wird sein, die in der EU KI-Verordnung angelegten Risikoklassen und Qualitätsanforderungen in die Praxis zu übersetzen. Es müssen zunächst Kriterien entwickelt werden, anhand derer sich Risiken quantifizieren lassen. Diese müssen es erlauben, aus den relativ breit angelegten Risikoklassen, umsetzbare Prüfanforderungen und Konformitätskriterien abzuleiten. Um gegen diese dann auditierten und zertifizieren zu können sind daraufhin neuartige Prüfverfahren notwendig, die es zu entwickeln und erproben gilt.

Das TÜV AI.Lab trägt dazu bei, das KI-Ökosystem auf die kommenden regulatorischen Anforderungen vorzubereiten und den Weg zu ebnen dafür, dass vertrauenswürdige KI ein europäischer USP wird

Franziska Weindauer, Geschäftsführerin des TÜV AI.Labs

Die Sicherheit und Qualität von KI muss robust, belastbar und replizierbar beurteilt werden können. Daran arbeitet das AI.Lab.

Das TÜV AI.Lab wurde im Jahr 2021 zunächst unter dem Dach des TÜV-Verbands gegründet und wird seit November 2023 als eigenständiges Joint Venture der TÜV-Unternehmen TÜV Hessen, TÜV NORD, TÜV Rheinland, TÜV SÜD und TÜV Thüringen fortgeführt. Seit seinem Start hat das AI.Lab bereits an einer Vielzahl von Initiativen und Aktivitäten auf europäischer und nationaler Ebene mitgewirkt, darunter an Forschungsprojekten wie TEF-Health oder als Projektpartner bei der Entwicklung fahrerloser Regionalzüge.

Ziele

Veröffentlichungen

Positionspaper: Certification of Medical Devices

Projekte

Team

Franziska Weindauer

Geschäftsführerin des TÜV AI.Lab

Marc Hauer

Senior Solutions Architect

Dr. Christoph Poetsch

Senior Advisor AI Ethics and Quality

Ariana Sliwa

Project Lead TEF Health „WP7 Certification”

Franziska Weindauer

Geschäftsführerin des TÜV AI.Lab

Marc Hauer

Senior Solutions Architect

Dr. Christoph Poetsch

Senior Advisor AI Ethics and Quality

Ariana Sliwa

Project Lead TEF Health „WP7 Certification”

Alexander von Janowski

Projektmanager TEF Health AI and Robotics

Alexander von Janowski

Projektmanager TEF Health AI and Robotics

Das TÜV AI.Lab im Merantix AI Campus Berlin

Neuigkeiten

 

TÜV-Verband begrüßt die Zustimmung des Rats zum AI Act

 

Mehrheit sieht in KI eine Gefahr für die Demokratie

 

TÜV AI.Lab: MISSION KI entwickelt Gütesiegel für KI

 

Mehrheit fordert gesetzliche Vorgaben für sichere KI

 

Neue Geschäftsführerin des TÜV AI Lab

 

TÜV-Verband wird Projektpartner bei TEF-Health

 

Vorschlag zur Risikoklassifizierung von KI-Systemen

 

TÜV-Unternehmen gründen AI Lab

Sie haben Fragen?

Franziska Weindauer

Geschäftsführerin des TÜV AI.Lab

Franziska@tuev-lab.ai