Künstliche Intelligenz (KI) findet zunehmend Eingang in alle Bereiche der Gesellschaft. Das TÜV AI.Lab nimmt es sich zur Aufgabe, gesellschaftliche und regulatorische Anforderungen, die z.B. die EU KI-Verordnung mit sich bringt, in Prüfkriterien und -Prozesse umzusetzen und die Entwicklung von Standards für die Prüfung sicherheitskritischer KI-Anwendungen zu begleiten.

Die Anwendungsfelder Künstlicher Intelligenz gehen heute weit über Bilderkennung oder Chatbots hinaus. In der breiten Öffentlichkeit ist das Thema vor allem durch generative künstliche Intelligenzen wie ChatGPT und Co. bekannt. Zunehmend werden auch KI-Systeme eingesetzt, die Auswirkungen auf Leib und Leben von Menschen oder ihre elementaren Grundrechte haben können. Das ist etwa der Fall bei Systemen zur Früherkennung von Krebszellen auf MRT-Scans oder selbstfahrenden Fahrzeugen mit automatischer Verkehrsschilderkennung. Damit KI-Systeme im Sinne der Menschen eingesetzt werden, sind unterschiedliche Formen der Regulierung und Prüfung notwendig. Das TÜV AI.Lab hat es zum Ziel, Use-Case-zentriert und somit sektorspezifisch Anforderungen an jeweilige KI-Systeme zu definieren und entsprechende Prüfverfahren mit zu entwickeln.

So können KI-Prüfer:innen zum Beispiel ermitteln, wie sicher automatisierte Fahrzeuge mit KI–Systemen Personen, Verkehrszeichen oder bestimmte Hindernisse erkennen und darauf reagieren.

Prüfszenarien für KI

Grundlage für die Entwicklung von Standards zur Prüfung von Künstlicher Intelligenz wird sein, die in der EU KI-Verordnung angelegten Risikoklassen und Qualitätsanforderungen in die Praxis zu übersetzen. Es müssen zunächst Kriterien entwickelt werden, anhand derer sich Risiken quantifizieren lassen. Diese müssen es erlauben, aus den relativ breit angelegten Risikoklassen, umsetzbare Prüfanforderungen und Konformitätskriterien abzuleiten. Um gegen diese dann auditieren und zertifizieren zu können sind daraufhin neuartige Prüfverfahren notwendig, die es zu entwickeln und erproben gilt.

Das TÜV AI.Lab trägt dazu bei, das KI-Ökosystem auf die kommenden regulatorischen Anforderungen vorzubereiten und den Weg zu ebnen dafür, dass vertrauenswürdige KI ein europäischer USP wird

Franziska Weindauer, Geschäftsführerin TÜV AI.Lab

Die Sicherheit und Qualität von KI muss robust, belastbar und replizierbar beurteilt werden können. Daran arbeitet das AI.Lab.

Das TÜV AI.Lab wurde im Oktober 2023 als eigenständiges Joint Venture der TÜV-Unternehmen TÜV Süd, TÜV Rheinland, TÜV Nord, TÜV Hessen und TÜV Thüringen gegründet. Das TÜV AI.Lab hat zum Ziel, die regulatorischen Anforderungen an KI in die Praxis zu übersetzen und Europa zum Hotspot für sichere und vertrauenswürdige KI zu machen. Hierfür entwickelt es quantifizierbare Konformitätskriterien und geeignete Prüfmethoden für KI. Zudem unterstützt das AI.Lab aktiv die Entwicklung von Standards und Normen für KI-Systeme.