Die KI-Prüftoolsuite

Werkzeuge und Verfahren zur KI-Prüfung

Prüfungen sind ein wichtiger Baustein von Entwicklungsprozessen und der Qualitätskontrolle. Sie können freiwillig erfolgen, z.B. mit dem Ziel, eine starke und zuverlässige Marke zu schaffen, dienen aber auch häufig als Grundlage für die Zulassung und das Inverkehrbringen von Produkten, wenn dies durch Regulierungen und Standards gefordert ist. Gerade bei KI-Systemen gelten diese Motivationen in besonderem Maße, denn nicht nur Unternehmen, die Hochrisiko-KI-Anwendungen entwickeln oder einsetzen, müssen sich mit der Qualitätssicherung ihrer Anwendungen auseinandersetzen. Dafür entwickeln wir Prüfwerkzeuge und Verfahren, die KI-Anwendungen in Bezug auf ihre Verlässlichkeit, Fairness, Robustheit, Transparenz oder Datenschutz hin untersuchen und bewerten.

Unsere Prüf-Toolsuite ermöglicht eine umfangreiche Prüfung von KI-Anwendungen. Das Paket an Prüfwerkzeugen deckt eine große Bandbreite verschiedener Dimensionen der Vertrauenswürdigkeit ab – darunter Transparenz, Verlässlichkeit, Robustheit. Auf dieser Seite möchten wir Ihnen unsere Lösungen mittels einer Serie von Demonstratoren näher bringen.

Möchten Sie zunächst mehr über die allgemeinen Chancen und Risiken von KI erfahren und sich einen Überblick über die verschiedenen Tools verschaffen, bietet sich unsere interaktive Präsentation „Vertrauen ist gut, KI-Kontrolle ist besser“ an. Die Präsentation motiviert die Notwendigkeit von KI-Prüfungen und zeigt kompakte Informationen zu den Themenbereichen KI-Prüfdimensionen, Prüfkonzept, sowie unseren Prüftools.​

Für einen detaillierteren Einstieg in die Thematik dienen unsere Unterseiten zu den einzelnen Demonstratoren, über welche es darüber hinaus möglich ist, die Demonstratoren selbst auszuprobieren.​