Fabian Malms, Projektleiter
Über das Projekt ZERTIFIZIERTE KI
»Insbesondere der interdisziplinäre Ansatz zeichnet den Erfolg des Projekts aus: So führt ein Projektteam aus Wissenschaftler*innen der Bereiche Informatik, Recht und Philosophie sowie zahlreiche Unternehmen verschiedener Branchen alle Anforderungen an die Vertrauenswürdigkeit von KI-Systemen zusammen.«
Interview mit Fabian Malms
Was soll das Projekt bewirken bzw. was ist die übergeordnete Idee des Projekts?
Künstliche Intelligenz durchdringt schon seit Jahren immer mehr unseren Alltag. Mit zunehmenden Fähigkeiten der KI steigt allerdings auch das Maß an Verantwortung, das wir an solche Systeme übertragen. Das übergeordnete Projektziel ist daher, Künstliche Intelligenz mit europäischen Qualitätsstandards sicher und vertrauenswürdig zu gestalten.
Insbesondere mit der Verabschiedung der KI-Verordnung werden Prüfungen für kritische KI-Systeme nun auch zur Pflicht. Für Unternehmen kommt es jetzt darauf an, die regulatorischen Anforderungen der KI-Verordnung möglichst pragmatisch umzusetzen. Die zentrale Frage dabei: Wie können Unternehmen ihre KI-Systeme vertrauenswürdig und leistungsfähig gestalten?
Hierauf liefert das Projekt ZERTIFIZIERTE KI konkrete Antworten, sodass KI auch in sensiblen Anwendungskontexten eingesetzt werden kann. Viele Unternehmen lassen sich hierbei von uns unterstützen.
Firmen experimentieren derzeit mit KI und entwickeln vielversprechende Prototypen, beispielsweise für die Automatisierung, die Qualitätsprüfung oder die Optimierung von Prozessen. Sie tun sich aber oftmals schwer, diese Prototypen in die Serienproduktion zu bringen, weil Qualitätsgarantien fehlen. Seltene Fehler, die beim Prototypen nicht auffallen, werden dann in der Praxis zum Problem.
Unternehmen erhalten aus dem Projekt heraus praxisorientierte Tools und Publikationen, die sie befähigen, ungewolltes und Fehlverhalten der KI-Systeme auszuschließen. Der im Projekt entwickelte KI-Prüfkatalog wird heute bereits an vielen Stellen zur Qualitätssicherung von KI eingesetzt. Darüber hinaus bieten technische KI-Prüftools die Möglichkeit, beispielsweise systematische Schwachstellen in KI-Systemen zu finden, um so deren Zuverlässigkeit und Robustheit sicherzustellen.
Was ist aus Ihrer Sicht der wichtigste Use Case aus dem Projekt, in dem KI zum
Einsatz kommt?
Was planen Sie als Nächstes im Projekt, was sind die nächsten Schritte?
Unternehmen sollen zukünftig befähigt werden, direkt im Rahmen ihres KI-Entwicklungsprozesses die Qualität und Vertrauenswürdigkeit ihrer KI-Anwendungen durch eine KI-Prüfung sicherzustellen.
Eine Skalierung wird dabei mit einer möglichst hohen Automatisierung der KI-Prüfung erreicht. Prüfwerkzeuge stellen dafür die Grundlage dar.
Im nächsten Schritt wird die KI-Prüf-Toolsuite mit weiteren Demonstratoren erweitert, sodass eine noch größere Bandbreite verschiedener Dimensionen der Vertrauenswürdigkeit abgedeckt wird.
Hinzu kommt die prototypische Weiterentwicklung einer Prüfplattform, über die verschiedene Prüfwerkzeuge eingesetzt werden können. Diese ermöglicht automatisierbare, reproduzierbare und nachvollziehbare KI-Prüfungen entlang des KI-Lifecycles einer Anwendung. Dabei ist die Einbettung in eine KI-Governance wichtig, sodass neben der technischen auch eine ethische, regulatorische und rechtliche Prüfung einhergeht.
Mehr über die KI.NRW Flagships erfahren
Mit Blick auf den rasanten Fortschritt im Bereich der Künstlichen Intelligenz ist es wichtig, den anwendungsorientierten Technologietransfer weiter voranzutreiben. Die KI.NRW-Flagships zeigen Einsatzmöglichkeiten von Künstlicher Intelligenz auf und gelten damit als Pionierprojekte, die auch andere Unternehmen, die sich ebenfalls für die Nutzung von KI in ihrem Unternehmen interessieren, begeistern können. In der Broschüre »Die KI.NRW-Flagship-Initiative – KI-Leuchtturmprojekte aus Nordrhein-Westfalen unter der Schirmherrschaft von KI.NRW« werden die jeweiligen Vorhaben und Ziele der acht KI.NRW-Flagships in kompakter Form vorgestellt. Zudem lernt man die Gesichter dahinter kennen: In Kurzinterviews stellen die Projektleitungen die wichtigsten KI-Use-Cases vor und berichten von den nächsten Projektschritten. Die Broschüre steht kostenfreien zum Download bereit.