Am 21. November 2024 lädt KI.NRW gemeinsam mit der AICommunityOWL im Rahmen der KI Biennale zum dritten »KI Meetup NRW« in den Digital Campus Zollverein ein.

Prüfung, Konformität, Zertifizierung – auf dem Symposium »Scaling AI Assessments«, veranstaltet durch das Flagship-Projekt »ZERTIFIZIERTE KI«, haben Forschende, Unternehmen und Rechtsexpert*innen Lösungsansätze und neueste Entwicklungen für die Operationalisierung von Prüfungen Künstlicher Intelligenz (KI) vorgestellt und diskutiert. Im Fokus stand hierbei die Umsetzung der Europäischen KI-Verordnung (engl. »AI Act«), die einen dringenden Bedarf nach skalierbaren Angeboten zur KI-Qualitätssicherung mit sich bringt.

Am 30. September und 1. Oktober drehte sich in den Design Offices Dominium in Köln zwei Tage lang alles um Vertrauenswürdigkeit als zentrale Voraussetzung für Anwendungen der Künstlichen Intelligenz. Ziel des Symposiums war es, marktfähige KI-Prüfungen für vertrauenswürdige KI voranzutreiben.

Treffen Sie unsere Expertinnen und Experten persönlich auf der Hannover Messe 2024. Auf dem Fraunhofer-Stand in Halle 2, Stand B24, können sich Fachbesucherinnen und Fachbesucher vom 22. bis 26. April 2024 kostenlos zum Projekt informieren.

Im Podcast der Fraunhofer-Gesellschaft spricht Dr. Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer IAIS und Projektleiter des KI.NRW Flagships »Zertifizierte KI« über KI-Zertifizierung »made in Germany«.

Im Projekt arbeiten wir kontinuierlich an Standardisierungsaktivitäten, um Qualitätsanforderungen für Werkzeuge, Prozesse und Anwendungsfelder Künstlicher Intelligenz zu definieren. Diese dienen als Grundlage für die Entwicklung praxistauglicher KI-Prüfungen.

Die Vertrauenswürdigkeit von KI-Anwendungen wird auch mit der kommenden KI-Verordnung der EU adressiert. Das neue Whitepaper erläutert, wie sich spezielle Risiken der Foundation-Modelle auf die KI-Anwendung auswirken können und stellt eine risikobasierte Systematik zur Bewertung und Sicherung der Vertrauenswürdigkeit solcher KI-Anwendungen vor. 

Das neue Whitepaper stellt ein Prüf-Framework vor, das als Plattform zur Integration von KI-Prüfwerkzeugen dient. Außerdem werden ausgewählte KI-Prüfwerkzeuge, die für unterschiedliche Anwendungsbereiche genutzt werden können, sowie ihre Funktionalitäten im Detail erklärt.

BSI und Fraunhofer IAIS machen Unternehmen fit für KI-Prüfungen: Eine neu gegründete Arbeitsgruppe hat zum Ziel, standardisierungsreife Prüfgrundlagen und Kriterienwerke für KI-Systeme zu definieren. In die Zusammenarbeit fließt der jetzt veröffentlichte KI-Prüfkatalog des Fraunhofer IAIS ein.