Dr. Maximilian Poretschkin
Dr. Maximilian Poretschkin
Senior Data Scientist & Projektleiter KI-Zertifizierung

Zertifizierung zur Sicherstellung einer vertrauenswürdigen KI

Eine Initiative der Kompetenzplattform KI.NRW

»Primäres Ziel der KI-Zertifizierung ist die Ausarbeitung konkreter Qualitäts- und Sicherheitsstandards, auf deren Grundlage KI-Anwendungen sachkundig und neutral bewertet werden können. Zusätzlich ist es uns wichtig, zum gesellschaftlichen Dialog über Künstliche Intelligenz beizutragen, um Vertrauen aufzubauen. Hierzu haben wir ein Whitepaper mit Handlungsfeldern für einen vertrauenswürdigen Einsatz von KI veröffentlicht, das die Basis unseres Prüfkatalog für eine KI-Zertifizierung bildet.«

Prof. Dr. Andreas Pinkwart
Prof. Dr. Andreas Pinkwart
Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen

Zertifizierung zur Sicherstellung einer vertrauenswürdigen KI

Eine Initiative der Kompetenzplattform KI.NRW

»Mit der von uns initiierten Kompetenzplattform KI.NRW baut Nordrhein-Westfalen seine führende Rolle in der angewandten Künstlichen Intelligenz weiter aus. Eine Zertifizierung von KI-Anwendungen sichert den ethisch-verantwortungsvollen Einsatz dieser Zukunftstechnologie, bei der wir den Menschen in den Mittelpunkt stellen. Gleichzeitig fördert die Zertifizierung den freien Wettbewerb unterschiedlicher Anbieter.«

Gesellschaftliche Impulse durch interdisziplinäre Experten

Um das Vertrauen in KI nachhaltig zu steigern, hat ein interdisziplinäres Forscherteam der Universitäten Bonn und Köln sowie des Fraunhofer IAIS in Kooperation mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) eine Zertifizierung von KI-Systemen entwickelt, welche neben der Absicherung der technischen Zuverlässigkeit auch einen verantwortungsvollen Umgang mit der Technologie prüft. Damit ist das Land Nordrhein-Westfalen Vorreiter bei der Entwicklung einer KI-Zertifizierung, die auf einer sachkundigen und neutralen Prüfung beruht. Ziel ist es, das Vertrauen und die Akzeptanz bei Unternehmen, Anwender*innen und gesellschaftlichen Akteuren in KI-basierte Anwendungen zu stärken. Die zugrundeliegenden Handlungsfelder aus philosophischer, ethischer, rechtlicher und techno­logi­scher Sicht wurden in einem Whitepaper als Beitrag zur gesellschaftlichen Debatte zum vertrauensvollen Einsatz von KI und zur weiteren Entwicklung der Zertifizierung veröffentlicht.

Whitepaper: Vertrauenswürdiger Einsatz von Künstlicher Intelligenz

Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz in einem Whitepaper für die Zertifizierung von KI-Anwendungen vor.

Download Whitepaper deutsche Version*
Download Whitepaper english version*

*Weiterverlinkung auf die Instituts-Website des Fraunhofer IAIS

Der Bonner Katalog

Die sieben Handlungsfelder für eine verlässliche und vertrauenswürdige KI

Erklärtes Ziel ist die Entwicklung eines Prüfkatalogs, der auf bereits existierende Leitplanken wie den Empfehlungen der »Datenethikkommission« der Bundesregierung oder der »High Level Expert Group on AI« der Europäischen Union aufbaut. Die Erstellung des Katalogs berücksichtigt technische Qualitätskriterien wie Verlässlichkeit und Sicherheit als auch ethisch-moralische Kriterien der Transparenz und Fairness.

Ethik und Recht

Respektiert die KI-Anwendung gesellschaftliche Werte und Gesetze?

Autonomie & Kontrolle

Ist eine selbstbestimmte, effektive Nutzung der KI möglich?

Fairness

Sind Funktionsweise und Entscheidungen der KI nachvollziehbar?

Transparenz

Sind Funktionsweise und Entscheidungen der KI nachvollziehbar?

Verlässlichkeit

Funktioniert die KI zuverlässig und ist sie robust?

Sicherheit

Ist die KI sicher gegenüber Angriffen, Unfällen und Fehlern?

Datenschutz

Schützt die KI die Privatsphäre und sonstige sensible Informationen?

Weitere Informationen zu den Themen KI-Zertifizierung, Entwicklung eines Prüfkatalogs und KI-Absicherung finden Sie auf den Seiten des Fraunhofer Institute IAIS.

In Kooperation mit

Prof. Dr. Dr. Frauke Rostalski
Inhaberin des Lehrstuhls für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung an der Universität zu Köln
Prof. Dr. Markus Gabriel
Direktor des Center for Science and Thought an der Universität Bonn

Gefördert von