KI-Zertifizierung »made in Germany«

Kooperation zwischen Fraunhofer IAIS und Bundesamt für Sicherheit in der Informationstechnik BSI zur Entwicklung technischer Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz

KI sicher und vertrauenswürdig gestalten

Künstliche Intelligenz ist eine wichtige Schlüsseltechnologie der Gegenwart. Intelli­gente Systeme können in nahezu allen Lebensbereichen zum Einsatz kommen und sind schon heute in der Lage, viele Aufgaben schneller und zuverlässiger zu erledi­gen als der Mensch. Damit Unternehmen mit dem Einsatz von KI entscheidende Wett­be­werbs­vorteile erzielen können, sollten KI-Systeme vertrauenswürdig sein und verlässlich funktionieren. Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Ver­braucher*innen Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.

Um die Entwicklung einer KI-Zertifizierung »made in Germany« voranzubringen, haben das Fraunhofer IAIS und das Bundesamt für Sicherheit in der Informationstechnik BSI eine Kooperationsvereinbarung für die gemeinsame Entwicklung von Prüfverfahren unterzeichnet. Ziel der Zusammenarbeit ist es, Prüfverfahren zu entwickeln, die als Basis für technische Standards und Normen dienen können.

Pressemeldung

Die Pressemeldung anlässlich der Kooperationsvereinbarung zwischen Fraunhofer IAIS und BSI (24.11.2020)


Whitepaper

Die Publikation »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung

Umsetzung der Kooperation im KI.NRW-Flagship-Projekt »Zertifizierte KI«    

Die Entwicklung der Prüfverfahren erfolgt im KI.NRW-Flagship-Projekt »Zertifizierte KI«, das als initiales Vorhaben der Kooperation Anfang 2021 startet. Das vom Land geförderte Projekt fußt auf einem breiten Beteiligungsprozess, um die Praxistauglichkeit und Marktfähigkeit der erarbeiteten Prüfverfahren sicherzustellen. In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Der breite Beteiligungsprozess kombiniert das Know-how der Akteure und stellt sicher, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln. In dem Projekt arbeiten renommierte Partner aus Forschung und Wirtschaft, darunter die Universität Bonn, die Universität zu Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie, und Handel zusammen. 

Stimmen zur Kooperationsvereinbarung

Prof. Dr. Andreas Pinkwart

 

»Mit unseren herausragenden Kompetenzen und dem starken Netzwerk KI.NRW kann Nordrhein-Westfalen eine führende Rolle bei der Weiterentwicklung von Wirtschaft und Gesellschaft spielen. Damit das gelingt, machen wir den Einsatz der Künstlichen Intelligenz vertrauenswürdig und sicher. Dabei hilft uns eine unabhängige Zertifizierung von KI-Systemen: Sie stärkt das Vertrauen in moderne IT-Technologie und wird auch international als wichtiger Wettbewerbsvorteil erkannt. Mit der Entwicklung marktfähiger Prüfverfahren nähern wir uns dem Ziel mit großen Schritten.«

Arne Schönbohm

 

»Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden. Dies entsteht unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen. Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert.«

Prof. Dr. Stefan Wrobel

 

»Das Fraunhofer IAIS legt großen Wert auf die Entwicklung vertrauens­würdiger KI-Lösungen und hat über die letzten Jahre seinen Forschungsschwerpunkt zur KI-Absich­er­­ung kontinuierlich ausgebaut. Mit der Erarbeitung unserer Prüfver­fahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen. Bereits im kommenden Jahr werden wir erste Prüfun­gen mit Unternehmen durchführen. Ich freue mich, dass wir mit dem BSI einen starken Part­ner mit langjähriger Erfahrung in der Etablierung von Standards in der IT an unserer Seite haben.«

Flagships powered by KI.NRW

Die Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen unterstützt mit der Dachmarke »Flagships powered by KI.NRW« vom Land geförderte Vorhaben als KI-Leuchtturmprojekte. Ziel ist es, einen effizienten Technologietransfer und die enge Zusammenarbeit von Mittelstand, Start-ups, Universitäten, Hochschulen und Forschungseinrichtungen in NRW zu unterstützen.

Wesentliche Inhalt der Kooperationsvereinbarung zwischen Fraunhofer IAIS und BSI werden im Rahmen des vom Bundesland Nordrhein-Westfalen geförderten KI.NRW-Flagship-Projekts »Zertifizierte KI« erarbeitet und umgesetzt. Unter der strategischen Schirmherrschaft von KI.NRW begleitet die Kompetenzplattform geförderte Vorhaben kommunikativ und positioniert den KI-Standort NRW durch die Vermarktung der Ergebnisse auf europäischer Ebene. Dabei liegt ein Fokus auf dem nachhaltigen Transfer und der Weiterverwertung der Projektergebnisse.

KI-Zertifizierung

Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung haben die Expert*innen des Fraunhofer IAIS bereits im vergangenen Jahr im Rahmen eines interdisziplinären Forschungsprojektes mit Wissenschaftler*innen aus den Bereichen Informatik, Recht und Philosophie geschaffen, die die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert haben. Die Ergebnisse wurden 2019 in dem Whitepaper »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« publiziert. 

Interdisziplinäre Handlungsfelder für die Entwicklung einer KI-Zertifizierung

Als Grundlage für die Zertifizierung von KI-Systemen wurden in interdisziplinärer Zusammenarbeit sieben Handungsfelder definiert (siehe Abbildung). Die Entwicklung der technischen Prüfverfahren setzt hier an.

Ethik und Recht

Respektiert die KI-Anwendung gesellschaftliche Werte und Gesetze?

Autonomie & Kontrolle

Ist eine selbstbestimmte, effektive Nutzung der KI möglich?

Fairness

Behandelt die KI alle Betroffenen fair?

Transparenz

Sind Funktionsweise und Entscheidungen der KI nachvollziehbar?

Verlässlichkeit

Funktioniert die KI zuverlässig und ist sie robust?

Sicherheit

Ist die KI sicher gegenüber Angriffen, Unfällen und Fehlern?

Datenschutz

Schützt die KI die Privatsphäre und sonstige sensible Informationen?

Auf Basis der Erarbeitung technischer Prüfverfahren soll auch der interdisziplinäre Diskurs zur Gestaltung ethischer und rechtlicher Rahmenbedingungen weitergeführt werden. Ziel ist es, das Vertrauen und die Akzeptanz bei Unternehmen, Anwender*innen und gesellschaftlichen Akteuren in KI-basierte Anwendungen zu stärken. Die Entwicklung des Prüfkatalogs orientiert sich an den Empfehlungen der »Datenethikkommission« der Bundesregierung und der »High Level Expert Group on AI« der Europäischen Union und soll neben technischen Qualitätskriterien wie Verlässlichkeit und Sicherheit als auch Kriterien der Transparenz und Fairness berücksichtigen.