KI-Zertifizierung »made in Germany«
Kooperation zwischen Fraunhofer IAIS und Bundesamt für Sicherheit in der Informationstechnik BSI zur Entwicklung technischer Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz
Pressemeldung
Die Pressemeldung anlässlich der neu eingerichteten Arbeitsgruppe zwischen Fraunhofer IAIS und BSI (08.07.2021)
KI sicher und vertrauenswürdig gestalten
Künstliche Intelligenz ist eine wichtige Schlüsseltechnologie der Gegenwart. Intelligente Systeme können in nahezu allen Lebensbereichen zum Einsatz kommen und sind schon heute in der Lage, viele Aufgaben schneller und zuverlässiger zu erledigen als der Mensch. Damit Unternehmen mit dem Einsatz von KI entscheidende Wettbewerbsvorteile erzielen können, sollten KI-Systeme vertrauenswürdig sein und verlässlich funktionieren. Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucher*innen Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.
Um die Entwicklung einer KI-Zertifizierung »made in Germany« voranzubringen, haben das Fraunhofer IAIS und das Bundesamt für Sicherheit in der Informationstechnik BSI eine Kooperationsvereinbarung für die gemeinsame Entwicklung von Prüfverfahren unterzeichnet. Ziel der Zusammenarbeit ist es, Prüfverfahren zu entwickeln, die als Basis für technische Standards und Normen dienen können.
Umsetzung der Kooperation im KI.NRW-Flagship-Projekt »Zertifizierte KI«
Die Entwicklung der Prüfverfahren erfolgt im KI.NRW-Flagship-Projekt »Zertifizierte KI«, das als initiales Vorhaben der Kooperation Anfang 2021 startet. Das vom Land geförderte Projekt fußt auf einem breiten Beteiligungsprozess, um die Praxistauglichkeit und Marktfähigkeit der erarbeiteten Prüfverfahren sicherzustellen. In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Der breite Beteiligungsprozess kombiniert das Know-how der Akteure und stellt sicher, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln. In dem Projekt arbeiten renommierte Partner aus Forschung und Wirtschaft, darunter die Universität Bonn, die Universität zu Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie, und Handel zusammen.
Updates zum Flagship
Stimmen zur Kooperationsvereinbarung
Prof. Dr. Andreas Pinkwart
»Mit unseren herausragenden Kompetenzen und dem starken Netzwerk KI.NRW kann Nordrhein-Westfalen eine führende Rolle bei der Weiterentwicklung von Wirtschaft und Gesellschaft spielen. Damit das gelingt, machen wir den Einsatz der Künstlichen Intelligenz vertrauenswürdig und sicher. Dabei hilft uns eine unabhängige Zertifizierung von KI-Systemen: Sie stärkt das Vertrauen in moderne IT-Technologie und wird auch international als wichtiger Wettbewerbsvorteil erkannt. Mit der Entwicklung marktfähiger Prüfverfahren nähern wir uns dem Ziel mit großen Schritten.«
Arne Schönbohm
»Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden. Dies entsteht unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen. Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert.«
Prof. Dr. Stefan Wrobel
»Das Fraunhofer IAIS legt großen Wert auf die Entwicklung vertrauenswürdiger KI-Lösungen und hat über die letzten Jahre seinen Forschungsschwerpunkt zur KI-Absicherung kontinuierlich ausgebaut. Mit der Erarbeitung unserer Prüfverfahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen. Bereits im kommenden Jahr werden wir erste Prüfungen mit Unternehmen durchführen. Ich freue mich, dass wir mit dem BSI einen starken Partner mit langjähriger Erfahrung in der Etablierung von Standards in der IT an unserer Seite haben.«
Flagships powered by KI.NRW
Die Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen unterstützt mit der Dachmarke »Flagships powered by KI.NRW« vom Land geförderte Vorhaben als KI-Leuchtturmprojekte. Ziel ist es, einen effizienten Technologietransfer und die enge Zusammenarbeit von Mittelstand, Start-ups, Universitäten, Hochschulen und Forschungseinrichtungen in NRW zu unterstützen.
Wesentliche Inhalt der Kooperationsvereinbarung zwischen Fraunhofer IAIS und BSI werden im Rahmen des vom Bundesland Nordrhein-Westfalen geförderten KI.NRW-Flagship-Projekts »Zertifizierte KI« erarbeitet und umgesetzt. Unter der strategischen Schirmherrschaft von KI.NRW begleitet die Kompetenzplattform geförderte Vorhaben kommunikativ und positioniert den KI-Standort NRW durch die Vermarktung der Ergebnisse auf europäischer Ebene. Dabei liegt ein Fokus auf dem nachhaltigen Transfer und der Weiterverwertung der Projektergebnisse.
KI-Zertifizierung
Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung haben die Expert*innen des Fraunhofer IAIS bereits im vergangenen Jahr im Rahmen eines interdisziplinären Forschungsprojektes mit Wissenschaftler*innen aus den Bereichen Informatik, Recht und Philosophie geschaffen, die die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert haben. Die Ergebnisse wurden 2019 in dem Whitepaper »Vertrauenswürdiger Einsatz von Künstlicher Intelligenz« publiziert.
Interdisziplinäre Handlungsfelder für die Entwicklung einer KI-Zertifizierung
Als Grundlage für die Zertifizierung von KI-Systemen wurden in interdisziplinärer Zusammenarbeit sieben Handungsfelder definiert (siehe Abbildung). Die Entwicklung der technischen Prüfverfahren setzt hier an.
Ethik und Recht
Respektiert die KI-Anwendung gesellschaftliche Werte und Gesetze?
Autonomie & Kontrolle
Ist eine selbstbestimmte, effektive Nutzung der KI möglich?
Fairness
Behandelt die KI alle Betroffenen fair?
Transparenz
Sind Funktionsweise und Entscheidungen der KI nachvollziehbar?
Verlässlichkeit
Funktioniert die KI zuverlässig und ist sie robust?
Sicherheit
Ist die KI sicher gegenüber Angriffen, Unfällen und Fehlern?
Datenschutz
Schützt die KI die Privatsphäre und sonstige sensible Informationen?
Auf Basis der Erarbeitung technischer Prüfverfahren soll auch der interdisziplinäre Diskurs zur Gestaltung ethischer und rechtlicher Rahmenbedingungen weitergeführt werden. Ziel ist es, das Vertrauen und die Akzeptanz bei Unternehmen, Anwender*innen und gesellschaftlichen Akteuren in KI-basierte Anwendungen zu stärken. Die Entwicklung des Prüfkatalogs orientiert sich an den Empfehlungen der »Datenethikkommission« der Bundesregierung und der »High Level Expert Group on AI« der Europäischen Union und soll neben technischen Qualitätskriterien wie Verlässlichkeit und Sicherheit als auch Kriterien der Transparenz und Fairness berücksichtigen.
