zurück

»Klassische Verfahren wie neuronale Netze sind sogenannte Black-Box-Modelle, ergo, ihre Ergebnisse sind für Menschen nicht direkt nachvollziehbar. Wir entwickeln Modelle, die selbst verbalisiert werden können und deren Ergebnisse ebenso nachvollziehbar sind.«

Künstliche Intelligenz trifft längst Entscheidungen, die unser Leben prägen. Doch wie KI-Systeme zu ihren Ergebnissen kommen, bleibt oft eine Black Box. Prof. Dr. Axel-Cyrille Ngonga Ngomo, Lamarr-Fellow, Leiter der Fachgruppe Data Science (DICE) und Inhaber des Lehrstuhls für Data Science am Heinz-Nixdorf-Institut an der Universität Paderborn, forscht an einer KI, deren Entscheidungen transparent sind und die darüber hinaus nicht halluziniert. Für seine Forschung an rationalen KI-Modellen, die nicht halluzinieren, wurde er mit dem Innovationspreis NRW 2024 ausgezeichnet.

Herr Professor Ngonga Ngomo, Sie arbeiten seit Langem an Wissensgraphen und ihrer Nutzung in Frage-Antwort-Systemen und Chatbots. Ein Schwerpunkt dabei ist es, die Antworten von KI-Systemen erklärbar zu machen. Was genau hat es mit dieser sogenannten Explainable AI auf sich?
Erklärbare KI (Explainable AI, XAI) verfolgt das Ziel, die Entscheidungen und Vorhersagen von KI-Systemen für Menschen nachvollziehbar zu machen. Klassische Verfahren wie neuronale Netze sind sogenannte Black-Box-Modelle, ergo, ihre Ergebnisse sind für Menschen nicht direkt nachvollziehbar. Wir entwickeln Modelle, die selbst verbalisiert werden können und deren Ergebnisse ebenso nachvollziehbar sind.

In der öffentlichen Diskussion werden Large Language Models oft für ihre »Halluzinationen« kritisiert. Sie entwickeln Ansätze, die neuronale Netze mit symbolischer Logik verknüpfen. Wie genau versuchen Sie zu verhindern, dass KI-Systeme Fakten erfinden?
Wir entwickeln neurosymbolische Ansätze, um die Vorteile von logikbasierten und somit erklärbaren Verfahren mit der Lerneffizienz von vektorbasierten (man sagt aus subsymbolischen) Verfahren, z. B. neuronalen Netzen, zu verbinden. Damit schaffen wir Systeme, die das Beste aus beiden Welten zusammenführen. Für den logikbasierten Teil der Modelle basieren unsere Arbeiten auf Wissensgraphen, die mittlerweile ca. 1 Billion Fakten in Form von Tripeln (z. B. (Berlin, hauptStadtVon, Deutschland)) beschreiben. Die Erklärbarkeit und Transparenz unserer Modelle stellen sicher, dass jede Entscheidung immer nachvollziehbar ist und von Domänenexperten auf Korrektheit überprüft werden kann.

Für Laien klingt der Begriff »Knowledge Graph« abstrakt. Wo begegnen uns Ihre Forschungsergebnisse bereits heute, ohne dass wir es vielleicht merken?
Wissensgraphen nutzen die meisten Menschen. Das Ergebnis jeder Google-Suche nach einer Entität, z. B. Paderborn, enthält Fragmente aus dem Google-Wissensgraphen. Unsere Ergebnisse werden zurzeit vorrangig von Unternehmen und großen Organisationen genutzt. Wir haben zum Beispiel mit dem Satellitenzentrum der Europäischen Union zusammengearbeitet, um die automatische Analyse von Satellitendaten zu verbessern und damit die Reaktionszeit im Krisenfall EU-weit zu verbessern.

Warum ist es für die Akzeptanz von KI-Anwendungen in kritischen Bereichen wie der Medizin oder der Justiz wichtiger, das »Warum« einer Entscheidung zu verstehen, als nur ein hochpräzises Ergebnis zu erhalten?
Recht einfach. Weil sich das Leben eines oder mehrere Menschen wesentlich durch solch eine Entscheidung ändern kann. Es ist daher nicht nur menschlich, sondern auch rechtlich von besonderer Wichtigkeit, die Anzahl der Fehler bei kritischen Entscheidungen zu minimieren. Dass ein Ergebnis oft präzise ist, bedeutet auch, dass Fehler nicht ausgeschlossen werden können und ein Fehler reicht manchmal, um ein Menschenleben unwiderrufbar zu verändern.

Erklärbarkeit schafft also Vertrauen. Sehen Sie in Ihren Ansätzen, das »Black-Box-Problem« heutiger KI-Systeme zu entschärfen, auch eine Chance für die Wirtschaft? Wie relevant ist dieser Punkt hier?
Die Gesetzgebung in Europa (AI Act, GDPR, Data Act) verlangt von Unternehmen, dass sie KI-basierte Entscheidungen erklären können. Das ist eine für viele Unternehmen unüberwindbare Einstiegshürde. Nur wenige KMUs (und diese machen den Großteil der Betriebe in Deutschland aus) können es sich leisten, KI-Expertise im Haus aufzubauen. Mit neurosymbolischen Modellen wird diese Hürde abgeschafft, da nun Erklärungen in natürlicher Sprache generiert werden, die von jeder Fachperson verstanden, überprüft und, wenn korrekt, freigegeben werden können.

Als Speaker auf Veranstaltungen sprechen Sie außerdem über strategische Pfade für den KI-Transfer. Wenn Sie einen Hebel empfehlen dürften, um Ergebnisse aus der Forschung schneller in die Anwendung zu bekommen – welcher wäre das und warum?
Mehr Risikokapital und einfachere Gründungspfade. Ich kenne bestens ausgebildete KI-Fachkräfte, die sich gezwungen sehen, ihre Unternehmen in Nordamerika aufzubauen, weil sie sich sonst nicht gegen den Wettbewerb behaupten können. Genauso kenne ich Leute, die ihre Unternehmen lieber in England aufgebaut haben, weil alle Schritte von Gründung, Betrieb bis zum Exit kostengünstig und zeiteffizient umgesetzt werden können. Estlands e-Residency Programm ermöglicht es, Unternehmen online zu gründen und zu managen. Das muss in Deutschland ebenso gehen, damit wir junge Leute motivieren können, hier zu gründen und konkurrenzfähig zu sein.

Sie sind in NRW tief verwurzelt, von der Universität Paderborn bis zum Lamarr-Institut. Was macht den Forschungsstandort NRW für die Entwicklung von KI-Spitzentechnologie im internationalen Vergleich so attraktiv?
Ich glaube, dass innovative Lösungen in NRW schnell akzeptiert, implementiert und eingesetzt werden. Die große Anzahl von sogenannten Hidden Champions, die weltweit führend und in NRW ansässig sind, korroboriert diese Hypothese.