Hattrick für vertrauenswürdige KI-Forschung: TU Dortmund-Team gewinnt Best Paper Award

Die ausgezeichnete Studie von Carina Newen, Sofia Vergara Puccini und Prof. Dr. Emmanuel Müller stellt innovative Ansätze vor, um die Vertrauenswürdigkeit von KI-Systemen besser zu verstehen und zu verbessern. Die Auszeichnung unterstreicht die führende Rolle des Teams bei der Gestaltung der Zukunft sicherer und verlässlicher Künstlicher Intelligenz.

Dortmunder Forschungsteam erzielt seltenen Hattrick für vertrauenswürdige KI-Publikationen

Carina Newen, Sofia Vergara Puccini und Prof. Dr. Emmanuel Müller von der Fakultät für Informatik der TU Dortmund wurden auf der 27. International Conference on Big Data Analytics and Knowledge Discovery, die vom 25. bis 27. August in Bangkok stattfand, mit dem Best Paper Award ausgezeichnet.

Dies ist bereits der dritte Best Paper Award für das Team und unterstreicht seine führende Rolle im Bereich der vertrauenswürdigen Künstlichen Intelligenz sowie die bahnbrechenden Beiträge innerhalb des Forschungszentrums RC Trust.

Darüber hinaus markiert diese Auszeichnung einen wichtigen persönlichen Meilenstein: Carina Newen hat im Rahmen dieser Arbeit erfolgreich ihre hochgradig interdisziplinäre Promotion am Lehrstuhl von Prof. Dr. Müller (Fakultät für Informatik, TU Dortmund) abgeschlossen. Ihre Dissertation zeigt eindrucksvoll, welchen Mehrwert fachübergreifende Zusammenarbeit für die Weiterentwicklung von vertrauenswürdiger KI bietet.

Das ausgezeichnete Paper: KI-Systeme robuster und vertrauenswürdiger machen

Das prämierte Paper „Certainty Attacks Using Explainability Preprocessing“ untersucht, wie moderne Machine-Learning-Modelle gezielt manipuliert werden können – und was dies für die Sicherheit und Vertrauenswürdigkeit von KI-Systemen bedeutet.

Da maschinelles Lernen zunehmend in kritischen Anwendungsbereichen eingesetzt wird – von der medizinischen Diagnostik bis hin zum autonomen Fahren –, sind Angriffe auf solche Systeme ein wachsendes Risiko. Dabei handelt es sich um gezielt konstruierte Eingaben, die das Modell zu falschen Vorhersagen verleiten.

Das Dortmunder Team entwickelte eine neue Methode, die Techniken der erklärbaren KI (Explainable AI, XAI) mit fortgeschrittenem maschinellem Lernen kombiniert, um solche Angriffe zu analysieren und zu optimieren.

Die Ergebnisse liefern wichtige Einblicke, wie Angreifende bestehende Abwehrmechanismen umgehen können – und wie Forschende darauf aufbauend robustere und vertrauenswürdigere KI-Systeme entwickeln können. Indem das Verständnis von adversarialem Verhalten verbessert wird, trägt diese Arbeit dazu bei, sicherere und zuverlässigere KI-Technologien zu schaffen.

Zudem zeigt die Studie, wie die Kombination von XAI-Methoden und Angriffstechniken zu noch stärkeren Angriffen führen kann, die gängige Erkennungsstrategien für adversariale Beispiele umgehen. Damit betonen die Autor:innen, dass künftige Forschung mehr berücksichtigen sollte als nur die Erfolgsraten von Angriffen – insbesondere wenn es um die Sicherheit von Machine-Learning-Algorithmen geht.

Ausblick: Auf dem Weg zu vertrauenswürdigerer KI

Prof. Dr. Emmanuel Müller betont die langfristige Perspektive hinter der Forschung:

„Unser Ziel ist es, die Grenzen und Schwachstellen aktueller KI-Systeme besser zu verstehen. Indem wir ihre Verwundbarkeiten aufzeigen, können wir stärkere Schutzmechanismen entwickeln und KI letztlich sicherer und vertrauenswürdiger machen.“

Dieser jüngste Erfolg stellt bereits den dritten Best Paper Award des Teams dar, nach den Auszeichnungen in 2022 und 2023.

Diese Auszeichnung verdeutlicht auch die Bedeutung interdisziplinärer Forschung innerhalb von RC Trust, das Expertise aus Informatik, Datenanalyse und erklärbarer KI vereint, um einige der dringendsten Herausforderungen auf diesem Gebiet zu bewältigen.

Ausgewählte prämierte Beiträge der Konferenz werden außerdem für eine Sonderausgabe des renommierten Elsevier-Journals Data & Knowledge Engineering eingeladen.

Links:

Best Paper 2025

https://link.springer.com/chapter/10.1007/978-3-032-02215-8_15

Best Paper 2023

https://ls9-www.cs.tu-dortmund.de/publications/Unsupervised-Features-Ranking.pdf

Best Paper 2022

https://ls9-www.cs.tu-dortmund.de/publications/STAD_OLUD2022.pdf