Niklas Kruse gewinnt OLB Wissenschaftspreis

Transparente Entscheidungen: KI und Mensch im Vergleich

Die europäische KI-Verordnung stellt klare Anforderungen an den Einsatz von Künstlicher Intelligenz: Sie soll sicher, transparent, diskriminierungsfrei und vertrauenswürdig sein. Doch wie lässt sich das im Alltag von Unternehmen oder Behörden tatsächlich umsetzen? Niklas Kruse hat in seiner Masterarbeit ein Verfahren entwickelt, mit dem sich die Funktionsfähigkeit und Vertrauenswürdigkeit dieser KI-Systeme praktisch und nachvollziehbar überprüfen lassen.

„Konkret ging es um die Frage, ob eine KI bewerten kann, ob bestimmte Bilder genutzt werden dürfen, ohne personenbezogene Daten zu verarbeiten. Die dafür trainierte KI-Anwendung funktionierte technisch einwandfrei – wurde aber von juristischer Seite kritisch gesehen, weil die Entscheidung zwar richtig, aber für Außenstehende aufgrund der Undurchsichtigkeit von KI nicht nachvollziehbar erschien“, so Kruse, der an der Hochschule Wirtschaftsrecht studiert hat. Die Lösung: Transparenz schaffen – sowohl auf Seiten der KI als auch beim Menschen. Mithilfe sogenannter Attention Maps wurde sichtbar gemacht werden, welche Bildbereiche für die Entscheidung der KI ausschlaggebend sind. Gleichzeitig wurden mittels Eye-Tracking untersucht, wie menschliche Entscheider*innen vorgehen. Das Ergebnis: In über 90 Prozent der Fälle kamen Mensch und Maschine nicht nur zum gleichen Ergebnis, sondern trafen diese Entscheidung zudem auch anhand der gleichen Informationen in den Eingabedaten. „Die Methode lässt sich leicht auf viele weitere KI-Anwendungen übertragen“, sagt Kruse-

Betreut wurde seine Arbeit von Prof. Dr. Julius Schöning und Prof. Dr. Volker Lüdemann von der Hochschule Osnabrück. „Die Arbeit von Niklas Kruse zeichnet sich durch die innovative Verbindung von Künstlicher Intelligenz und Rechtswissenschaft aus. Sein interdisziplinärer Ansatz, der menschliche Entscheidungsprozesse in der Rechtsauslegung mit denen von KI-Systemen vergleicht, leistet Pionierarbeit für zukünftige KI-Technologien. Seine Arbeit zeigt nicht nur, wie KI rechtssicher eingesetzt werden kann, sondern auch, wie wichtig es ist, den Menschen in den Mittelpunkt der KI-Entwicklung zu stellen. Damit setzt Niklas Kruse Forschungsimpulse für die Zukunft der KI.“, so Schöning. Lüdemann ergänzt: „Die Masterarbeit von Niklas Kruse verbindet in außergewöhnlicher Weise juristische Tiefenschärfe mit technischer Innovationskraft. Sie zeigt, wie rechtliche Anforderungen wie Datenschutz, Transparenz und Fairness nicht als Hürden, sondern als konstruktive Leitplanken für vertrauenswürdige KI-Systeme wirken können. Besonders beeindruckt hat mich die interdisziplinäre Herangehensweise: Die Verbindung von KI-Analyse, Eye-Tracking und rechtlicher Bewertung eröffnet neue Wege für die Praxis – und leistet zugleich einen wichtigen Beitrag zur gesellschaftlich verantwortbaren Digitalisierung. Solche Arbeiten setzen Maßstäbe dafür, wie moderne Rechtswissenschaft Zukunft gestaltet.“

Hintergrund

Die OLB-Stiftung vergibt jährlich den OLB-Wissenschaftspreis. Mit einem Preisgeld von insgesamt 22.000 Euro werden herausragende Abschlussarbeiten prämiert, die an Hochschulen und Universitäten der Region entstanden sind und als besonders qualitätsvoll eingestuft wurden. Bewertet werden neben dem wissenschaftlichen Niveau auch Innovationsgrad, Praxisrelevanz, gesellschaftlicher Nutzen, Umweltaspekte, Wirtschaftlichkeit sowie die überzeugende Darstellung und der Mut zu besonderen Themen und Herangehensweisen. Mit Niklas Kruse wurde das erste Mal ein Absolvent der Hochschule Osnabrück ausgezeichnet.