Um die „Diskriminierung durch künstliche Intelligenz“ ging es am 1. Juni im Vortrag von Professor Dr. Georg Borges. Aus unterschiedlichen Perspektiven verdeutlichte er die komplexen Verflechtungen und Abgrenzungen, wenn man Entscheidungen durch Algorithmen den Entscheidungen durch Menschen gegenüberstellt. Mehr als 80 Interessenten verfolgten die spannende Online-Veranstaltung, die im Rahmen der „Trierer Gespräche zu Recht und Digitalisierung (TGRD)“ stattfand.

Künstliche Intelligenz (KI) ist zum Schlagwort geworden und schon heute fester Bestandteil des modernen Lebens. KI offeriert Kaufvorschläge, sortiert Bewerbungen aus oder ermittelt die Rückfallquote freigelassener Straftäter. Diese Prozesse basieren auf algorithmischen Entscheidungen – getroffen von Maschinen, implementiert durch Menschen.


Wenn Maschinen über Menschen entscheiden, schürt das berechtigte und naheliegende Ängste. Denn hier fehlen Transparenz und Nachvollziehbarkeit: Man erfährt nicht, nach welchen Kriterien ausgewählt und entschieden wird. Doch sind Entscheidungen durch Menschen immer nachvollziehbar, etwa in Prüfungssituationen oder bei der Vergabe eines Kredits? Ist es diskriminierend, wenn ein Vermieter seine Wohnung nicht an einen ausländischen Mitbürger vermietet, der Bürgschaften vorlegt, sondern an eine junge blonde Kellnerin?


Professor Borges ging in seinem Vortrag zunächst der Frage nach, was Diskriminierung überhaupt bedeutet. Er hielt fest, dass KI diskriminierend sein kann, wenn man die Daten entsprechend eingibt. Daher ist es extrem wichtig, zukünftig einen Schutz vor fehlerhaften Entscheidungen zu haben und die Systeme zu testen. Er präsentierte dazu Überlegungen und Forschungsergebnisse des Projekts „ExamAI“, in dem man untersucht, wie effektive Kontroll- und Testverfahren für KI-Systeme aussehen können. Denn Entscheidungen durch KI können auch Vorteile mit sich bringen: Maschinelle Entscheidungen sind oft reproduzierbar und eröffnen die Möglichkeit der Nachprüfung – im Gegensatz zu menschlichen.

Die Trierer Gespräche zu Recht und Digitalisierung stehen im Sommersemester 2021 unter dem Thema „Die digitale Dimension des Rechts“. Die öffentliche Ringvorlesung wurde moderiert von Professor Dr. Benjamin Raue.

Folien des Vortrags

Wir stellen ein!

Das Institut für Rechtsinformatik sucht Wissenschaftliche Mitarbeiter. Bewerben Sie sich jetzt! Infos unter: www.it-recht-karriere.de

 

BMWi Projekt: INITIATIVE

Im Projekt »INITIATIVE« arbeitet das Team um Prof. Borges an KI-gestützter Kommunikation für autonome Fahrzeuge im Verkehr. Mehr...

Recht-Testbed

Der Lehrstuhl von Professor Borges erarbeitet im BMWi-Projekt »Recht-Testbed Industrie 4.0« Lösungsansätze für die Industrie 4.0. Mehr...

Copyright © 2022 Institut für Rechtsinformatik.