Um die „Diskriminierung durch künstliche Intelligenz“ ging es am 1. Juni im Vortrag von Professor Dr. Georg Borges. Aus unterschiedlichen Perspektiven verdeutlichte er die komplexen Verflechtungen und Abgrenzungen, wenn man Entscheidungen durch Algorithmen den Entscheidungen durch Menschen gegenüberstellt. Mehr als 80 Interessenten verfolgten die spannende Online-Veranstaltung, die im Rahmen der „Trierer Gespräche zu Recht und Digitalisierung (TGRD)“ stattfand.

Künstliche Intelligenz (KI) ist zum Schlagwort geworden und schon heute fester Bestandteil des modernen Lebens. KI offeriert Kaufvorschläge, sortiert Bewerbungen aus oder ermittelt die Rückfallquote freigelassener Straftäter. Diese Prozesse basieren auf algorithmischen Entscheidungen – getroffen von Maschinen, implementiert durch Menschen.


Wenn Maschinen über Menschen entscheiden, schürt das berechtigte und naheliegende Ängste. Denn hier fehlen Transparenz und Nachvollziehbarkeit: Man erfährt nicht, nach welchen Kriterien ausgewählt und entschieden wird. Doch sind Entscheidungen durch Menschen immer nachvollziehbar, etwa in Prüfungssituationen oder bei der Vergabe eines Kredits? Ist es diskriminierend, wenn ein Vermieter seine Wohnung nicht an einen ausländischen Mitbürger vermietet, der Bürgschaften vorlegt, sondern an eine junge blonde Kellnerin?


Professor Borges ging in seinem Vortrag zunächst der Frage nach, was Diskriminierung überhaupt bedeutet. Er hielt fest, dass KI diskriminierend sein kann, wenn man die Daten entsprechend eingibt. Daher ist es extrem wichtig, zukünftig einen Schutz vor fehlerhaften Entscheidungen zu haben und die Systeme zu testen. Er präsentierte dazu Überlegungen und Forschungsergebnisse des Projekts „ExamAI“, in dem man untersucht, wie effektive Kontroll- und Testverfahren für KI-Systeme aussehen können. Denn Entscheidungen durch KI können auch Vorteile mit sich bringen: Maschinelle Entscheidungen sind oft reproduzierbar und eröffnen die Möglichkeit der Nachprüfung – im Gegensatz zu menschlichen.

Die Trierer Gespräche zu Recht und Digitalisierung stehen im Sommersemester 2021 unter dem Thema „Die digitale Dimension des Rechts“. Die öffentliche Ringvorlesung wurde moderiert von Professor Dr. Benjamin Raue.

Folien des Vortrags

ExamAI – KI Testing & Auditing

Im BMAS Projekt "ExamAI" entwickelt der Lehrstuhl von Professor Borges Konzepte für das Auditing und die Zertifizierung von KI-Anwendungen. Weitere Informationen: ExamAI

 

BMWi Projekt: Designetz

Der Lehrstuhl von Professor Sorge forscht im Projekt „Designetz“ an umsetzbaren Lösungen für einen datenschutzgerechten Umgang mit Smart-Meter-Daten. Infos unter Designetz

Recht-Testbed

Der Lehrstuhl von Prof. Borges erarbeitet im Rahmen des vom BMWi geförderten Projekts »Recht-Testbed Industrie 4.0« Lösungsansätze für Industrie 4.0. Mehr...

Copyright © 2021 Institut für Rechtsinformatik.

Wir nutzen Cookies auf unserer Website. Einige von ihnen sind essenziell für den Betrieb der Seite, während andere uns helfen, diese Website und die Nutzererfahrung zu verbessern (Tracking Cookies). Sie können selbst entscheiden, ob Sie die Cookies zulassen möchten. Bitte beachten Sie, dass bei einer Ablehnung womöglich nicht mehr alle Funktionalitäten der Seite zur Verfügung stehen.