ExamAI – KI Testing & Auditing

Bereits heute ist absehbar, dass der Einsatz von Künstlicher Intelligenz (KI) erhebliche Auswirkungen auf die Arbeitswelt hat und in Zukunft haben wird. Die in der gesellschaftspolitischen Debatte um „KI-basierte Systeme” erhobenen Anforderungen – wie etwa Transparenz, Nachvollziehbarkeit, Fairness, Gleichbehandlung, Haftbarkeit, Zuverlässigkeit oder Datenschutz – sind unklar in Bezug auf ihre rechtliche und technische Ausgestaltung und geraten teilweise mit Interessen der sie entwickelnden Unternehmen in Konflikt.

Ziele und Vorgehen

Das Projekt verfolgt das Ziel, das Agieren von KI-Systemen nachvollziehbar, messbar und damit zertifizierbar zu machen. Dabei sollen konkrete Konzepte für das Auditing und die Zertifizierung von KI-Anwendungen entwickelt werden. Hierzu werden diejenigen technischen und rechtlichen Anforderungen ermittelt, die beim Einsatz von KI-Systemen zu beachten sind. Die Untersuchung erfolgt dabei anhand zweier typischer Anwendungsfelder für KI-Systeme.

KI in Produktionsprozessen

Ein Anwendungsszenario betrifft den Einsatz von KI-Systemen im Rahmen von Produktionsprozessen, etwa in Gestalt kollaborierender Roboter („Cobots“) und fahrerlosen Transportsystemen (FTS). Im Fokus dieses Szenarios steht die sichere Ausgestaltung der Mensch-Maschine-Schnittstelle zur Schaffung einer sicheren Arbeitsumgebung, hierneben werden auch Fragen der Produktsicherheit untersucht. Durch die Entwicklung von Test- und Zertifizierungsverfahren können Risiken minimiert und Vertrauen und Rechtssicherheit für den Einsatz von KI geschaffen werden.

KI bei Personalentscheidungen

Das zweite Anwendungsszenario widmet sich den Risiken des Einsatzes KI-gestützter Systeme im Personalmanagement. Zertifizierungen sollen hier dazu beitragen, dass KI-Systeme im Rahmen der gesetzlichen Vorgaben diskriminierungsfrei arbeiten und die Entscheidungsvorschläge nachvollziehbar gestalten, um möglichen Haftungsrisiken vorzubeugen.

Gefördert vom

Datei:BMAS Logo.svg

Ausführende Stelle

Lehrstuhl für Bürgerliches Recht, Rechtsinformatik, deutsches und internationales Wirtschaftsrecht sowie Rechtstheorie – Prof. Dr. Georg Borges

Kontakt

Elisabeth Friedel (Mail)

Wiss. Mitarbeiter

Robert Hoffmann, Dr. Andreas Sesing (Mail)

Projektpartner

Gesellschaft für Informatik e.V.
Fraunhofer-Institut für Experimentelles Software Engineering IESE
Stiftung Neue Verantwortung (SNV)
Technische Universität Kaiserslautern

Projektlaufzeit

März 2020 – November 2021

Projekt-Website

testing-ai.gi.de

Projektsteckbrief

Hier können Sie den Projektsteckbrief als PDF herunterladen.

Wir stellen ein!

Das Institut für Rechtsinformatik sucht Wissenschaftliche Mitarbeiter. Bewerben Sie sich jetzt! Infos unter: www.it-recht-karriere.de

 

BMWi Projekt: INITIATIVE

Im Projekt »INITIATIVE« arbeitet das Team um Prof. Borges an KI-gestützter Kommunikation für autonome Fahrzeuge im Verkehr. Mehr...

Recht-Testbed

Der Lehrstuhl von Professor Borges erarbeitet im BMWi-Projekt »Recht-Testbed Industrie 4.0« Lösungsansätze für die Industrie 4.0. Mehr...

Copyright © 2021 Institut für Rechtsinformatik.