EXAMAI – KI Testing & Auditing

Bereits heute ist absehbar, dass der Einsatz von Künstlicher Intelligenz (KI) erhebliche Auswirkungen auf die Arbeitswelt hat und in Zukunft haben wird. Die in der gesellschaftspolitischen Debatte um „KI-basierte Systeme” erhobenen Anforderungen – wie etwa Transparenz, Nachvollziehbarkeit, Fairness, Gleichbehandlung, Haftbarkeit, Zuverlässigkeit oder Datenschutz – sind unklar in Bezug auf ihre rechtliche und technische Ausgestaltung und geraten teilweise mit Interessen der sie entwickelnden Unternehmen in Konflikt.

Ziele und Vorgehen

Das Projekt verfolgt das Ziel, das Agieren von KI-Systemen nachvollziehbar, messbar und damit zertifizierbar zu machen. Dabei sollen konkrete Konzepte für das Auditing und die Zertifizierung von KI-Anwendungen entwickelt werden. Hierzu werden diejenigen technischen und rechtlichen Anforderungen ermittelt, die beim Einsatz von KI-Systemenzu beachten sind. Die Untersuchung erfolgt dabei anhand zweier typischer Anwendungsfelder für KI-Systeme.

KI in Produktionsprozessen

Ein Anwendungsszenario betrifft den Einsatz von KI-Systemen im Rahmen von Produktionsprozessen, etwa in Gestalt kollaborierender Roboter („Cobots“) und fahrerlosen Transportsystemen (FTS). Im Fokus dieses Szenarios steht die sichere Ausgestaltung der Mensch-Maschine-Schnittstelle zur Schaffung einer sicheren Arbeitsumgebung, hierneben werden auch Fragen der Produktsicherheit untersucht. Durch die Entwicklung von Test- und Zertifizierungsverfahren können Risiken minimiert und Vertrauen und Rechtssicherheit für den Einsatz von KI geschaffen werden.

KI bei Personalentscheidungen

Das zweite Anwendungsszenario widmet sich den Risiken des Einsatzes KI-gestützter Systeme im Personalmanagement. Zertifizierungen sollen hier dazu beitragen, dass KI-Systeme im Rahmen der gesetzlichen Vorgaben diskriminierungsfrei arbeiten und die Entscheidungsvorschläge nachvollziehbar gestalten, um möglichen Haftungsrisiken vorzubeugen.

Gefördert vom

Datei:BMAS Logo.svg

Ausführende Stelle

Lehrstuhl für Bürgerliches Recht, Rechtsinformatik, deutsches und internationales Wirtschaftsrecht sowie Rechtstheorie – Prof. Dr. Georg Borges

Kontakt

Elisabeth Friedel (Mail)

Wiss. Mitarbeiter

Robert Hoffmann, Andreas Sesing (Mail)

Projektpartner

Gesellschaft für Informatik e.V.
Fraunhofer-Institut für Experimentelles Software Engineering IESE
Stiftung Neue Verantwortung (SNV)
Technische Universität Kaiserslautern

Projektlaufzeit

März 2020 – November 2021

Projektsteckbrief

Hier können Sie den Projektsteckbrief als PDF herunterladen.

 

EXAMAI – KI Testing & Auditing

Im BMAS Projekt "EXAMAI" entwickelt der Lehrstuhl von Professor Borges Konzepte für das Auditing und die Zertifizierung von KI-Anwendungen.
Weitere Informationen: EXAMAI

 

Designetz

Der Lehrstuhl von Professor Sorge forscht im Projekt „Designetz“ an umsetzbaren Lösungen für einen datenschutzgerechten Umgang mit Smart-Meter-Daten. Infos unter Designetz

Recht-Testbed

Der Lehrstuhl von Prof. Borges erarbeitet im Rahmen des vom BMWi geförderten Projekts »Recht-Testbed Industrie 4.0« Lösungsansätze für Industrie 4.0. Mehr...

Copyright © 2020 Institut für Rechtsinformatik.

Wir nutzen Cookies auf unserer Website. Einige von ihnen sind essenziell für den Betrieb der Seite, während andere uns helfen, diese Website und die Nutzererfahrung zu verbessern (Tracking Cookies). Sie können selbst entscheiden, ob Sie die Cookies zulassen möchten. Bitte beachten Sie, dass bei einer Ablehnung womöglich nicht mehr alle Funktionalitäten der Seite zur Verfügung stehen.