Eine zweitägige Online-Konferenz bot am 19. Mai und 20. Mai hochinteressante Vorträge und Dialoge zum Thema: „Algorithmen, Automatisierung und Arbeit – Wie KI unsere Arbeit und unser Leben besser machen kann.“ Zu den Rednern gehörte auch Instituts-Direktor Professor Georg Borges. Im Panel „Black-Box KI – Wie wird KI kontrollierbar?“ zeigte er auf, dass KI bei richtigem Einsatz großen Nutzen mit sich bringen kann.

Ob bei der Kandidatenauswahl, beim Mäh-Roboter oder bei der Entwicklung des selbstfahrender Autos – Wissenschaftler und Forscher arbeitet daran, in den unterschiedlichsten Lebensbereichen die Vorteile Künstlicher Intelligenz aufzuzeigen und nutzbar zu machen, und gleichzeitig die Gesellschaft vor Nachteilen oder potenziellen Fehlentscheidungen zu schützen. Auf der Suche nach Entwicklungskriterien für Normen, Tools, Richtlinien und Institutionen tauschten sich in der Online-Konferenz Expert*innen aus Forschungsinstituten, Gewerkschaften, OECD, KI-Anwendungsorientierten Unternehmen und der Verwaltung aus. In einem weiten Spektrum zeigten die Referent*innen wunde Stellen auf, präsentierten aber auch Ergebnisse, die einen Mehrgewinn für alle versprechen.

Hauptthema des von Nikolas Becker, Gesellschaft für Informatik, moderierten Panels „Black-Box KI – Wie wird KI kontrollierbar?“ war der sensible Bereich der Auswahl von Kandidaten in Bewerbungsprozessen. In großen Unternehmen sind Algorithmen längst im Einsatz, wenn es um die Auswahl von Bewerbern geht. Doch ist die durch KI getroffene Entscheidung transparent und nachvollziehbar?

Im Austausch mit der Informatik-Professorin Katharina Zweig, TU Kaiserslautern, und Leonie Beining, Stiftung Neue Verantwortung (SNV), betonte Professor Borges, dass die meisten Arbeitgeber oft gar nicht wüssten, was ihr Auswahlsystem kann und was nicht. Die Transparenz in diesem Prozess sei wichtig und müsse vorher geschaffen werden. Seiner Meinung nach stellt eine unabhängige und vernünftige Test-Metrik die Grundvoraussetzung für diese Systeme dar. Er verwies dabei auf das Forschungsprojekt ExamAI , in dem man in konkreten Anwendungsfeldern untersucht, wie sinnvolle Kontroll- und Testverfahren für KI-Systeme aussehen können.

Das Ziel aller Beteiligten, die auch Projektpartner des Projekts ExamAI sind, lautet: Wir wollen einen Beitrag zu einer fairen KI leisten. Kann man erst mal das System analysieren, wird es auch möglich sein, eine Entscheidung nachzuvollziehen. Und hier liegt ein Vorteil beim Einsatz von KI bei der Kandidatenauswahl. Denn: Menschlichen Entscheidern kann man nicht in den Kopf schauen, Maschinen schon eher.

Die Veranstaltung wurde organisiert vom Bundesministerium für Arbeit und Soziales (BMAS) und der Denkfabrik Digitale Arbeitsgesellschaft.

 

Das Programm finden Sie hier.

 

ExamAI – KI Testing & Auditing

Im BMAS Projekt "ExamAI" entwickelt der Lehrstuhl von Professor Borges Konzepte für das Auditing und die Zertifizierung von KI-Anwendungen. Weitere Informationen: ExamAI

 

BMWi Projekt: Designetz

Der Lehrstuhl von Professor Sorge forscht im Projekt „Designetz“ an umsetzbaren Lösungen für einen datenschutzgerechten Umgang mit Smart-Meter-Daten. Infos unter Designetz

Recht-Testbed

Der Lehrstuhl von Prof. Borges erarbeitet im Rahmen des vom BMWi geförderten Projekts »Recht-Testbed Industrie 4.0« Lösungsansätze für Industrie 4.0. Mehr...

Copyright © 2021 Institut für Rechtsinformatik.

Wir nutzen Cookies auf unserer Website. Einige von ihnen sind essenziell für den Betrieb der Seite, während andere uns helfen, diese Website und die Nutzererfahrung zu verbessern (Tracking Cookies). Sie können selbst entscheiden, ob Sie die Cookies zulassen möchten. Bitte beachten Sie, dass bei einer Ablehnung womöglich nicht mehr alle Funktionalitäten der Seite zur Verfügung stehen.