Eine zweitägige Online-Konferenz bot am 19. Mai und 20. Mai hochinteressante Vorträge und Dialoge zum Thema: „Algorithmen, Automatisierung und Arbeit – Wie KI unsere Arbeit und unser Leben besser machen kann.“ Zu den Rednern gehörte auch Instituts-Direktor Professor Georg Borges. Im Panel „Black-Box KI – Wie wird KI kontrollierbar?“ zeigte er auf, dass KI bei richtigem Einsatz großen Nutzen mit sich bringen kann.
Ob bei der Kandidatenauswahl, beim Mäh-Roboter oder bei der Entwicklung des selbstfahrender Autos – Wissenschaftler und Forscher arbeitet daran, in den unterschiedlichsten Lebensbereichen die Vorteile Künstlicher Intelligenz aufzuzeigen und nutzbar zu machen, und gleichzeitig die Gesellschaft vor Nachteilen oder potenziellen Fehlentscheidungen zu schützen. Auf der Suche nach Entwicklungskriterien für Normen, Tools, Richtlinien und Institutionen tauschten sich in der Online-Konferenz Expert*innen aus Forschungsinstituten, Gewerkschaften, OECD, KI-Anwendungsorientierten Unternehmen und der Verwaltung aus. In einem weiten Spektrum zeigten die Referent*innen wunde Stellen auf, präsentierten aber auch Ergebnisse, die einen Mehrgewinn für alle versprechen.
Hauptthema des von Nikolas Becker, Gesellschaft für Informatik, moderierten Panels „Black-Box KI – Wie wird KI kontrollierbar?“ war der sensible Bereich der Auswahl von Kandidaten in Bewerbungsprozessen. In großen Unternehmen sind Algorithmen längst im Einsatz, wenn es um die Auswahl von Bewerbern geht. Doch ist die durch KI getroffene Entscheidung transparent und nachvollziehbar?
Im Austausch mit der Informatik-Professorin Katharina Zweig, TU Kaiserslautern, und Leonie Beining, Stiftung Neue Verantwortung (SNV), betonte Professor Borges, dass die meisten Arbeitgeber oft gar nicht wüssten, was ihr Auswahlsystem kann und was nicht. Die Transparenz in diesem Prozess sei wichtig und müsse vorher geschaffen werden. Seiner Meinung nach stellt eine unabhängige und vernünftige Test-Metrik die Grundvoraussetzung für diese Systeme dar. Er verwies dabei auf das Forschungsprojekt ExamAI , in dem man in konkreten Anwendungsfeldern untersucht, wie sinnvolle Kontroll- und Testverfahren für KI-Systeme aussehen können.
Das Ziel aller Beteiligten, die auch Projektpartner des Projekts ExamAI sind, lautet: Wir wollen einen Beitrag zu einer fairen KI leisten. Kann man erst mal das System analysieren, wird es auch möglich sein, eine Entscheidung nachzuvollziehen. Und hier liegt ein Vorteil beim Einsatz von KI bei der Kandidatenauswahl. Denn: Menschlichen Entscheidern kann man nicht in den Kopf schauen, Maschinen schon eher.
Die Veranstaltung wurde organisiert vom Bundesministerium für Arbeit und Soziales (BMAS) und der Denkfabrik Digitale Arbeitsgesellschaft.
Das Programm finden Sie hier.
