Die zunehmende Implementierung Künstlicher Intelligenz in Wirtschaft und Gesellschaft erfordert Regulierung. Auch nach Veröffentlichung des ersten Rechtsrahmens für KI durch die EU-Kommission stehen Industrie und Wissenschaft vor rechtlichen Herausforderungen. Vor diesem Hintergrund stellte Professor Dr. Georg Borges im Webtalk „Sichere KI-Systeme durch Zertifizierung?“ am 14. September in seiner einleitenden Keynote das Potenzial von Test- und Zertifizierungsverfahren von KI-Systemen vor. Die Folien seines Vortrags finden Sie hier, eine Aufzeichnung auf YouTube hier.

Der Regulierungsvorschlag der EU-Kommission beinhaltet eine Risikoklassifizierung von KI-Anwendungen und formuliert je nach Einstufung des Risikos unterschiedliche Anforderungen an Unternehmen. In seinem Vortrag stellte Professor Borges dar, wie umfangreich und vielschichtig entsprechende Tests aufgebaut sein sollten und welche Parameter zu berücksichtigen sind.

Die Anforderungen an mögliche Tests und Zertifizierungsverfahren KI-basierter Systeme bilden die Kernaufgabe des Projekts „ExamAI“. Ziel ist es, das Agieren von KI-Systemen nachvollziehbar, messbar und damit zertifizierbar zu machen. Weitere Teilnehmer der Panel-Diskussion waren Cornelia Kutterer, Microsoft, Dr. Johanna Wenckebach, Hugo Sinzheimer Institut für Arbeitsrecht (HSI) der Hans-Böckler-Stiftung und Irina Orssich, Europäische Kommission. Moderiert wurde der Webtalk von Nikolas Becker, Gesellschaft für Informatik.

Zur Aufzeichnung des Vortrags auf YouTube.
Weitere Infos zum Projekt finden Sie hier.