BreAkIng Bad: Hacking the AI Act

Veranstaltungstyp: Projektseminar
Einrichtungen:
Hub of Computing and Data Science (HCDS), Fakultät für Mathematik, Informatik & Naturwissenschaften
Förderzeitraum: 01.04.2023 bis 31.03.2024
Kurztitel: BreAkIng Bad

Auszug aus dem Förder-Antrag: "In einem besonderen hermeneutischen Lehransatz treten die Studierenden als „Advocatus Diaboli“ auf: Die Beratungskonzepte sollen zeigen, wie der AI Act mit minimalem Aufwand erfüllt wird und dabei wirtschaftlicher Profit und Inkaufnahme von gesellschaftlichem Risiko maximiert werden können."

Das Projekt BreAkIng Bad

Der Einfluss von KI auf das Leben vieler Menschen nimmt stetig zu. Wenngleich sich hierdurch große Chancen ergeben, entstehen auch erhebliche Risiken und ethische Herausforderungen. Die neue EU-KI-Regulierung (EU AI Act) versucht, diese Chancen und Risiken in Einklang zu bringen. Die Idee des Seminars ist es, Studierende über alle Fakultäten hinweg für die Gefahren im Umgang mit KI zu sensibilisieren und gleichzeitig ein erstes Gespür für unternehmerische Praxis im Kontext potentiell gewinngefährdender Gesetze zu bekommen. Hierbei sollen die Studierenden selbst Gestaltungsspielräume entlang des Gesetzesentwurfs anhand konkreter KI-Anwendungsfälle ausloten.

Dies soll die Studierenden befähigen, KI kritisch und verantwortungsbewusst einzusetzen. Explizites Ziel war es, auch Studierende außerhalb der Informatik anzusprechen, da es sich um eine gesamtgesellschaftliche Herausforderung handelt und u.a. ethische, juristische, technische und betriebswirtschaftliche Aspekte vereint.

^{deepmind x / unsplash}

Rückblick und Ergebnisse

Das zentrale Ergebnis des Lehrprojekts war die praxisnahe und kritische Vermittlung von KI-basierten Datenpraktiken an die Studierenden. Das Lehrkonzept wurde in Zusammenarbeit mit der iDIGMA GmbH entwickelt und umfasste sowohl eigene Lehrinhalte als auch Gastlehreinheiten, um Chancen und Risiken von KI aus verschiedenen Perspektiven zu beleuchten. Themengerechte Literatur- und Materialempfehlungen wurden vorbereitet, um der Heterogenität der Studierenden gerecht zu werden.

Der EU AI Act befand sich zu Beginn des Projektzeitraums noch in der Entwurfsphase. Insofern bestand ein erster wichtiger Schritt (und somit ein erstes Zwischenergebnis) in der Aufbereitung der rechtlichen Rahmenbedingungen in einem für das Seminar und die Studierenden (im Wesentlichen Nicht-Jurist:innen) angemessenen Rahmen. Eine praxisnahe Vermittlung der Inhalte war zentrales Ziel des Seminars. Hierfür sollten die Studierenden den EU AI Act anhand eines konkreten KI-Anwendungsfalls operationalisieren.

Ein weiteres wichtiges Zwischenergebnis war daher die Entwicklung von für das Seminar passenden KI-Anwendungsfällen. Wichtiges Kriterium für die KI-Anwendungsfälle war, dass diese technisch realistisch umsetzbar sind, einen erheblichen betriebswirtschaftlichen Nutzen bieten und gleichzeitig mit ethischen (und ggf. rechtlichen) Risiken verbunden sind. Die Anwendungsfälle wurden vom Projektteam gemeinsam mit dem Praxispartner priorisiert und ausgearbeitet. Zudem wurden Handreichungen für die Lehrenden mit weiterführenden Informationen (z.B. ethische Bedenken, Bewertungen hinsichtlich des EU AI Acts) erarbeitet.

Tipps von Lehrenden für Lehrende

Im Rahmen des Lehrprojekts konnte die Einbindung und Zusammenarbeit mit unterschiedlichen Fachbereichen und außeruniversitären Akteuren erprobt werden, was als Bereicherung empfunden wird. Gerade für vielschichtige Phänomene wie „Digitalisierung“ oder „Data Literacy“ scheint dieser übergreifende Ansatz sinnvoll. Das Projekt vereint eine Vielzahl von fachlichen Perspektiven (u.a. rechtlich, betriebswirtschaftlich, technisch, ethisch). Neben der interdisziplinären Besetzung des Projektteams wurde daher im Rahmen des projektbasierten Lehransatzes die Rolle eines internen rechtlichen Experten (einer wissenschaftlichen Hilfskraft) erprobt, welcher die Lehrpersonen und insbesondere die Studierenden durch punktuelle fachliche Beratung unterstützt hat.

Dieser Ansatz wurde als bereichernd empfunden und als potenzieller Weg zu mehr themenübergreifenden Lehrveranstaltungen. Innerhalb des Projektteams gab es sehr unterschiedliche Vorerfahrungen zu Lehrveranstaltungen und allgemeinen Gruppenarbeitsformaten, was viele wertvolle Impulse für anpassbare, teilweise hybride Veranstaltungsformate gab.