Hintergründe zu den Risiken der KI-Nutzung
Der Einsatz generativer KI wirft nicht nur didaktische Fragen auf, sondern berührt auch Themen wie Datenschutz, Diskriminierung, Ressourcenverbrauch oder gesellschaftliche Verantwortung.
Auf dieser Seite findest du weiterführende Inhalte – Artikel, Videos, Podcasts und Interviews – um die Nebenwirkungen und Herausforderungen von KI im Studium und darüber hinaus besser einordnen zu können.
Die Sammlung richtet sich an alle, die kritisch, fundiert und zukunftsorientiert über den Einsatz von KI nachdenken möchten – ob als Studierende oder Lehrende.
Überblick
Einen Überblick über zentrale Herausforderungen bei der Arbeit mit KI-Tools gibt auf S. 24-65: Buck, Isabella (2025):
- Wissenschaftliches Schreiben mit KI. Tübingen: UVK (utb 6365). https://doi.org/10.36198/9783838563657 (Für Mitglieder der UHH freier Zugang mit Campuslizenz über die Staats- und Universitätsbibliothek).
Deskilling
Grundlegend Gedanken zum unter dem Begriff „Deskilling“ diskutierten möglichen Kompetenzverlust bei KI-Nutzung:
- Reinmann, Gabi (31.01.2025): Let's talk about – Werte und bewusster Umgang mit KI. UHH GKI-Podcast. https://www.uni-hamburg.de/lehre-navi/lehrende/podcast-gki/episode-reinmann.html (Audiopodcast, 22 Min.).
- Reinmann, Gabi (2023). Deskilling durch Künstliche Intelligenz? Potenzielle Kompetenzverluste als Herausforderung für die Hochschuldidaktik. Diskussionspapier Nr. 25. Berlin: Hochschulforum Digitalisierung. https://hochschulforumdigitalisierung.de/sites/default/files/dateien/HFD_DP_25_Deskilling.pdf .
- Krauter, Ralf; Schroeder, Carina (22.05.2025): KI auf dem Campus – Wie Hochschullehrer KI kreativ nutzen. Deutschlandfunk Podcast „KI verstehen“. https://www.deutschlandfunk.de/ki-campus-hochschule-lehre-professor-100.html (Audiopodcast, 34:55 Min., zu Deskilling: 16:17-27:20 Min.).
Datensicherheit
Zum Einstieg ein Podcast mit rechtlichen Fragen, die auch im Studium wichtig sind:
- Martin Robinius (2024): Datenschutz und Urheberrecht bei der Nutzung generativer KI https://lecture2go.uni-hamburg.de/l2go/-/get/v/69189
Die UHH bietet mit UHHGPT einen datensicheren institutionellen Zugang zur OpenAI API von ChatGPT. Genauere Informationen zum Datenschutz und Anmeldelink unter: https://uhhgpt.uni-hamburg.de/login.php
--> Eingegebene Inhalte auf UHHGPT kann niemand mitlesen!
Diskriminierung
Zum Einstieg zwei kurze Podcasts von Professorinnen der UHH zu vieldiskutierten Teilthemen:
- Simon, Judith (2024): Der ethische Umgang mit GKI-Systemen. https://lecture2go.uni-hamburg.de/l2go/-/get/v/69920 (Audiopodcast 5 Min.).
- Lauscher, Anne (2024): Bias und Fairness: Wie beeinflussen Stereotype generative KI? https://lecture2go.uni-hamburg.de/l2go/-/get/v/69193 (Audiopodcast 10 Min.).
- Breit aufgestellte Abhandlung mit Empfehlungen für verschiedene Bereiche: Deutscher Ethikrat (2023): Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz. Berlin. https://www.ethikrat.org/publikationen/stellungnahmen/mensch-und-maschine/ (Download in Komplett- und Kurzversion möglich).
Kontrollverluste
Zwei Audiopodcast als Überblick zum Thema Desinformation und Deepfakes im Kontext generativer KI:
- Stefan Göllner in Gespräch mit Christopher Nehring (18.01.2024): #15 Fakt oder Deepfake? – Desinformation in Zeiten generativer KI. KI kapiert - der Podcast der KI-Campus-Community. https://ki-kapiert.podigee.io/16-new-episode (Audiopodcast 46 Min.).
- Metz, Moritz; Krauter, Ralf (25. April 2024): Deepfakes und Demokratie – Beeinflusst KI den Ausgang von Wahlen. Deutschlandfunk-Podcast „KI verstehen“. https://www.deutschlandfunk.de/deepfakes-und-demokratie-beeinflusst-kunstliche-intelligenz-wahlen-100.html (Audiopodcast 31 Min.).
Ressourcenverbrauch
Der Comic-Essay diskutiert generell Fragen der Nachhaltigkeit von KI-Nutzung:
- Schneider, Julia (o.J.): A Pigeon's Tale – Ein Comic-Essay über Künstliche Intelligenz und Nachhaltigkeit (aus Vogelperspektive). Mit Illustrationen von Pauline Cremer, zusammen mit Birds on Mars. https://www.pigeonstale.ai/home-de (PDF-Download).
Zu den diversen Blickwinkeln auf ökologische Fragen drei ausgewählte Podcasts zum Einstieg:
- Energiebedarf von KI – eine wachsende Herausforderung. DW Deutsch. 23.01.2025. https://www.youtube.com/watch?v=DfvzxVeI46Q (Video, 12 Min.).
- Metz, Moritz; Heller, Piotr (12.10.2023): Energieverbrauch Künstlicher Intelligenz: Verhagelt uns KI die Klimabilanz? Deutschlandfunk Podcast „KI verstehen“. https://www.deutschlandfunk.de/energieverbrauch-kuenstlicher-intelligenz-verhagelt-uns-ki-die-klimabilanz-dlf-b6838034-100.html (Audiopodcast, 32 Min.).
- Walch, Nasseri, Friederike; Brose, Maximilian (18.07.2024): KI und Klimakrise: Rettet künstliche Intelligenz mit uns das Klima? Deutschlandfunk Podcast „KI verstehen“. https://www.deutschlandfunk.de/ki-und-nachhaltigkeit-kuenstliche-intelligenz-klimakrise-klima-retten-dlf-71d00143-100.html (Audiopodcast, 28 Min.).
- Züger, Theresa; Jaume-Palasí, Lorena; Heinrich, Nina (2022): KI und maschinelles Lernen. Technologische Infrastrukturen kreieren Abhängigkeiten" Bundeszentrale für politische Bildung. werkstatt.bpb.de. https://www.bpb.de/lernen/digitale-bildung/werkstatt/510774/technologische-infrastrukturen-kreieren-abhaengigkeiten/