ETN-Code: DSME510
Titel der Veranstaltung: Künstliche Intelligenz in Forschung und Lehre
Untertitel:
Art der Lehrveranstaltung: Seminar
Kreditpunkte: 6
Semester: SoSe 2025/26
Turnus: gemäß Curricula
Semesterwochenstunden: 2
Kursverantwortliche/r: Frank Roland [1202500277]
Dozent/in: Frank Roland [1202500277]
Organisationseinheit: Doktorschule
Ziele und Inhalt des Kurses: Kursbeschreibung: Der Kurs „KI in Forschung und Lehre“ umfasst eine fundierte Einführung in die Funktionsweise, die methodischen Möglichkeiten und Grenzen sowie die verantwortungsvolle Anwendung von Künstlicher Intelligenz. Der spezielle Fokus des Kurses liegt auf dem Umgang mit Generativer KI im akademischen Kontext. Ziele: Nach Abschluss des Kurses sind die Teilnehmenden in der Lage, die Architektur und Trainingsprinzipien moderner Sprachmodelle wissenschaftlich zu erläutern und ihre Leistungsfähigkeit anhand einschlägiger Literatur zu begründen; die Grenzen generativer Modelle – insbesondere Halluzination und Quellenunsicherheit – systematisch zu diagnostizieren und die daraus resultierenden Fehlerquellen zu vermeiden. Die Studierenden können einschlägige rechtliche und ethische Normen (Grundsätze akademischer Forschung, GDPR, EU-AI-Act) auf konkrete akademische Praxisfälle anwenden sowie Best Practices für die verantwortliche Nutzung, Dokumentation und Evaluation generativer KI in einer akademischen Umgebung formulieren und umsetzen.
Thema der einzelnen Lehreinheiten:
|
Termin |
Thema |
|
1. |
Grundlagen der KI in Hochschule und Forschung |
|
2. |
Sprachmodelle, Generative AI und Assistenzsystem – Funktionsweise und Steuerung
|
|
3. |
Grenzen des Wissens von KI, Halluzinationen und Denkfehler |
|
4. |
Texterstellung mit KI; Best Practices in Lehre und Forschung |
|
5. |
Recht und Ethik, Ausblick in die Zukunft des wissenschaftlichen Arbeitens |
|
6. |
Mündliche Prüfung (Online) |
Empfohlene Literatur (für die Gesamtveranstaltung):
Literatur
Europäische Union, (2016): Verordnung (EU) 2016/679 des Europäischen Parlaments und
des Rates vom 27. April 2016 (Datenschutz-Grundverordnung, GDPR), Amtsblatt der EU,
Abrufdatum: 15.10.2025, https://eur-lex.europa.eu/eli/reg/2016/679/oj/eng.
Europäische Union, (2019): Richtlinie (EU) 2019/790 über das Urheberrecht im digitalen
Binnenmarkt (insb. Art. 3–4 Text- und Data-Mining-Ausnahmen), Amtsblatt der EU,
Abrufdatum: 15.10.2025, https://eur-lex.europa.eu/eli/dir/2019/790/oj/eng.
Europäische Union, (2024): Verordnung (EU) 2024/1689 des Europäischen Parlaments und
des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für Künstliche
Intelligenz (EU AI Act), Amtsblatt der EU, Abrufdatum: 15.10.2025, https://eur-
lex.europa.eu/eli/reg/2024/1689/oj/eng.
High-Level Expert Group on Artificial Intelligence (HLEG), (2019): Ethics Guidelines for
Trustworthy AI, Europäische Kommission, Abrufdatum: 15.10.2025, https://digital-
strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.
Hoffmann, Jordan u. a., (2022): Training Compute-Optimal Large Language Models,
Advances in Neural Information Processing Systems (NeurIPS 2022), Abrufdatum:
15.10.2025,
https://proceedings.neurips.cc/paper_files/paper/2022/file/c1e2faff6f588870935f114ebe04a3
e5-Paper-Conference.pdf.
Huang, Lei u. a., (2023): A Survey on Hallucination in Large Language Models: Principles,
Taxonomy, Challenges, and Open Questions, arXiv, Abrufdatum: 15.10.2025,
https://arxiv.org/abs/2311.05232.
Lewis, Patrick u. a., (2020): Retrieval-Augmented Generation for Knowledge-Intensive NLP
Tasks, arXiv, Abrufdatum: 15.10.2025, https://arxiv.org/pdf/2005.11401.
Maslej, Nestor u. a., (2025): Artificial Intelligence Index Report 2025, Stanford Institute for
Human-Centered AI (HAI), Abrufdatum: 15.10.2025,
https://hai.stanford.edu/assets/files/hai_ai_index_report_2025.pdf.
Miao, Fengchun; Holmes, Wayne, (2023): Guidance for Generative AI in Education and
Research, UNESCO, Abrufdatum: 15.10.2025,
https://unesdoc.unesco.org/ark:/48223/pf0000386693.
National Institute of Standards and Technology (NIST), (2023): Artificial Intelligence Risk
Management Framework (AI RMF 1.0), NIST AI 100-1, Abrufdatum: 15.10.2025,
https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf
National Institute of Standards and Technology (NIST), (2024): Artificial Intelligence Risk
Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1,
Abrufdatum: 15.10.2025, https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf.
Ouyang, Long u. a., (2022): Training Language Models to Follow Instructions with Human
Feedback, in: NeurIPS 2022, Abrufdatum: 15.10.2025,
https://proceedings.neurips.cc/paper_files/paper/2022/file/b1efde53be364a73914f58805a001
731-Paper-Conference.pdf.
Page, Matthew J. u. a., (2021): The PRISMA 2020 Statement: An Updated Guideline for
Reporting Systematic Reviews, BMJ 372, Nummer 71, Abrufdatum: 15.10.2025,
https://www.bmj.com/content/372/bmj.n71.
Pearl, Judea, (2009): Causality: Models, Reasoning, and Inference (2. Auflage), Cambridge
University Press, Abrufdatum: 15.10.2025,
https://www.cambridge.org/core/books/causality/B0046844FAE10CBF274D4ACBDAEB5F5B
Schaeffer, Rylan; Miranda, Brando; Koyejo, Sanmi, (2023): Are Emergent Abilities of Large
Language Models a Mirage?, arXiv, Abrufdatum: 15.10.2025,
https://arxiv.org/abs/2304.15004.
Vaswani, Ashish u. a., (2017): Attention Is All You Need, arXiv, Abrufdatum: 15.10.2025,
https://arxiv.org/abs/1706.03762.
Wilkinson, Mark D. u. a., (2016): The FAIR Guiding Principles for Scientific Data
Management and Stewardship, Scientific Data 3:160018, Abrufdatum: 15.10.2025,
https://www.nature.com/articles/sdata201618.
Sprache der Lehrveranstaltung: Deutsch (ger)
Notenskala: Bericht (dreistufig)
Form und Umfang der Leistungskontrolle:
Prüfungsform: Mündliche Prüfung (Online) basierend auf dem im Seminar bereitgestellten digitalen Foliensatz. Termine für die Prüfung werden im Seminar festgelegt.
Prüfungsanmeldung: über das elektronische Studienverwaltungssystem
Anmerkungen:
Anforderungen zur technischen Ausstattung:
Die Studierenden arbeiten auf ihren individuellen Laptops mit ChatGPT Plus (die Variante mit aktuell 20 USD / Monat). Die Studierenden erwerben die Lizenzen privat und lassen auf ihrem eigenen Rechner laufen. Die Kosten der Lizenz für einen Monat werden auf Antrag erstattet.
Erreichbarkeiten des Kursleiters:
roland.frank@gmail.com