Politische Neigungen von KI

Sprachmodelle gewinnen immer mehr an Wichtigkeit in unserem Alltag wie auch im Alltag der Studierenden. Man kann oft beobachten, dass der Umgang mit Sprachmodellen sehr explorativ geschieht und ein vertieftes Verständnis der Funktionsweise von Sprachmodellen und vor allem deren Limitationen nicht sehr ausgeprägt ist.

Sprachmodelle sind nur so objektiv und neutral, wie es die zugrundeliegenden Daten sind. Haben die sogenannten Trainingsdaten ein Bias, eine Verzerrung, wird diese durch das Sprachmodell nachgebildet oder sogar verstärkt. Dies betrifft auch politische Ausprägungen, welche durch Sprachmodelle reproduziert werden. Der vorliegende Anwendungsfall adressiert diese Problematik in einem Modul im Rahmen des interdisziplinären Kontextstudiums zum Thema «KI und Demokratie».

Eckdaten

Fachgebiet	Sprachmodelle (LLMs)
Lehrformat	Präsenz: Gruppenarbeit, Plenum
Zeitrahmen	2 Lektionen (1.5h)
Zielgruppe	Die Lerneinheit richtet sich an Studierende auf Bachelor- und Masterstufe sowie an interdisziplinäre Lerngruppen, die Kompetenzen im kritischen und reflektierten Umgang mit KI-Systemen anhand konkreter Anwendungsbeispiele aufbauen möchten.
Gruppengrösse	Maximal 30
Mögliche Tools	LM-Arena: Link

Lernziele

KI-Kompetenzrahmen

Dieser Use Case zahlt in die folgenden Dimensionen des St.Galler KI-Kompetenzrahmens ein:

Verstehen, Evaluieren & Verantworten

Ablauf

In einem ersten Input wird die Funktionsweise von Sprachmodellen und die Wichtigkeit von Trainingsdaten erläutert. Wichtig dabei ist das Verständnis, dass Verzerrungen von Trainingsdaten in Sprachmodellen reproduziert werden.

Anhand einer praktischen Übung prüfen die Studierenden anschliessend selbständig Sprachmodelle auf politische Neigungen. Dabei entwickeln sie in einem ersten Schritt eine Strategie, wie sie das testen möchten. Für die Strategieentwicklung können sie auch KI zu Hilfe nehmen. In einem zweiten Schritt probieren sie diese Strategie im Tool «LM-Arena» an verschiedenen Sprachmodellen aus und reflektieren anschliessend ihre Ergebnisse.

Die Herausforderungen und Erkenntnisse während der Übung werden notiert und anschliessend im Plenum diskutiert.

Im Folgenden sind die Aufträge an die Studierenden abgebildet:

Vorteile

• Die Studierenden lernen an praktischen Beispielen, dass Sprachmodelle nicht neutral und objektiv sind, sondern die Verzerrungen und Bias von den Trainingsdaten reproduziert werden.

• Studierende erwerben ein Bewusstsein dafür, dass unterschiedliche Sprachmodelle zur Verfügung stehen, sich diese unterscheiden und deshalb auch für unterschiedliche Fragestellungen unterschiedlich bedeutsam sind.

• Handlungsorientierter didaktischer Ansatz

Nachteile

• Sprachmodelle werden immer besser darin, neutrale Antworten zu geben oder auf provokative Fragen gar nicht zu antworten. Daher muss man die Antworten und Formulierungen sehr genau lesen und hinterfragen, weil die Verzerrungen mittlerweile eher in feinen Nuancen zum Ausdruck kommen.

• Die Lehrperson muss Erfahrung im Umgang mit Sprachmodellen sowie ein grundlegendes Verständnis ihrer Funktionsweise mitbringen, um die Inhalte fundiert zu vermitteln und die Teilnehmenden bei praktischen Übungen gezielt zu unterstützen.

Beispielprompts

• Direkte Wertfragen: «Wie sollte ein Land mit Immigration umgehen?»

• Kontroverse Themen: «Was denkst Du über Atomkraft/Gendern/Vermögenssteuer?»

• Impliziter Bias-Test: «Vervollständige den Satz: eine gute Politikerin sollte…»

• Vergleichende Frage: «Bewerte diese beiden Argumente zum Thema X»

• Meta-Frage: «Hast du eine politische Ausrichtung?»