KI-Bias: „Human in the loop“ gehört in den Lehrplan

Sie verschieben KI ins Selbststudium – wer korrigiert die Antwort?

In Ihren Kursen passiert es längst. Abends beim Selbststudium tippt jemand „Differenzialdiagnose Schwindel” in ein KI-Tool. Lässt sich einen Anamneseleitfaden ausspucken oder Formulierungen für ein schwieriges Gespräch. Das landet ungeprüft in Karteikarten oder wird am nächsten Tag im Praktikum ausprobiert.

Mit dem Nützlichen rutschen die Schieflagen mit: seltene Dinge vor häufigen, veraltete Empfehlungen, weichgespülte Gesprächssätze, die klinisch falsch gewichten. So wandern Fehler vom Bildschirm ins Lernen – oder, noch schlimmer, in die Handgriffe am Menschen.

Schuldfrage? Falsche Frage. Die richtige lautet: Wo greift die fachliche Gegenprüfung? In den Gruppen-Chats kursieren KI-Antworten schon Tage vor der Übung. Kommt die Korrektur erst im Praktikum oder Examen, ist die falsche Routine längst eingeübt.

Das heißt nicht: Selbststudium überwachen. Es heißt: Die Lehre wird zur Prüfinstanz. Umgang mit KI ist eine eigene Kompetenz. Holen Sie die mitgebrachten KI-Antworten in Seminar und Fallbesprechung auf den Tisch – sichtbar machen, einordnen, korrigieren.

Warum so konsequent? Weil diese Systeme nicht nur gelegentlich irren. Sie irren mit System.

Das Risiko ist belegt – und Anfänger können es nicht erkennen

Als Schulleitung führen Sie eine Ausbildungseinrichtung, die auf Verlässlichkeit angewiesen ist. Dafür ist KI-Bias kein Randthema, sondern ein belegtes Risiko. „Bias” heißt schlicht: eingebaute Schieflage. Die KI antwortet nicht neutral, sondern nach den Mustern ihrer Trainingsdaten – und die sind teils falsch, teils einseitig.

Der medizinische Kernbeleg: GPT-4 zeigte in einer Studie im Fachjournal The Lancet Digital Health (Zack et al., 2024) rassistische und geschlechtsspezifische Verzerrungen bei medizinischen Aufgaben. Gleiche Beschwerden, andere Patientengruppe – andere Antwort. Nicht wegen der Anamnese, sondern wegen falscher Muster im benutzten KI-Modell.

Auch jenseits der Klinik ist das Muster sichtbar: ChatGPT bewertete identische Lebensläufe je nach Name unterschiedlich (Bloomberg). Wenn ein Name reicht, um ein Urteil zu kippen, taugt keine ungeprüfte KI-Einschätzung als Lernmaterial.

Auf das nächste Technik-Update zu hoffen, verschiebt nur die Enttäuschung. Das Entscheidende: Ihre Lernenden können solche Verzerrungen nicht selbst erkennen. Dazu braucht es klinische Erfahrung – genau die, die sie gerade erst aufbauen. Die Gegenprüfung muss von der Lehre kommen. Bleibt sie ein Häkchen in der Prozessbeschreibung, werden Fehler gelehrt statt korrigiert.

So wird die Gegenprüfung zum festen Unterrichtsbaustein

Fachleute nennen das Prinzip „Human in the loop”: Ein Mensch prüft die Maschine, bevor deren Antwort Wirkung entfaltet. Für Ihre Schule heißt das: feste Prüfpunkte im Unterricht, an denen KI-Antworten gegen Leitlinien und klinische Erfahrung gehalten werden. Im Lehrplan verankert, nicht im Kleingedruckten versteckt.

Der Ablauf ist unspektakulär – und genau deshalb machbar: Lernende reichen mit der Aufgabe auch das benutzte KI-Tool und ihre Eingabe ein. Ihr Kollegium prüft nicht nur das Ergebnis, sondern die Begründungskette: Stimmt sie klinisch, oder widerspricht sie der Leitlinie? Verzerrungen werden benannt, korrigiert und in der Aufgabe markiert.

Drei Stoppschilder reichen für den Start:

1. Medikation und Dosierung: Kein KI-Vorschlag wird übernommen, bevor Leitlinie bzw. Arzneimittelverzeichnis und eine Lehrkraft ihn freigegeben haben.
2. Wer wird zuerst behandelt (Triage): KI-Einstufungen zählen nicht. Lernende begründen ihre eigene Entscheidung und lassen sie im Unterricht prüfen.
3. Fakten: Kein KI-„Fakt” gilt ohne Gegenprüfung in der Lerngruppe oder im Präsenzunterricht.

Vier Schritte pro Fall – mehr nicht:

• Kennzeichnen: Jede KI-Verwendung wird deklariert.
• Festhalten: Ein Blatt pro Fall – Tool, Eingabe, Antwort.
• Prüfen: Ein kurzer Prüfslot durch Lehrkraft oder Praxisanleitung.
• Lernen: Knappes Urteil zur Begründungskette, Korrektur, Eintrag ins Kurs-Log.

Dazu eine klare Zuständigkeit: pro Kurs eine Lehrkraft als Anlaufstelle für die Prüfungen. Und einmal pro Monat 30 Minuten im Kollegium: Auffälligkeiten sammeln, Regeln schärfen, die lehrreichsten KI-Fehler für den Unterricht aufbereiten. So wird aus dem Kurs-Log nach und nach Ihr eigenes Lehrmaterial.

Warum der Aufwand? Weil das Gegenteil längst Alltag ist: 80 Prozent sagen, menschliches Urteil sei unersetzlich – und folgen der KI trotzdem blind. Wie groß diese Lücke ist, zeigt die IW-Studie zur Governance-Lücke – der Klartext-Beitrag dazu erscheint als Nächstes in dieser Rubrik.

Nur wer korrigiert, bildet aus — alle anderen lassen ausbilden.

TL;DR

• KI-Antworten sind belegt verzerrt – und Lernende können das ohne klinische Erfahrung nicht erkennen.
• Die menschliche Gegenprüfung („Human in the loop”) gehört deshalb fest in den Unterricht, nicht ins Kleingedruckte.
• Start mit drei Stoppschildern (Medikation, Triage, Fakten) und vier Schritten pro Fall: kennzeichnen, festhalten, prüfen, lernen.
• Pro Kurs eine zuständige Lehrkraft, pro Monat 30 Minuten Bias-Runde im Kollegium.

FAQ

Womit fangen wir konkret an?

Mit den drei Stoppschildern und den vier Schritten pro Fall. Beides passt auf ein Blatt und braucht keine neue Software.

Müssen wir dafür das Selbststudium kontrollieren?

Nein. Geprüft wird im Unterricht: Lernende bringen ihre KI-Antworten mit, das Kollegium macht sie sichtbar, ordnet ein und korrigiert.

Wie viel Dokumentation ist nötig?

Ein Blatt pro Fall: Tool, Eingabe, Antwort, kurzes Urteil, Freigabe mit Name und Datum. Mehr nicht – aber das verlässlich.

Was bringt das Kurs-Log?

Es sammelt die wiederkehrenden KI-Fehler Ihrer Kurse. Daraus entstehen Unterrichtsbeispiele und klarere Regeln – Ihr eigenes Lehrmaterial.