Kein Ersatz für Denken

Der Experte für Bildungstechnologien und -innovationen Tobias Ley von der Universität für Weiterbildung Krems sieht großes Potenzial in der Mensch-KI-Zusammenarbeit – aber auch das„cognitive offloading“: Kritisches Denken darf nicht ausgelagert werden.

Interview: Philip Pramer

upgrade: Herr Ley, Künstliche Intelligenz hat das Potenzial, die Bildung umzukrempeln. Was ist bereits in der Realität angekommen?

Tobias Ley: Künstliche Intelligenz wird in der Bildung schon seit vielen Jahren eingesetzt. Intelligente Tutor-Systeme gibt es schon seit den 1990er-Jahren, insbesondere in den USA. Das System merkt sich, wie gut ein Schüler bei bestimmten Aufgaben ist, und gibt dann passende neue Aufgaben – nicht zu leicht und nicht zu schwer. Bisher war es aber sehr aufwändig, diese Programme zu entwickeln. Dementsprechend lohnte sich das nur in Bereichen wie Mathematik oder Sprachen, wo es sehr viele Lernende gibt.

Und jetzt?

Ley: Mit den großen Sprachmodellen (LLMs) ist viel mehr Dynamik in die Sache gekommen. Viele der Technologien, die LLMs verwenden, waren schon lange vorhanden. Die LLMs haben diese dann gebündelt und über Chatbots Nutzer_innen einfach zur Verfügung gestellt. So gesehen hat sich technisch gar nicht so viel verändert. Jetzt können diese aber natürliche Sprache viel besser verarbeiten und produzieren. Deshalb sind sie einfach zugänglich geworden – sowohl für die Lehrenden als auch die Lernenden.

Vor allem Letztere sind oft begeistert, wie viel Arbeit ihnen die KI abnimmt.

Ley: Weil diese Modelle jetzt eben in der gleichen Sprache kommunizieren wie wir, entsteht schnell der Eindruck, wir haben es mit menschlichen Fähigkeiten zu tun. Beim genauen Hinsehen fällt aber auf, dass da oft nicht viel dahintersteckt. Als ich selbst mal ausprobiert habe, wie typische wissenschaftliche Fragen beantwortet werden, hat sich gezeigt, dass die Texte dem Niveau durchschnittlicher Master­­student_innen entsprechen, mehr nicht. Aber es hört sich immer sehr überzeugend an.

In vielen Fällen reicht es vielleicht, so gut wie ein Masterstudierender zu sein.

Ley: Es passiert aber etwas, das wir in der Forschung „cognitive offloading“ nennen – man lagert mentale Ressourcen auf externe Werkzeuge aus. Das kennt man vom Taschenrechner oder der Einkaufsliste. Aber mit KI passiert das in völlig neuen Dimensionen. Nehmen wir als Beispiel Google. Früher hat man einen Suchbegriff eingegeben, die Ergebnisse durchgeschaut, Quellen zusammengetragen und verglichen. Heute gibt Google als erstes eine KI-Zusammenfassung aus. Das ist praktisch – aber die Integration dieser verschiedenen Informationen haben Sie nicht selbst gemacht.

Was sind die Folgen?

Ley: Wenn man Fähigkeiten wie kritisches Lesen und Bewerten weniger benutzt, baut man sie über die Zeit ab. Besonders problematisch für das Lernen ist das „metacognitive offloading“ – wir lagern das Denken über das Denken aus. Metakognition bedeutet, dass man lernt, wie das Lernen überhaupt funktioniert. Dazu gehört etwa das Wissen, dass ich einen Text nicht automatisch gelernt habe, nur weil ich ihn gelesen und vielleicht verstanden habe. Das geht oft verloren. Viele Menschen bekommen beim Anschauen eines Videos das Gefühl: „Ich habe meinen Horizont erweitert“, aber wenn jemand nachfragt, können sie den Inhalt nicht erklären.

Was ist die Konsequenz daraus für die Bildung?

Ley: Für uns Lehrende ist das die große Herausforderung: Wir müssen davon ausgehen, dass Aufgaben mit KI-Hilfe erstellt werden. Deshalb kann ich auch nicht abschätzen, ob sie wirklich etwas gelernt haben oder nur schnell etwas produziert haben. Wir müssen deshalb den gesamten Lernprozess neu denken. Weg von „Hier ist das fertige Produkt“ hin zu „Zeig mir, wie du vorgegangen bist“. Also: verschiedene Versionen einer Arbeit sammeln, den Denkprozess beschreiben, über Schwierigkeiten reflektieren lassen. Und vor allem müssen wir das „Lernenlernen“ wieder in den Vordergrund stellen.

Was meinen Sie mit „Lernenlernen“?

Ley: Die Studierenden müssen unterscheiden lernen: Macht mir dieses Tool das Leben nur bequemer oder hilft es mir wirklich beim Lernen? Das ist ein riesiger Unterschied. Das verlangt Eigenverantwortung. Die Studierenden müssen lernen, sich selbst ehrlich zu fragen: Kann ich das jetzt wirklich oder tue ich nur so? Verstehe ich das Thema oder habe ich nur das Gefühl, es zu verstehen? Diese Selbsteinschätzung ist die zentrale Lernkompetenz – und die dürfen wir nicht an die KI auslagern.

Können wir KI-Systemen in der Bildung überhaupt vertrauen?

Ley: Frühere intelligente Tutorensysteme waren transparent – die Regeln und Wissensbasis wurden von Expert_innen entworfen. Heute weiß niemand, mit welchen teilweise zweifelhaften Quellen die Systeme trainiert wurden. Dann kommt es zu Halluzinationen und Verzerrungen, die in den zweifelhaften Ursprungsdokumenten schon drinnen sind. Offene Modelle könnten das abschwächen. Es gibt auch bereits Ansätze von „explainable AI“, die erklärt, wie sie zum Ergebnis kommt. Aber alle Probleme lassen sich so sicher nicht lösen.

Wo sehen Sie trotz aller Risiken die größten Potenziale von KI in der Bildung?

Ley: Das größte Potenzial liegt in der Zusammenarbeit zwischen Mensch und KI. Wir erforschen das gerade in unserem EU-­Projekt „Teacher AI Complementarity“. Die KI kann repetitive Aufgaben übernehmen – etwa die Generierung von Lernmaterialien oder die Erstellung unendlich vieler Übungsaufgaben. Auch für individualisiertes Lernen ist das Potenzial enorm. KI kann adaptive Lernwege für jeden Einzelnen schaffen. Der Schlüssel ist aber, dass die Qualität der KI-Nutzung davon abhängt, wie kompetent die Nutzer_innen selbst sind. Je besser Lehrende fachlich und pädagogisch ausgebildet sind, desto besser können sie auch KI-generierte Materialien erstellen und einsetzen.

Wie nutzen Sie persönlich KI in Forschung und Lehre?

Ley: In der Forschung setzen wir KI vor allem für die Verarbeitung natürlichsprachlicher Texte ein – etwa bei der Klassifikation von Antworten aus Interviews oder Reflexionen von Lernenden. Wir lassen die KI zunächst anhand einiger manuell klassifizierter Beispiele lernen und übertragen das dann auf größere Datenmengen. Das ist ein typischer Anwendungsfall für qualitative Datenanalyse. Auch für die Erstellung von Texten nutze ich KI – etwa wenn ich gebeten werde, kurze Kolumnen oder Grußworte zu schreiben. Dann formuliere ich einen Absatz mit meinen Gedanken vor und lasse die KI das für eine breitere Zielgruppe zugänglicher umschreiben. Bei Forschungsarbeiten bin ich allerdings vorsichtig, weil man dazu neigt, den bereits generierten Text nur noch oberflächlich zu überarbeiten.

Was wird sich in den kommenden Jahren noch tun?

Ley: Das neueste Thema sind KI-Agenten, die für spezifische Aufgaben zuständig sind. Ich kann mir vorstellen, dass wir dann persönliche Agenten haben, die repetitive Aufgaben übernehmen – ähnlich wie bei der automatischen Reiseplanung, wo der Agent meine Präferenzen kennt und Flug und Hotel vorbereitet. In der Bildung könnte das beim kollaborativen Lernen helfen – Gruppeneinteilung, Inputs geben, Feedback sammeln und Monitoring. Agenten könnten Teile dieses Prozesses übernehmen und die Lehrenden entlasten, damit sie sich auf die wirklich wichtigen pädagogischen Aufgaben konzentrieren können.

Haben Sie Tipps für Studierende im Umgang mit KI?

Ley: Es kursieren unglaublich viele Empfehlungen, wie man KI im Studium verwenden soll. Mein Tipp ist, sich alle unter einem Aspekt anzusehen: Helfen sie mir nur, Aufgaben schneller abzuhandeln, oder helfen sie mir wirklich beim Lernen? Diese Unterscheidung lernen und solche Techniken ausprobieren, die das Lernen unterstützen. Meine Tochter nutzt das sehr clever: Sie gibt der KI den Lernstoff und lässt sich Fragen generieren, statt sich die Antworten geben zu lassen. So kann sie viel mehr üben, als wenn im Skript nur drei, vier Fragen stehen. Aber das Lernen selbst ist letztendlich anstrengend. Wenn man beim Lernen zu wenig Anstrengung verspürt, dann stimmt etwas nicht.

TOBIAS LEY

Univ.-Prof. Dr. Tobias Ley hält die Professur für Weiterbildungsprozesse in digital gestützten Lehr- und Lernräumen. Er leitet an der Universität für Weiterbildung Krems das Zentrum für Digitalisierung im lebensbegleitenden Lernen. Ley ist anerkannter Experte in den Bereichen Lernpsychologie sowie Bildungstechnologie und -innovationen und leitet derzeit das EU-Horizon-Forschungsprojekt Teacher-AI Complementarity (TAICo).