BERLIN. Künstliche Intelligenz stellt Schulen vor eine eigentümliche Situation: Sie können versuchen, die neue Technik aus Lernprozessen herauszuhalten – oder Schülerinnen und Schüler möglichst schnell für den Umgang damit fit zu machen. Der Bildungsforscher Thomas Knaus hält beide Antworten für unzureichend. Gerade weil KI immer stärker beeinflusst, wie Menschen kommunizieren, recherchieren und Wissen produzieren, ohne dass der Einzelne ihre Entscheidungen vollständig nachvollziehen kann, müsse Bildung weiter ansetzen. Und das stellt auch die verbreitete Vorstellung infrage, die Antwort der Schule müsse vor allem in der Vermittlung von mehr „KI-Kompetenz“ bestehen.
Ein Schüler sitzt an einer Erörterung. Er könnte das Thema selbst durchdenken, Argumente sammeln, sie gewichten, verwerfen, neu ordnen und schließlich versuchen, daraus einen schlüssigen Text zu machen. Oder er bittet eine generative KI um einen Entwurf. Das Ergebnis dürfte schneller vorliegen, womöglich sprachlich sauberer sein – und trotzdem könnte der Schüler dabei genau das ausgelassen haben, worum es bei der Aufgabe eigentlich ging: denken.
Thomas Knaus hält das nicht für einen Grund, Künstliche Intelligenz aus der Schule zu verbannen. Im Gegenteil. Der Professor für Erziehungswissenschaft mit Schwerpunkt Medienpädagogik an der Pädagogischen Hochschule Heidelberg argumentiert in einem Beitrag für die „Zeitschrift für Bildungsforschung“, dass sich Pädagogik intensiver mit KI beschäftigen müsse. Aber eben nicht nur mit der Frage, wie Schülerinnen und Schüler lernen können, die neuen Werkzeuge richtig zu benutzen. Knaus stellt eine grundsätzlichere Frage: Kann es so etwas wie umfassende „AI Literacy“ überhaupt geben? Die folgenden Zitate aus seinem englischsprachigen Aufsatz sind ins Deutsche übersetzt.
Die Frage berührt einen zentralen Reflex der gegenwärtigen Bildungsdebatte. Wenn eine neue Technologie Probleme verursacht, scheint Schule zunächst zwei Möglichkeiten zu haben. Sie kann deren Nutzung beschränken, um Lernende vor Risiken zu schützen und eigenständiges Lernen zu sichern. Oder sie kann die Technik in den Unterricht holen und Schülerinnen und Schüler dazu befähigen, kompetent mit ihr umzugehen.
Knaus hält diese Gegenüberstellung für zu einfach. Grundsätzliche Rückzugsstrategien wie digitale Schutzräume, „Digital Detox“ oder Moratorien ignorierten aus seiner Sicht, „dass digitale Medien und KI-basierte Systeme keine ‚Revolution‘ sind, sondern bereits zur heutigen Lebenswirklichkeit gehören“.
„Aber wie können wir gegenüber einer KI kompetent sein – im Sinne eines kritischen und selbstbestimmten Umgangs –, wenn wir sie weder vollständig beurteilen noch kontrollieren können?“
Aber auch ein weiteres Kompetenzpaket für Schülerinnen und Schüler löst das Problem für ihn nicht. Denn der Kompetenzbegriff setzt voraus, dass ein Mensch Fähigkeiten erwerben kann, um mit einem Gegenstand selbstständig und verantwortlich umzugehen. Knaus fragt: „Aber wie können wir gegenüber einer KI kompetent sein – im Sinne eines kritischen und selbstbestimmten Umgangs –, wenn wir sie weder vollständig beurteilen noch kontrollieren können?“
Schon das „Large“ im Large Language Model verweist für ihn auf das Problem. „Aus diesem Grund ist zweifelhaft, ob Individuen überhaupt die notwendigen Kompetenzen erwerben können, um die Entscheidungen einer KI zu verstehen“, schreibt er. Damit stelle sich auch die Frage, ob „AI Literacy“ nicht selbst zu einem problematischen Leitbild werde, wenn es Kompetenzen voraussetze, „die tatsächlich unerreichbar sind“.
Das bedeutet nicht, dass Schülerinnen und Schüler nichts über KI lernen müssten. Im Gegenteil. Sie sollten nach Knaus wissen, womit sie es zu tun haben, Möglichkeiten und Grenzen der Systeme kennen und ihre Ergebnisse kritisch beurteilen können. Seine Kritik richtet sich gegen die Vorstellung, die gesellschaftlichen Probleme einer schwer durchschaubaren Technologie ließen sich vor allem dadurch bewältigen, dass ihre Nutzer immer kompetenter werden.
Ein Schüler kann lernen, dass ein Sprachmodell nicht einfach in einem Wissensspeicher nach der richtigen Antwort sucht. Er kann Ergebnisse überprüfen, verschiedene Antworten vergleichen und wissen, dass Trainingsdaten Stereotype, Ungerechtigkeiten oder Falschinformationen enthalten können. Was er nicht kann: die riesigen Datenbestände und komplexen Strukturen eines großen Modells selbst kontrollieren und daraus zuverlässig rekonstruieren, weshalb das System genau diese Antwort erzeugt hat.
An diesem Punkt wird aus einer Bildungsfrage eine Frage der Technikgestaltung und der Politik.
Wenn Menschen KI verantwortlich nutzen sollen, argumentiert Knaus, müssen die Systeme selbst die Voraussetzungen dafür schaffen. KI-Systeme sollten offenlegen, „auf welchen Daten die Trainingsdaten und die entsprechenden Antworten, Erkenntnisse oder Artefakte beruhen und wie sie erzeugt wurden – ähnlich wie ein Taschenrechner, der nicht nur das Ergebnis ausgibt, sondern auch den Rechenweg zeigt“.
Dahinter steht das Konzept der „Explainable AI“. Knaus bringt dessen Ziel auf ein eingängiges Bild: Eine erklärbare KI würde „die KI von einer Blackbox in eine Glassbox verwandeln“. Vollständig lösen lässt sich das Problem allerdings auch damit nicht. Gerade bei künstlichen neuronalen Netzen könne die Komplexität der erkannten Datenmuster eine für Menschen nachvollziehbare Erklärung außerordentlich schwierig machen.
Gerade deshalb hält Knaus eine intensivere Beschäftigung der Bildung mit KI für notwendig.
„Das Bildungssystem muss Menschen dazu befähigen, mit digitalen Medien und KI-basierten Systemen angemessen und gesellschaftlich verantwortlich umzugehen“
Schule soll die Technik weder einfach aussperren noch sich darauf beschränken, ihre Bedienung zu lehren. Knaus plädiert stattdessen für ein erweitertes Verständnis von Medienbildung. Das Bildungssystem müsse Menschen dazu befähigen, „mit digitalen Medien und KI-basierten Systemen angemessen und gesellschaftlich verantwortlich umzugehen“, um „selbstbestimmt und kritisch“ an der Gesellschaft teilzunehmen und Medien, Technik und Gesellschaft selbst aktiv mitzugestalten.
Knaus sieht dabei durchaus erhebliche Möglichkeiten für den Einsatz von KI in der Schule. KI-basierte Dialogsysteme könnten Schülerinnen und Schüler als „geduldige Lernbegleiter oder kritische Sparringspartner“ unterstützen, bei Hausaufgaben helfen, individuelles Tutoring anbieten, sich an das Lerntempo anpassen und Feedback geben. Lehrkräfte könnten KI nutzen, um Materialien für unterschiedliche Leistungsniveaus zu individualisieren, Übungen zu differenzieren, Korrekturen vorzubereiten oder Lernprozesse auszuwerten. Gerade beim Umgang mit heterogenen Lerngruppen liegt für Knaus ein Potenzial darin, Individualisierung zu ermöglichen, ohne dass der Aufwand für Lehrkräfte im gleichen Maße wächst.
Entscheidend ist für ihn allerdings, welche Arbeit die Maschine übernimmt.
Knaus warnt vor einer „nicht konstruktiven Abkürzung“ – im englischen Original spricht er vom „non-constructive shortcut“. Gerade weil generative KI besonders gut geeignet sei, die Effizienz zu steigern, sei es „verständlicherweise sehr verlockend“, die eigene Arbeit an die KI zu delegieren.
Beim Schreiben wird das besonders deutlich. Einen Gedanken auszudrücken, verständlich zu formulieren, unterschiedliche Perspektiven einzubeziehen und daraus eine logisch aufgebaute Argumentation zu entwickeln, ist nicht lediglich der Umweg zum fertigen Text. Deshalb „bleiben das Lernen und Üben individueller sprachlicher Fähigkeiten eine Schlüsselkompetenz“. Dabei gehe es nicht nur um die eigene Textproduktion, sondern auch um die grundlegende Fähigkeit, „die Texte und Argumente anderer Menschen zu bewerten und zu beurteilen“.
Die entscheidende Grenze beim KI-Einsatz verläuft damit nicht zwischen analog und digital und auch nicht schlicht zwischen KI-Verbot und KI-Nutzung. Sie verläuft zwischen unterschiedlichen Tätigkeiten: Welche geistige Arbeit soll ein Schüler gerade lernen – und welche Arbeit kann eine Maschine übernehmen, ohne diesen Lernprozess zu ersetzen?
Knaus zieht dafür einen Vergleich mit dem Taschenrechner. Während dieser bei bestimmten mathematischen oder physikalischen Aufgaben sinnvoll sei, sollten Schülerinnen und Schüler ihn beispielsweise nicht benutzen, wenn sie grundlegendes Rechnen lernen. Sie sollen Kopfrechnen und das Abschätzen von Ergebnissen beherrschen und damit nicht von technischen Hilfsmitteln abhängig werden.
Für generative KI folgt daraus eine bemerkenswerte Rollenverschiebung. KI-Systeme sollten im Bildungskontext nach Knaus nicht als „Antwortmaschine“ oder als reine Übungsmaschine eingesetzt werden, sondern „als Ausgangspunkt für intellektuelle oder kreative Auseinandersetzung und damit als Katalysator für ko-kreative Formen des Lernens“. Als „Fragemaschinen“ könnten sie Lehrkräfte dabei unterstützen, Schülerinnen und Schüler mit anregenden Fragen zu konfrontieren.
Damit wäre auch die Erörterung vom Anfang anders denkbar. Die KI müsste dem Schüler den Text nicht schreiben. Sie könnte seine Argumentation angreifen, Gegenargumente liefern, nach unbelegten Behauptungen fragen oder ihn zwingen, eine andere Perspektive einzunehmen. Das System nähme ihm das Denken dann nicht ab – es würde ihm etwas zum Denken geben.
Und genau darin liegt auch die Pointe von Knaus’ Kritik an der viel beschworenen KI-Kompetenz. Die zentrale Bildungsfrage ist für ihn nicht, ob Schülerinnen und Schüler lernen, eine KI möglichst geschickt zu bedienen. Sie müssen vielmehr verstehen und beurteilen können, welche Arbeit sie einer Maschine überlassen können – und welche sie selbst leisten müssen, weil gerade darin der Lernprozess besteht. KI solle die selbstständige Arbeit der Schülerinnen und Schüler „unterstützen“, schreibt Knaus, aber „nicht als Ersatz für das Einüben zentraler Kompetenzen missverstanden werden“.
Ausgerechnet in einer Welt, in der KI immer mehr übernehmen kann, wird damit die Frage wichtiger, was der Mensch nicht delegieren sollte. News4teachers
Hier lässt sich der Aufsatz herunterladen.
OECD-Bericht: Wie Künstliche Intelligenz schulisches Lernen untergraben – und verbessern kann
„Ein Schüler kann lernen, dass ein Sprachmodell nicht einfach in einem Wissensspeicher nach der richtigen Antwort sucht.“
Das ist, wissenschaftlich gesprochen, keine Tatsache, sondern eine Hypothese, a priori weder richtig noch falsch. Meine eigenen Erfahrungen sagen mir, das eine deutliche Mehrheit das nicht lernen kann, weil es unnötiges Wissen für ihre Zwecke ist. Man kann eine Aufgabe so aufbauen, dass pro und contra gefordert sind, aber das kann die KI schon, siehe erster Absatz ‚Ein Schüler sitzt…‘. Denkanstöße, Weiterentwicklung der Fragestellung, das fällt immer in den AFB I, der von 10% ab und zu erreicht wird und oft die Grenze zu sehr gut beschreibt. Das wollen wir jetzt zur allgemeinen Erwartung machen? Wer soll das eigentlich noch bewerten, in angemessener Zeit? KI-Einsatz nivelliert alles unterhalb dieser ’sehr gut‘-Schwelle, dieses Problem wird nicht einmal angedacht. Wie vermitteln wir in Jahrgang 5-10 grundlegende Fähigkeiten, wenn eine KI das schon kann? Wenn Beherrschen dieser Fähigkeiten keinen Gewinn in Form von schnellerem Lösen der Aufgabe mehr bringt, denn die KI ist immer noch weit voraus? Wie lautet die Antwort auf ‚warum muss ich das lernen, mit KI geht das von selbst‘?
‚Die KI müsste dem Schüler den Text nicht schreiben‘ – tja, sie tut es aber und damit sind die folgenden Ideen -etwas zum denken geben- ziemlich theoretisch. Ein kurzer Blick in aktuelle (eher Oberstufen-)Aufgaben wäre auch ganz gut: da ist oft KI erlaubt, da wird immer überlegt, welche Lernziele wieviel und wo KI erlauben. Lehrer sind nicht so stur, eindimensional und vorgestrig wie die schönen Klischees behaupten. Leider sind weder die nebulöse ‚KI-Kompetenz und Eigenverantwortung‘ noch die KI-Verwendung auf höherem Niveau, als Denkanstoß, eine praktikable Lösung.