MÜNCHEN. Sie swipen, liken, konsumieren – scheinbar gesteuert von unsichtbaren Kräften. Doch eine Studie der Bayerischen Landeszentrale für neue Medien (BLM) zeigt nun, dass Jugendliche keine passiven Nutzer*innen sind, sondern algorithmenbasierte Empfehlungen auf Tik Tok und Co gezielt für sich nutzen. Allerdings fehlt ihnen das Wissen, um diese Technik kritisch zu hinterfragen. Und eine weitere Studie zeigt: Selbst wenn Jugendliche das nötige Medienwissen besitzen, wenden sie es online häufig nicht an. Das birgt Risiken.
Warum nicht nutzen, was eh nicht mehr wegzudenken ist? So könnte man die Einstellung von Jugendlichen zu Algorithmen und Künstlicher Intelligenz (KI) zusammenfassen. Das zeigt die Studie „Algorithmen und Künstliche Intelligenz im Alltag von Jugendlichen“. Darin geht das Forschungsteam unter anderem der Frage nach, wie gut Jugendliche die Technologien, die ihre Mediennutzung maßgeblich beeinflussen, überhaupt verstehen.
Die Studie verdeutlicht: Jugendliche sind nicht einfach passive Nutzer*innen. Sie gestalten ihre Online-Umgebungen aktiv mit und versuchen, den Algorithmus für sich zu nutzen, indem sie bestimmte Inhalte liken. Die ausgewerteten Tagebucheinträge der 14- bis 17-Jähigen zeigen deutlich, dass die Jugendlichen Algorithmen im Alltag bewusst wahrnehmen und aufgrund ihrer Nützlichkeit positiv bewerten. In der Studie heißt es dazu: „Mehrfach sprechen die Jugendlichen von ‚coolen‘ Algorithmen. Diese zeigen ihnen, was sie interessiert, so dass sie nichts verpassen, aber auch nicht selbst aktiv suchen müssen.“
Wissenslücken trotz Alltagspräsenz
Das ist aber nur die eine Seite. In den durchgeführten Gruppendiskussionen sprachen mehrere Jugendliche von einem „gruseligen“ Gefühl, „das sich daraus speist, dass sie sich beobachtet und ggf. sogar kontrolliert fühlen“. Das hat laut den Autorinnen der Studie auch mit dem fehlenden Wissen der Jugendlichen zu tun. „Die Jugendlichen sind sich durchaus bewusst, dass Algorithmen in sozialen Medien eine Rolle spielen“, erklärt Larissa Leonhardt, wissenschaftliche Mitarbeiterin am Institut für Kommunikationswissenschaft und Medienforschung der Ludwig-Maximilians-Universität München (LMU), in einem Interview mit dem „Deutschen Schulportal“. „Sie wissen zum Beispiel, dass der TikTok-Feed durch Algorithmen gesteuert wird. Allerdings wird das Wissen dünner, wenn es darum geht, wie Algorithmen im Detail funktionieren oder wer sie programmiert und welche finanziellen Interessen dahinterstehen.“
Das bedeutet: Die Jugendlichen können zwar Kennzeichen und Beispiele für Algorithmen benennen, es fehlt ihnen aber trotz der Präsenz in ihrem Alltag an Hintergrundwissen. Ähnlich sieht es im Bereich der KI aus. Schülerinnen und Schüler nutzen Programme wie ChatGPT beispielsweise für schulische Arbeit, für Recherchen, Hausaufgaben oder um kreativ zu sein. Gleichzeitig bleibt KI für viele ein abstrakter Begriff. „Wie bei der Wissensvermittlung über Algorithmen wird auch hinsichtlich Künstlicher Intelligenz deutlich, dass es den Jugendlichen an Wissen und einem tiefgreifenden Verständnis fehlt. Dies basiert nicht darauf, dass sie Wissen ablehnen, sondern es ihnen nicht oder nur unzureichend vermittelt wird. Künstliche Intelligenz ist in der Familie sehr selten Gesprächsthema. Wenn, dann wird es mit negativen Emotionen verbunden“, heißt es in der Studie (S.76).
Handlungsempfehlungen der Studie
Diese Erkenntnisse haben weitreichende Implikationen. Denn wer die Mechanismen nicht versteht, die seinen digitalen Alltag beeinflussen, ist leichter manipulierbar – sei es durch personalisierte Werbung, politische Desinformation oder schleichende Radikalisierung durch algorithmisch gesteuerte Inhalte. Die Studienautorinnen formulieren daher klare Empfehlungen: Jugendliche müssen stärker dabei unterstützt werden, Wissen über Funktionsweisen, Chancen und Risiken von Algorithmen und KI aufzubauen.
„Wir sehen auch, dass sich viele Jugendliche mehr Auseinandersetzung mit Themen wie Algorithmen, KI und Nachrichtenkompetenz im Unterricht wünschen. In den Gruppendiskussionen äußerten sie, dass Lehrkräfte oft nicht über ausreichendes Wissen verfügen oder sogar Angst vor diesen Themen haben. Das führt dazu, dass sie kaum thematisiert werden. Dabei wäre gerade die Schule ein wichtiger Ort, um solche Inhalte einzuordnen und gemeinsam zu reflektieren. Es braucht hier dringend Fortbildungen für Lehrkräfte sowie eine technische Infrastruktur, die digitale Bildung überhaupt ermöglicht“, sagt Larissa Leonhardt im Interview mit dem „Deutschen Schulportal“.
Diskrepanz zwischen Wissen und Online-Verhalten bei Jugendlichen
Eine weitere Studie, an der sowohl Larissa Leonhardt als auch Prof. Dr. Ruth Wendt beteiligt sind, beschäftigt sich mit der Frage nach der Nachrichtenkompetenz von Jugendlichen. Dafür haben die Forscherinnen zusammen mit der Medienkompetenzinitiative „Lie Detectors“ zusammengearbeitet. Dabei zeigte sich laut Leonhardt, dass sich viele Schülerinnen und Schüler durchaus bewusst sind, dass es Desinformationen im Netz gibt und man nicht jeder Quelle trauen kann. Aber sie sagt auch: „Wir sehen eine Diskrepanz zwischen Wissen und dem Online-Verhalten bei Jugendlichen.“
Diese Erkenntnis erklärt sie im Interview mit dem „Schulportal“ anhand eines Beispiels: „Jugendliche wissen oft, dass bestimmte Verhaltensweisen online problematisch sind, handeln aber dennoch anders. Man kann das zum Beispiel beobachten, wenn es um Cybermobbing geht. Das liegt zum einen daran, dass die Auswirkungen ihres Handelns online weniger sichtbar sind als im realen Leben. Zum anderen spielt der kurzfristige Nutzen, etwa Aufmerksamkeit, Likes oder Gruppenzugehörigkeit, eine große Rolle. Die sozialen Dynamiken sind stark und beeinflussen das Handeln oft mehr als das Wissen.“ Ihre Forderung daher: Es reiche nicht, wenn in Schulen reines Faktenwissen vermittelt wird, Jugendliche müssten auch darin gestärkt werden, im digitalen Raum selbstbestimmt und reflektiert zu handeln. News4teachers
Konkret wurde folgenden Fragen nachgegangen: Inwiefern nehmen Jugendliche Algorithmen und Anwendungen Künstlicher Intelligenz in ihrem Alltag wahr? Was wissen sie darüber? Welche Einstellungen haben sie gegenüber Algorithmen und Künstlicher Intelligenz? Und wie gehen sie mit beidem um? Diese Fragen werden auf Basis von Gruppendiskussionen, Tagebuchaufzeichnungen über die eigene Social-Media-Nutzung und einer repräsentativen Online-Befragung von 14- bis 17-Jährigen beantwortet.
Das obwohl aus der Überschrift kann man getrost streichen. Die nehmen überwiegend die Ausgaben der ki unhinterfragt hin. Diejenigen, die sie doch hinterfragen, kommen auch ohne ki zu den richtigen Erkenntnissen. also alles wie immer, nur dass sich die Bildungsschere immer weiter öffnet.
“sondern es ihnen nicht oder nur unzureichend vermittelt wird”. Sagt Netzreporterin Larissa.
„Sie wissen zum Beispiel, dass der TikTok-Feed durch Algorithmen gesteuert wird. Allerdings wird das Wissen dünner, wenn es darum geht, wie Algorithmen im Detail funktionieren oder wer sie programmiert und welche finanziellen Interessen dahinterstehen.”
Über die meisten Dinge im Alltag wissen wir nicht, wie sie im Detail funktionieren. Man kann ein Elektroauto fahren, ohne Details zum Elektromotor, der Chemie der verwendeten Akkus oder der Funktionsweise des “Battery Management Systems” zu verstehen.
Ebenso bezweifle ich, dass vielen Nutzer von Online-Banking sich mit Krypographie auskennen. Insofern muss ich als Schüler keinen Algorithmus “im Detail” verstehen!
In allen Fällen brauche ich ein vernünftiges “Anwenderwissen”.
sprachen mehrere Jugendliche von einem „gruseligen“ Gefühl, „das sich daraus speist, dass sie sich beobachtet und ggf. sogar kontrolliert fühlen“.
Der Begriff “gruselig” trifft es eigentlich sehr gut:
Man bekommt ja auf asozialen Medien eine ganze Menge Themen zufällig angeschaut. Ich habe mir mal den “Spaß” gemacht, bei Instagram und TikTok bewusst bestimmte extremere Video länger anzuschauen bzw. noch mal anzushene zu sehen. Das ging mal in Richtung Islamismus, mal in Richtung Rechtsextremismus. Das macht man mit zwei, drei Videos und dann ist man innerhalb weniger Minuten in einer “Bubble” ähnlicher Inhalte, aus der man kaum noch rauskommt.
Wenn ich mir vorstelle, dass das unseren Kindern ebenso passiert (ja, das tut es), ist es wirklich gruselig! Und das hat nichts mehr mit Unterhaltung oder mit kompetenter Mediennutzung zu tun. Sowas gehört einfach nicht in Kinderhände.
Schüler nutzen Programme wie ChatGPT beispielsweise für schulische Arbeit, für Recherchen, Hausaufgaben oder um kreativ zu sein. Gleichzeitig bleibt KI für viele ein abstrakter Begriff. „Wie bei der Wissensvermittlung über Algorithmen wird auch hinsichtlich Künstlicher Intelligenz deutlich, dass es den Jugendlichen an Wissen und einem tiefgreifenden Verständnis fehlt. Dies basiert nicht darauf, dass sie Wissen ablehnen, sondern es ihnen nicht oder nur unzureichend vermittelt wird.
Dabei leben sie in einer nie-dagewesenen Wissensgesellschaft. Eine google-Suche über gutes Prompting oder zu Lernen mit KI würde das Problem lösen – oder man fragt einfach ChatGPT selbst, wie es einem beim Lernen helfen kann. Aber stattdessen soll man den Schülern das dann bitte präsentieren?
KI bietet eine ganze Menge an Möglichkeiten, sich Dinge erklären zu lassen, Aufgaben erstellen zu lassen, sich Musterlösungen zu erstellen, eigene Ausarbeitungen überprüfen und verbessern zu lassen usw. Und es wird immer Schüler geben, die das auch nutzen und mit KI immer besser lernen.
Dagegen wird es aber auch immer Schüler geben, die einfach keinen Bock haben und einfach nur Lösungen generieren wollen. Die werden – trotz KI – einfach nichts lernen. Und damit müssen wir wohl leben.