Transkript:
Ralf: Ist es erstrebenswert, dass Kinder und Jugendliche generell gegenüber Bildern und Videos auf Social Media oder generell im Internet mit einer so großen Skepsis reagieren, dass sie immer davon ausgehen, dass es generiert ist?
Ralf: Die Sommerpause ist zu Ende. Heute ist Montag, der 7. September 2026 und es ist Zeit für eine neue Folge von was mit Medienerziehung. Dem Podcast von Smiley e.V..
Moritz: Der Verein Smile e.V. besucht Schulklassen, arbeitet mit Eltern und Fachkräften und dabei geht es immer um Medienkompetenz Vermittlung bzw Medienerziehung. Mein Name ist Moritz Becker.
Ralf: Und mein Name ist Ralf Willius. Moritz, es war eine lange Sommerpause. Ich sehe du hast eine sehr sehr lange Liste mitgebracht. Beginnen wir aber doch einfach mal mit den Rückmeldungen zur letzten Folge, wie jedes Mal.
Moritz: Ich habe hier eine sehr spannende Rückmeldung. In der Rückmeldung ging es darum, dass Eltern ihre Kinder ja idealerweise lieben sollten und gleichzeitig aber auch Verantwortung haben.
Ralf: Wir haben darüber gesprochen, dass es manchen Eltern schwerfällt, wenn Sie vor den Sommerferien zu Ihrem Kind gesagt haben, dass es an der weiterführenden Schule kein Smartphone mit WhatsApp bekommt. Diesen Entschluss umsetzen. Und wenn die Eltern dann feststellen, dass alle anderen Kinder WhatsApp haben und das eigene Kind dann unter dieser Entscheidung zumindest nach Erleben des Kindes leidet.
Moritz: Genau. Und wenn ich dann meinem Kind doch WhatsApp erlaube, obwohl ich es nicht vorhatte oder auch gesagt habe, dass wir es nicht machen, weil ich das Gefühl habe, dass es sonst unnötig leidet oder vielleicht auch die Sorge haben, dass das Kind sich vielleicht von mir nicht geliebt fühlt, weil ich so streng bin und dann sage ich Komm, mach doch irgendwie. Dann übertrage ich im Prinzip eine sehr große Verantwortung an das Kind, nämlich die Verantwortung, mit WhatsApp verantwortungsvoll umzugehen. Und wenn ich jetzt aber als Elternteil eigentlich weiß oder spüre, dass das Kind noch gar nicht in der Lage ist, diese Verantwortung zu übernehmen, ich das dann aber trotzdem so mache, dann führt das vielleicht sogar zwangsläufig zu einer Überforderung bei dem Kind, die letztendlich und das ist halt ganz wichtig dann doch wieder die Eltern zu verantworten haben. Und hier hätten wir zumindest nach dem Wunsch der Hörerinnen etwas gründlicher sein sollen in unserer Argumentation und deutlich unterscheiden sollen zwischen Erziehungsverantwortung, die Eltern letztendlich haben und Liebe, die unter Umständen dann zu etwas irrationalen Entscheidungen führen kann. Also ich kann das jetzt nicht komplett hier ausführen, aber das war eine sehr spannende Mail.
Ralf: Die du hoffentlich entsprechend ausführlich beantwortet hast.
Moritz: Ja klar, ich beantworte alle Mails, die wir bekommen. Zumindest hoffe ich, dass ich das immer gemacht habe. Und manche Mails oder Rückmeldungen besprechen wir auch noch mal hier im Podcast.
Ralf: Wir haben in der letzten Folge auch angedeutet, dass wir jetzt ein neues Projekt mit fünften Klassen durchführen wollen. Das haben wir jetzt gemacht und haben tatsächlich zusammen mit einem neuen Team 179 fünfte Klassen in den ersten drei Schulwochen.
Moritz: Wi sind mega stolz.
Ralf: Nach den Sommerferien besucht, um sie präventiv auf Probleme im Klassenchat vorzubereiten und bevor sie dann passieren.
Moritz: Ich muss sagen, ich war wirklich überrascht, was die Kinder erzählt haben über ihre zum Teil sehr problematischen Erfahrungen mit Klassenchats in der Grundschulzeit. Also da ist viel mehr los gewesen, als ich bisher angenommen habe.
Ralf: Ja, das auch. Aber mich hat überrascht, wie schnell die Kinder. Ich glaube, das muss ich ein bisschen ausführlicher erklären. In den Workshops gibt es so eine Arbeitsphase, wo die Kinder in Kleingruppen.
Moritz: Kleingruppenarbeit unmittelbar nach den Sommerferien fünfte Klassen ist. Ambitioniert.
Ralf: Ja. Das meine ich jetzt nicht. Aber was ich erzählen möchte, ist, dass die Kinder in den Kleingruppen von uns so Tablets mit einer App bekommen haben, in der kleine und große Probleme als Fallbeispiele dargestellt werden und das Ganze so aufbereitet, dass man Fotos von einzelnen Kindern sieht. Man kann die einzelnen Kinder dann auswählen und in Form von Sprechblasen erzählen die Kinder dann, was aus ihrer Sicht gerade passiert ist und eigentlich in beschreibt. Zum Beispiel, dass es Angst vor Cybermobbing hat.
Moritz: Oder dass die Klasse bis 2:00 chattet.
Ralf: Und die Aufgabe der Kleingruppe ist dann zu überlegen, wie sie in der Klasse dafür sorgen können, dass diese Probleme nicht auftauchen. Und diese Fotos von den Kindern oder zum Teil auch von Lehrkräften. In manchen Fällen sind Fotos von Lehrkräften, die ausgewählt werden können, die dann auch irgendwelche schlauen Sachen sagen. Diese Fotos haben wir alle mit KI generiert und ich würde sagen, dass die Bilder auch wirklich aussehen wie echte Fotos. Und trotzdem waren da Kinder, die beim Öffnen der App beim ersten Bild sofort gesagt haben Das ist doch KI.
Moritz: Also ich arbeite in Fortbildungen mit Lehrkräften oder Fachkräften mit ähnlichem Material. Da habe ich auch Fotos von Kindern und Jugendlichen. Und inhaltlich ist das auch wirklich nicht wichtig, ob diese Bilder dabei sind. Aber es macht irgendwie doch einen anderen Eindruck, wenn irgendwelche Fallbeispiele bebildert sind mit Fotos von Menschen, die theoretisch ein ganz bestimmtes Problem auf Social Media haben oder betroffen sein könnten. Als wenn du da jetzt nur so sehr textlastig irgendwelche Fallbeispiele diskutieren lässt. Aber zumindest ist es so, dass ich eigentlich immer sage, dass die ganzen Fotos ja KI generiert sind. Und die in dem Fall erwachsenen Fachkräfte sind dann ganz oft total überrascht oder erstaunt und sagen dann auch von sich, ich wäre nicht auf die Idee gekommen, dass es keine wirklichen Fotos von irgendwelchen echten Menschen sind.
Ralf: Ich sage das eigentlich auch in den Klassen, dass die ganzen Kinder in diesem Beispiel nicht existieren und wir die Fotos auch mit KI gemacht haben.
Moritz: Also ich sage das aber nicht immer unbedingt, bevor ich die Tablets raus gebe.
Ralf: Ne. Aber die Kinder sind dann dann schneller und sagen zu Recht das ist doch KI.
Moritz: Ich habe auch schon von Eltern gehört. Also unabhängig davon, dass wenn sie jetzt mit ihren Kindern, die dann vielleicht so 12, 13, 14 sind, gemeinsam auf Social Media unterwegs sind, dass die Kinder sehr schnell Inhalte als künstlich generiert, ja entlarven. Während also Erwachsene noch darüber nachdenken, sind sich Kinder und Jugendliche mittlerweile viel schneller darüber im Klaren, dass ein ganz bestimmter Film, der absolut authentisch oder dokumentarisch wirkt, am Ende dann doch mithilfe von künstlicher Intelligenz erstellt wurde.
Ralf: Vielleicht sind da Kinder und Jugendliche doch viel kompetenter als viele von uns Erwachsenen.
Moritz: Ja, das könnte sein, weil sie vielleicht viel häufiger auf entsprechenden Plattformen unterwegs sind, wo sie mit entsprechend gefakten Videos oder Fotos konfrontiert werden.
Ralf: Aber das wäre dann eigentlich eine grundsätzlich positive Entwicklung.
Moritz: Ja, wenn es wirklich so ist, dass Sie zwischen echten Fotos und mit künstlicher Intelligenz erstellten Fotos unterscheiden können.
Ralf: Ja, na klar.
Moritz: Aber bist du sicher, dass das wirklich passiert?
Ralf: Na ja, ich habe das im Workshop live erlebt, würde ich sagen. Wobei, es kann natürlich schon sein, dass manche Kinder und Jugendliche heute einfach so, ich sage mal so reflexhaft sofort sagen Das ist alles, was ich auf dem Bildschirm sehe, KI generiert ist.
Moritz: Also in die Richtung habe ich gerade gedacht. Also in den letzten Jahren wurde viel darüber diskutiert oder auch gewarnt, dass wir Menschen durch künstliche Intelligenz manipuliert werden können. Und ich kann mir vorstellen, dass diese Diskussionen bei manchen Kindern und Jugendlichen dazu geführt haben, dass sie mittlerweile grundsätzlich gegenüber Fotos oder Videos auf Tiktok oder vielleicht sogar generell in Medien mit einer unglaublich großen Skepsis gegenübertreten. Und das sie also ganz pauschal misstrauisch sind, dass jemand, der Ihnen ein Bild zeigt, Sie und das könnte dann so etwas eintreten wie ich möchte mal sagen so eine. Ich weiß nicht, ob der Begriff da passt, so eine Über-Generalisierung, also dass aus der Tatsache, dass ein bestimmtes Bild generell durch KI erzeugt worden sein könnte. Generell angenommen wird, dass es zwangsläufig so ist, also so eine Art KI Generalverdacht.
Ralf: Ja, aber schützen sich Kinder und Jugendliche nicht damit vor Manipulation?
Moritz: Aber sie schützen sich dann auch vor Informationen, sofern man sich vor Informationen schützen kann. Also schützen im Sinne von-
Ralf: Okay. Sie geben Medien im Prinzip gar keine Chance zu informieren, weil sie pauschal immer davon ausgehen, dass sie eigentlich belogen werden.
Moritz: Und das halte ich für nicht für zielführend. Also ich weiß nicht, ob es gut ist, dass ich ohne Hinweise auf Manipulation zwangsläufig davon ausgehe, dass ich manipuliert werden soll.
Ralf: Zumal wir mit unseren generierten Kinderfotos ja nicht wirklich manipulieren wollen. Wir wollen etwas visualisieren und in früheren Apps haben wir das mit Comicfiguren gemacht.
Moritz: Die waren sehr schlecht. Die haben wir selber gezeichnet, obwohl wir das gar nicht können.
Ralf: Aber auch davon, wie es besser, dass Kinder nicht einfach irgendwelche Texte durcharbeiten müssen, sondern dass etwas mit Bildern ansprechend gestaltet ist, als nur so ein einfacher Text.
Moritz: Im weiteren Sinne ist das vielleicht auch manipulierend. Also drückst du einer fünften Klasse einen DIN A4 Zettel in die Hand und sagst Lest euch bitte mal gegenseitig vor, was hier steht. Da habe ich gar keine Lust zu. Verpackst du das Ganze in einem Tablet Und dann kann man halt über fünf oder sechs Bildschirme wischen und kann irgendwelche Kinder antippen. Und dann sind das Sprechblasen, die das vorlesen. Das ist ja wirklich so, die streiten sich darum, wer vorlesen darf.
Ralf: Ja, ein Effekt, der wahrscheinlich in 20 Jahren nicht mehr so sein wird.
Moritz: Vielleicht schon auch in fünf Jahren nicht mehr. Im Ernst möchte ich sagen, dass wir diese Visualisierung nicht einsetzen, um Kinder zu manipulieren, sondern eher um sie zu motivieren, sich mit den Inhalten auseinanderzusetzen. Ob es diese Kinder auf den Fotos wirklich gibt oder ob sie mit KI generiert wurden, ist eigentlich ziemlich egal. Ich sage das auch immer, dass die Fallbeispiele zum großen Teil oder eigentlich fast alle oder eigentlich alle auf wahren Gegebenheiten basieren. Aber dass die Namen und die Bilder ausgedacht sind also die Namen der Kinder, die haben wir ja auch mit KI generiert. Also ich hatte da irgendwie irgendeine KI gebeten, mir typische Namen von 10-jährigen Kindern aufzulisten. Und nach diesem Namen sind die Kinder in Fallbeispielen benannt.
Ralf: Okay, ich möchte noch einmal auf den Punkt zurückkommen, den ich ganz, ganz wichtig finde.
Moritz: Ich wollte mich jetzt auch nicht verteidigen.
Ralf: Aber ist es erstrebenswert, dass Kinder und Jugendliche generell gegenüber Bildern und Videos auf Social Media oder generell im Internet mit einer so großen Skepsis reagieren, dass sie immer davon ausgehen, dass es KI-generiert ist?
Moritz: Ich glaube nicht. Ich glaube. Also im Prinzip läuft es ja darauf hinaus, dass du irgendwann Medien tatsächlich gar nicht mehr glaubst. Das heißt, egal was du irgendwo liest, es kann komplett ausgedacht sein.
Ralf: Aber es ist ja auch so.
Moritz: Ja, aber es ist nicht alles ausgedacht.
Ralf: Aber es kann gelogen sein.
Moritz: Ich glaube, das, was wir schaffen müssen in der pädagogischen Arbeit, ist, dass man irgendwie in der Lage sein muss, Hinweise zu finden, ob ich gerade durch mediale Inhalte manipuliert werden soll. Und dabei sind mit künstlicher Intelligenz erstellte oder veränderte Videos und Fotos. Ein ganz entscheidender Punkt.
Ralf: Aber, aber. Aber was für Hinweise können das denn sein?
Moritz: Also zum Beispiel könnte ein Foto oder Video schlecht gemacht sein. Also dass meinetwegen auf einem Foto Personen sind, die sechs Finger haben oder irgendwelche Schatten, die nicht also weißt du, was ich meine?
Ralf: Ja. Aber da sind wir Generatoren in den letzten zwei oder drei Jahren erheblich besser geworden.
Moritz: Ja, und das heißt, da müssen wir in der pädagogischen Arbeit vorsichtig sein. Also. Oder das gut machen. Ich erinnere mich noch an eine Veranstaltung, an der ich teilgenommen habe. Beziehungsweise im Publikum saß. Also, das war eine Veranstaltung, die richtete sich an Familien, da saßen Eltern und Kinder. Ich habe einen Vortrag für die Eltern gehalten, und danach kam eine Medienpädagogin. Die hat dann einen Vortrag für die Kinder gestaltet, und sie hatte da verschiedene Beispiele von KI generierten oder mit KI überarbeiteten Filmen und Fotos per Leinwand dem Publikum gezeigt. Und dann wurde immer gefragt, ob das Dargestellte echt oder künstlich erstellt wurde.
Ralf: Okay. Das heißt, man wurde quasi aufgefordert, das Bild oder den Film kritisch anzusehen und zu überlegen, finde ich Hinweise darauf, dass es sich hierbei um Manipulation handelt. Wobei man Manipulation ist es ja erst, wenn es Menschen manipulieren soll. Also erst mal ja, es ist ja nur künstlich erstellt.
Moritz: Wichtiger Punkt. Und das da waren Sachen, die da dargestellt wurden, die waren zum Teil ein halbes Jahr alt oder so, aber manche Sachen waren auch wesentlich älter. Wo man das dann auch schnell erkennen konnte. Ein Video kennst du vielleicht. Da sieht man, wie Will Smith irgendwie Spaghetti ist. Und dieses Szenario gilt also als oder galt so als Test für Text zu Videomodelle. Die Idee dahinter ist, dass diese Videomodelle sehr plausible Videos erzeugen konnten. Aber mit so ganz alltäglichen Situationen tauchten dann große Probleme auf. Und das heißt, wenn man sagt, mache ein Video, in dem es Will Smith irgendwie Spaghetti ist, dann kamen bei unterschiedlichen Tools sehr unterschiedliche Ergebnisse heraus, die zum Teil wirklich katastrophal schlecht waren. Und je besser die Tools wurden, desto schwerer ist es zu erkennen, ob hier wirklich ein Mensch Spaghetti gegessen hat oder ob das nur generiert wurde. Und die Kinder haben auf jeden Fall sofort erkannt, dass ist KI.
Ralf: Ja, weil es noch schlecht gemacht war, Weil es älter ist.
Moritz: Genau. Und daraufhin hat die. Also da hat die Medienpädagogin dann auch darauf hingewiesen, dass moderne Videomodelle viel besser geworden sind und dass es immer schwerer wird, entsprechende Fehler zu finden.
Ralf: Das heißt, eigentlich ist der Ansatz, mit Kindern zu trainieren, anhand von Fehlern oder unrealistischen Darstellungen KI-Inhalte zu erkennen, dann doch riskant.
Moritz: Ja, genau, weil es nicht unbedingt welche geben muss.
Ralf: Genau das ist vielleicht eine Methode, die vor drei Jahren sinnvoll war, als man noch davon ausgehen konnte, dass KI nicht fehlerfrei ein Video erstellen kann, in dem wer war es ? Will Smith.
Moritz: Ja, ich denke, man hat ihn genommen, weil man so ein Gesicht nehmen wollte, dass möglichst bekannt ist, dass die Leute erkennen können, ob das so, also das war ein Experiment.
Ralf: Zumindest glaube ich, dass das heute oder in Zukunft möglich sein wird, dass Videos mit Will Smith, wie er Spaghetti ist, so darzustellen, dass es kaum von einer wirklich gefilmten Variante zu unterscheiden ist. Und dann würden die Menschen, die gelernt haben, nach Fehlern zu suchen. Die würden scheitern und davon ausgehen, das ist echt.
Moritz: Genau. Nur weil ich keinen Hinweis auf Fehler in der Darstellung finde, kann es trotzdem künstliche Intelligenz sein. Das heißt, die Strategien, die Menschen brauchen, um sich vor Manipulationen schützen zu können, müssen komplexer sein als eben nicht einfach nur nach Suchen von irgendwelchen Fehlern. Und das heißt.
Ralf: Ja und davon auszugehen, dass einfach alles gelogen ist, ist dann ja auch keine Straftat.
Moritz: Genau. Also ich glaube das ist das Es. Wie gesagt, das ist nicht zielführend. Und da fällt mir eben ein anderes Beispiel ein, also eine andere Strategie, das bei der Veranstaltung gezeigt wurde. Und zwar ist das ein Video, wo nach starken Regenfällen in einem. Ich bin mir nicht ganz sicher. Ich glaube, es war ein amerikanisches Footballstadion. So Krokodile auftauchten im Wasser.
Ralf: Im Wasser, wollte ich gerade sagen.
Moritz: Genau.
Ralf: Und das wurde dann von KI als Film generiert.
Moritz: Es kam dann auch die Frage Ist das KI oder nicht? Und die Kinder. Ja. Die Kinder haben ganz klar sofort gesagt das ist KI. Aber die Begründung in dem Fall von einem Kind, das war keine zehn Jahre alt, war eben nicht, dass es irgendwo Bildfehler gefunden hat, sondern einfach sofort logisch gesagt hat Wo sollen denn Krokodile herkommen, nur weil es im Stadion regnet?
Ralf: Sehr schlaues Kind.
Moritz: Ja, du machst dich jetzt darüber so lustig. Aber die Methode.
Ralf: Ist ich will mich nicht darüber lustig machen, aber es gibt so Videos, die sind so offensichtlich. Wie soll ich sagen? Also, du brauchst nicht nach Hinweisen suchen. Hat jemand im Publikum sechs Finger oder hat ein Alligator zwei Zahnreihen?
Moritz: Ja. Weils einfach Quatsch ist.
Ralf: Ja, es gibt einfach keine Krokodile in Stadien.
Moritz: Es ist einfach unrealistisch. Ja, und das ist halt das, was ich so bemerkenswert fand in der Situation, dass bei den ersten Beispielen die Kinder im Publikum nach Fehlern im Bild gesucht haben. Bei diesem Beispiel aber war klar, dass man sich gar nicht die Arbeit machen muss, weil das Szenario für sich genommen schon so unrealistisch ist. Und ich glaube, dass wir langfristig eher diese Denkweise unterstützen sollten. Also nicht nach Fehlern in einem Bild suchen, sondern zu überlegen Kann das überhaupt sein?
Ralf: Ich finde nur, dass das kein besonders gutes Beispiel ist. Problematisch im Sinne von Manipulationen sind doch eher Bilder oder Videos, die dann etwas darstellen, was durchaus realistisch ist. Wenn ich jetzt an irgendwelche Propaganda Videos auf Tiktok denke. Da wird dann an welchen Politikern meinetwegen Friedrich Merz irgendwas in den Mund gelegt, was er nie gesagt hat. Krokodile im Stadion als unrealistisch zu überlisten ist ja sehr sehr einfach. Aber eine vermeintliche Schießerei in irgendwelchen Stadtteilen.
Moritz: Musste ich gerade dran denken, haben wir auch im Podcast besprochen.
Ralf: Die nie stattgefunden hat, wo es aber dann anschließend darum geht, gegen diese Menschen, die dort leben, zu hetzen, das als Fake zu erkennen. Das ist viel schwieriger.
Moritz: Ich glaube, das, was man braucht, ist so eine Art Fahrplan, also so eine Art Fahrplan mit so einer zu einer realistischen Skepsis. Also nicht so ein, so ein so ein so eine über Skepsis, wenn ich das mal so sagen darf.
Ralf: Also nicht, dass man zu skeptisch ist und am Ende gar nichts mehr glaubt.
Moritz: Genau. Das meine ich
Ralf: Aber auch nicht zu naiv, dass man auf technisch gut gemachte Manipulation reinfällt.
Moritz: Du siehst irgendein Video auf Tiktok oder YouTube oder Insta. Egal. Die erste Frage würde ich sagen ist es wichtig. Also ist es überhaupt wichtig, ob der Inhalt gefälscht bzw KI generiert ist?
Ralf: Wir haben hier im Podcast schon mehrere Male gesagt, dass im Rahmen von Kunstfreiheit einiges erlaubt sein muss.
Moritz: Klar.
Ralf: Von daher würde ich sagen, wenn ein Video, wenn es ein Video ist, das einfach nur zur Unterhaltung dient, dann wäre es eigentlich unwichtig.
Moritz: Genau. Unterhaltung also. Die Frage ist also, ist das Video ausschließlich Unterhaltung, bei dem ich nicht erwarte, dass ich irgendwas Relevantes erfahre oder lerne? Wenn ja, einfach gucken und freuen, wenn. Nein, erstmal weiter skeptisch bleiben.
Ralf: Ich glaube, jetzt wäre es zielführend zu überlegen, welches Ziel die Person verfolgen könnte, die das Video verbreitet.
Moritz: Stimmt Ja genau. Es geht im Prinzip um die Frage Könnte jemand ein Interesse haben, dass ich dieses Video für echt halte, auch wenn es das nicht ist?
Ralf: Und wenn ich zu dem Ergebnis komme, dass eigentlich niemand dadurch einen Vorteil hat? Müsste ich weniger skeptisch sein. Und somit ist eigentlich alles, was irgendwie mit aktuellen Themen zu Klimawandel, Migration oder so zu tun hat, an dieser Stelle durchaus mit Vorsicht zu genießen.
Moritz: Meine nächste Frage wäre dann, ob in dem Video irgendwas Außergewöhnliches oder für mich Überraschendes dargestellt wird. Und je überraschter ich durch den Inhalt bin, desto skeptischer sollte ich sein. Also wenn ich zum Ergebnis komme, dass das Dargestellte eigentlich alltäglich ist und oder vielleicht auch nur spektakulär aussieht, aber eigentlich nicht ist, dann habe ich ja nichts nennenswertes Neues erfahren und muss eigentlich auch nicht weiter prüfen.
Moritz: Ja, genau.
Moritz: Das wusste ich ja schon.
Ralf: Ist ja nichts Neues. Und dann kann man ja zu dem Punkt kommen, wo es darum geht, nicht das Video technisch zu überprüfen, sondern die Behauptung in dem Video zu überprüfen. Also finde ich eine zweite oder dritte Quelle, die das gleiche behauptet. Finde ich überhaupt einen Hinweis zur Quelle? Ja, das ist doch klassische Quellenkritik.
Moritz: Das wäre die Suche nach Widersprüchen.
Ralf: Ja.
Moritz: Können vielleicht auch die Kommentare helfen unter dem Video.
Ralf: Und damit komme ich am Ende zum Schluss, dass ich entweder weiß, dass das, was dort behauptet wird, wirklich stattgefunden hat, zum Beispiel durch weitere Quellen, die vertrauenswürdig sind, oder dass offensichtlich ist, dass es sich hierbei um eine generierte Fälschung handelt, die mich eventuell manipulieren möchte.
Moritz: Ja, und deshalb ist wichtig, dass es weiterhin verlässliche Quellen gibt. Und zeigt auch nochmal, wie unglaublich wichtig es ist, dass Medien, die sich für Qualitätsmedien halten oder vielleicht auch welche sind, ihren guten Ruf nicht verspielen dürfen durch Fehler, die sie letztendlich dann unglaubwürdig macht.
Ralf: Mir gefällt das, dieser Ablauf.
Moritz: Ja, vielleicht können wir dann auch Verschriftlichen und dann in den Shownotes verlinken. Wobei man natürlich sagen muss, dass unser Modell jetzt nicht gegen Radikalisierung wirkt, weil wenn jemand etwas glauben möchte, dann wird eine Person das glauben. Oder so wie wir eben schon gesagt haben, wenn jemand schon was Falsches glaubt und jetzt einen Beleg dafür findet, dann kommt die Person nicht auf die Idee, dass es falsch sein könnte. Also von daher ist es eher so so ein Alltagsmodell, aber keine Garantie gegen Desinformation. Gehen wir das mal durch.
Ralf: Die erste Frage wäre sinngemäß Ist es ausschließlich Unterhaltung? Und aus dem Video soll ich ja nicht wirklich lernen. Wenn ja, alles gut. Zweite Frage Könnte jemand ein Interesse haben, dass ich dieses Video für echt halte, auch wenn es das nicht ist? Wenn nein, das Risiko einer Manipulation ist gering, obwohl der Inhalt falsch sein kann. Wenn es aber so ist, dass jemand einen Vorteil davon haben könnte oder kann, wäre die nächste Frage, ob in dem Video etwas Sensationelles behauptet wird, was mich überrascht. Je größer die Überraschung, desto wichtiger ist es, jetzt weiter zu prüfen. Und wenn ich nichts Neues erfahren habe, entsteht ja auch wirklich kein wirklicher Schaden, weil ich das ja, was ich gerade erfahren habe, sowieso schon wusste.
Moritz: Wichtig ist, dass das dann kein Beweis dafür ist, dass es keine KI generierte. Aber letztendlich würde man nicht neu manipuliert, sondern maximal in seinem Unwissen verstärkt, was natürlich auch ein Problem ist.
Ralf: Aber wenn ich es überraschend finde, sollte ich nach weiteren Quellen suchen, die das Dargestellte belegen.
Moritz: Zum Beispiel bei diesem Video mit der Schießerei.
Ralf: Genau. Idealerweise sollten das Qualitätsmedien sein, die wir jetzt an dieser Stelle bitte nicht genau definieren. Ja, finde ich. Widersprüche. Sollte ich sehr vorsichtig mit dem Video sein, finde ich Bestätigung spricht einiges dafür, dass das Video echt ist.
Moritz: Du kannst im Prinzip auch sagen, je relevanter der Inhalt ist, desto kritischer sollte ich sein. Also schön an dem Modell finde ich, dass es mit allen möglichen Videos funktioniert und auch zulässt, KI Videos, die man sofort als solche erkennt, zu konsumieren. Also ein Video mit dem sprechenden Hund zum Beispiel. Das ist einfach nur lustig. Unterhaltung. Alles klar. Es gibt eigentlich keinen Grund, dass irgend jemand mich da jetzt manipulieren will. Er hat keinen Vorteil durch, nur weil ich glaube, dass es echt ist.
Ralf: Lass uns das doch einfach mal an ein oder zwei Beispielen durchspielen. Ich sehe ein Video mit einem echt aussehenden Hund, der sprechen kann. Frage eins. Ist das Unterhaltung? Antwort Ja, offensichtlich. Einfach gucken. Nichts, glauben.
Moritz: Spannend fand ich, als diese Videos auftauchten, in dieser scheinbar mit so einer Wildkamera aufgenommen wurden. Also wo dann irgendwelche Rehkitze oder so in so einem Garten in einem Trampolin springen. Also weißt du, was ich meine?
Ralf: Ja, stimmt. Da gibt es diverse Videos, wo Menschen irgendwelche Eisbärbabys retten oder einen Hund, der eine Katze von einem Auto schützt oder so. Wenn ich also denke, dass es sein kann, dass ein Tier in einem Trampolin springt oder Hunde katzenbabys retten, käme ich zur nächsten Frage und würde wahrscheinlich sagen, dass es.
Moritz: Ja.
Ralf: Kein Interesse gibt, mich hier zu manipulieren.
Moritz: Also eigentlich kein Problem.
Ralf: Aber spätestens bei der Frage, ob mich das Video sehr überrascht hat, würde ich vermutlich mit Ja antworten und recherchieren, ob Wildtiere in ein Trampolin springen würden. Und da würde ich bestimmt eine Quelle finden, die mich darüber aufklärt, dass das nicht realistisch ist.
Moritz: Und damit wäre das Video dann auch überführt. Jetzt komme ich mal mit einem ähnlichen Video, wo ich es auch nicht ganz einfach finde. Also im Sinne von ich sag mal lernen. Ich weiß nicht, ob du die kennst. In diesen Videos siehst du immer irgendwelche spektakulären Szenen von riesigen Tankern oder Containerschiffen, die so in Unwetter geraten sind. Die Musik dazu ist immer dieses Hoist the Colours, also dieses bassige Joho.
Ralf: Ja, ja.
Moritz: Also ich liebe diese Videos, weil das ist so mega spektakulär und davon ist einiges oder wahrscheinlich fast alles auch KI generiert. Dabei sind Videos, wo man dann sieht, dass irgendwelche Container über Bord von so einem Containerschiff gehen. Und in den Kommentaren habe ich dann gelesen, dass Leute schreiben, dass da gerade Unmengen an Waren vernichtet wurden. Bei vielen dieser Videos gehe ich davon aus, dass es keine echten Havarien sind, weil die Kamera die filmen. Steht still und da.
Ralf: Ja, aber würdest du den Machern dieser Videos unterstellen, dass sie manipulieren wollen?
Moritz: Nein, ich glaube, dass die einfach Klicks mit möglichst spektakulären Videos machen wollen. Gleichzeitig kann es aber passieren, dass Menschen das dann glauben.
Ralf: Okay, das ist dann so eine Grauzone. Informationen und Manipulation hast du noch ein Beispiel?
Moritz: Mit viel Aufwand wird man wahrscheinlich auch Ergoogeln können. Wie oft passiert sowas? Aber ich habe noch noch ein Das macht Spaß. Ein sehr gutes Beispiel. Ein bekannter Popmusiker steht bei einer Veranstaltung vor der Kamera und behauptet, dass es in Deutschland Chips zu kaufen gibt, die mit von aus Embryos gewonnenen Gewürzen gewürzt werden.
Ralf: Ja, das kenne ich.
Moritz: Frage Nummer eins Ist das Unterhaltung? Also es sieht eindeutig so aus, als würde da bei einer Veranstaltung gefilmt werden, die so stattgefunden hat. Das Video hat tatsächlich dokumentarischen Charakter. Also nicht Unterhaltung.
Ralf: Weiter geht's. Könnte jemand ein Interesse haben, dass du dieses Video für echt halten würdest. Auch wenn es das nicht ist.
Moritz: Ja, und das was dieser Popmusiker sagt, wirkt auf mich unfassbar lächerlich. Es könnte jemand sein, dass jemand dieses Video gefaked hat, um dem Ansehen des Musikers zu schaden.
Ralf: Also die wollen ihn verleumden.
Moritz: Genau.
Ralf: Hat ich das Video überrascht?
Moritz: Ja, auf jeden Fall. Also ich hätte nicht gedacht, dass jemand etwas so seltsames, zum Teil auch sehr offensichtlich Verschwörungs mythisches einfach so in die Kamera sagt. Schon gar nicht ein bekannter Mensch.
Ralf: Okay, und dann wäre deine Aufgabe, nach alternativen Quellen zu gucken.
Moritz: Das habe ich damals auch gemacht und ganz viele Berichte sowohl über das Video als auch über die Veranstaltung gefunden. Und das in Quellen, denen ich vertraue.
Ralf: Das heißt, dieses Video war wirklich echt.
Moritz: Dramatischer Weise ja.
Ralf: Ich glaube, dass diese Form von kritischen Konsum von Videos, die generiert sein könnten, mehr Zukunft hat als das reine Überprüfen nach KI-Bildfehlern. Am Ende sind wir aber immer-
Moritz: Das war so ein Übergang. Aber das ist jetzt, das brauchen wir nicht mehr.
Ralf: Aber jetzt sind wir angewiesen auf verlässliche Quellen, die uns bei der Recherche nach der Wahrheit helfen.
Moritz: Ja, und ich glaube, dass es vor allen Dingen viel zielführender ist, als das jetzt Kinder und Jugendliche bei jedem Video einfach nur noch sagen Das ist bestimmt KI und glaube ich nicht. Also ich könnte jetzt natürlich auch noch mal meine Theorie einbringen, dass ich glaube, dass Social Media Plattformen wie Tiktok und Instagram eigentlich Unterhaltungsmedien sind, die also grundsätzlich nicht dazu dienen sollten, sich über Sachverhalte zu informieren. Schon alleine, weil komplexe Sachverhalte in drei Minuten Videos dargestellt fast immer verfälschen. Egal.
Ralf: Was machen wir jetzt?
Moritz: Abrupter Ja, aber du hast recht.
Ralf: Wir müssen gucken auf die Uhr.
Moritz: Ich habe noch so viel auf meinem Zettel. Die ganze Sommerpause durch habe ich Notizen gemacht. Wir müssen das nicht alles besprechen. Ich wollte über die Bravo sprechen, die jetzt 70 Jahre alt geworden ist. Wenn wir über Medienerziehung sprechen, müssen wir natürlich über die Bravo sprechen, das Jugendmagazin Bravo startete wie gesagt, vor 70 Jahren. In den 90er Jahren. Wahrscheinlich. Die Zeit, in der wir beide die Bravo gelesen haben, hatte die Bravo eine sensationelle Auflage von 1,5 Millionen Heften heute. Ja. Also, es sind wohl noch knapp 45.000 Exemplare und dazu muss man sagen, dass sie auch nicht mehr wöchentlich erscheint, sondern nur einmal im Monat.
Ralf: Wobei man klar sagen muss, dass mittlerweile wahrscheinlich auch da online eine Rolle spielt. Also die Bravo.
Moritz: Also da habe ich mich ein bisschen mit beschäftigt. Die Bravo hat auf Instagram 850.000 Follower, auf Tiktok immerhin 300. Ich habe es mir gar nicht genau aufgeschrieben. Irgendwas über 300.000 Follower. Ich weiß nicht, wie viele von den 850.000 Followern auf Instagram wirklich die Zielgruppe sind, die früher Bravo gelesen haben oder ob da nicht eine ganze Menge Menschen dabei sind, die weit über 20 Jahre alt sind. Interessant ist, dass die Bravo bei Facebook zum Beispiel, wo garantiert die Zielgruppe nicht unterwegs ist, über 700.000 Follower hat. Also ganz klar die Bravo hat nicht den Einfluss auf Jugendkultur, wie das früher mal war. Also das ist klar.
Ralf: Wahrscheinlich lebt die Marke Bravo immer noch von der Vergangenheit und der Relevanz, die sie früher mal hatte.
Moritz: Ja, es gibt heute einfach ganz andere Kanäle. Und da finde ich halt spannend, dass wenn wir jetzt über Social Media Verbote sprechen wie bei uns im Podcast, haben wir ja schon mehrere Male drüber nachgedacht, dass halt Jugendliche, die sich für Stars oder Sportlerinnen und Sportler interessieren oder Promis generell. Dann ist das heute ohne Social Media nicht mehr so ohne Weiteres möglich. Und da finde ich ganz spannend. Also es gibt die Bravo natürlich als Webseite.
Ralf: Vielleicht würde ein Social Media Verbot da was verändern. Dann könnte es auf einmal wieder lohnenswert sein, mehr Content außerhalb von Social Media zu produzieren. Zumindest für die Zielgruppe, die dann Social Media nicht mehr nutzen könnte.
Moritz: Das wäre spannend. Also vielleicht sogar aus Sicht von Kindern und Jugendlichen wünschenswert.
Ralf: Wirklich spannend.
Moritz: In dem Zusammenhang mit KI. Hätten wir noch über Spotify und KI generierte Musik sprechen können?
Ralf: Ja. Generell hat sich im August durch den EU AI Act so einiges verändert. KI generierte Bilder, Videos und Audios müssen unter bestimmten Umständen zumindest gekennzeichnet werden.
Moritz: Ja, haben wir gar nicht drüber gesprochen.
Ralf: Das passt auch sehr gut zu unserer Diskussion. Ich befürchte nur, dass Menschen, die manipulieren wollen, genau das nicht machen.
Moritz: Genau.
Ralf: Es gibt auch Einschränkungen für private Social Media Kanäle, in denen KI generiertes Material geteilt wird. Und ich glaube, da sollten wir in den nächsten einer der nächsten Folgen noch mal explizit oder sehr genau drüber sprechen. Vor allen Dingen auch in Bezug auf Chatbots, die sich als solche auch erkennen, zu erkennen geben müssen. Ja, und noch ein kleiner Podcast Tipp an dieser Stelle. Und zwar waren wir, also wir zwei, zu Gast im Podcast "Schule macht Medien". Die Folge Verlinken wir den Shownotes. Und ich kann schon mal spoilern. Ben und Jacko, also die beiden Hosts des Podcasts, werden auch bei uns in einer der nächsten Folgen zu Wort kommen.
Moritz: Ja, war also hat Spaß gemacht bei den beiden zu sein.
Ralf: Auf jeden Fall.
Moritz: Ich habe auch noch eine Empfehlung. Und zwar ist in den USA ein Verfahren gegen Meta, also der Betreiberfirma von Facebook, WhatsApp, Instagram geführt worden, in dem es darum ging, dass die US Staaten dem Konzern vorgeworfen haben, jugendliche Nutzer abhängig zu machen. Und hierzu gibt es einen vielbeachteten Vergleich. Also gab es jetzt, in dem es zum einen um viel Geld geht, aber auch um grundlegende Änderungen im Jugendschutz, zumindest in den USA. In der Deutschlandfunk Sendung Medias res wurde mit Sebastian Meineck von netzpolitik.org über dieses Ergebnis gesprochen und seine Sichtweise hat mich sehr beeindruckt. Und auch die Beurteilung von Social Media Sucht fand ich da. Durch ihn fand ich sehr schlüssig. Sollten wir auf jeden Fall auch verlinken.
Ralf: Okay.
Moritz: Und dann möchte ich noch über ein Medienpaket zur Cybersicherheit vom Bundesamt für Sicherheit in der Informationstechnik sprechen. Will ich auch gerne verlinken. Das Ganze ist gedacht für den Einsatz in der Schule für 10 bis 14-jährige, wobei das bestimmt auch im außerschulischen Bereich eingesetzt werden kann. Was habe ich noch auf meinem Zettel? Ich gebe Gas. Da werden wir auch nicht darüber sprechen. Aber bestimmt. Im Herbst hast du den Trailer zu GTA 6 gesehen?
Ralf: Ne. Aber gehört, dass er gut sein soll. Also in welche Richtung?
Moritz: Also ja, spektakulär, aber garantiert nicht für 10-jährige werden wir bestimmt im Herbst auch nochmal darüber sprechen, wenn das Spiel dann veröffentlicht. Auf jeden Fall. So, das war's von meiner Seite. Oder doch?
Ralf: Als Folge zum weiter hören würde ich die Folge "Videos aus dem Krieg" vom 30. Juni 25 empfohlen.
Moritz: Das passt also, vor allem, weil wir da auch viel über so einen Filter im Kopf gesprochen haben.
Ralf: Und damit sagen wir Tschüss. Bis zum nächsten Mal.
Moritz: Wir freuen uns über Rückmeldungen über unsere Social Media Kanäle, die alle unter www.smiley-ev.de zu finden sind oder per Mail an podcast@smiley-ev.de.
Ralf: Bis dahin Tschüss.
Moritz: Tschüss!
Moritz: Die Idee also, das noch mal vernünftig zu machen, als PDF in die Shownotes zu packen, finde ich eigentlich ganz cool.
Ralf: Also das wäre viel Arbeit.
Moritz: Ja, in diesem Fall ist es ja wirklich nicht so viel. Aber dass man wirklich so was hat wie Materialien, die man dann einsetzen kann, vielleicht. Ich weiß jetzt gar nicht, ob das so spektakulär wird, aber ich glaube, wir machen es einfach.
Ralf: Ja!
Moritz: Dann Tschau.
Ralf: Tschau!
Diese Folge bei Spotify hören
Diese Folge bei Apple hören
Diese Folge bei Deezer hören
Diese Folge bei Castbox hören
Diese Folge bei Amazon hören
