Ist das Bild echt oder nicht? Diese Frage werden wir in Zukunft immer öfter stellen, wenn wir in den sozialen Medien unterwegs sind. Denn die sind voll von Bildern und Videos zum Beispiel aus Konzentrationslagern der Nationalsozialisten. Das Problem: Viele dieser Inhalte sind mit Künstlicher Intelligenz generiert, sind falsch und verzerren die Geschichte. Gedenkstätten deutschlandweit schlagen deshalb Alarm - so auch die Gedenkstätte im hessischen Hadamar.
Amerikanische Soldaten öffnen Gräber auf dem Gelände der Tötungsanstalt Hadamar und dokumentieren die Gräueltaten der Nationalsozialisten. Ein Besuch in Hadamar zeigt jedoch schnell: Das Bild ist ein KI-Fake, denn so sah es dort gar nicht aus.
Arne Jost, pädagogischer Mitarbeiter Gedenkstätte Hadamar
„Der Friedhof ist hier oberhalb des Anstaltsgebäudes gelegen. Auf dem KI-generierten Foto ist er vermeintlich unterhalb des Anstaltsgebäudes. Auch die Landschaft drum herum sieht gänzlich anders aus, sowohl auf den historischen Aufnahmen von 1945, die wir haben, als auch heute.“
Die KI-generierten Bilder sollen vor allem emotionalisieren – mit der historischen Realität haben sie meist wenig zu tun.
Arne Jost, pädagogischer Mitarbeiter Gedenkstätte Hadamar
„Wir sind grad wirklich besorgt, dass diese Menge an KI-Bildern das Vertrauen in echte historische Dokumente bei unseren Besucher:innen zerstört, weil man irgendwann besonders als Laie gar nicht mehr die Möglichkeit hat zu unterscheiden, was ist echt und was nicht. Was möglicherweise dann eben genutzt werden kann, dass rechte und rechtsextreme Kräfte bewusst KI-generierte Inhalte verbreiten, die die Geschichte umdeuten sollen.“
Verbreitet werden die Fakes von sogenannten Content-Farmen: Accounts, die meist im Ausland sitzen und nur ein Ziel verfolgen: Mit möglichst vielen Klicks möglichst viel Geld zu verdienen.
Arne Jost, pädagogischer Mitarbeiter Gedenkstätte Hadamar
„Diese Content-Farmen produzieren teilweise im Stundentakt KI-generierte Inhalte und reagieren darauf, was am meisten geklickt wird und das sind hoch emotionalisierte Themen.“
Über 50 Gedenkstätten aus ganz Deutschland richten sich nun in einem offenen Brief direkt an die Plattformen. Sie fordern:
Content-Farmen kein Geld mehr über sogenannte Monetarisierungsprogramme zuzahlen, KI-generierte Inhalte klar zu kennzeichnen und proaktiv gegen geschichtsverfälschende Inhalte vorzugehen.
Für Jörg Ukrow von der Medienanstalt Rheinland-Pfalz ist ein Teil des Problems, dass soziale Netzwerke bislang kaum Verantwortung für rechtswidrige Inhalte auf ihren Plattformen übernehmen müssen.
Jörg Ukrow, stellvertretenden Direktor Medienanstalt Rheinland-Pfalz
„Wir fordern ein, dass die Plattformen Ihrer Verantwortung stärker gerecht werden. Sie könnten das auf freiwilliger Basis sicher besser schon tun als das aktuell der Fall ist. Wenn ein Weg der Freiwilligkeit nicht weiterhilft, dann gibt es ja jetzt auch schon Überlegungen sowohl auf nationaler als auch europäischer Ebene dann diese Haftungspriviligierung der Plattformen auch nochmal gründlich zu überprüfen.“
TikTok, Facebook und Instagram wollten sich auf unsere Anfrage hin nicht zu den Forderungen äußern. Arne Jost von der Gedenkstätte Hadamar befürchtet: Ohne gesetzliche Verschärfungen werden sich die Internetplattformen weiter vor ihrer Verantwortung wegducken.
