Zwischen Demokratie-Skills und Regulierung von Tech-Giganten – Erstes Fake News Festival an der Viadrina

„don’t ask ai – ask a professor“ der schillernde Sticker war beim Festival allgegenwärtig: verschenkt beim Empfang, ausgelegt bei Veranstaltungen, angeklebt auf dem Campus und mit Stolz getragen auf Shirts und Laptops. Die Künstliche Intelligenz brauchten Besucher*innen angesichts der beeindruckenden Zahl von Expert*innen aus vielen verschiedenen Bereichen tatsächlich nicht zu fragen, um weiterzukommen bei der Diskussion über die Fragen der Zeit: Was richten Fake News an, wie kann man ihnen begegnen? Verbergen sich hinter dem bestimmenden Thema KI noch viel wichtigere gesellschaftliche Herausforderungen?

Können wir KI und Realität noch unterscheiden? Und ist das überhaupt wichtig?

Echt oder KI? – dieses Rate-Spiel begegnete Festivalgästen immer wieder. Anhand von Fotos, Videos und Texten rätselten sie: Woran soll ich das noch erkennen? Dr. Jonas Fegert, der unter anderem die Forschungsgruppe Digital Democracy & Participation am Karlsruher Institut für Technologie (KIT) leitet, hatte dazu bei einem Panel über Deepfakes einen überraschend naheliegenden Rat: „Wenn Ihnen etwas komisch vorkommt, vertrauen Sie Ihrem Bauchgefühl.“ Aus seiner Forschung weiß er genau, dass es gefälschte Videoinhalte gibt, die nur mit aufwendigster Technik überführt werden können, etwa, indem man Atem und Puls der Person im Video misst. Ein Allheilmittel zur Enttarnung für Laien gebe es nicht, schon allein, weil die Technik in rasantem Tempo immer besser werde. Auf der anderen Seite lassen sich viele Nutzer*innen aber auch von eigentlich offensichtlichen sogenannte Cheapfakes in die Irre führen. „Da gibt es oft eine Diskrepanz, man weiß, hier stimmt etwas nicht. Das gilt es zu üben“, so Jonas Fegert.

Genau diesen kritischen Zugang einzuüben, war einer der Aufträge des Festivalprogramms, das das Organisationsteam um Prof. Dr. Charlotte Köhler und Ira Helten ganz bewusst an ein breites Publikum von Schülerinnen bis Rentner und von Forschenden bis Praktiker*innen ausgerichtet hatte. „Egal, ob man KI mag oder nicht, wir alle haben Kontakt mit KI-Inhalten. 70 Prozent aller Online-Inhalte sind KI-generiert oder -manipuliert“, betonte Charlotte Köhler zur Eröffnung des Festivals. Diese explosionsartige Zunahme solcher Inhalte und ihren hohen Verbreitungsgrad machte auch die Juristin Ramak Molavi Vasse’i in ihrer Keynote über mögliche KI-Regulierungen als problematisch aus. „Wir können unseren körpereigenen Werkzeugen nicht mehr trauen“, sagte sie angesichts der immer besseren Qualität von KI-generierten Inhalten. 

Lassen wir Tech Giganten zu einfach davonkommen?

Der Ruf nach mehr Medienkompetenz geht für Ramak Molavi Vasse’i bei der Frage des Umgangs mit KI nicht weit genug. Anstatt die Lösung der durch KI erzeugten Probleme bei den Nutzer*innen zu suchen, plädiert sie dafür, die Entwickler und Konzerne in die Pflicht zu nehmen. „Die Last der Regulierung sollte da sein, wo die Verantwortung liegt – und der Gewinn“, sagte sie in ihrer Keynote und gab gleichzeitig zu, dass die Realität weit davon entfernt ist. Unter anderem, weil die Konzerne am Zustandekommen der Kennzeichnungsvorgaben, die in der EU ab August 2026 gelten werden, maßgeblich beteiligt waren. Sie setzt sich deshalb für eine „Slow KI“ ein, bei der das Entwicklungstempo verlangsamt wird, um Kontrollmechanismen erproben zu können. Zudem fordert sie, dass unhaltbare Anwendungen – etwa zum Erstellen von Nacktbildern – verboten, Geschäftsmodelle reguliert und die Privilegien von Social Media Plattformen überprüft werden.

Die Forderung nach mehr Regulierung wurde auch beim Panel über Deepfakes mehr als deutlich. Theresia Crone, die sich als Betroffene von sexualisierten Deepfakes für eine stärkere Regulierung einsetzt, sagte in der Diskussionsrunde: „Ich wünsche mir mehr Mut von uns als Gesellschaft, um uns den Plattformen entgegenzustellen. Sie verdienen daran, dass Desinformation verbreitet wird und unsere Daten nicht gesichert sind.“ Die Viadrina-Juristin Prof. Dr. Nella Sayatz betonte, dass in Fällen wie dem von Theresia Crone oder Colline Fernandez der Ruf nach einem veränderten Strafrecht zu kurz greife. Opfern gehe es häufig vor allem darum, dass „es aufhört“ und Bilder oder Videos nicht weiter verbreitet werden. „Hier geht es um Plattformverantwortlichkeiten und rechtliche Regularien, um schnell Wirkung zu erzielen“, so Nella Sayatz. Der Opferschutz müsse im Zentrum von Rechtsdebatten stehen.

Konzentrieren wir uns auf die richtigen Fragen?

Theresia Crone machte zudem darauf aufmerksam, dass 95 Prozent von Deepfakes pornografische Inhalte sind und dass sie zu 99 Prozent Mädchen und Frauen betreffen. Sie hält deshalb eine gesellschaftliche Debatte über sexuelle Gewalt an Mädchen und Frauen für zentraler als die über KI. Die Aktivistin spricht damit einen Gedanken an, der bei diesem Festival immer wieder aufkommt: Ist die KI das Problem oder verdeutlicht und verstärkt sie die großen Herausforderungen und Zerwürfnisse heutiger Gesellschaften?

Ein Gedanke, der auch im Workshop von Franziska Liebetanz, Co-Leiterin des Zentrums für Lehre und Lernen an der Viadrina, aufkam. Gemeinsam mit den engagierten Teilnehmenden diskutierte sie zum Thema „Alles fake? Warum schreiben und lesen?“ Ihre klare Antwort: „Für mich sind Schreib- und Lesekompetenzen auch Demokratiekompetenzen.“ Wenn angesichts von ChatGPT & Co. die Abschaffung der Seminararbeit diskutiert werde, sei das für sie der falsche Weg, „Die Hausarbeit hat doch mehr Funktionen als das Abfragen von Wissen! Ich frage mich, wie bringe ich meine Studierenden dazu, tief in Diskurse einzutreten, zu reflektieren und verschiedene Perspektiven einzunehmen?“ Wenn jetzt die KI alle Lehr- und Prüfungsformen über den Haufen wirft und Bildungspolitik und Unileitungen den Entwicklungen hoffnungslos hinterherlaufen, weise das auf Probleme hin, die auch vor der KI existiert haben: „Die KI deckt die Schwächen im Bildungssystem auf.“

Was bleibt nach der Fake News Festival-Premiere?

Viele der Dutzenden Veranstaltungen des Festivals waren trotz aller Besorgnisse und Kritik von einem anpackenden Geist getragen und gaben Hinweise, wie ein aktiver und selbstbewusster Umgang mit KI gelingen kann. Theresia Crone betonte die Bedeutsamkeit des kritischen Denkens: „Das ist die Grundlage für alle KI-Kompetenzen. Was gegen Fake News hilft, sind Selbstwirksamkeit – schon von Kindern und Jugendlichen – und demokratische Skills.“

Neben vielen inhaltlichen Denkanstößen, Materialien und neuen Kontakten nehmen die Festival-Besucher*innen auch die Erkenntnis mit, dass Diskokugeln, Tanzmusik im Hörsaal und Lametta nicht schaden, wenn man sich drei Tage mit den großen, nachdenklich machenden gesellschaftlichen Fragen der Gegenwart beschäftigt. „Das Thema gehört nicht nur in die Hörsäle, es gehört auf die Straße, zwischen die Räume, überall in die Stadt“, mit diesen Worten hatte Viadrina-Vizepräsident Prof. Dr. Jan-Hendrik Passoth das Fake News Festival eröffnet. An der Viadrina habe man die klare Haltung, dass Wissenschaft Verantwortung übernehmen muss. „Das Fake News Festival ist dafür ein wunderbares Beispiel“, so Passoth.