Meret Schneider: «KI-Kennzeichnung: Transparenz-Pflicht für alle!»
Deepfakes und manipulierte Inhalte gefährden die öffentliche Meinungsbildung. Meret Schneider erklärt, warum die Schweiz bei der KI-Kennzeichnung handeln muss.
Das Wichtigste in Kürze
- Nationalrätin Meret Schneider (Grüne) schreibt auf Nau.ch regelmässig Kolumnen.
- Heute schreibt Schneider über fehlende Transparenz bei KI-Inhalten.
Inhalte, die mittels künstlicher Intelligenz erzeugt oder manipuliert wurden, begegnen uns täglich. Zuerst wurden vor allem Social Media von KI-generierten Videos und Bildern durchsetzt.
Gefahr der Desinformation
Mittlerweile haben es die KI-Inhalte längst in den analogen Alltag geschafft: Ich sehe es auf Werbungen, Bilder auf Speisekarten, touristischen Angeboten und sogar auf einer Glacékarte. Wenngleich die allzu intensiven Farben und irgendwie generisch aussehenden Glacékugeln bei der «Coupe Dänemark» den Einsatz von KI verraten.
Aber: Dieser Zustand birgt wesentliche Gefahren und Potenzial für Desinformation, bewusste Manipulation und die Irreführung von Bürgerinnen und Bürgern.
Bilder wurde schon immer verfälscht
Heute dürfen KI-generierte Inhalte in der Schweiz von Firmen, Unternehmen, Influencer*innen oder politischen Parteien verbreitet und zu Werbezwecken eingesetzt werden, ohne dass dies deklariert werden muss.
Was mit einem KI-generierten Video von einem Hund, der ein Kind rettet, harmlos beginnt und bei einem SVP-Plakat, auf dem Schweizer Älpler bayrische Trachten tragen, höchstens ein süffisantes Schmunzeln auslöst, kann in anderen Bereichen drastische Konsequenzen nach sich ziehen.
Naheliegend sind manipulierte Werbebilder für beispielsweise Kosmetikprodukte, die mit KI-generierten oder -bearbeiteten Gesichtern arbeiten, was an sich nichts Neues darstellt. Auch mit Photoshop und ähnlichem wurden immer schon Bilder bearbeitet und verfälscht.
Kennzeichnungspflicht verlangt Erkennbarkeit
Neu sind aber Deep-Fake-Videos, in denen eine Echtheit und Authentizität suggeriert wird, die so nicht existiert.
Im Bereich des Marketings führen solche Werbe- und Influencervideos bei Kindern und Jugendlichen dazu, dass sie sich mit unrealistischen Idealen vergleichen. Und eine höhere Wahrscheinlichkeit entwickeln, unter Essstörungen zu leiden oder depressiv zu werden.
Im Bereich des Nachrichtenjournalismus und der Politik wird der Zustand der undeklarierten KI-Inhalte noch wesentlich brisanter: Wenn nach Demonstrationen Videos kursieren, die je nach Gesinnung des Publikationsorgans massive Polizeigewalt oder aber Gewalt und Zerstörung von Seiten der Demonstrierenden zeigen, dann wird es gefährlich für eine gemeinsame Informationsbasis und Öffentlichkeit, die Voraussetzung für eine funktionierende Demokratie ist.
EU schneller als die Schweiz
Oder auch, wenn Videos von Politiker*innen kursieren, die Aussagen tätigen, die sie so nie gemacht haben. Oder wenn durch manipulierte Videos aus Kriegsgebieten Falschinformationen verbreitet werden.
Auch die EU hat dieses Problem erkannt. Sie begegnet diesem – wie so oft – schneller und wirkungsvoller als die Schweiz. So gilt in der EU seit dem 2. August 2026 eine KI-Kennzeichnungspflicht für Anbieter und Betreiber von generativen KI-Systemen.
Spreche ich mit KI?
Die Kennzeichnungspflicht ist dabei keine Verbotsnorm: Sie untersagt weder Chatbots noch KI-Bilder oder KI-Texte, sondern verlangt Erkennbarkeit.
Menschen sollen wissen, ob sie mit einer Maschine sprechen. Und ob ein Inhalt künstlich erzeugt wurde, damit sie ihn einordnen können. Konkret müssen Anbieter von KI-Systemen, die für die direkte Interaktion mit Menschen bestimmt sind, sicherstellen, dass die Nutzenden darüber informiert werden, dass sie mit einer KI sprechen.
Zudem müssen sie die erzeugten Audio-, Bild-, Video- und Textinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert kennzeichnen. Etwa durch Metadaten oder Wasserzeichen.
Zu guter Letzt müssen Betreiber, die Deepfakes erzeugen oder verwenden, offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
Dasselbe gilt für KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Bei Texten entfällt die Pflicht, wenn ein Mensch den Inhalt redaktionell geprüft hat. Und eine Person die redaktionelle Verantwortung trägt.
Geschäft ist in Rechtskommission des Nationalrats hängig
Dies alles klingt auf den ersten Blick wichtig und sinnvoll. Das ist sicher wesentlich besser als die Strategie der Schweiz, einfach einmal abzuwarten. Und Regulierungen und Kennzeichnungspflichten hinauszuzögern. Übrigens: Ein entsprechendes Geschäft ist in der Rechtskommission des Nationalrats hängig.
Zu denken gibt allerdings der letzte Satz: Bei Texten entfällt die Pflicht, wenn ein Mensch den Inhalt redaktionell geprüft hat und eine Person die redaktionelle Verantwortung trägt. Ausserdem wirft auch die Tatsache Fragen auf, dass nur KI im beruflichen Kontext deklariert werden muss, die Transparenzpflicht jedoch nicht für Privatpersonen gilt.
Wird immer sauber nachrecherchiert?
Es stellt sich die Frage, warum bei KI-generierten Texten die Offenlegungspflicht entfällt, nur weil ein Mensch die redaktionelle Verantwortung trägt.
Es ist kaum anzunehmen, dass im journalistischen Kontext bei KI-generierten Texten stets sauber nachrecherchiert wird, ob die generierten Fakten tatsächlich solche sind.
Da wir wissen, wie fehlerhaft die Outputs von ChatGPT, Claude, Gemini und Co. sind, bietet dies ein grosses Potenzial für beabsichtigte und unbeabsichtigte Desinformation.
Grosse Verantwortung liegt auch bei Privatpersonen
Zweiteres Problem, dass Privatpersonen von der Kennzeichnungspflicht ausgenommen sind, halte ich jedoch noch für viel brisanter!
Es wird für Laien zunehmend einfacher, Bilder und Videos komplett KI-generiert herzustellen. Und damit gezielt Falschinformationen zu verbreiten.
Wie wir wissen, beschäftigen Akteure wie beispielsweise die AfD Dutzende Menschen, die nur damit betraut sind, Internetforen und Plattformen zu bespielen – und die Tonalität und Framings zu prägen.
Diese agieren als Privatpersonen in einem nicht-kommerziellen Kontext, erhalten aber mit KI-generierten Inhalten eine potente Waffe für die Verbreitung ihres Gedankenguts.
Die Transparenzpflicht öffnet diesen Akteuren Tür und Tor, mittels Deepfake-Videos falsche Tatsachen zu verbreiten und die gemeinsame Informationsbasis abzutragen, indem entgegengesetzt zur Berichterstattung der öffentlich-rechtlichen Medien kommuniziert wird.
Gleiche Transparenzregeln für alle
Diese Gefahr ist in meinen Augen nicht zu unterschätzen. Denn: In Zeiten von Social Media ist jede Privatperson auch Publizistin und Publizist. Und sollte denselben Transparenzregeln unterstehen wie publizistische Organe.
Manch ein grosser TikTok-Account hat mehr Reichweite als das gesamte SRF. Und folglich auch eine ähnlich grosse Verantwortung. Weswegen die KI-Kennzeichnungspflicht auch hier gelten müsste.
Ich hoffe sehr, dass wir in der Schweiz diese Lücken in der Kennzeichnungspflicht schliessen werden. Für einmal gilt: Was lange währt, wird endlich gut.
Zur Person
Meret Schneider (34) ist Mitglied des Schweizer Nationalrats. Sie arbeitet als Projektleiterin beim Kampagnenforum. Weiter ist sie Vorstandsmitglied der Grünen Partei Uster ZH.
