Meret Schneider: Löst Social-Media-Verbot Problem bei Jugendlichen?
Sollen Jugendliche in der Schweiz künftig auf Social Media verzichten? Meret Schneider schreibt in ihrer Kolumne über den bundesrätlichen Gesetzesentwurf.
Das Wichtigste in Kürze
- Nationalrätin Meret Schneider schreibt auf Nau.ch regelmässig Kolumnen.
- Heute schreibt sie über ein Social-Media-Verbot für unter 16-Jährige in der Schweiz.
- Im Ausland haben einige Länder schon reagiert.
Ein Social-Media-Verbot für unter 16-Jährige ist in aller Munde. Bei uns in der Schweiz, aber auch in anderen europäischen Ländern.
Während hierzulande eine Petition lanciert wurde, ist man in Deutschland bereits einen Schritt weiter: Die SPD und Vizekanzler Lars Klingbeil haben sich klar für ein Verbot von Social Media für unter 14-Jährige ausgesprochen.
In einem Positionspapier der SPD ist zu lesen, dass auch unter 16-Jährige nur «Jugendversionen» solcher Apps nutzen sollen. Koalitionspartner CDU mit Friedrich Merz hat ebenfalls Sympathien bezüglich einer solchen Regelung bekundet. Ein solches Verbot dürfte in unserem Nachbarland bald in Kraft treten.
Desinformation und Deep Fakes
Das ist eine gute Nachricht für den Jugendschutz. Aber es ist keine Lösung für die Probleme, die in Bezug auf die digitalen Plattformen fortbestehen.
Desinformation, intransparente Algorithmen, Deep Fakes, Machtkonzentration bei wenigen grossen Playern und neuerdings KI-generierte Bikinidarstellungen von Frauen und Kindern grassieren auf den einschlägigen Plattformen. Und wenngleich es wünschenswert ist, dass Jugendliche unter 16 Jahren künftig davon unbehelligt bleiben, belasten diese Mechanismen Erwachsene und unsere Gesellschaft als Ganzes weiterhin.
Manchmal erinnern mich diese Plattformen an die Hydra aus der griechischen Mythologie: Immer wenn man ihr einen Kopf abschlägt, wachsen ihr zwei neue.
Versucht man, justiziable Inhalte von Plattformen zu verbannen, so ploppt ein neues Feature auf, mit dem man Frauen und Kinder auf Bildern mit KI «ausziehen» – und damit Bikinibilder von ihnen generieren kann.
Der Holocaust als Geschäftsmodell
Will man gewaltverherrlichende Darstellungen melden, so taucht plötzlich ein Trend auf, im Zuge dessen KI-generierte Holocaust-Bilder von geigenspielenden Juden und brotteilenden Kindern die Plattformen fluten. Weil diese Klicks generieren.
Der Holocaust als Geschäftsmodell – skrupelloser geht es nicht! Und zu Recht protestieren Holocaust-Gedenkstätten gegen solche Inhalte.
Die Schweiz schaut derweil zu, scheinbar achselzuckend. Und schickt ein Plattformregulierungsgesetz in die Vernehmlassung, das exakt diese Probleme nicht einmal adressiert.
Der vom Bundesrat vorgeschlagene Gesetzesentwurf nimmt zwar einige relevante Punkte auf. Und er setzt erste wichtige Richtlinien für die Regulierung von Kommunikationsplattformen und Suchmaschinen.
Beispielsweise werden die Plattformen dazu verpflichtet, ein Meldeverfahren einzurichten. Und eine Rechtsvertretung in der Schweiz zu benennen, Datenzugang zu gewähren sowie Inhalte zu moderieren.
Zudem werden mit dem Entwurf Sanktionen eingeführt, die für die Plattformen auch tatsächlich schmerzhaft sein können und Wirkung entfalten werden.
Sogar Netzsperren werden im bundesrätlichen Vorschlag in Betracht gezogen, was in Anbetracht des sonst eher zögerlichen Vorgehens erstaunt und positiv überrascht.
Fatal ist jedoch, dass bestimmte Bereiche komplett ausgeklammert werden. Und dadurch die Wirksamkeit des Gesetzes stark geschwächt wird. So bleiben im Gesetzesentwurf des Bundesrates beispielsweise KI-generierte Inhalte komplett unerwähnt. Obwohl gerade diese aufgrund ihres Einflusses auf die Meinungsbildung und eines erhöhten Desinformationspotentials dringend reguliert werden müssten.
Mittlerweile wird beinahe jedes Handyfoto mit KI bearbeitet, weshalb ein Label für KI-generierte Inhalte inflationär verwendet werden müsste. Und so für die Nutzer*innen kaum mehr einen Mehrwert hätte.
Nicht-KI-generierte Inhalte verifizieren?
Eine griffigere Möglichkeit wäre es hingegen, die Beweislast umzukehren: Nicht die KI-generierten Inhalte müssen gekennzeichnet werden, sondern die Authentizität von Inhalten.
Das heisst: Nutzende müssen Nicht-KI-generierte Inhalte als solche verifizieren und nur bei diesen kann mit Sicherheit von deren Echtheit ausgegangen werden.
Dazu können organisatorische Qualitätssicherungsprozesse und technische Möglichkeiten (kryptografische Signaturen oder Wasserzeichen) eingesetzt werden. Verfügt ein Inhalt nicht über einen solchen Nachweis, muss er als «nicht verifiziert» gekennzeichnet werden.
So können die Nutzenden schnell erkennen, ob ein Inhalt echt oder fake ist. Es ist der zentrale Punkt, um Beeinflussung und Desinformation der Bevölkerung reduzieren zu können.
Ewige Prozesse wegen fehlenden Fristen?
Es fehlen auch klare Fristen bei der Bearbeitung der Meldeverfahren von justiziablen Inhalten wie Gewaltaufrufen, Drohungen oder Deep Fakes. Es ist daher zu befürchten, dass sich solche Prozesse ewig und drei Tage hinziehen werden – und daher ihre Schlagkraft verlieren.
Zudem sollten nicht nur Inhalte, sondern auch problematische Aktivitäten von Bots oder Fake Accounts gemeldet werden können. Im aktuellen Gesetzesentwurf fehlt eine Regelung zu Bots komplett.
Gerade die automatisierte Verbreitung von Inhalten birgt jedoch grosse Risiken in Bezug auf Meinungsbildung. Und Desinformation, wie sich bereits heute an einer Vielzahl vor allem russischer Bots beobachten lässt. Die Kommunikationsplattformen müssen verpflichtet werden, auch diese Konten zu kennzeichnen.
Sinnvoll wäre die Schaffung eines neuen Artikels mit folgendem Inhalt: «Anbieterinnen von Kommunikationsplattformen kennzeichnen auf für Nutzerinnen und Nutzer gut sichtbare Weise Konten, die automatisiert Inhalte posten.» Damit könnten echte Menschen von automatisierten Accounts unterschieden werden und die Transparenz würde erhöht.
Politische Arbeit beginnt jetzt
Dies sind nur einige der zentralen Schwachstellen des Gesetzesentwurfes. Doch in Anbetracht der beschleunigten Entwicklung auf den Plattformen und der Woge an KI-generierten Inhalten, die uns Nutzende zu überrollen droht, sind es meines Erachtens die relevantesten.
Glücklicherweise ist der parlamentarische Prozess zum Gesetz eben erst angelaufen und die politische Arbeit daran beginnt jetzt.
Und wie immer gilt: Politik bewegt sich auch auf Druck aus der Öffentlichkeit. Die Petition für ein Social-Media-Verbot kann immer noch unterzeichnet werden.
Wer sich für eine stärkere Regulierung der Plattformen stark machen will, kann auch dies mittels Leserbriefen und Mails tun. Social Media betrifft uns alle, jung und alt.
Zur Person
Meret Schneider (33) ist Mitglied des Schweizer Nationalrats. Sie arbeitet als Projektleiterin beim Kampagnenforum. Weiter ist sie Vorstandsmitglied der Grünen Partei Uster ZH.
