Die GLP begrüsst deshalb grundsätzlich, dass nun eine spezifische Regulierung für grosse Kommunikationsplattformen und Suchmaschinen vorliegt. Die GLP erachtet es angesichts der grenzüberschreitenden Tätigkeit digitaler Plattformen auch als sinnvoll, dass die Regulierung sich am Digital Service Act (DSA) der EU orientiert. Die GLP begrüsst zudem die wesentlichen Elemente der Vorlage: Das Meldeverfahren für Nutzende stärkt die Durchsetzung des Strafrechts im digitalen Raum. Die Transparenzvorgaben zur Kennzeichnung und Adressierung von Werbung sowie zum Einsatz von Empfehlungssystemen und zur Möglichkeit für Nutzende, die Parameter von Empfehlungssystemen zu ändern, stärken die Meinungs- und Informationsfreiheit. Die Berichterstattungspflicht zu systemischen Risiken sowie der Datenzugang für Verwaltung und Forschung ermöglicht eine laufende Auseinandersetzung mit Risiken grosser Plattformen.
Die Vorlage weist aus Sicht der GLP jedoch relevante Lücken auf. Die GLP stellt deshalb folgende Forderungen:
Aufnahme von Pflichten zur Stärkung des Schutzes von Minderjährigen: Kinder und Jugendliche sind im digitalen Raum besonders verletzlich. Umso kritischer ist, dass die Vorlage bislang keine spezifischen Bestimmungen zum Schutz von Minderjährigen enthält, um diese gezielt vor nicht jugendfreien Inhalten wie Gewaltdarstellungen oder pornografischen Darstellungen zu schützen. Die GLP sieht hier klaren Handlungsbedarf. Sie hätte vom Bundesrat erwartet, dass er diesen wesentlichen Regulierungsaspekt zumindest als Variante von Beginn weg in die Vorlage aufnimmt und nicht als Frage im Begleitschreiben abhandelt.
Sie fordert den Bundesrat daher auf, grossen Plattformen verbindliche Massnahmen aufzuerlegen, um ein hohes Mass an Sicherheit und Schutz für Minderjährige sicherzustellen (Frage 1 des Begleitschreibens). Mit Blick auf die vorgeschlagenen Massnahmen zum Schutz von Minderjährigen (Frage 2 des Begleitschreibens), spricht sich die GLP für folgende Massnahmen aus:
- Altersverifizierung: Plattformen sollen, das Alter der Nutzenden neben der Selbstdeklaration mit technischen Lösungen und risikobasierten Prüfungen verifizieren, um den Schutz Minderjähriger wirksam umsetzen zu können. Für jene welche, die E-ID nutzen, ist eine Verifikation über Parameterabfragen wie «volljährig» oder «älter als 16» ohne Offenlegung weiterer persönlicher Daten möglich. Eine allgemeine Alterslimite erachtet die GLP jedoch derzeit nicht als zielführende Massnahme. Eine solche wäre kaum ohne umfassende Ausweispflicht für alle Nutzenden durchsetzbar und dürfte zu Ausweichverhalten auf kleinere Plattformen führen, die nicht dem KomPG unterstellt sind. Der Fokus soll stattdessen auf der Förderung eines gesunden und kritischen Umgangs mit digitalen Plattformen liegen. Gleichzeitig ist die Wirksamkeit entsprechender Modelle in anderen Ländern weiter zu beobachten und bei nachweisbarem Erfolg neu zu beurteilen.
- Jugendmodus: Plattformen sollen bei Minderjährigen einen Jugendmodus anwenden, welcher Kinder und Jugendliche vor nicht jugendfreien Inhalten schützt und zugleich Eltern ermöglicht, weitergehende Inhaltsfilter und Zeitlimiten festzulegen. Solche Systeme der elterlichen Kontrolle werden von grossen Plattformen teilweise bereits heute angeboten und können die Handlungsmöglichkeiten der Eltern im digitalen Alltag stärken.
- Verbot profilingbasierter Werbung und Dark-Patterns bei Minderjährigen: Das verhaltensbasierte Profiling und die auf maximale Interaktion ausgerichteten Empfehlungssysteme dürfen nicht dazu führen, dass Minderjährige auf Social Media besonderen Risiken ausgesetzt sind. Für minderjährige Nutzer sind daher weitergehende Verpflichtungen bzgl. Dark-Patterns und Werbung als nur die Option der Deaktivierung von Empfehlungssystemen (Art. 18 KomPG) vorzusehen. Analog zum DSA soll profilingbasierte Werbung verboten werden und Plattformen sollen verpflichtet werden ihr Plattform-Design und die Algorithmen so zu gestalten, dass Minderjährige nicht getäuscht, manipuliert oder anderweitig in ihrer Fähigkeit, freie und informierte Entscheidungen zu treffen, massgeblich beeinträchtigt oder behindert werden (Verbot von Dark-Patterns).
- Prüfung von Risiken für Minderjährige als Teil der Risikoanalyse: Plattformen sollen verpflichtet werden weitergehende Risiken für Minderjährige zu bewerten und Risikominderungsmassnahmen zu ergreifen. Die zu prüfenden Risiken der Risikoprüfung gemäss Art. 20 Abs. 2 KomPG soll entsprechend um «Risiken für Minderjährige» ergänzt werden.
Verbreitung von KI-generierten sexuellen Inhalten (u.a. Deepfakes) dem Meldeverfahren unterstellen (Art. 4 und 5 KomPG): Die GLP begrüsst das Meldeverfahren, womit Nutzende rechtswidrige Inhalte melden können und Plattformen verpflichtet sind Meldungen zeitnah zu prüfen. Dieses Verfahren ist zentral zur Stärkung der Verantwortung der Plattformen. Denn Plattformen können schon heute straf- oder zivilrechtlich haftbar werden, wenn sie Kenntnis von klar rechtswidrigen Inhalten haben und diese nicht entfernen. Mit dem Meldeverfahren können Plattformen in Zukunft einfach und klar in Kenntnis gesetzt werden, was sie zu Massnahmen zwingt, ohne dabei eine allgemeine Pflicht zur Vorabkontrolle aller Inhalte beim Upload einzuführen. Solche Vorabkontrollen wären mit dem Risiko systematischer Überwachung, Overblocking und faktischer Vorzensur verbunden und würden damit die Meinungsfreiheit und den offenen Diskurs gefährden.
Allerdings ist die bisherige Liste relevanter Straftatbestände zu eng gefasst. Insbesondere sind die Straftatbestände der Pornografie (Art. 197 StGB) und des Weiterleitens von nicht öffentlichen sexuellen Inhalten (Art. 197a StGB) aufzunehmen, um bspw. auch die Verbreitung von KI-generierten sexuellen Inhalten dem Meldeverfahren zu unterstellen. Zugleich wird dadurch auch der Jugendschutz gestärkt. Im Meldesystem soll zudem die Möglichkeit bestehen, sämtliche nicht jugendfreie Inhalte zu melden.
Weiter erachtet die GLP die Vorgabe in Art. 5 KomPG, dass die Plattformen Meldungen zu rechtswidrigen Inhalten «zeitnah» bearbeiten müssen, als zu unpräzis. Zumindest bei der Verbreitung von rechtswidrigen sexuellen Inhalten oder Aufrufen zur Gewalt ist ein schnelles Handeln notwendig. Plattformen sollen daher verpflichtet werden, entsprechende Inhalte innerhalb weniger Stunden zu bearbeiten.
Möglichkeit zur Erweiterung des Geltungsbereichs schaffen (Art. 2 KomPG): Der aktuelle Gesetzentwurf beschränkt sich darauf, grosse Plattformen zu regulieren, deren Nutzende 10% der Schweizer Bevölkerung umfassen. Dies soll eine zielgerichtete Regulierung jener Plattformen mit dem grössten Risikopotenzial ermöglichen und Markteintrittsbarrieren für neue Plattformen tief halten. Plattformen und Suchmaschinen können zudem unabhängig der neuen Regulierung und Grösse strafrechtlich verfolgt werden, wenn sie trotz Kenntnis von offensichtlich rechtswidrigen Inhalten, keine Massnahmen treffen, um diese zu entfernen.
Allerdings können auch mittelgrosse Plattformen, Plattformen für bestimmte Bevölkerungsgruppen oder Plattformen mit einflussreichen Personen Auswirkungen auf den öffentlichen Diskurs und die Meinungsbildung oder Risiken für Minderjährige haben. Im DSA der EU müssen daher auch kleinere Plattformen gewisse Mindestverpflichtungen erfüllen. Der Bundesrat soll daher die Kompetenz erhalten, bei Bedarf auch weitere Plattformen gewissen Mindestanforderungen des KomPG, wie z. B. der Pflicht einer Risikoanalyse gemäss Art. 20, zu unterstellen, falls diese Risiken für den öffentlichen Diskurs, die freie Meinungsbildung oder Minderjährige haben.
Weiter ist im erläuternden Bericht klarzustellen, dass KI-Anwendungen, die in grosse Plattformen oder Suchmaschinen integriert sind oder gemäss Art. 3 als Suchmaschine oder Plattform gelten, ebenfalls unter das KomPG fallen. Denn generative KI-Systeme, mit denen sich Texte, Bilder, Audio- oder Videodateien erstellen lassen, können bereits heute massive Auswirkungen auf Individuen und die Gesellschaft haben.
Pflicht zu Risikominderungsmassnahmen (Art. 20 KomPG): Das Meldeverfahren wird im KomPG ergänzt durch die Pflicht für grosse Plattformen, Risikobewertungen durchzuführen. Sie müssen insbesondere prüfen, ob genügend Massnahmen bestehen, um die Verbreitung von rechtswidrigen Inhalten zu verhindern. Zudem müssen sie auch evaluieren, ob ihr Dienst negative Folgen auf die öffentliche Meinungsbildung, bspw. durch koordinierte Desinformationskampagnen, durch Bots und Fake-Accounts oder durch ausländische Einflussnahme hat. Für grosse Plattformen besteht jedoch keine Pflicht, Risikominderungsmassnahmen zu ergreifen. Dies ist unverständlich. Die GLP fordert deshalb, dass Art. 20 KomPG um die Pflicht ergänzt wird, verhältnismässige Massnahmen zur Minderung der Risiken zu ergreifen, analog des Artikel 35 im DSA.
Synergiepotenziale mit der EU-Regulierung nutzen und administrativen Aufwand senken: Die dem KomPG unterstellten Plattformen und Suchmaschinen müssen bereits in der EU unter dem DSA relevante Pflichten des KomPG einhalten. In gewissen Bereichen wird eine schweiz-spezifische Erfüllung dieser Pflichten notwendig bleiben, beispielsweise bei der Pflicht, Risiken für die direktdemokratische Willensbildung in der Schweiz zu analysieren. Andere Pflichten sind jedoch schweiz-unspezifisch, wie bspw. die Pflicht, ein Meldeverfahren, ein Beschwerdeverfahren und eine aussergerichtliche Streitbeilegung einzurichten oder die Option zu bieten, Empfehlungssysteme zu deaktivieren. Der Nachweis der Erfüllung dieser Pflichten soll daher schlank und einfach gestaltet werden. So sollte es Anbietern ermöglicht werden, bereits bestehende, funktionierende Mechanismen im Rahmen des DSA von der Schweiz als gleichwertig anerkennen zu lassen. Damit können die Synergiepotenziale, welche der DSA der EU ermöglicht, konsequent genutzt werden, um den administrativen Aufwand ohne Einbussen bei der Schutzwirkung zu senken.
Schliesslich ist für die GLP klar, dass das neue Gesetz zu Kommunikationsplattformen und Suchmaschinen nur ein Teil der Risiken adressieren kann. Ebenso wichtig ist für eine starke Meinungs- und Informationsfreiheit eine hohe digitale Kompetenz bei der Bevölkerung, damit sie Informationen aus digitalen Plattformen kritisch einordnen kann. Nicht zu vernachlässigen ist auch eine starke und unabhängige Medienlandschaft, wofür sich die GLP einsetzen wird.