Die britische Regierung droht Elon Musks X mit der härtesten Strafe, die das Online-Sicherheitsgesetz des Landes vorsieht: einem Verbot. Die Social-Media-Plattform steht unter Druck von Ministern, nachdem sie zugelassen hat, dass das in die App integrierte KI-Tool Grok anzügliche Bilder von nichts ahnenden Frauen und Kindern erstellen konnte.
Die Regierung hat angekündigt, die Medienaufsichtsbehörde Ofcom zu unterstützen, die eine Untersuchung gegen X eingeleitet hat, sollte sie sich für ein Verbot entscheiden. Aber ist ein solcher Schritt wahrscheinlich?
Kann X nach britischem Recht verboten werden?
Der Online Safety Act (OSA) enthält eine Bestimmung, die es Ofcom ermöglicht, eine gerichtliche Verfügung zu beantragen, mit der „Maßnahmen zur Unterbrechung des Geschäftsbetriebs“ gegen eine Website oder App verhängt werden, die gegen die Gesetzgebung verstößt. Diese Maßnahmen stellen faktisch eine Sperrung des Empfangs im Vereinigten Königreich dar.
Dazu gehört beispielsweise die Anordnung an einen Internetdienstanbieter, den Zugang zu einer Plattform zu sperren, oder die Aufforderung an Zahlungsanbieter oder Werbetreibende, ihre Dienste für dieses Unternehmen einzustellen. Diese Maßnahmen stellen de facto ein Verbot der Plattform dar, gegen die sie gerichtet sind.
Was untersucht die britische Medienaufsichtsbehörde?
Ofcom konzentriert sich darauf, ob X in folgender Hinsicht gegen das Gesetz verstoßen hat:
- Versäumnis, das Risiko zu bewerten, dass Menschen illegale Inhalte auf der Plattform sehen
- Unterlassung geeigneter Maßnahmen, um Nutzer daran zu hindern, illegale Inhalte wie Missbrauch intimer Bilder und Material über sexuellen Kindesmissbrauch anzusehen
- Unterlassung, illegales Material schnell zu entfernen
- Versäumnis, Nutzer vor Verstößen gegen das Datenschutzrecht zu schützen
- Untätigkeit bei der Bewertung des Risikos, das X für Kinder darstellen könnte
- Unterlassung einer wirksamen Altersüberprüfung für Pornografie
Hat Ofcom angekündigt, X zu verbieten, wenn ein Verstoß gegen das OSA festgestellt wird?
In seiner Erklärung, in der Ofcom eine Untersuchung bestätigte, stellte die Behörde klar, dass ein solches Szenario nur als letztes Mittel in Betracht käme, wenn sie einen Verstoß von X feststellen sollte, und erklärte, dass eine solche Maßnahme „schwerwiegenden Fällen anhaltender Nichteinhaltung“ vorbehalten sei.
Die Äußerungen der Behörde waren weniger enthusiastisch als die der Regierung, da Ofcom, wenn es das Verfahren gemäß dem OSA nicht korrekt befolgt, mit der Gefahr konfrontiert ist, dass X eine gerichtliche Überprüfung beantragt – ein Gerichtsverfahren, in dem ein Richter entscheidet, ob eine Entscheidung einer öffentlichen Stelle rechtmäßig war. X zu verbieten, weil die derzeitige Regierung dies fordert, ist keine rechtliche Grundlage für eine Abschaltung.
Ofcom erklärte, dass es im Rahmen seiner Untersuchung die vorgeschriebenen Verfahren einhalten müsse. „Als unabhängige britische Behörde für Online-Sicherheit ist es wichtig, dass wir sicherstellen, dass unsere Untersuchungen rechtlich fundiert sind und fair entschieden werden“, erklärte die Behörde.
Die eigenen Leitlinien von Ofcom machen ebenfalls deutlich, dass es sich hierbei nicht um eine alltägliche Strafe im Sinne des Gesetzes handelt und dass solche Maßnahmen keine „Routineangelegenheit“ sind. „Wir sind uns bewusst, dass Maßnahmen zur Unterbrechung des Geschäftsbetriebs einen erheblichen regulatorischen Eingriff darstellen, und halten es daher für unangemessen, routinemäßig bei den Gerichten Maßnahmen zur Unterbrechung des Geschäftsbetriebs zu beantragen, wenn wir Verstöße oder wahrscheinliche Verstöße gegen durchsetzbare Anforderungen festgestellt haben“, erklärte Ofcom.
Welche weiteren Optionen hat Ofcom?
Die Regulierungsbehörde kann Unternehmen dazu zwingen, bestimmte Maßnahmen zu ergreifen, um die Vorgaben des OSA einzuhalten oder durch Verstöße gegen die Gesetzgebung entstandene Schäden zu beheben. Außerdem kann sie Geldstrafen in Höhe von 18 Millionen Pfund oder 10 Prozent des weltweiten Umsatzes verhängen, je nachdem, welcher Betrag höher ist.
Die Einnahmen von X sind nicht öffentlich, aber nach Schätzungen des Marktforschungsunternehmens eMarketer wurde für das letzte Jahr ein Werbeumsatz von 2,3 Milliarden Dollar erwartet, was einer Geldstrafe von mehr als 200 Millionen Dollar entsprechen würde.
Und natürlich muss Ofcom zunächst entscheiden, ob überhaupt ein Verstoß gegen das OSA vorliegt. Es wird prüfen, ob es Anhaltspunkte für einen Gesetzesverstoß gibt. Wenn die Behörde zu dem Schluss kommt, dass ein Verstoß vorliegt, wird sie eine vorläufige Entscheidung an das Unternehmen richten, das dann Gelegenheit erhält, darauf zu reagieren, bevor Ofcom eine endgültige Entscheidung trifft.
Wie lange wird die Untersuchung dauern?
Dies ist die bislang folgenreichste Untersuchung der Ofcom, daher wird die Behörde keine voreiligen Fehler machen wollen. Sie hat jedoch sehr schnell eine formelle Untersuchung eingeleitet, was darauf hindeutet, dass sie sich der öffentlichen und politischen Besorgnis über die Flut von KI-generierten intimen Bildern auf X seit Weihnachten bewusst ist.
Lorna Woods, Professorin für Internetrecht an der Universität Essex, sagte, die Ofcom könne schnell Maßnahmen zur Unterbrechung des Geschäftsbetriebs ergreifen. „Auf der einen Seite gibt es eine typische Ofcom-Untersuchung, die sechs bis neun Monate dauern kann. Auf der anderen Seite könnte Ofcom einen beschleunigten Ansatz verfolgen und recht schnell zu dem Schluss kommen, dass ein Verstoß vorliegt – und dann rasch Maßnahmen zur Unterbrechung des Geschäftsbetriebs ergreifen“, sagte sie.
Ofcom müsste entscheiden, dass der Verstoß so schwerwiegend ist und X ihn nicht behoben hat, dass die Behörde die Option des letzten Auswegs wählen muss.