Indien hat TikTok schon vor einigen Jahren verboten, die USA drohen nachzuziehen. Soll man das chinesische Netzwerk, dass für die Verbreitung von Fake News verantwortlich gemacht wird, auch in der EU auf Eis legen? Sascha spricht sich dafür aus, Don stimmt dagegen. Aber beide drängen darauf, dass sich etwas ändern muss. 

TikTok gehört zu den Netzwerken, die in den letzten Jahren für Furore gesorgt haben. Der Erfolg der vertikalen Mini-Videos überraschten Instagram, Snapchat und YouTube gleichermaßen und TikTok schaffte einen völlig neuen Kanal für Content Creator. Ob Beauty-Tipps, Food Influencer oder Auto-Fans - TikTok eröffnete eine neue Welt und vor allem neue Einkommensmöglichkeiten. Doch gleichzeitig sorgte der sehr scharfe Algorithmus von TikTok dafür, dass Fake News enorm verbreitet wurden. Dazu kommt, dass das Unternehmen aus China stammt und direkte Verbindungen zur Staatspartei hat. Das waren genug Gründe für Indien, die traditionell ein sehr angespanntes Verhältnis zu China haben, die App im Land zu verbieten. Und auch in den USA gibt es seit Jahren eine Diskussion um ein mögliches Verbot.

In den USA ist man aus zwei Gründen irritiert. Zum einen sorgt man sich um die Daten der Bürger, zum anderen darum, dass der nur schwer zu durchschauende Algorithmus von TikTok dazu ausgenutzt werden kann, die anstehenden Präsidentschaftswahlen zu manipulieren. Ein Gesetz, dass TikTok dazu zwingen soll, die US-Sparte zu verkaufen, ist gerade im Repräsentantenhaus beschlossen worden, muss allerdings noch durch den Senat. Doch ist die Diskussion überhaupt gerechtfertigt?

Es ist nicht das erste Mal, dass man ein chinesisches Unternehmen kritisch betrachtet. Huawei steht seit einigen Jahren unter Druck und man arbeitet daran, das Unternehmen aus dem Ausbau der 5G-Netzwerke zu halten. Generell wird die Erfolgsserie chinesischer Unternehmen in der EU und in den USA mittlerweile sehr skeptisch betrachtet. Aber während man weltweit von Unternehmen wie CATL (Batterien für Autos) abhängig ist, kann man ein Netzwerk wie TikTok natürlich leichter loswerden. Doch ist das gerechtfertigt? Und sollte es dann auch andere Netzwerke treffen?

Die Diskussion um Fake News und wie diese in Sozialen Netzwerken verbreitet werden, existierte auch schon vor dem Siegeszug von TikTok. Die Liste der Dinge, die TikTok vorgeworfen werden ist ellenlang. Von politischer Einflussnahme über Finanzbetrug, Rassismus, Antisemitismus bis zu sexuellen Misshandlungen reicht das Spektrum. Der wichtigste Aspekt dabei ist eine Untersuchung des Unternehmens NewsGuard, die 2022 feststellten, dass mehr als 20 Prozent aller Videos falsche Behauptungen enthalten.

Auch ist bekannt, dass sich der Algorithmus leicht manipulieren lässt. Akteure können leicht Tausende von Bot-Accounts gründen, die mit Fake News gefüttert werden. Diese Accounts werden dann von anderen Bot-Farmen geliked, kommentiert usw. sodass der Algorithmus diese Postings in die Timeline anderer User spült. Die Folge ist, dass vor allem junge Menschen tagtäglich und zu bestimmten Themen mit Fake News bombardiert werden. Und wie man in den letzten Jahren gelernt hat, muss man eine Lüge offenbar nur oft genug wiederholen, um sie glaubhaft zu machen. 

Doch was unterscheidet TikTok von anderen Netzwerken wie Instagram, Facebook oder X (ehemals Twitter)? Auch auf diesen Netzwerken finden sich Accounts in Hülle und Fülle, die fast ausschließlich aus Fake News bestehen. Der Unterschied, zumindest aus politischer Sicht ist aber, dass man diese Netzwerke rechtlich leichter belangen kann und sie nicht mit der Partei eines undemokratischen Staats verbandelt sind. Doch macht das für den User einen Unterschied?

Instagram Reels ist ein gutes Beispiel, da es im Grunde ein TikTok Klon ist. Aus eigener Erfahrung kann ich berichten, dass Instagram auch nicht wahnsinnig viel besser ist, wenn es um die Verbreitung falscher Behauptungen geht. Die Welle an antisemitischen, generell komplett falschen Informationen im Rahmen des israelisch-palästinensischen Konflikts, waren derartig unerträglich, dass ich die App lange nicht mehr genutzt habe. Ich habe diese Reels eingespielt bekommen, obwohl mein Feed fast ausschließlich aus Einträgen zu den Themen Kochen, Musik und Kunst besteht. 

Es ist keine Neuigkeit, dass alle Netzwerke Probleme mit Fake News haben. Die Frage ist, was sie dagegen machen und wie stark man sie zur Verantwortung ziehen kann. 

Bisher stellen sich die Netzwerke auf die Position, dass sie nur eine technische Plattform sind und die Inhalte in der Verantwortung der User liegen. Man hält sich in der Content-Moderation an die lokalen Gesetze, ob ein Eintrag allerdings aus Fake News besteht oder ob hinter den Accounts Bots stecken, interessiert nicht weiter. 

Aber schon die Tatsache, dass sie nur eine "technische Plattform" seien, kann bestritten wären. Wenn dies der Fall wäre, müssten die Inhalte in chronologischer Reihenfolge gezeigt werden. Diese Möglichkeit hat man bei TikTok und auch bei Instagram Reels nicht, denn hier übernimmt ein Algorithmus den Feed. Wenn aber ein für User und Behörden nicht durchschaubarer Algorithmus am Werk ist, dann ist die Plattform auch voll verantwortlich für die Fake News, die Accounts verbreiten. Die sie schieben diese Postings gegen den Willen der User in deren Timeline. Dementsprechend sollten TikTok und Instagram Reels auch zur Rechenschaft gezogen werden können. Und zwar unverzüglich.

Die Alternative wären entweder eine schärfere Content-Moderation durch den Plattformbetreiber oder eine im Video sofort sichtbar gemachte Community Note, die Falschaussagen richtigstellt. Community Notes funktionieren aber schon bei X nicht gerade besonders gut. Was dagegen sehr gut funktioniert hatte, war die Lösung von Twitter, verifizierte Accounts einzuführen. Die nur nach einer Überprüfung erfolgte Verifizierung sorgte dafür, dass Accounts mit dem "blauen Haken" vor der Übernahme durch Elon Musk als besonders vertrauenswürdig galten. 

Eine Lösung wäre also, solche kostenlosen Verifizierungen auf den Plattformen wieder einzuführen. Der zweite Schritt muss aber dann auch daraus bestehen, dass man den Algorithmus so gestaltet, dass in politischen Krisen oder zu kontroversen Themen verifizierte Accounts vom Algorithmus automatisch bevorzugt werden, um die Masse an Fake News auf den Plattformen einzudämmen.

TikTok und auch die anderen Plattformen könnten dies leicht machen, scheuen allerdings offenbar die Ausgaben. Und wenn sie dies weiter so halten, dann sollte man ernsthaft über ein Verbot nachdenken. 

Links zum Thema

• EU-Kommission verwarnt auch TikTok
  "Wegen Falschinformationen im Zusammenhang mit dem Hamas-Angriff auf Israel und seinen Folgen hat die EU-Kommission nun auch den Onlinedienst TikTok verwarnt. "Wir haben Informationen, dass TikTok genutzt wird, um illegale Inhalte und Falschinformationen in der EU zu verbreiten", schrieb EU-Digitalkommissar Thierry Breton an Tiktok-Chef Shou Zi Chew.”

• Warum sich Desinformation auf TikTok so effektiv verbreitet
  ”Dass TikTok Desinformation nicht unbedingt als solche erkennt, belegen verschiedene wissenschaftliche Experimente: Forscher der New York University platzierten im vergangenen Jahr auf drei Plattformen 20 verschiedene politische Wahlwerbespots. Alle der eigens für den Versuch erstellten Anzeigen enthielten Falschinformationen. Während Facebook zumindest einen Teil und Youtube sogar alle der Spots als falsch erkannte und daraufhin sperrte, ließ TikTok 90 Prozent zur Veröffentlichung zu.”

• Hilfe gegen Desinformation auf TikTok
  ”Ein ATHENE-Forschungsteam der Technischen Universität Darmstadt hat erstmals untersucht, wie man Jugendliche auf der Kurzvideoplattform TikTok bei der Erkennung von Desinformation unterstützen kann. Ergebnis: Die Jugendlichen akzeptieren Warnhinweise besonders gut, wenn diese nachvollziehbar begründet werden. Anzeichen für Desinformation auf einer Videoplattform lassen sich zum Beispiel in Kommentaren oder bei den Urheber-Informationen finden, und auch emotionalisierende Musik, Mimik und Gestik können ein Hinweis auf Desinformation sein.”

• TikTok und Rechtsextremismus

  “Social Media ist für die Verbreitung rechtsextremistischer Ideologie mittlerweile das bevorzugte Mittel. Die App TikTok steht aktuell besonders im Fokus, weil die Propaganda hier schnell in ein modernes Format gebracht und nicht zuletzt an junge Menschen adressiert werden kann.”

• TikTok gegen Fake News Intransparent und dilettantisch

  “Technisch „grottoid“ seien die Maßnahmen, mit denen TikTok seine Plattform von Falschinformationen zur Bundestagswahl frei halten wollte, sagt Marcus Bösch, Autor einer Studie zu diesem Thema. Da hilft auch die Kooperation mit der ARD nicht.”

Infografik der Woche