Twitter kann Neonazis und weiße Rassisten automatisch verstecken, entscheidet sich aber dagegen

Wie viel sind Social-Media-Unternehmen für die von ihnen veröffentlichten Inhalte verantwortlich? Es gibt ein allgemeines Argument – ​​ich habe es selbst gemacht – das besagt, dass das Monster ihrer Kontrolle entzogen ist. Auf YouTube wird jeden Tag Filmmaterial aus 65 Jahren hochgeladen. Wer wird möglicherweise jede Minute beobachten, um sicherzustellen, dass nichts davon gegen das Gesetz verstößt? Unabhängig davon, ob wir diese Position durch eine frühere behördliche Prüfung hätten vermeiden können oder nicht, wir sind dort, wo wir jetzt sind, und es ist schwer vorstellbar, dass der Geist wieder in die Flasche gestopft wird, egal wie sehr die Regierung dies wünschen mag.

Aber ist das wirklich so?

Zwei Dinge haben mich veranlasst, diesen Glauben zu überdenken. Die erste ist das Lesen von Jonathan Taplins ausgezeichnetem Buch Move Fast and Break Things was einen einfachen Kontrapunkt hervorhebt:Wann haben Sie das letzte Mal Pornos auf YouTube gesehen? Die Antwort lautet höchstwahrscheinlich nie. Und das liegt nicht daran, dass die Leute es nicht hochladen. Irgendwie hat Google es geschafft, die Bedrohung auf eine Weise zu neutralisieren, die es nicht mit terroristischen Propagandavideos und Neonazi-Schlägern aufnehmen kann. Vielleicht ist es ein komplexeres Problem, aber es scheint, dass dort, wo ein Wille ist, auch ein Weg ist.

„Ändern Sie Ihren Standort nach Deutschland und dank der Macht des deutschen Strafgesetzbuchs § 86a verschwinden Konten mit Hakenkreuz-Symbolen auf magische Weise“

Das zweite hängt damit zusammen. Wenn Sie Twitter verwenden, sind Ihnen in letzter Zeit zweifellos zwei Dinge aufgefallen. Erstens:Es ist schwer zu wissen, wer echt ist und wer ein Bot ist, der darauf programmiert ist, eine politische Agenda zu verfolgen; und zweitens:Die Seite hat ein echtes Problem mit Neonazis und weißen Rassisten. Mein Bauchgefühl war, dass Twitter aus den gleichen Gründen, aus denen YouTube sich die Hände waschen kann, diese Probleme angehen könnte:Es gibt einfach nicht genug Leute, die moderieren und so tun, als hätten sie den Anschein von Rentabilität.

Aber dann fand die Twitter-Nutzerin @christinapeterso etwas Interessantes. Wenn Sie Ihren Standort nach Deutschland verlegen, verschwinden dank der Macht des deutschen Strafgesetzbuchs § 86a weiße Supremacisten und Konten mit Hakenkreuzbildern auf magische Weise von der Website.

Ich habe das selbst bestätigt. Soweit Twitter weiß, sitze ich gerade in Deutschland. Und es funktioniert. Sehen Sie sich diesen Screenshot an, bevor Sie herumgegraben haben ...

…und danach:

Twitter hat die Macht, also warum nutzt es sie nicht?

Also, wenn Twitter Konten von weißen Supremacisten automatisch blockieren kann, warum tut es das nicht? Die Geschäftsbedingungen zu diesem Thema sind ziemlich klar:

Beispiele dafür, was wir nicht tolerieren, sind unter anderem Verhaltensweisen, die Einzelpersonen oder Personengruppen belästigen durch:

• gewalttätige Drohungen;
• wünscht sich körperliche Schäden, den Tod oder die Krankheit von Einzelpersonen oder Gruppen;
• Verweise auf Massenmord, gewalttätige Ereignisse oder spezifische Gewaltmittel, bei denen/mit denen solche Gruppen die primären Ziele oder Opfer waren;
• Verhalten, das Angst vor einer geschützten Gruppe schürt;
• wiederholte und/oder nicht einvernehmliche Beleidigungen, Beinamen, rassistische und sexistische Ausdrucksweise oder andere Inhalte, die jemanden erniedrigen.

Wir wissen, dass die Seite in der Vergangenheit ziemlich nachlässig war, diese Dinge aktiv durchzusetzen, aber hier ist eine Antwort, die scheinbar hasserfüllte Konten automatisch blockiert … also warum lässt Twitter nicht deutsche Einwohner auf die geheime Sauce zugreifen?

Als ich Twitter kontaktierte, um sie direkt zu fragen, erhielt ich eine vorgefertigte Antwort, die mich auf die Allgemeinen Geschäftsbedingungen verwies. Genau dieser Abschnitt. „Mit Hunderten von Millionen Tweets, die jeden Tag auf der ganzen Welt gepostet werden, ist es unser Ziel, die Meinung unserer Nutzer zu respektieren und gleichzeitig die geltenden lokalen Gesetze zu berücksichtigen“, fasste ein Sprecher zusammen.

„Es gibt einen Unterschied zwischen dem Schutz unterdrückter Gruppen in autoritären Regimen und der Verstärkung der Stimmen von Hassgruppen in offenen Demokratien, und die Vermischung der einen mit der anderen fühlt sich unaufrichtig an.“

Das fühlt sich verdächtig an wie die Paraphrase „Wir werden nichts tun, wenn wir nicht unbedingt müssen“ (siehe auch:Facebook und Entfernung von Inhalten zur Holocaustleugnung) nur mit einer kuscheligeren idealistischen Schattierung. Das Unternehmen sonnt sich vielleicht immer noch im Glanz des Arabischen Frühlings von 2011, als es den Zusammenbruch von Diktaturen im Nahen Osten anerkennt. Aber es gibt einen Unterschied zwischen dem Schutz unterdrückter Gruppen in autoritären Regimen und der Verstärkung der Stimmen von Hassgruppen in offenen Demokratien, und die Vermischung der einen mit der anderen fühlt sich unaufrichtig an.

Meinungsfreiheit> Alles andere (außer der Drohung, verboten zu werden)

Dies ist seit langem ein internes philosophisches Dilemma für Twitter, das auf der Idee der freien Meinungsäußerung basiert. „Die Leute, die Twitter betreiben … sind nicht dumm“, sagte die ehemalige Nachrichtenchefin des Unternehmens, Vivian Schiller, zu Buzzfeed vergangenes Jahr. „Sie verstehen, dass diese Toxizität sie töten kann, aber wie zieht man die Grenze? Wo ziehst du die Grenze? Ich würde eigentlich jeden herausfordern, eine perfekte Lösung zu finden. Aber es fühlt sich bis zu einem gewissen Grad an, als würde es zur Lähmung führen.“ Ein anderer anonymer ehemaliger Mitarbeiter drückte es prägnanter aus und kommentierte, dass Twitters „Produktuntätigkeit einen Honigtopf für Arschlöcher geschaffen hat.“

Also, was können wir daraus lernen? Twitter ist sehr zögerlich, irgendetwas zu tun, um seine Anmeldeinformationen für die freie Meinungsäußerung zu beschädigen, obwohl es weiß, dass Untätigkeit die Plattform zerstört. Inzwischen wissen wir, dass es handeln kann, wenn es gesetzlich vorgeschrieben ist – wie es mit seiner automatischen Filterung in Deutschland getan wurde.

Es scheint also, dass Regierungen immer noch die Macht haben, bedeutende Änderungen in sozialen Netzwerken zu erlassen, aber es gibt zwei Vorbehalte. Erstens sind die deutschen Gesetze gegen Nazi-Ikonographie und -Literatur seit 1945 in Kraft – als solche sind sie tief in der deutschen Kultur verwurzelt und für Technologiegiganten, egal wie groß, schwerer zu umgehen. Neue reaktive Gesetze können sowohl bekämpft werden als auch sind schwerer sinnvoll umzusetzen, wenn sie bereits täglich gebrochen werden.

„Neue reaktive Gesetze können sowohl bekämpft werden als auch sind schwerer sinnvoll umzusetzen, wenn sie bereits täglich gebrochen werden.“

Zweitens hängen solche Gesetze von einer starken Regierung ab, die sie durchsetzt – die Art von starker Regierung, die keine Angst davor hat, dass eine Oppositionspartei ihnen den Boden unter den Füßen wegzieht, indem sie sich widersetzt. Das klingt bedauerlicherweise nicht nach der Regierung des Vereinigten Königreichs.

Ein Jahrzehnt öffentlicher Druck zusammen mit potenziellen Käufern, die durch den Ruf von Twitter erschreckt wurden, reichte nicht aus, um das Unternehmen dazu zu bringen, seine Vorgehensweise zu ändern. Ein vorgeschlagener freiwilliger Verhaltenskodex ist weniger ein Schlag aufs Handgelenk als eine sanfte Liebkosung.