Tastatur-Bashing-Trolle sind die Norm in der Twitterverse und das soziale Netzwerk hat keine gute Arbeit geleistet, um es zu kontrollieren. So sehr, dass eine Drittanbieter-Kreativagentur namens Possible es für notwendig hielt, einzugreifen und Hassreden in etwas Gutes zu verwandeln, indem sie eine Kampagne namens „We Counter Hate“ startete.
In Zusammenarbeit mit Spredfast konnte Possible eine KI trainieren, um hasserfüllte Tweets zu erkennen. Wenn die KI die hasserfüllte Nachricht erkennt, sendet ein menschlicher Moderator dem Troll einen Gegen-Tweet und macht ihn darauf aufmerksam, dass sein Tweet von karmischer Güte gekontert wurde. Für jeden Retweet, den We Counter Hate erhält, spendet Possible mit Spenden aus der Öffentlichkeit 1 US-Dollar an die gemeinnützige Organisation Life After Hate.
Im Gespräch mit VentureBeat , Possible erklärte, wie das Team seinen Bot darauf trainierte, Hassreden zu erkennen, indem es Gregory Stantons Ten Stages of Genocide adaptierte und sein Dokument auf die nur für Twitter relevanten Teile verdichtete – von Tweets, die entmenschlichen sollen, bis hin zu Tweets, die Gemeinschaften polarisieren sollen.
In Zusammenarbeit mit Spredfirst, um eingehende Nachrichten zu moderieren, kategorisiert die KI diese Tweets in die verschiedenen Streams von Hassreden. Mögliche füttert dies dann durch sein System, damit es die sprachlichen Nuancen der Sprache lernen kann. Sobald es trainiert wurde, kennzeichnet es Nachrichten, damit menschliche Moderatoren eingreifen und identifizieren können, was wirklich Hassrede ist und was möglicherweise nur durch das System verwirrt wurde.
(Oben:Ein Beispiel für @we_counter_hate in Aktion)
Trolle auf ihrer Lieblingsplattform bekämpfen? Es ist eine schöne Idee. Außer … es gibt ein paar große Mängel.
Die Probleme bei der Verwendung von Bots zur Bekämpfung von Trollen
Trolle lieben es, an sich gute Zwecke zu ruinieren. Ich kann nicht umhin, an eine schmerzhafte Reihe von Ereignissen mit dem Schauspieler Shia LaBeouf erinnert zu werden. In einer Online-Kunstperformance mit dem Titel He Will Not Divide Us versuchte LaBeouf, einen 24-Stunden-Stream zu starten, um gegen die Amtseinführung von Donald Trump zu protestieren. Es sollte während der gesamten Amtszeit von Trump gezeigt werden, aber sein Zuhause im Museum of the Moving Image hielt nach einem groß angelegten Trollangriff nur knapp drei Wochen.
We Counter Hate scheint das beste Rezept für das Scheitern von Labeouf zu sein. Es ist nicht schwer, sich Szenarien vorzustellen, in denen Trolle ständig Wege finden, den Bot zu knacken.
Zweitens, wirkt die Kampagne nicht auf perverse Weise fast wie ein Anreiz für Hassreden? Wenn Sie mehr von den Konter-Tweets sehen möchten, müssen hasserfüllte Tweets in erster Linie im sozialen Netzwerk gepostet werden. Es kann passieren, dass Leute Hassreden posten, um den Bot auszulösen.
Während Kampagnen wie diese theoretisch eine gute Sache sind, irrt sich der größte Teil meiner Skepsis auf der Seite, die besagt, dass dies alles in Tränen für die Benutzer enden wird. Die Sache ist die, dass es keine eindeutige Lösung gibt, um Online-Trolle zu bekämpfen. Die Probleme stammen wohl von den Systemen sozialer Netzwerke selbst; Dinge wie Twitter und Facebook verwickeln sich oft in Knoten, die versuchen, sich zu lösen. Es gibt keine einzige kugelsichere Lösung, und ein Bot, der letztendlich zugunsten der Vermarktung einer Kreativagentur funktioniert, wird das Problem wahrscheinlich nicht alleine lösen.