(Semi-)Automatische Kommentarmoderation zur Erhaltung Konstruktiver Diskurse

Niemann, Marco; Assenmacher, Dennis; Brunk, Jens; Riehle, Dennis Maximilian; Becker, Jörg; Trautmann, Heike

Abstract

„Hassrede“ ist bereits seit Jahrzehnten und Jahrhunderten Teil der Gesellschaft; auch im Internet sind solche Stimmen seit dem Beginn der öffentlichen Nutzung präsent. Durch den zunehmenden Wandel zum interaktiven Internet – oder auch Web 2.0 – hat sich diese Präsenz jedoch verstärkt und wird zusätzlich durch den Deckmantel der Anonymität genährt. Soziale Netzwerke, aber auch Medienhäuser stehen zunehmend unter dem Druck, Nutzer*innen eine offene Dis- kussionsplattform zu bieten, diese jedoch gleichzeitig von problematischen Inhalten frei zu halten und so rechtliche Konsequenzen abzuwehren. Vielfach beugen sich Anbieter*innen dem ökonomischen Druck und deaktivieren solche Diskussionsorte, da diese oftmals mit menschlicher Moderation kaum wirtschaftlich zu betreiben sind. Zur Entlastung der menschlichen Moderator*innen bedienen sich Praktiker*innen und Wissenschaftler*innen der Werkzeuge der sich rasch entwickelnden Domänen des Machine Learning und des Natural Language Processing. Basierend auf dort entwickelten Algorithmen und Methoden wird versucht, Lösungen zu entwickeln, welche teilautomatisiert problematische Texte identifizieren können. Damit gehen diverse Probleme einher, welche von der Erstellung geeigneter Lerndaten über die Auswahl passender Algorithmen bis hin zu der wirtschaftlichen Bereitstellung einer solchen Lösung reichen. Zwar ist dieser Forschungsbereich noch recht jung, dennoch gibt es bereits vielversprechende Forschungsergebnisse inklusive neuartiger, digitaler Geschäftsmodelle, die die verfügbaren Erkenntnisse einer breiten Masse von Medienunternehmen zugänglich machen sollen.