Prof. Dr. Melanie Siegel leitet das neue Forschungsprojekt BoTox, das sich mit der Problematik der Hasskommentare in sozialen Medien befasst. Die Identifikation und Beurteilung solcher Kommentare erfordert eine Bewertung sowohl aus moralischer als auch aus strafrechtlicher Sicht. Dies stellt Betreiber von sozialen Netzwerken vor die Herausforderung, Kommentare, die strafbare Handlungen darstellen, zu entfernen, ohne die Meinungsfreiheit zu beschränken.

Die schiere Menge an automatisch erkannten oder von Nutzern gemeldeten Hasskommentaren ist erheblich. Sowohl Netzwerkbetreiber als auch Strafverfolgungsbehörden und Gerichte haben Schwierigkeiten bei der Einordnung, da das Strafgesetzbuch keine spezifischen Bestimmungen für Hasskommentare enthält und Kommentare oft unterschiedlich interpretiert werden können.

Das Forschungsprojekt DeTox, unter der Leitung von Prof. Dr. Melanie Siegel, war das erste, das einen annotierten Datensatz zur Verfügung stellte, der die strafrechtliche Relevanz von deutschsprachigen Hasskommentaren berücksichtigte und erste Klassifikatoren entwickelte. BoToX wird den Schwerpunkt auf strafrechtlich relevante Hasskommentare legen und diese genauer analysieren, um sie entsprechend den relevanten Straftatbeständen zu kategorisieren. Weiterhin wird daran geforscht, ob es möglich ist, automatisch generierte Desinformation automatisch zu erkennen. Schließlich beschäftigt sich das Projekt mit der Verbreitung von Hasskommentaren in Netzwerken, um mögliche Strategien zu entwickeln, diese Verbreitung zu stoppen.

Der Ansatz soll dazu beitragen, die Identifikation und Bekämpfung von Hasskommentaren in der digitalen Welt zu verbessern.

Das anwendungsbezogene Projekt kooperiert eng mit der Meldestelle "HessenGegenHetze" (https://hessengegenhetze.de/), die die im Projekt entwickelten Werkzeuge testen und in der täglichen Arbeit einsetzen.