Detektion von Directed Hate Speech, Online Harassment und Cyberbullying in Online Communities
In Online Communities verbreiten sich digitale Inhalte schnell und weitestgehend ohne Inhaltsprüfungen, wodurch die Gefahr des Missbrauchs für hasserfüllte Kommunikation besteht. Die Zunahme dieser als Hate Speech bezeichneten Inhalte veranlasst Online Communities zum Einsatz von Personal, um derartige Fälle manuell zu erkennen. Aufgrund der Vielzahl an Nachrichten ist dies jedoch arbeits- und kostenintensiv. Das Ziel der Dissertation besteht darin, Verfahren zur automatischen Detektion von Hate Speech in Online Communities zu konzipieren und zu implementieren. Die entwickelten Verfahren basieren auf einem Sequenzmodell zur Strukturierung von Texten und einem Pattern-basierten Ansatz zur Detektion von Bezügen zwischen hasserfüllten Wörtern und referenzierten Opfern. Die Evaluationsresultate zeigen eine Verbesserung der Klassifikationsgüte gegenüber existierenden Verfahren. Zudem ermöglicht das Verfahren die Analyse von zusammenhängender Kommunikation in Rahmen von Cyberbullying.