So hilft mir die KI beim Moderieren einer Community

“Das wird man ja noch sagen dürfen!“, oder: “Der saubere Herr ist auch von der Pharma-Lobby gekauft!“, oder: “Der wünsche ich, dass sie mal selbst von einer ‘Fachkraft’ rangenommen wird!” Mit Nutzer-Kommentaren zurecht zu kommen ist nicht einfach – kann eine KI helfen?

Nutzerkommentare zu moderieren — das fehlt mir nicht wirklich. Seit ich im Community Management eingesetzt wurde, sind ein paar Jahre verstrichen, und seitdem ist Community-Redaktion noch mehr zu einem Job im Schützengraben geworden: Wo man vor ein paar Jahren nur mit einem einstelligen Prozentsatz von Irren und Ideogen zu tun hatte — die anstrengend genug waren — dominieren sie inzwischen einen Großteil der Kommentarstränge.

Case in point: ich habe mir die Kommentare bei einem einzelnen aktuellen Post auf Facebook angeschaut. Es geht um den Comedian Nizar, der Podcast-Gastgeber bei den Behinderten-Äußerungen von Luke Mockridge war, schon öfter mit antisemitischen Klischees aufgefallen ist (spiegel.de) und nun von einem Veranstalter ausgeladen wurde.

Muss das sein? Kann man diskutieren. Aber die mehreren tausend Kommentare blieben nur selten sachlich. Gut 20 Prozent der Kommentare zu diesem Post wurden wegen Verstoßes gegen die Netikette entfernt oder verborgen. Und worum es in diesen Kommentaren ging… hier eine mit TF-IDF  erstellte Kommentarwolke zu den Themen der wegmoderierten Kommentare…

…die stehen gebliebenen sind allerdings häufig nicht besser: Die Kommentatoren blieben einfach nicht beim Thema; hier die TF-IDF-Wortwolke. Es geht immer (mindestens) ums Große, Ganze. Um den von den Rechtsradikalen ausgerufenen “Kulturkampf”.

Die Wutmaschine ist übermächtig geworden. Sie ist ohne Unterstützung für Community-Redakteure kaum noch zu bewältigen. Übrigens, wer sich fragt, woher das stammt: vielleicht hat die radikale Rechte einfach in den vergangenen Jahren klug investiert? Mit gelegentlichen potenten Unterstützern? (taylorlorenz.substack.com)

Jedenfalls: eine Community-Redakteurin kann alle Hilfe brauchen, die sie kriegen kann – wenn sie ihren Job machen will: dafür sorgen, dass ein konstruktives Diskussionsklima herrscht, und dass die, die wirklich diskutieren wollen, das unbelästigt tun können. Dabei kann eine KI helfen, die Antwortvorschläge erzeugt – nach einem System, dass aus der Kommunikationsforschung stammt.

Ein KASI-Moderationsassistent!

Wissenschaftler wissen, dass “Inzivilität” in Kommentaren — Wut und Aggression — ansteckend wirkt. Auch auf Menschen, die eigentlich keine Trolle sind – und mit denen man durchaus reden kann. Diese Beobachtung steckt hinter einer Moderations-Methode, die an der Uni Düsseldorf entwickelt wurde. “KASI” versucht, für jeden Kommentator einen von drei passenden Antwortstilen zu nutzen: 

• Kognitiv für Menschen, die man mit Argumenten erreichen möchte
• Affektiv für Menschen, die auf positive oder negative emotionale Erfahrungen reagieren
• Sozial-integrativ mit dem Ziel, die Gemeinschaften in einer Community zu betonen.

Eine Beschreibung der Methode mit Beispielen findet sich bei der NRW-Medienanstalt; ich habe sie mit ein paar Definitionen und Beispielen ergänzt und daraus einen Prompt gebastelt, damit eine KI mir Antwortvorschläge erstellen kann. Auf der Basis habe ich zum einen ein Custom GPT erstellt — anscheinend kann man die jetzt auch ohne ChatGPT-Plus-Bezahlkonto benutzen! — und hier unten den Prompt im Volltext verborgen, für eigene Experimente.

Heißt das, ich lasse die KI antworten?

Nein. Zwei Dinge sind mir wichtig:

• Wie jede Methode kann auch diese ausgehebelt werden. Ich vermute, dass man sie mit robuster Moderation begleiten muss, um die offensichtlichen Propagandisten und Trolle aus dem Spiel zu halten.
• Wichtig ist der “human in the loop”. Die KI kann helfen, über die bleierne Lähmung hinwegzukommen, die einen bei manchen Kommentaren befällt, und einem erste Ideen verschaffen. Antworten muss man trotzdem noch selbst.

Nutzen die Trolle schon KI?

Mal ehrlich: Die Trolle und ihre nützlichen Idioten sind doch auch nicht blöd. Aber wenigstens scheinen sie noch nicht in breitem Maßstab auf generative KI zu setzen, um uns noch mehr Arbeit zu machen.

Für eine nicht repräsentative Stichprobe habe ich den Thread oben durch einen KI-Detektor laufen lassen – von dem und den Ideen dahinter mal mehr bei anderer Gelegenheit. Jedenfalls habe ich mit diesem Detektor unter den mehreren tausend Kommentaren genau zwei gefunden, die der Detektor als mit 99-prozentiger Wahrscheinlichkeit als KI-generierten Text ausweist.

KI-Dektoren sind eingestandenermaßen nicht perfekt. OpenAI sagt, sie funktionieren nicht besonders gut, und ich würde sie nie dazu nutzen, einer einzelnen Person zu unterstellen, dass sie mit KI getrickst hat. Weshalb ich die beiden Kommentare auch nicht verlinke — es reicht vielleicht zu sagen, dass sie den üblichen ChatGPT-Schwafelton haben. Nehmen wir einfach an, da hat sich einfach jemand helfen lassen, ein komplexes Thema wie Redefreiheit auf den Punkt zu bringen.

Trotzdem bin ich überzeugt: Diejenigen, die in einer Mission in unseren Kommentarspalten unterwegs sind, setzen bald verstärkt KI ein. Die Profi-Trolle haben längst richtige Werkzeuge wie “Meliorator” dafür, der antiwoke Hobby-Glaubenskämpfer wird einfach sein feingetuntes, “unzensiertes” (bah!) Open-Source-Modell nutzen.

Im Augenblick ist all der Schaum vor den Mündern aber anscheinend noch auf organischem Wege entstanden.

Auch lesenswert:

• Kommentarmoderation, Boss Level: “Ihr seid alle viel zu nett!”
• Wir brauchen dringend neue Kommentarsysteme! (Oder ein Wunder.)
• Spass mit Hass!