Reddit will KI-Betrug stoppen - und legt dabei die Axt an seine Anonymität

Reddit will seine Nutzer verifizieren - und riskiert damit, genau das zu zerstören, was die Plattform für viele ausmacht: Anonymität und offene Diskussionen ohne Klarnamenpflicht. Hintergrund ist ein massiver KI-Betrug im Subreddit Change My View, bei dem Forschende der Uni Zürich mit Hilfe von Sprachmodellen über 1.700 KI-generierte Kommentare veröffentlichten. Darunter: Fake-Personas wie ein Vergewaltigungsopfer, ein Missbrauchstherapeut oder ein Gegner von Black Lives Matter. Alles ohne Einwilligung der Community - wir berichteten.

Das Ganze war nicht nur ein klarer Verstoß gegen die Reddit-Regeln, sondern auch gegen so ziemlich jeden ethischen Standard für Experimente mit echten Menschen. Und trotzdem: Die Universität gab der Studie grünes Licht zur Veröffentlichung. Die Empörung im Subreddit ist nachvollziehbar - und Reddit reagiert.

„Keep Reddit human“ - mit Verifizierung

CEO Steve Huffman kündigte Maßnahmen an, um die Plattform „menschlich“ zu halten. Heißt konkret: Nutzer sollen in Zukunft nachweisen, dass sie Menschen sind - und in manchen Ländern auch volljährig. Dafür will Reddit mit Drittanbietern zusammenarbeiten, die angeblich nur das absolut Notwendige prüfen. Namen oder Identitäten sollen dabei nicht offengelegt werden.

Klingt erstmal harmlos. Aber die Formulierung „we need a little more information“ lässt tief blicken - vor allem, wenn Reddit gleichzeitig keine Details nennt. Welche Anbieter? Welche Daten? Wann und bei wem greift die Maßnahme?

Reddit auf dem Weg zum Realnamen-Netzwerk?

Die Plattform ist seit jeher ein Rückzugsort für Diskussionen unter Pseudonym. Ob Depression, Sexualität oder politische Meinungen - viele Themen wären mit Klarnamen undenkbar. Der Schritt in Richtung Identitätsprüfung - so gut gemeint er sein mag - wirkt wie ein Kontrollinstrument, das bei vielen Nutzern genau das Gegenteil bewirken könnte: Rückzug.

Zumal es Beispiele gibt, wie schnell „anonyme“ Accounts doch zur Datenquelle werden - etwa als Meta in einem Fall private Chatverläufe mit Strafverfolgern teilte. Auch hier war der Nutzer angeblich geschützt.