KI, Hate Speech und die Frage, wie demokratisch unsere Plattformen noch sind
Wenn auf Instagram ein Kommentar verschwindet, ein YouTube-Video als problematisch markiert wird oder eine Beschwerde auf X automatisch beantwortet wird, steckt dahinter immer häufiger kein Mensch, sondern ein KI-System. Solche Systeme bewerten Inhalte, entscheiden über Sichtbarkeit, stufen Beiträge herab oder entfernen sie ganz. Damit greifen sie direkt in digitale Öffentlichkeiten ein – und in die Frage, wer gehört wird, wer geschützt wird und wer verstummt.
In dieser Ausgabe von MuT2Go geht es um automatisierte Moderation, digitale Gewalt und Demokratie. Der Einstieg erfolgt über ein popkulturelles Beispiel aus der Meme- und Plattformkultur: Was passiert, wenn Ironie, Hassrede, politische Kritik oder marginalisierte Selbstbeschreibung von Maschinen sortiert werden müssen? Gerade bei Hate Speech und digitaler Gewalt zeigt sich ein zentrales Problem: KI-Systeme sollen schützen, können aber zugleich neue Ungerechtigkeiten erzeugen. Manche verletzenden Inhalte bleiben online, während andere Beiträge fälschlich gelöscht oder unsichtbar gemacht werden.
Dana Mahr stellt dazu das neue Forschungsprojekt
AGORA-KI – Automatisierte Moderation und demokratische Öffentlichkeit: Soziale KI-Agenten im digitalen Diskursraum vor, das sie am KIT-ITAS gemeinsam mit Nora Weinberger und Lahari Yaddanapudi bearbeitet. Das Projekt untersucht seit Juni 2026, wie sogenannte soziale KI-Agenten öffentliche Debatten auf Plattformen wie Instagram, YouTube oder X verändern. Im Zentrum stehen Fragen nach Verantwortung, Transparenz, Fairness und menschlicher Kontrolle: Wer ist eigentlich zuständig, wenn Maschinen entscheiden, was sichtbar bleibt, und was verschwindet?
Am Ende steht eine positive Zukunftsfrage: Wie müssten digitale Diskursräume gestaltet sein, damit KI nicht einfach über Sichtbarkeit und Sagbarkeit entscheidet, sondern demokratisch kontrollierbar bleibt? Statt nur smarter Filter brauchen wir nachvollziehbare Regeln, wirksame Beschwerdemöglichkeiten und öffentliche Kontrolle darüber, wie Plattformen moderieren. Denn digitale Öffentlichkeit ist kein technisches Nebenprodukt, sie ist Teil demokratischer Infrastruktur.
Diese Ausgabe von MuT2Go ist genau richtig für dich, wenn du dich für eines oder mehrere der folgenden Themen interessierst:
- Künstliche Intelligenz und Demokratie
- Digitale Gewalt und Hate Speech
- Social Media und öffentliche Debatten
- Plattformregulierung
- Sichtbarkeit, Moderation und Verantwortung
