Hast du dich schon mal gefragt, wie es um die Meinungsfreiheit oder „Hassreden“ in Deutschland bestellt ist? Ich bin zufällig auf eine Website gestoßen, auf der du Aussagen bewerten kannst.

Das Hate Speech Assessment Tool von Nulu.io verstehen

Diese Anwendung zeigt, wie www.nulu.io, ein deutsches KI-Unternehmen, potenzielle „Hassrede“ in Texten bewertet. Da Hassrede kein präziser Rechtsbegriff ist und die Definitionen variieren, gibt dieses Tool einen Einblick, wie solche Bewertungen in der Praxis funktionieren.

Über Nulu

Nulu ist ein deutsches KI-Unternehmen, das vor allem Kunden aus dem öffentlichen Sektor bedient, darunter auch Schulen. Mit ihrem Tool zur Erkennung von Hassreden können Nutzer/innen einen Text einreichen und erhalten eine automatische Bewertung per E-Mail.

Die Anwendung hilft übrigens auch beim perfekten Gendern. 

👉🏿 Die Anwendung ist so langsam dass ich manchmal denke, das sitzt ein einzelner Mitarbeiter und spielt "KI"... Geduld bis zum nächsten Morgen ist erforderlich! 

So funktioniert das Tool

Die Nutzer/innen geben ihre E-Mail-Adresse und eine Aussage ein. Das System bewertet dann den Text und sendet einen Risikoprozentsatz zurück, der die Wahrscheinlichkeit angibt, dass die Aussage:

• Hassrede-Elemente nach deutschem Recht enthalten

• rechtliche Konsequenzen (polizeiliche Ermittlungen, Geld- oder Freiheitsstrafen) nach sich ziehen.

Die Bewertung basiert auf der deutschen Gesetzgebung zu persönlichen Beleidigungen und anderen relevanten Gesetzen, einschließlich des besonderen Schutzes für Politiker nach §188.

Einschränkungen

Nulu.io gibt nur einen einzigen Prozentsatz an (z. B. 65 %), ohne die Gründe oder die Methodik zu erläutern.

Mögliche Anwendungen

Das Unternehmen macht keine Angaben zum Verwendungszweck, aber mögliche Anwendungen könnten sein:

• Selbstkontrolle/Zensierung zur Vermeidung rechtlicher Probleme

• Meldung bedenklicher Inhalte an Behörden wie die Polizei

• Zusammenarbeit mit „Trusted Flagger“-Organisationen

• Einleitung von Gerichtsverfahren

Über vertrauenswürdige Flagger

Ein ergänzendes Konzept ist das der „Trusted Flaggers“. Sie sind eine Möglichkeit, Inhalte zu melden.

Die Europäische Union hat das „Trusted Flagger“-Konzept eingeführt, bei dem ausgewiesene Nichtregierungsorganisationen (NGOs) und andere Organisationen Hassreden oder sogenannte „Desinformationen“ an die Behörden melden können.

Zumindest in Deutschland ist der seltsam benannte Trusted Flagger „Respect“ eine politische Organisation, die von den deutschen Grünen gegründet wurde und durch staatliche Programme finanziert wird. Ich persönlich halte sie für eine Zensurorganisation mit politischer Ausrichtung.

In anderen Ländern, zum Beispiel in Irland, mag das nicht der Fall sein. Hier ist es die wirklich angesehene Central Bank of Ireland.

Kontext mit KI hinzufügen

Da Nulu.io keine Begründungen für seine Bewertungen liefert, hat diese Mini-Anwendung Claude.ai benutzt, um mögliche Kriterien vorzuschlagen, die den Risikoprozentsatz beeinflusst haben könnten. Beide KI-Systeme greifen wahrscheinlich auf ähnliche Wissensgrundlagen zurück, sodass dies ein sinnvoller Ansatz ist, um die Bewertungslogik zu verstehen.