Künstliche Intelligenz Forscher entwickeln Textscanner, um mit KI Manipulationen zu erkennen

In der politischen Willensbildung – besonders vor Wahlen – spielen Medien eine entscheidende Rolle. Eine KI-Forschergruppe aus Coburg hat jetzt eine Bias-Textscanner entwickelt, mit dem vorverurteilende Wertungen, Manipulation und Propaganda entdeckt werden können.
von Katrin Tominski, MDR Wissen

In aktuellen politischen und gesellschaftlichen Diskussionen spielen Medien eine zentrale Rolle. Immer wieder wird über eine einseitige, in Teilen abschätzige oder auch vorverurteilende und populistische Berichterstattung diskutiert. Diese Phänomene verstärken sich in den sozialen Medien, die – anders als journalistische Medien – das Trennen von Fakten und Meinungen nicht kennen. Um eventuelle Manipulationen und auch Propaganda in Texten zu erkennen, hat jetzt ein Forscherteam aus Coburg auf der Basis von künstlicher Intelligenz einen Bias-Textscanner entwickelt.

"Medien sind für die politische Willensbildung als vierte Gewalt im Staat für unsere Demokratie unerlässlich", erklärt Jochen Leidner, Professor für Künstliche Intelligenz an der Hochschule Coburg. Leider seien die nachrichtliche Medienkompetenz vor allem bei jüngeren Menschen und die technologische Medienkompetenz bei älteren Menschen nicht immer so ausgebildet, um mit dem immensen Tempo der digitalen Entwicklung und ihrer damit verbundenen Veränderung der Kommunikation Schritt zu halten.
"Die Feinde der Demokratie sind stark gerüstet, das haben wir zuletzt bei dem Skandal um das elektronische Beratungsunternehmen Cambridge Analytica gesehen. Dort wurden mit Hilfe von Facebook-Daten Persönlichkeitsprofile erstellt, um Menschen bei der Brexit-Volksabstimmung und auch der Präsidentenwahl in den USA zielgerichtet politisch zu agitieren und zu manipulieren", erklärt Leidner. "Die Gegner der Demokratie versuchen zu spalten, vielleicht kann hier die Forschung helfen. Wir brauchen ein technologisches Gegenmittel, um eine geopolitische propagandistische Berichterstattung zu bekämpfen."

Weiterlesen:

https://www.mdr.de/wissen/bildung/forsch...kennen-100.html

Menzner, T. und J.L. Leidner (2024) "Experiments in News Bias Detection with Pre-trained Neural Transformers" Proc. ECIR 2024, Glasgow
https://link.springer.com/chapter/10.100...56066-8_22 ;
Der Textscanner kann hier in einer Demoversion getestet werden: https://biasscanner.org/#demo

Hier kann das Plug-in für Firefox heruntergeladen werden, ein Plug-in für Chrome soll folgen, ebenso Android und iOS für mobile Geräte:

https://addons.mozilla.org/de/firefox/addon/bias-scanner/