Wie Künstliche Intelligenz in sozialen Netzwerken der Demokratie schadet

Ein großes Forschungsprojekt, an dem auch die Universität Trier beteiligt ist, will der Europäischen Union (EU) Empfehlungen für die Regulierung von Social Media geben.

In sozialen Netzwerken wie X, Facebook oder TikTok verbreiten sich Fehlinformationen oder radikale Meinungen schnell. Dies wird mitunter durch die den Netzwerken zugrundeliegenden KI-Algorithmen begünstigt. Diese filtern und ranken Inhalte anhand von Nutzerverhalten und sorgen potenziell auch dafür, dass Mitgliedern Inhalte immer aus derselben Perspektive angezeigt werden. Dadurch können Filterblasen und Radikalisierungstendenzen entstehen, die wiederum gefährlich für die Demokratie werden können. Diese Mechanismen sind von verschiedenen Seiten bereits erforscht worden. Ein neues, von der EU gefördertes Projekt hat nun einen spannenden, interdisziplinären Ansatz, um durch Simulation mehr Licht in die Thematik zu bringen. Ziel des Forschungsprojekts TWON ist es, bis 2026 der Europäischen Union Empfehlungen zu geben, wie Social Media besser reguliert werden können.

Das Verbundprojekt, an dem neben der Universität Trier sieben weitere Forschungseinrichtungen aus insgesamt vier europäischen Ländern beteiligt sind, möchte mittels Simulation Kopien von sozialen Netzwerken erschaffen. Die „digitalen Zwillinge“ sollen reale soziale Netzwerke, sowohl deren Nutzerinnen und Nutzer als auch deren Mechanismen, widerspiegeln. Die Computerlinguistik der Universität Trier unter Leitung von Prof. Dr. Achim Rettinger bringt ihre Expertise im Bereich maschinelles Lernen in das Projekt ein und trainiert die Kopien, damit sie sich möglichst identisch zum realen Vorbild verhalten.

Digitale Zwillinge

„Wir setzen für das Training der Künstlichen Intelligenz hunderttausende Interaktionen auf sozialen Netzwerken ein, um ein ähnliches Verhalten im Vergleich zu echten Nutzern zu erhalten“, erklärt Rettinger. Die Trierer Forschenden verwenden dafür Sprachmodelle, auf denen beispielsweise auch ChatGPT basiert. So kann das Projektteam mit den digitalen Zwillingen nicht nur Posts, Likes und Kommentare auf sozialen Netzwerken simulieren, sondern auch die Verbreitung von Inhalten nachbilden.

Konkret werden die Forschenden verschiedene Themen in die digitalen Zwillinge einspielen, wie beispielsweise die Corona-Pandemie oder den Krieg in der Ukraine. Durch die Analyse der Verbreitungswege erhoffen sie sich neue Erkenntnisse darüber, wie in Social Media Polarisierung und Fake News verstärkt bzw. reduziert werden können. Da die digitalen Zwillinge verschiedene Plattformen, Regionen und auch Sprachen abdecken, soll am Ende des Projekts eine verallgemeinerbare Prognose zu den Auswirkungen von Social Media auf die demokratische Debatte stehen. Die Handlungsempfehlungen des Projekts sollen dann Grundlage möglicher europäischer Reformen zur Regulierung von Social Media sein.

Weitere Informationen zum Projekt

Kontakt

Prof. Dr. Achim Rettinger
Computerlinguistik
Mail: rettingeruni-trierde
Tel. +49 651 201-2271