TRGCN: ein hybrides Framework zur Erkennung von Gerüchten in sozialen Netzwerken

Warum Online-Gerüchte uns alle betreffen

Von Impfwarnungen bis zu Finanzpaniken kann ein einzelner falscher Beitrag über soziale Medien hinweg Wellen schlagen und das Denken und Handeln von Millionen Menschen prägen. Menschliche Faktenprüfer arbeiten intensiv, um Schritt zu halten, doch das schiere Volumen und die Geschwindigkeit der Online-Diskussionen machen eine manuelle Überprüfung unmöglich. Diese Studie stellt einen neuen computergestützten Ansatz vor, der verdächtige Geschichten automatisch erkennt, indem er nicht nur darauf schaut, was gesagt wird, sondern auch, wie sich diese Informationen durch ein Netzwerk von Nutzern ausbreiten.

Wie Gerüchte sich in sozialen Netzwerken verbreiten

Die Autoren betrachten Gerüchte als sozialen Prozess. Auf Plattformen wie Twitter postet eine Person eine Behauptung, andere antworten, teilen, unterstützen oder widersprechen, und diese Interaktionen bilden ein verzweigtes Netz von Nachrichten. Manche Nutzer fungieren als Knotenpunkte, die das Gerücht viele Schritte entfernt von der ursprünglichen Quelle am Leben halten. Das Muster, wer wem antwortet und wann, liefert Hinweise darauf, ob die Behauptung wahrscheinlich wahr, falsch, bestätigt oder noch ungeklärt ist. Traditionelle Computermodelle konzentrierten sich entweder nur auf den Text oder nur auf die Netzwerkstruktur und verfehlten damit das vollständige Bild, wie Inhalt und Verbindungen miteinander interagieren.

Grenzen früherer Erkennungsverfahren

Frühere Ansätze beruhten auf handgefertigten Merkmalen wie der Häufigkeit von Reposts, der Länge von Nachrichten oder einfachen Nutzerstatistiken. Während diese Methoden einfache Muster erfassten, hatten sie Schwierigkeiten mit den komplexen, hochdimensionalen Signalen großer sozialer Netzwerke. Später lernten Deep-Learning-Modelle wie rekurrente und konvolutionale neuronale Netze reichhaltigere Textmuster und kurzfristige Zeitmuster, erfassten jedoch nicht vollständig die verzweigte Struktur der Gerüchteausbreitung. Graphbasierte Methoden verbesserten die Lage, indem sie Konversationen als Netzwerke von Beiträgen und Nutzern behandelten, doch gängige Graphmodelle taten sich schwer, langen Einflussketten über viele Schritte hinweg zu folgen.

Ein hybrides Modell, das Struktur und Inhalt verbindet

Um diese Lücken zu schließen, schlagen die Forscher ein hybrides Framework namens TRGCN vor. Es verbindet zwei leistungsfähige Typen neuronaler Netze: Graph Convolutional Networks, die sich gut für die Analyse von Netzwerken eignen, und Transformer-Netzwerke, die bei der Erfassung von langfristigen Beziehungen in Sequenzen glänzen. Zuerst wandelt das Modell jeden Beitrag in eine numerische Repräsentation um, basierend darauf, wie wichtig jedes Wort in der Gesamtmenge der Tweets ist. Gleichzeitig kodiert es das Muster von Antworten und Reposts als Graph. Diese beiden Sichtweisen werden zusammengeführt, sodass jeder Knoten im Ausbreitungsnetzwerk sowohl seine textliche Bedeutung als auch seine Position in der Konversation trägt.

Dem Pfad eines Gerüchts Schritt für Schritt folgen

TRGCN bereichert diese Knotenrepräsentationen dann in mehreren Stufen. Ein Graphmodul betrachtet jeden Beitrag und seine Nachbarn, um lokale Interaktionsmuster zu erfassen, etwa Gruppen von Nutzern, die eine Behauptung wiederholen oder widerlegen. Ein Positionsschema kennzeichnet, wie weit ein Beitrag von der ursprünglichen Quelle entfernt ist, was dem Modell hilft, die Tiefe der Konversation zu verstehen. Die Daten werden anschließend durch ein Transformer-Modul geleitet, dessen Aufmerksamkeitsmechanismus die gesamte Struktur durchscannt, um langfristige und subtile Beziehungen zu erkennen, die entfernte Teile der Gerüchtekaskade verbinden könnten. Schließlich verfeinert eine weitere Graphschicht diese kombinierten Signale, und eine Klassifikationsstufe schätzt ein, ob das Ereignis kein Gerücht, ein bestätigtes Gerücht, ein falsches Gerücht oder noch ungeprüft ist.

Wie gut die Methode in der Praxis funktioniert

Die Autoren testen TRGCN an zwei weit verbreiteten Twitter-Datensätzen, die Tausende von Gerüchteereignissen enthalten, die von Experten geprüft wurden. Sie vergleichen ihr Framework mit einer breiten Palette bestehender Methoden, von klassischen Machine-Learning-Modellen bis zu fortschrittlichen graphbasierten Systemen. In beiden Datensätzen erreicht das neue Modell die höchste Genauigkeit und unterscheidet wahre, falsche und ungewisse Geschichten häufiger korrekt als die Alternativen. Zusätzliche Experimente, bei denen Schlüsselkomponenten wie Aufmerksamkeit, Positionsinformationen oder Residualverbindungen entfernt werden, zeigen jeweils einen Leistungsabfall. Das deutet darauf hin, dass die Stärke des Modells aus der sorgfältigen Kombination von Netzwerkstruktur, Textinhalt und langfristigem Kontext resultiert.

Was das für sicherere Online-Gespräche bedeutet

Für alltägliche Nutzer und Plattformmoderatoren ist die wichtigste Erkenntnis, dass die Art und Weise, wie sich eine Geschichte online verbreitet, genauso aufschlussreich sein kann wie die Worte, die sie enthält. Durch das gemeinsame Lernen aus Nachrichteninhalt und den verzweigten Konversationsmustern bietet TRGCN eine präzisere Möglichkeit, irreführende Behauptungen für eine genauere Prüfung zu kennzeichnen. Es ersetzt zwar nicht das menschliche Urteil, kann Faktenprüfer und Plattformen jedoch dabei unterstützen, schneller auf schädliche Gerüchte zu reagieren und ein gesünderes Informationsumfeld zu fördern.

Zitation: Yan, Y., Zhang, S., Yu, D. et al. TRGCN: a hybrid framework for social network rumor detection. Humanit Soc Sci Commun 13, 692 (2026). https://doi.org/10.1057/s41599-026-06946-1

Schlüsselwörter: Gerüchte in sozialen Medien, Gerüchterkennung, Graph-Neuronale Netze, Transformer-Modelle, Desinformation