Robuste Erkennung von Fake News mithilfe großer Sprachmodelle unter adversarialen Sentimentangriffen

Neues Framework verbessert die Erkennung von Fake News im Angesicht von Sentiment-Manipulation

Forschungen haben ein neues Framework, AdSent, vorgestellt, das darauf abzielt, die Effektivität von Mechanismen zur Erkennung von Fake News gegen Taktiken zur Sentiment-Manipulation zu stärken. Diese Entwicklung reagiert auf die zunehmende Raffinesse der Desinformationsstrategien, die große Sprachmodelle (LLMs) nutzen, um das Sentiment in Nachrichtenartikeln zu verändern.

Frühere Studien haben festgestellt, dass das Sentiment ein wichtiges Indiz zur Identifizierung von Fake News ist, aber diese Abhängigkeit offenbart Schwächen, da Gegner Sentiment-Hinweise ausnutzen können, um Erkennungssysteme zu umgehen. Während einige Forschungsarbeiten sich mit adversarialen Beispielen beschäftigen, die von LLMs generiert werden, lag der Schwerpunkt hauptsächlich auf stilistischen Elementen und weniger auf der Manipulation von Sentiment.

Überblick über das AdSent-Framework

• Kontrollierte Sentiment-basierte adversariale Angriffe: AdSent generiert adversariale Proben, die gezielt auf Sentiment-Veränderungen abzielen und Einblicke geben, wie sich Sentiment-Verschiebungen auf die Erkennungsleistung auswirken.
• Wirkungsanalyse: Modifikationen im Sentiment beeinflussen die Leistung von Systemen zur Erkennung von Fake News erheblich, wobei neutrale Artikel häufiger als echt klassifiziert werden, während nicht-neutrale Sentiments oft als fake identifiziert werden.
• Sentiment-agnostische Trainingsstrategie: AdSent verwendet eine Trainingsstrategie, die den Einfluss von Sentiment auf die Erkennungsergebnisse minimiert.

Leistung und Generalisierung

Umfangreiche Experimente zeigen, dass AdSent bestehende Wettbewerbs-Baselines in der Genauigkeit übertrifft und die Robustheit verbessert, indem es effektiv auf ungesehene Datensätze und verschiedene adversariale Szenarien verallgemeinert.