Emotional content in social misinformation affects mind, brain, and judgments

Abstract

Misinformation, oder „Fake News“, ist in der Online-Kommunikation weit verbreitet und beeinflusst Diskurs und Zusammenleben. Es ist jedoch wenig darüber bekannt, wie wir auf individueller Ebene beeinflusst werden, wenn wir Meinungen bilden und Urteile ableiten. Diese Dissertation untersucht die kognitiven und Gehirn Mechanismen, die der Verarbeitung sozialer, personenbezogener Misinformation zugrunde liegen. Proband*innen wurden mit negativen, positiven oder relativ neutralen personenbezogenen Nachrichten konfrontiert, die entweder verbal als unglaubwürdig gekennzeichnet waren, z.B. "angeblich", oder aus bekannten Medienquellen stammten, die als glaubwürdig oder unglaubwürdig wahrgenommen wurden. Die Ergebnisse zeigten, dass soziale Urteile stark vom emotionalen Gehalt beeinflusst waren, unabhängig von der Glaubwürdigkeit. Elektrophysiologische Korrelate früher emotionaler und erregungsbezogener Prozesse sowie Korrelate späterer evaluierender Verarbeitung waren verstärkt für Personen, die mit emotionalen Inhalten assoziiert wurden—unabhängig von der Glaubwürdigkeit der Information. Emotionale Inhalte wirken also nicht nur auf die unwillkürliche und früher Reaktion auf Nachrichten, sondern sogar auf Prozesse, für die erwartet wurde, dass sie die Information aufgrund ihrer Glaubwürdigkeit evaluieren würden. Um zu intervenieren, bewerteten die Proband*innen vor der Konfrontation mit Schlagzeilen explizit die Glaubwürdigkeit der Quelle. Dies half teilweise, die Glaubwürdigkeit positiver Nachrichteninhalte zu verarbeiten. Die Einsicht in die fehlende Glaubwürdigkeit hatte jedoch keinen Einfluss auf die Effekte negativer Nachrichteninhalte. Unsere Ergebnisse zeigen, wie der emotionale Gehalt sozialer Misinformation das Gehirn und das Urteilsvermögen beeinflussen kann, selbst wider besseres Wissen über die fehlende Glaubwürdigkeit. Perspektivisch helfen diese Erkenntnisse, uns den Herausforderungen von Misinformation aus Sicht der individuellen Kognition zu stellen.

Misinformation, also called “fake news”, is highly prevalent in online communication affecting public discourse and social coexistence. However, little is known about how we are affected by it on the individual level when we derive opinions and judgments. This dissertation investigates the cognitive and brain mechanisms underlying the processing of social, person-related misinformation. Participants were exposed to negative, positive, or relatively neutral news about other persons that was either verbally marked as untrustworthy by adding e.g., “allegedly”, or stemmed from well-known media sources perceived as trusted or distrusted. We found that social person judgments strongly relied on the emotional content independent of the credibility, showing how social misinformation affects person evaluation although it is perceived as untrustworthy. Electrophysiological indexes of early emotional and arousal-related processes, as well as correlates of later evaluative processing were enhanced for persons associated with emotional contents regardless of the credibility of the information. This shows the pronounced influence of emotional contents not only on the initial and early response to news, but even on processes that were expected to evaluate the information on merit of its credibility. In a first attempt to intervene, participants explicitly evaluated the credibility of the source before reading the headlines. This helped to overcome the bias for positive news and process its credibility to some degree. However, the insight into the lack of credibility had no influence on the effects of negative news on brain responses and social judgments. Our results demonstrate how emotional content in social misinformation can affect mind, brain, and judgments even against better knowledge of its lacking credibility. In perspective, these insights help to face the challenges of misinformation from the perspective of the individual’s cognition.