Denne Ph.d.-afhandling undersøger måder at bremse forstærket spredning af lavkvalitetsindhold, såsom misinformation, på sociale medier. Dette undersøges gennem brug af agentbaserede modeller og data fra den sociale medieplatform Twitter. Afhandlingen fokuserer eksplicit på forstærkningen gennem et-klik brugerreaktioner såsom likes og delinger (shares). At like og at dele er centrale måder hvorpå information spredes i online sociale netværk. Disse former for engagement med indhold informerer endvidere platformenes indholdssorteringsalgoritmer, hvilket øger spredningen yderligere.
Forstærket spredning gennem likes og delinger kan være drevet af koordinerede og/eller uægte aktører såsom sociale bots. Også autentiske, menneskelige brugere kan sprede indhold af lav kvalitet. Påvirket af social indflydelse og kognitive biases kan autentiske brugere finde på at like eller dele indhold
givet høje engagementstal, uden at tildele opmærksomhed til at vurdere indholdets nøjagtighed eller kvalitet. Både uægte og autentiske brugerreaktioner forstærker spredningen af misinformation online, og underminerer folkemængdernes visdom (wisdom of crowds): Høje engagementmål indikerer
ikke nødvendigvis høj kvalitet. Mens inflationen af engagementsmål er en let tilgængelig manipulationsstrategi, der underminerer folkemængdernes visdom, har forskning endnu ikke i vid udstrækning studeret forstærkningen af lavkvalitetsindhold gennem likes og delinger. En væsentlig årsag er, at data
om et-klik brugerreaktioner er ikke-trivielle at indsamle.
Hoveddelen af denne afhandling består af tre forskningsartikler. Fra forskellige vinkler adresserer disse artikler trusler mod folkemængdernes visdom. Artiklerne har som fælles mål at forbedre den (epistemiske) kvalitet af den information, der bliver forstærket på sociale medier. Artikel I og II studerer
metoder til at opdage uægte, koordineret engagementsinflation og mistænkelige sammenhænge i reaktionsdata. Disse artikler er baserede på computersimulerede data fra en agent-baseret model (Artikel I) og nye empiriske data indsamlet live fra Twitter med et program skrevet med det formål
at overvinde datamanglen for et-klik brugerreaktioner (Artikel II). Artikel III studerer adfærdsinterventioner baseret på friktion for at forhindre forstærkning af lavkvalitetsindhold analyseret med en agent-baseret model.
Et indledende kapitel går forud for artiklerne. Indledningen beskriver afhandlingens tværfaglige grundlag, og præsenterer centrale begreber og teorier, der efterfølgende fungerer som et stillads for præsentationen
af hver artikel. Indledningen diskuterer nøglebegreber såsom sociale medier, informationsspredning, opmærksomhedsøkonomi, kvalitetsbegreber (f.eks. misinformation og disinformation) og forstærkning. Disse begreber betragtes teoretisk ud fra et folkeafstemningsperspektiv. Dette perspektiv
bruges til at vurdere, hvordan det sociale medielandskab udfordrer folkemængdernes visdom gennem kognitive biaser, social indflydelse og tilstedeværelsen af uægte aktører, koordinering og ind- flydelsesoperationer.
Et metodeafsnit forklarer og begrunder modelleringsvalg og antagelser vedrørende agentbaseret modellering og empirisk dataindsamling fra Twitter. Metodeafsnittet uddyber yderligere databehandling og -analyse, og afsluttes med en beskrivelse af de indsamlede data samt en diskussion af etiske overvejelser omkring dataindsamling og censur. Efterfølgende gennemgår introduktionskapitlet relateret arbejde indenfor koordinering, bot-detektion og adfærdsmæssige interventioner. Afslutningsvis beskrives implementeringsmuligheder af de foreslåede procedurer og fremtidige forskningsperspektiver.