På jakt efter bottar och desinformation

Hur kan vi veta om kontot vi ser på Facebook eller X (tidigare Twitter) drivs av AI? Det är faktiskt inte så lätt att avgöra menar Matteo Magnani, professor i datanalys.

− Det kan vara svårt att identifiera bottar, men det finns vissa beteenden som kan tyda på automatisering. Till exempel att de lägger ut jättemånga inlägg, säger Matteo Magnani.

Kan upptäcka spridning av desinformation

Han utvecklar algoritmer som kan användas för att identifiera bottar och skadliga konton, så kallade ’malicious accounts’. Det kan till exempel röra sig om separata Facebookkonton som ser ut att inte ha något med varandra att göra, men egentligen drivs av samma aktör. Tack vare algoritmerna kan man spåra deras poster, jämföra dem med varandra och se att det rör sig om samma källa.

− Sådana här konton kan sprida både sann och falsk info, gemensamt för dem är att de vill att man ska höra vad de säger. En aktör som sitter på flera olika konton med miljontals följare kan faktiskt påverka våra åsikter. Därför är viktigt att identifiera dem.

Algoritmerna är bra på att identifiera misstänkta konton, men för att ta reda på om det rör sig om desinformation eller inte krävs annan typ av analys. I tidigare forskningsprojekt har Matteo Magnani därför samarbetat med faktakontrollanter som jobbar med att identifiera och plocka bort skadlig information från sociala medier.

I takt med att utvecklingen av AI har bottarna blivit ”smartare” och svårare att identifiera. De kan exempelvis använda sig av Chat-GPT och liknande lösningar för att formulera om sina inlägg så de inte är identiska. Matteo Magnani håller därför på med att utveckla algoritmer som tittar på fler variabler än bara det exakta textinnehållet.

Studerar klimatförändringarna

Samma metod som används för att detektera bottar, kan också hjälpa till att kartlägga andra skeenden på nätet. Matteo Magnani samarbetar med Alexandra Segerberg på statsvetenskapliga institutionen för att studerar hur olika aktörer kommunicerar kring klimatförändringarna. Detta genom att titta på vad människor skriver på sociala medier och vilka bilder de delar i anslutning till klimatkonferenser.

− Idag kan vi be en algoritm att sammanfatta vad som visas i miljontals bilder som delas online under en händelse. Den kan också sammanfatta vad miljontals människor pratar om i anslutning till samma händelse. Detta var något som tidigare krävde manuell granskning vilket gjorde mängden data som kunde analyseras mycket begränsad.

Metoder som dessa öppnar upp för helt nya sätt att studera samhället. Matteo Magnani ligger just nu i startgroparna för att börja skriva en lärobok om hur AI kan användas inom samhällsvetenskap. Där kommer han ta upp möjligheterna: allt från att ta hjälp av Chat-GPT för att genomföra enklare uppgifter som att koda intervjuer, till mer avancerad användning där man till exempel låter AI sammanfatta innehållet i bilder som delas i syfte att sprida propaganda. En stor del av boken kommer också ägnas de forskningsetiska frågorna.

− Jag vill både visa hur man använder dessa data och metoder så att vi får giltiga forskningsresultat, men också diskutera hur användningen av AI kan förändra sättet vi bedriver forskning på. Det finns stora risker med att låta AI ta beslut som vi normalt hade fattat själva.

Vill kartlägga hela Sveriges befolkning

Ett annat forskningsprojekt som ännu är i sin linda går ut på att bygga upp ett socialt nätverk över hela Sveriges vuxna befolkning. Matteo Magnani kommer där att samarbeta med forskare från olika discipliner för att ta fram en datorbaserad modell över samhället och de relationer vi människor har till varandra.

− I Sverige finns det god tillgång på data utöver sociala medier. Man kan till exempel få information om våra familjerelationer, man kan se när människor jobbat på samma ställe, man kan ta reda på vad och när de har studerat tillsammans och se var de bor och har bott. Genom att kartlägga dessa relationer kan vi studera samhället på ett helt nytt sätt.

När nätverket väl är på plats är tanken att använda det för att studera uppkomsten av segregation och åsiktspolarisering. Man kommer då till exempel kunna undersöka om en persons inställning till flyktingar påverkas av var den bor, vem den är gift med eller vilka andra relationer den haft genom livet.

− Om man använder sig av en enkät så kan man fråga en person vad den tycker. Här kan vi se hur det de tycker influeras av de sociala relationer de har.

Med hjälp av en datorbaserad modell över samhället kan man också utsätta ”befolkningen” för olika scenarion. Vad skulle hända om man sänkte priserna på bostäder i ett visst område? Skulle segregationen minska?

− Man kan experimentera på ett sätt som man inte kan göra med riktiga människor.

Finns det inte risker med att ta fram sådana här modeller? Att de kan inspirera företag som vill kartlägga befolkningen för att sedan kunna påverka dem i olika frågor? Till exempel som Cambridge Analytica?

− När man utvecklar metoder får man alltid väga fördelar mot nackdelar. Våra metoder kommer kunna användas för att lösa problem och göra saker bättre, men finns alltid en risk att de kommer användas på fel sätt, säger Matteo Magnani och fortsätter:

− Liknande metoder kan användas redan idag av företag och stater. Inom forskning blir våra metoder publika och tillgängliga för allmänheten. Och det är bättre än att de hålls dolda inom stater. När metoderna blir kända finns också en chans att lagstifta emot det man tror kan bli skadligt för befolkningen.

Sandra Gunnarsson