Så når rysk desinformation den politiska toppen

Falska nyhetssidor skapade med hjälp av artificiell intelligens sprider lögner på internet. Sidorna är gjorda för att se ut som västliga nyhetsmedier, och de är baserade i Ryssland.

Det är frågan om en av den ryska propagandans mest betydande lemmar. Nätverket har växt markant, och genomslagskraften är betydlig.

Målgruppen finns främst i USA och Europa, men också i bland annat Afrika.

– Vår granskning visar att narrativen i nätverket hade genererat mer än 30 miljoner visningar via sociala medier till och med maj, säger McKenzie Sadeghi som är redaktör vid Newsguard.

33 s

McKenzie Sadhegi är specialiserad inom AI och utländskt inflytande. - Spela upp på Arenan

Anti-väst, anti-Ukraina

Målet verkar vara att underminera stödet till Ukraina och främja politisk splittring.

– Vi har sett narrativ som ämnar underminera stödet till Ukraina. Vi har sett narrativ som riktar in sig på presidentvalet i USA, och parlamentsvalet i Frankrike, säger Sadeghi.

– Vissa narrativ har upprepats av beslutsfattare, politiker i USA, säger Darren Linvill, professor i kommunikation vid Clemsonuniversitetet i USA.

Så att en av Zelenskyjs ministrar ska kunna köpa en större lyxjakt? Kyss min röv, Steve!

JD Vance, vicepresidentkandidat

Falska nyhetssidor skapas med AI

Sidorna, som går under västliga namn som ”The Boston Times”, blandar AI-skapade artiklar utifrån verkliga nyheter med påhittade falska narrativ.

Källor som citeras i artiklarna är bland annat Foundation to Battle Injustice (FBI), en rysk sida som fabricerar statistik, intervjuer och annat källmaterial.

– De stöds av AI-genererade vittnesmål, fabricerade dokument, säger Sadeghi.

Artiklarnas författare är också påhittade. Vissa har försetts med profilbilder på människor som inte har något att göra med innehållet.

I början av 2024 kände Newsguard till färre än tio sidor i nätverket. I maj månad hade antalet sidor växt till 167.

Sidorna kan kopplas till en man vid namn John Mark Dougan, en tidigare amerikansk polis som numera bor i Ryssland.

– Vad gäller inflytande i väst så verkar Dougannätverket vara det mest sedda, säger Sadhegi.

Konspirationsteorier kapas

Det är inget nytt att det sprids desinformation och konspirationsteorier via internet. Klassiker handlar om vaccin, månlandningen och folkutbyte.

• Konspirationsteorier är ogrundade spekulationer som handlar om en ond elit som styr världen.

• Nyckeln till att urskilja en konspirationsteori är att notera bristen på pålitlig fakta.

Men att narrativen kapas av politiskt motiverad desinformation är ett växande fenomen, som Dougannätverket utnyttjar.

– De hittar på nyheterna inom existerande kontexter. De kopplar dem till konspirationsteorier som redan existerar, så att de kan kopplas till grupper som redan tror på dem, säger Darren Linvill.

23 s

Darren Linvill är en av ledarna för Media Forensics Hub vid Clemsonuniversitetet i South Carolina. - Spela upp på Arenan

Sprids via medier nära dig

Många skulle identifiera den ryska FBI-sidan som desinformation. Det är tack vare mellanhänder som de falska narrativen når ut till en bredare publik i väst.

De falska nyhetssidorna fungerar som en första mellanhand.

– Publiken för de här artiklarna är mestadels de som redan vill tro på det här innehållet. Det är en mycket specifik publik som ryssarna riktar in sig på, säger Linvill.

Det räcker med att några ska tro på innehållet för att det ska spridas vidare. För varje lager som läggs till på den ursprungliga källan blir det svårare att genomskåda lögner.

– De förstärker varandras narrativ, säger Sadhegi.

I bland kan det handla om medier i väst som hänvisar till de falska nyhetskällorna, i Finland har exempelvis UMV-lehti gjort det.

I andra fall kan det handla om desinformation som sprids i kommentarsfält på sociala medier.

Skärmdumpen ovan visar en populärare kommentar på ett inlägg av det vänsterorienterade brittiska Novara Media.

Inlägget från Novara Media har en kritisk vinkel gentemot det brittiska stödet till Ukraina. Inlägget i sig är legitimt, men kommentaren är en av flera som sprider desinformation.

Chattbotar följer de falska narrativen

Ett tredje sätt för desinformationen att nå ut till användare är via artificiell intelligens. Enligt en undersökning som Newsguard har gjort händer det ofta att chattbotar upprepar de falska narrativen som om de vore sanna.

Det gäller både generativ AI som producerar text utan att hänvisa till källor och nyare modeller som kan söka på internet.

– Jag tror inte att lekmannen har ersatt sökmotorer med artificiell intelligens ännu, säger Sadhegi.

Men allteftersom AI blir mer populärt kan det bli ett växande problem.

Upprepades av kongressledamot

Det är svårt att mäta hur stor påverkan desinformationskampanjen har på utvecklingen i väst. Men det räcker med att en liten andel av befolkningen ska tro på dem för att de ska främja splittring.

– Det gör det svårare att föra en meningsfull dialog, säger Linvill.

Ett exempel på när det gick riktigt snett är när amerikanska kongressledamöter utfrågade Ukrainas president Volodymyr Zelenskyj om lyxjakter utifrån desinformation som Dougannätverket har spridit. NBC rapporterade om saken.

– Det är definitivt värt [Kremls] tid, säger Linvill, med tanke på huruvida det skulle löna sig eller inte för styret i Ryssland att satsa på det här.

JD Vance talade om lyxjakter

Även den amerikanske vicepresidentkandidaten JD Vance har antytt att ukrainska ministrar skulle köpa lyxjakter med stödpengar från USA.

– Det finns folk som skulle skära ned på den sociala tryggheten, kasta våra mor- och farföräldrar in i fattigdom, säger Vance i en intervju med Real America's Voice.

– Varför? Så att en av Zelenskyjs ministrar ska kunna köpa en större lyxjakt? Kyss min röv, Steve! Det händer inte.

Intervjun gjordes i december 2023, och har skrivits ut på Vances officiella hemsida.

Enligt NBC sa en talesperson för Vance senare att senatsledamoten inte hävdade att rykten om lyxjakter var sanna, utan att han helt enkelt ställde en retorisk fråga för att understryka att han ser Ukraina som ett korrupt land.