Så avslöjas trollarméer

En metod som inte hör hemma i valrörelsen

Det gula fältet är ett botnät som avslöjades genom att samtliga konton hade exakt samma beteendemönster. Bilden är ett verktyg utvecklat av artikelförfattarens företag Iteam.

Valrörelsen påverkas av otillåtna metoder vilket leder till en ökad polarisering och bäddar för mer auktoritära ledare. Det konstaterar både forskaren Åsa Wikforss i DN och journalisten Alberto Escorcia i Aftonbladet. Men hur går det till? Och hur kan man undvika att själv bli påverkad av dessa metoder?

Du ser en video på Tiktok, Youtube, Twitter eller Instagram. Den får dig att känna något – det är upprörande, engagerande eller kanske komiskt. Videon är publicerad av en person som ligger i utkanten av din egen bekantskapskrets. Du reagerar på att det är så pass många som ”gillat” just detta filmklipp. Du kanske vanligtvis inte skulle trycka ”gilla” på den här typen av budskap, det ligger utanför det som du offentligt står för. Men eftersom det är så många som redan gjort det, kanske även några av dina vänner, vågar du också trycka tumme upp eller hjärta.

Men hur har videon kommit till dig, och varför? Bakgrunden ser ut så här: Minuter efter att den publicerades gick det iväg en signal till ett antal konton. En så kallad trollarmé, antingen styrda med automatik – då kallas det för botnät – eller via personer som inte behöver ha någon som helst koppling till videon men agerar mot betalning. Då kallas det trollfabrik eller trollarmé. Signalen säger åt dem att gå in och ”gilla” eller dela.

MSB:s studie av botar på Twitter i samband med det svenska riksdagsvalet
2018

När videon snabbt får mycket intresse gör algoritmerna, det vill säga den kod i de sociala nätverken som är ansvarig för att välja ut innehåll till dig, bedömningen att det här måste vara intressant.

Algoritmerna vet inget om innehållet – om det är sant, relevant eller bra – utan bygger bedömningen på hur snabbt den blir populär och i vilka kretsar. Ju snabbare och bredare den sprids, i desto högre grad lyfter algoritmerna fram den.

Genom algoritmerna kommer en pushnotis till en av dina kollegor på jobbet. Hen har lite mer extrema åsikter än dig, kollar knappt på videon och trycker ”gilla” direkt. Det är hens ”gilla” som gör att algoritmerna skickar vidare filmen till dig.

 

Nu är vi tillbaka där vi började: du ”gillar" videon för att så många redan gjort det. Därmed bidrar du till att den fortsätter spridas vidare.

I det här läget går det iväg ytterligare en signal från den som satt igång kampanjen. Signalen raderar alla spår av att det varit bottar med i spridningen. När naturlig spridning har kommit igång behövs inte längre den första automatiska. Ofta går även sociala mediaföretagen in och rensar automatiska konton, men då är det för sent.

Hur hittar man en trollarmé?

I Mexiko används trollkonton och botnät flitigt. Ansvariga har hamnat i fängelse för att ha använt dessa otillåtna metoder. En av dem som har varit med och avslöjat dessa trollarméer är journalisten Alberto Escorcia som nyligen fick fly landet på grund av förföljelse för sitt arbete och nu söker asyl i Sverige.

Escorcia har gjort liknande analyser i Sverige. I en artikel i Aftonbladet konkretiserade han tillsammans med techskribenten Mattias Beijmo några av sina fynd.

För att avslöja en trollarmé kan man använda deras egen svaghet: de gillar samma saker. En vanlig människa gillar alltifrån videor på katter, bakrecept och vännens förlovning. Vanligtvis håller vi oss till en ganska begränsad skara vänner. Ett botkonto däremot är extremt träffsäkert, det går in och gillar enbart det innehåll som det har blivit tillsagt att gilla. Eftersom flera konton har exakt samma beteende syns det tydligt i en analys.

Precis som en cancercell sticker ut på en röntgenplåt kan man tydligt se dessa botnät på kartor över sociala nätverk. Om man dessutom lägger till olika färger för olika parametrar, till exempel hur länge kontot har funnits, hur ofta det twittrat senaste timmen, vilka tidpunkter det har flest inlägg, vilken twitter-klient som oftast används och framför allt – hur likt dess beteende är med andra konton. Då kan man börja se mönster och därifrån hitta vilka inlägg botnätet har påverkat.

Om det är så här enkelt, varför gör inte techbolagen mer rensning själva?

Enligt Twitter rensas en miljon fejkade konton bort dagligen. Problemet är dock att när ett skräpkonto väl har gjort sitt så är skadan redan skedd, och det är enkelt att starta ett nytt konto. Botnät och trollarméer blir bättre på att gömma sig. Framför allt genom att använda människor som får styra beteendet på konton. Med en manuell analys kan man dock fortfarande hitta mönstren.

Vem ligger bakom trollarméerna?

Även om det är relativt enkelt att avslöja trollarméer med hjälp av metoderna som beskrivs ovan så är det nästan omöjligt att på ett enbart tekniskt sätt avslöja var de kommer ifrån eller vem som kontrollerar dem. Nyligen gjorde ETC ett gräv där man kunde bevisa samband mellan trollarméer i Facebookgrupper och SD:s kommunikationsavdelning. Det är dock viktigt att tillägga att det mycket väl kan finnas fler aktörer som på olika sätt använder sig av dessa metoder för att sprida budskap. Samt att avsändaren av innehållet sällan själv är medveten om att det sker en otillåten påverkan.

Är inte det här bara ett annat sätt att marknadsföra sig?

Att använda automatiska botkonton och trollfabriker för att manipulera och störa en demokrati är otillåtet i samtliga sociala medier och kan vara olagligt. Det bästa sättet att vaccinera sig mot denna typ av påverkan är att inte hjälpa till att sprida saker som du misstänker kan ha för många likes/delningar och istället använda den inbyggda rapporteringsfunktionen som finns i samtliga sociala nätverk. På samma sätt som det är olagligt att ta emot anonyma bidrag till politiska organisationer så är det uppenbart att detta är en typ av metod som vi borde hålla långt borta från en valrörelse.

 

Christian Landgren är debattör och VD för Iteam.

Kultur

Prenumerera på Kulturens nyhetsbrev

Aftonbladets kulturchef Karin Petterson guidar till veckans viktigaste kulturhändelser och mest intressanta idédebatt.