AI kan skapa flodvåg av klimatförnekelse
Forskare: Svenska myndigheter står oförberedda
Detta är en debattartikel. Det är skribenten som står för åsikterna som förs fram i texten, inte Aftonbladet.
Publicerad 2023-07-01
DEBATT. För att kunna agera på samhällshot och kriser krävs det att vi har en gemensam bild av verkligheten. Spridningen av felaktig och falsk information under pandemin har lärt oss hur skadlig spridningen av sådan information är för människors hälsa, för social tillit, och för förtroendet för demokratiska institutioner.
Spridningen av konspirationsteorier i samband med skogsbränderna i Kanada nyligen visar hur extremhändelser som bränder och extrem torka också kan leda till spridning av falsk information som ökar missförstånd och social polarisering om klimatfrågan. Sverige är inget undantag.
En medveten spridning av falsk information om klimatfrågan kan också ses som en säkerhetsrisk. Främmande makter kan exempelvis ha intresse av att elda på sociala spänningar för att förhindra övergången till ren energi som skulle kunna minska Sveriges internationella beroende av exempelvis fossila bränslen.
Genombrotten inom generativ AI (det vill säga en typ av artificiell intelligens som kan skapa syntetiskt och realistiskt digitalt material, inklusive texter, bilder och videor) förändrar drastiskt spelplanet för spridningen av falsk information.
Tyvärr tycks svenska myndigheter, beslutsfattare och medier stå oförberedda inför en möjlig stormvåg av AI-genererad vilseledande information.
Den senaste tekniska utvecklingen har drastiskt minskat kostnaden för att massproducera och förstärka falsk information i stora volymer. Denna information kan dessutom specialanpassas till presumtiva läsares psykologiska eller politiska profil.
Tidig forskning visar att AI-genererade texter har förmågan att förändra människors politiska åsikter. Generativ AI gör det dessutom enklare att skapa falska källor och forskningsrapporter. Existerande digitala verktyg och metoder för att övervaka desinformation riskerar därmed att bli verkningslösa.
Vi har nyligen sett flera exempel på en omfattande spridning av AI-genererad falsk information utomlands. Det är av yttersta vikt att Sverige förbereder sig inför dessa nya risker. Vi föreslår därför att:
- Klimatdesinformation bör ses som en potentiell krishanterings- och säkerhetsrisk.
Riskerna som följer av en automatiserad spridning av stora mängder falsk information om klimatfrågan bör tas på allvar av berörda svenska myndigheter som Myndigheten för samhällsskydd och beredskap och Myndigheten för psykologiskt försvar. - Säkra forskningsdata snarast.
Spridningen av falsk information är omfattande i sociala medier, men tillgången till data för forskare oberoende från teknikföretag som Twitter, Reddit och TikTok, blir allt mer begränsad. Företagen som utvecklar generativ AI brister också i transparens.
Sverige bör agera snarast inom ramen för EU-samarbetet för att säkra att forskare kan studera hur falsk information skapas, sprids och får fäste i digitala plattformar. - Öka samarbetet mellan forskare och journalister.
Sverige behöver en samlande nationell arena med syfte att utveckla uppdaterade förhållningssätt och digitala verktyg för att tidigt upptäcka, källgranska och hantera klimatdesinformation. Detta samarbete bör också engagera civila samhället, kommunikatörer för att utveckla nya sätt att använda generativ AI för att förbättra dialogen mellan en intresserad allmänhet och forskning.
Kombinationen av accelererande klimatförändringar och genombrott inom AI innebär omfattande och växande risker för demokratiska institutioner, social tillit, och framtidstro.
Vi kan inte stå passiva inför de riskfyllda förändringar vi har framför oss.
Victor Galaz, docent i statsvetenskap, Stockholm Resilience Centre (Stockholms universitet) och Beijerinstitutet för ekologisk ekonomi (Kungliga Vetenskapsakademien)
Jutta Haider, professor i biblioteks- och informationsvetenskap (Högskolan i Borås), och Mistra Environmental Communication
Häng med i debatten och kommentera artikeln – gilla Aftonbladet Debatt på Facebook.