Nytt AI-verktyg ställer högre krav på källkritik

helskärm

Folk som får sparken och mer trovärdig desinformation. Det kan bli effekterna av nästa generations AI-genererade video.

– Vi kommer behöva ifrågasätta saker vi inte tidigare behövt ifrågasätta, säger Ariel Ekgren, forskare på AI Sweden.

Tre urgulliga valpar leker i snön. En kvinna filmar sig själv på ett tåg. Vågor slår mot ett klipputsprång i solnedgången. Korta videosnuttar i ditt flöde av nyheter och förströelse. Problemet? Allt är fejk. Korta filmklipp genererade av Open AI:s nya videoverktyg Sora.

Tekniken är inte ny, men när företaget bakom Chat GPT i dagarna presenterade text till video-tjänsten reagerade entusiasterna. Mycket har hänt på väldigt kort tid.

– Jag blev lite imponerad och förvånad. Det är oerhört bra kvalitet, säger Ariel Ekgren, forskare AI Sweden.

Han jämför utvecklingen som skett på videoområdet med det inom text och bild. På något år har det gått från uppenbart AI-skapat innehåll till material som är svårt att urskilja som datorgenererat vid en första anblick.

– Det är ingen ny magi men det är vidareutveckling av existerande algoritmer och koncept, säger Ekgren.

Färre jobb?

Än så länge är Sora låst till ett fåtal användare utsedda av Open AI. Exakt vad videoverktyget kommer att innebära för exempelvis fotografer och filmbranschen är svårt att säga, enligt Ekgren:

– En del yrkeskategorier kommer få mindre betalt eller försvinna. Samtidigt, om man blickar tillbaka historiskt, är det sällan det blir färre jobb.

Trovärdiga videoklipp har även möjlighet att påverka mer geopolitiskt allvarliga områden. Desinformation och påverkanskampanjer är inget nytt, men med en ökad tillgång till AI-genererat innehåll blir det svårare att urskilja vad som är äkta.

– Vi kommer behöva ifrågasätta saker vi inte tidigare behövt ifrågasätta, säger Ekgren som ändå är positiv inför framtiden och fortsätter:

– För att få till en lyckad påverkanskampanj handlar det inte bara om att ha materialet, folk måste också ta till sig det.

Maktkoncentration

Att mycket av AI-utvecklingen drivs av kommersiella företag, är det ett problem i sig?

– Det är lätt att man hamnar i en diskussion om farorna med AI. Samtidigt så håvar de här företagen in pengar och gör sin position ännu starkare, säger Ekgren och fortsätter:

– Det här är saker som kommer att generera mycket värde. Det kommer bli en maktkoncentration i och med att det är några få aktörer som tjänar pengar på det. Det vi kan göra är att haka på och försöka göra samma sak i resten av världen eller förstå hur vi ska bemöta den maktkoncentrationen.