Kärlekspar utsätts för AI-tortyr i realityshow
Är din partner otrogen eller inte?
Publicerad 2023-08-17
Netflix nya realityshow Deep Fake Love skapar rubriker världen över.
Orsaken?
Deltagarna tvingas se filmer på när deras partners är otrogna – utan att veta att filmerna är fejkade.
Reality-tv har länge kritiserats för att utsätta de medverkande för psykologisk terror.
Men Netflix nya serie Deep Fake Love tar terrorn till en ny nivå. Den spanska serien tvingar deltagarna att titta på videos där deras partners är otrogna – för att därefter gissa om bilderna är fejk eller inte. Teamet bakom det provokativa programmet har nämligen tagit hjälp av artificiell intelligens för att addera extra krydda till formatet.
Upplägget är enkelt: fem par separeras vid ankomst och får istället bo med singlar. Sen tvingas paren titta på filmer där deltagarna är otrogna. Nästa uppdrag är att försöka avgöra om vad de ser är sanning eller fiktion. Paret som gissar rätt flest gånger vinner en miljon kronor.
Somliga par har varit tillsammans i ett decennium, men det betyder inte att uppdraget är enkelt. Med hjälp av dagens deepfake-teknik kan produktionsteamet skapa fiktiva scenarier där det ser ut som att deltagarna hånglar och har sex med singlarna.
De internationella medierna beskriver tv-programmet som en dystopisk mardröm. Eller som tech-profilen Casey Newton säger i New York Times-podden Hard Fork: ”God does not exist in the universe of ’Deep Fake Love’ – and we would not wish this psychological torture on anyone”.
Tidningen Futurism skriver att ett etiskt dilemma med Deep Fake Love (vars originaltitel är Falso Amor) är att serien riskerar att normalisera deepfake-tekniken som ofta används för att hota och lura människor genom hämndporr och desinformation. En annan moralfråga som uppstår är hur stor inverkan de fejkade bilderna har på deltagarna på längre sikt. Att deltagna inte fick veta upplägget före inspelningen anses problematisera greppet ytterligare.
En detalj som kan vara värd att nämna är att Netflix hyllade tv-serie Black Mirror, som är världsmästare i att måla upp dystopiska framtidsscenarier baserat på hur mänskligheten anammar ny teknik, bara är en knapptryckning bort.
Missa inte Nicklas Hermanssons nyhetsbrev NomoFomo Insights som varje vecka ger dig +20 nya trender och fenomen.
Hemma hos tech-entreprenören som anställt 30 forskare för att bli yngre
Ny dokumentär om Johnny Depp och Amber Heard
Död sångerska återuppstår i ny reklamfilm