Kongressen.com
Analyse

Facebook forbyder ’deepfakes’ – men fænomenet truer stadig præsidentvalget

Facebook har meddelt, at det sociale medie vil fjerne såkaldte deepfakes fra platformen. Deepfakes er en term, der dækker over videoer, billeder og lydfiler, som er blevet manipuleret til en ny (og ofte falsk) virkelighed med kunstig intelligens. Således fjerner Facebook fremover deepfakes fra kanalen, men det fjerner ikke problemet med misinformationer på det sociale medie.

I foråret 2016 – måneder før Trump blev valgt som USA’s præsident – opførte Jimmy Fallon, der er vært på NBC’s The Tonight Show, en sketch, hvor han, klædt ud som en meget orange Trump, havde en længere dialog med komikeren Dion Flynn, der spillede tidligere præsident Barack Obama.

Skuespillet var overdrevet og karikeret, og sketchen var åbenlyst for sjov. Og så blev der glemt alt om den.

Tre år senere i 2019 dukkede videoen så op igen, denne gang på YouTube-kanalen ’derpfakes’, men noget var anderledes. De første sekunder viser den originale sketch med Fallon og Flynn, men så overgår videoen til en sekvens, hvor Fallons og Flynns ansigter skifter til Trumps og Obamas rigtige ansigter.

Men mens Fallons og Flynns ansigter altså er skiftet ud med præsidentens og ex-præsidentens rigtige ansigter, så er dialogen og sketchen den samme.

Videoen er en såkaldt deepfake.

Deepfakes-fænomenet dækker over videoer, der med vilje er manipuleret med kunstig intelligens til en ny og ikke mindst falsk virkelighed. Her lærer algoritmer at læse ansigtet fra en person og overføre det til en anden, mens personens bevægelser og mimik forbliver intakt.

Fænomenet har været vidt debatteret i USA det sidste års tid, særligt med udsigt til præsidentvalget i november, hvor en manipuleret video med et falsk budskab potentielt vil kunne ændre diskursen på den politiske samtale, hvis ikke den verificeres i tide.

I denne uge har Facebook så meddelt, at de vil fjerne deepfakes fra platformen, og alligevel vil tech-gigantens seneste udmelding næppe fjerne problemet.

Facebook i et værre stormvejr
Facebooks udmelding var både ventet og så alligevel ikke.

Sidste år cirkulerede en video med formanden for repræsentanternes hus, Nancy Pelosi, på platformen, hvor hastigheden på videoen af den demokratiske politiker er sløvet, således at Pelosis tale virker slørret og måske ligefrem beruset.

Videoen er faktisk slet ikke en rigtig deepfake, for videoen er i bund og grund blot manipuleret ved, at hastigheden er sat ned, men videoen var et slags startskud til, at det politiske USA for alvor begyndte at debattere deepfake-fænomenet – stærkt ledet af Pelosi selv.

Facebook har længe været under skarp kritik af selvsamme Pelosi samt af flere demokratiske præsidentkandidater, der mener, at platformen har for meget politisk magt, fordi det sociale medies algoritmer er med til at bestemme brugernes indhold, og fordi tech-giganten nægter at fakta-tjekke politiske annoncer på platformen.

Facebooks seneste udmelding om deepfakes var derfor ventet. Hellere stramme selv end at blive strammet af andre.

Og alligevel var en decideret deepfake-politik ikke forventet af Facebook, og den cadeau må man derfor alligevel give platformen. Men de nye deepfake-regler vil næppe have den helt store effekt på misinformationer, der bliver delt via det sociale medie, og det kan derfor stadig få konsekvenser for det kommende præsidentvalg.

Gælder ikke parodier og satire
For det første har Facebooks nye deepfake-politik nogle alvorlige smuthuller.

Det er nemlig ikke alle deepfakes, der vil blive fjernet fra kanalen, meddeler Facebook selv. Deepfakes, der er ment som en parodi eller satire vil f.eks. stadig få lov at blive.

Men hvor langt går grænsen, når det kommer til satire, og hvor meget humor skal der til, før det kan besluttes, om en deepfake skal fjernes?

Her kan Facebook potentielt rode sig selv ud i nogle gevaldige debatter om censur og tilvalg og fravalg – særligt i et valgår, hvor flere demokratiske præsidentkandidater allerede har en agenda om en større politisk stramning af tech-giganten.

Således får en tidligere meget debatteret og også meget delt deepfake-video med selveste Facebook-stifteren Mark Zuckerberg lov til at blive på platformen.

I videoen taler Zuckerberg om, hvordan han har magt over alle Facebook-brugernes data. Så selvom ordene, der kommer ud af Zuckerbergs mund, er falske, så er det altså ifølge Facebook selv ikke der, grænsen går. Så forestil dig, hvilke andre falske udsagn, der kan blive delt forklædt som satire eller en parodi?

2019s to store deepfakes ville ikke blive fjernet
Dertil kommer alt det, der ligger bag teknologien.

Udviklingen inden for deepfake-teknologien har længe været en brandvarm kartoffel i det politiske USA, men også blandt amerikanske medier, der allerede har forberedt sig i månedsvis på det kommende præsidentvalg i november, og hvor vi med sikkerhed vil se forsøg på deepfakes, der skal være med til ændre diskursen på den offentlige debat.

Således har Washington Post f.eks. ansat mere end 20 journalister, der kan verificere potentielle deepfakes.

Let, tænker du måske. Nu har Facebook lavet en ny politik, der forbyder dem. Men retter vi os efter Facebooks egne nye, fastsatte regler, så ville de faktisk slet ikke ramme to af 2019’s helt store og meget delte deepfakes: den føromtalte video med Pelosi samt en video med Biden, der i en falsk video udtaler sig racistisk.

Videoerne er, som førnævnt, teknisk set ikke rigtige deepfakes, men bevæger sig på en grænsen til det. Alligevel ville det ikke være svært at kreere egentlige deepfakes med samme indhold og udgangspunkt. Det kan en hver i dag med adgang til en smartphone eller en computer.

En anden ting er alt det, der ligger indlejret i sådan en video. For mens det måske er Facebooks rolle at begrænse spredningen af de her misinformerende videoer, så vil det i en meget nær fremtid være journalisters og mediers rolle at sætte videoerne ind i en større kontekst.

Facebook forholder sig til, at videoen med Pelosi er sløvet og dermed manipuleret til at vise et falsk billede af politikeren. Men hvem nævner, at videoens egentlig målsætning har været at portrættere hende som værende beruset? Videoen sætter dermed den magtfulde formand for repræsentanternes hus i et helt andet lys, som kan være med til politiske holdningsændringer hos forskellige befolkningsgrupper.

Det vil stadig – til trods for en decideret deepfake-politik hos Facebook – være en kæmpe opgave for journalister og medier at gå til her i 2020, og således kan teknologien betyde så meget.

Teknologien bliver bedre og bedre
Ovenstående videoer – og mange andre – er alle verificeret som falske, og selvom nogle for det blotte øje er svære umiddelbart at spotte, så vil de fleste ved nærmere eftersyn fremstå en lille smule ”ved siden af”. Måske blinker hovedpersonen lidt for sjældent til at se ægte ud, eller mimikken er lidt vag.

Facebooks udmelding kommer i kølvandet på flere amerikanske politikeres kritik af platformen forud for årets præsidentvalg, og foruden Facebook har Twitter også meddelt, at de er i gang med at lave et udkast til deres deepfake-politik.

Men teknologien, der i mange år har været både dyr og svær at programmere, kan i dag laves af alle med en smartphone eller en computer.

Så selvom deepfake-videoer som ovenstående stadig kan spottes med det blotte øje, vil det ikke vare længe, før der skal mere end det blotte menneskelige øje til for at verificere en deepfake-video.

Og hvis grænsen for, hvad der er tilladt, samtidigt er bredt defineret, så er mulighederne det også.

Læs også

Putin udnytter konflikten mellem USA og Iran

Kongressen

Pentagon-budget til nye våben og stormagtskonkurrence

Philip Chr. Ulrich

Kampen Om Amerika #2: Status efter New Hampshire

Kongressen

Kaosset i Iowa øger spændingen i New Hampshire

Mads Høeg-Mikkelsen

USA’s sikkerhedspolitiske comeback er langt fra komplet

Philip Chr. Ulrich

Kongressen.com præsenterer ‘Kampen Om Amerika’

Kongressen