Falske videoer og folkeforførelse
AI baner vejen for, at aktører med beskidte politiske motiver kan manipulere virkeligheden i en sådan grad, at vi ender i et dystopisk og postfaktuelt verdenssamfund, hvor ingen stoler på hinanden. Teknologien har nemlig gjort det muligt at lave fake videos, såkaldte deepfakes, hvor man faceswapper ansigter på andres krop. Det er nu blevet et kradsbørstigt krydderi i den sammenkogte fake news-gryde.
Mens brugen af AI besidder et enormt potentiale i et forretningsmæssigt perspektiv, kan det have kæmpemæssige konsekvenser for det demokratiske samfund.
For i fremtiden skal vi ikke kun være opmærksomme på opdigtede usandheder i artikelform, der låner journalistikkens troværdighed.
Teknologien har gjort det muligt at lave fake videos, såkaldte deepfakes, som nu også er blevet et kradsbørstigt krydderi i den sammenkogte fake news-gryde.
Det overdøver den i forvejen hæslige smag af utroværdighed, som bevidst fabrikerede tekster og billeder afgiver.
Pornovideoer med kendisser
Det var selvfølgelig klassens frække dreng, pornoindustrien, der satte gang i debatten om fremtidens frygtindgydende teknologi. Tilbage i december berettede VICE Motherboard, at AI-teknologi kunne bruges til at lave ‘deepfakes’.
‘Deepfake’ er AI-teknologi, der er en sammentrækning af ‘deep learning’ og ‘fake’, hvilken gør det muligt at syntetisere billeder og dermed ‘faceswappe’ ansigter på video.
Programmører kan med relativt simple midler erstatte ansigterne på pornoskuespillerinder med kendisser som Gal Gadot, Scarlett Johansson og Taylor Swift.
Gal Gadots ansigt er her swappet med en pornostjerne. Det er vel heller ikke utænkeligt, at teknologien er guf for hævngerrige ekskærester. (Screenshot fra SendVids, motherboard.vice.com).
Uden samtykke blev videoerne skabt og lysteligt delt i internettets mange afkroge. Et forum på det sociale nyhedsmedie Reddit med over 100.000 brugere, hvor videoerne florerede, blev lukket ned, og adskillige pornosider slettede videoerne, efter kritikken blev rejst.
Fra instruktørstolen i Hollywood til kældersofaen i Ballerup
Store Hollywood-produktioner har i årtier brugt special effects til at gøre teknologiske objekter virkelighedstro: dinosaurerne i Jurassic Park, Forrest Gumps møde med JFK, Gollum i Ringenes Herre, bilerne i Transformers og Avatar. Det har været et eksklusivt foretagende, som har tilhørt den ypperste filmindustri.
Indtil for nyligt. På Reddit dukkede en video op med en strippende Michelle Obama. Videoen var en deepfake lavet med programmet FakeApp.
Det fik The New York Times-journalisten Kevin Roose til at undersøge, hvor nemt det er at lave en deepfake med FakeApp.
Her er et stilbillede af Kevin Roose. Han fodrede FakeAppen med over 1.000 billeder af sit ansigt. (Kilde: nytimes.com).
Ifølge Roose er det tidskrævende, men langt fra raketvidenskab. Det kræver blot en stærk computer og et omfangsrigt billedmateriale, før computeren er i stand til at emulere virkelighedstro ansigtsudtryk fra person A til person B.
Jo mere billedmateriale og data, jo mere sandfærdigt resultat.
Rooses ansigt er her kopieret ind på Ryan Gosling. Her består datasættet af 417 billeder af Roose og 1.113 billeder af Gosling. (Kilde: nytimes.com).
Her er Rooses ansigt kopieret ind på Jake Gyllenhaal. Resultatet er langt mere virkelighedstro end i tilfældet med Gosling. Det skyldes større billedmateriale og tålmodighed. (Kilde: nytimes.com).
3 dage og beskedne 86 dollars kostede det Kevin Roose at producere 4 deepfakes. “That seemed like a small price to pay for stardom”, noterede han skeptisk.
FakeApp er udviklet af en anonym programmør, der har brugt open source machine learning-software ved navn TensorFlow, som er lavet af Googles AI-team.
AI kan fake både video og stemmeføring
Denne video fra 2016 viser, hvordan forskere fra Stanford University manipulerer ansigter og mimik på George Bush, Vladimir Putin og Donald Trump. Det kræver få sekunders videooptagelser, hvor den afkopierede person laver forskellige ansigtsudtryk.
Når det bliver kombineret med et kamera, der opfanger og optager stand-in-aktørens ansigtsudtryk, kan forskerne bogstavelig talt få personen til at sige hvad som helst.
Firmaet Lyrebird har udviklet et AI-værktøj, der er i stand til at emulere toneleje og stemmeføring, efter AI’en er blevet fodret med timers lydoptagelser.
I 2017 offentliggjorde forskere fra University of Washington en video med Barack Obama, hvor de havde synkroniseret en udtalelse fra 1990 med hans læber i et klip fra 2016, så det lignede real tid.
Om de mulige konsekvenser udtalte de ledende forskere fra Stanford og Washington sig næsten ens til henholdsvis BBC og QVARTZ: Når teknologien først er rullet ud, kan den også rulles tilbage.
Men spørgsmålet er, om skaden allerede er sket, hvis teknologien ender i de forkerte hænder.
Men spørgsmålet er, om skaden allerede er sket, hvis teknologien ender i de forkerte hænder.
Direktørens våde drøm
I et forretningsmæssigt perspektiv åbner brugen af AI op for et kæmpe potentiale. Med al den data, der er til rådighed om os forbrugere, er det kun et spørgsmål om tid, før computerens kunstige intelligens vil gøre virksomheder i stand til at skræddersy og målrette kampagner til dig ud fra dine personlige præferencer.
Mads Bredal, CEO i Dentsu Aegis, sagde til årets Social Media Week, at det hører fortiden til at føre 1 kampagne til 800.000 personer. I stedet vil det i fremtiden være langt mere personificeret, og derfor er mindsettet at føre 800.000 kampagner målrettet 1 person.
AI’en kan indsamle enorme mængder data, og den kan forvandle big data til smart data. Foto: Getty Images
Kunderejser kan kortlægges til punkt og prikke. Content-produktion bliver automatiseret og personificeret. Chatbots bliver klogere. Maskinerne arbejder i døgndrift og har ingen sygedage, og derfor er det i sagens natur omkostningseffektivt som bare pokker. Mulighederne er enorme i det digitale univers.
De fleste forbrugere vil være glade for ikke at skulle spilde tid og opmærksomhed på produkter, kampagner og reklamer, som ikke tiltaler os, og derfor lyder det alt sammen som et eventyr med en lykkelig slutning.
Men kan data bruges til at markedsføre produkter og services, kan det også bruges til politisk markedsføring.
Den tørstige elefant, Facebook. Kilde: Cagle.com
Samfundsborgerens mareridt
AI’en har allerede været taget i brug med et politisk formål for øje i de seneste år.
Den 17. marts offentliggjorde whistleblower Christopher Wylie, at dataanalysevirksomheden Cambridge Analytica tilbage i 2015 stjal data om 50 millioner amerikanske Facebookbrugere via appen thisisyourdigitallife.
Mangemillionær og republikanerdonor Robert Mercer købte sig ind i virksomheden og den omfattende målgruppeindsigt til den nette sum af 15 millioner dollars. Indsigterne er ifølge The Guardian blevet anvendt til at skræddersy forførende Facebook-kampagner på individplan til fordel for bl.a. Trump og Brexit.
Selvsamme Mercer har aktier i den højreorienterede politiske blog Breitbart News, hvor Steve Bannon, der også har været chefstrateg for Trump, har huseret. Bannon har ligeledes en ledende funktion i Cambridge Analytica.
Størstedelen af os læser sjældent forbrugeraftalen igennem, når vi fx opretter os på en hjemmeside eller henter en app. Forbrugerdata er milliarder værd for virksomheder – og nu også for politiske partier.
Facebook og Google ved, hvor du bor, hvor du arbejder, hvad du kan lide, hvad du reagerer på, og hvad du interagerer med. Du har ikke en jordisk chance for at vide, hvem der har oplysninger om dig, når dine digitale spor ligger til salg derude.
Demokratiet er under angreb
Når politiske aktører kender dine dybeste, underliggende frygter, kan de nemt tappe direkte ind i dem med skræddersyet og falsk indhold. De ved, at det handler om at påvirke dine følelser frem for at fremlægge fakta. De ved, hvordan de kan få dig til at ændre adfærd og forcere dit kryds i stemmeboksen.
Uafhængigt af landegrænser sørger Cambridge Analytica for at vinde demokratiske valg til fordel for dem med de dybeste lommer, mens de formår at flyve under radaren. Indtil nu.
Alexander Nix, CEO i Cambridge Analytica, var på scenen til Web Summit med foredraget ‘Mad Men to Math Men’. Her fortalte han stolt, hvordan han hjalp Donald Trump med at vinde det amerikanske præsidentvalg ved brug af data og psykografiske målgruppe metoder.
En journalist fra britiske Channel 4 News fangede Cambridge Analyticas nu suspenderede direktør Alexander Nix på skjult kamera, hvor han udtaler sig om deres indblanding i demokratiske valg i hele verden: “I mean, it sounds like a dreadful thing to say, but these are things that don't necessarily need to be true as long as they're believed”.
Minidokumentaren om Cambridge Analytica er lavet af britiske Channel 4 News. Hvis du har 20 minutter, skal du gøre dig selv den tjeneste at se den. (Kilde: Channel4.com).
Deres teknikker er beskidte og lyssky.
Om det er at stjæle data om 50 millioner Facebookbrugere for at påvirke udfaldet af det amerikanske præsidentvalg og at få briterne ud af EU ved at pumpe fake news-propaganda ud til masserne, eller om det er at bruge prostituerede til at afpresse embedsmænd og politikere over hele verden.
Under dække af academicas stolte faner har Cambridge Analytica med Mercers millioner i ryggen bragt propagandaens beskidte kneb ind i den digitale tidsalder.
Fake news er granater i digital krigsførelse
Når man kombinerer politiske motiver, AI, persondata og en bundløs pengetank, er resultatet en sprængfarlig cocktail, der sætter ild til de demokratiske processer.
Cambridge Analytica er med stor sandsynlighed ikke de eneste kynikere, der med deres salgbare indsigter er i stand til at påvirke valgresultater.
Opdigtede historier på shady hjemmesider og blogs skræddersyes og målrettes til specifikke, detaljerede segmenter med indhold, der vækker en følelse, bekræfter forargelse og indignation, og får modtagerne til at grave sig ned i ekkokammeret sammen med andre ideologisk ligesindede.
Det er nemt at forestille sig, hvordan manipulerede, vellignende fake videos – ligesom opdigtede artikler – kan gå viralt og nå ud til flere hundrede tusinder. Og når først det er ude, er skaden sket, og en efterfølgende debunk vil ikke kunne ændre på udfaldet.
Fake videos er naturligvis objektivt deciderede usande. De har beviseligt aldrig fundet sted. Der er dog – ligesom tilfældet er med tekst og billeder – behov for teknologi, der gør det nemt for den almene borger at gennemskue, hvad der er sandt og falsk i internettets uendelige informationsvirvar.
Tech-giganterne skal tvinges til handling
Vi har lagt vores liv i hænderne på Google og Facebook. De kender alle vores hemmeligheder og besidder vores mest personfølsomme data.
Wylie, som lækkede historien om Cambridge Analytica, blev kontaktet af Facebook med henblik på at slette dataen om de 50 millioner Facebookbrugere. Men skaden var allerede sket. Dataen var kopieret adskillige gange, og ifølge Wylie ydede Facebook en minimal indsats for at stoppe lækket eller inddæmme skaden.
Facebook tjener da også styrtende på at sælge forbrugerdata, og man kan derfor fristes til at tro, at proceduren er business as usual. Siden lækket er Facebooks aktiekurser faldet med 37 milliarder kroner, og britiske og amerikanske politikere kræver handling fra Mark Zuckerberg. Alle øjne hviler på den blå tech-gigant.
Hvor der er vilje, er der vej
Vi kan måske ikke længere vide os lige så sikre på vores øjne og ører, som vi har kunnet førhen. Når der bliver talt til vores dybeste frygter og følelser, kan det være svært at bevare den kritiske sans.
Derfor må vi som samfund tage kampen op med tech-giganterne, så vores data er i sikre hænder.
EU har senest indført GDPR-initiativet, som skal sikre vores persondata. Men lyssky firmaer som Cambridge Analytica ændrer nok desværre ikke adfærd, bare fordi lovgivningen kræver det. Der bør derfor også sikres en større digital politistyrke.
Programmører bliver nødt til at skabe AI-værktøjer, der kan be- eller afkræfte autenticiteten af video, billeder og tekster.
Her er det glædeligt, at en gruppe frivillige programmører har lanceret ‘The Fake News Challenge’ for at opmuntre til at udvikle AI-værktøjer, som kan spotte fake news.
AdVerif.ai arbejder f.eks. med content-platforme og reklamenetværk, som ikke ønsker at blive associeret med falske eller stødende historier. En fælles alliance for sandheden.
AdVerif.ai arbejder f.eks. med content-platforme og reklamenetværk, som ikke ønsker at blive associeret med falske eller stødende historier. En fælles alliance for sandheden.
Og så skal digital dannelse ind på skoleskemaet. Børnene kommer til at vokse op i en digital verden med smartphone og iPad i hver sin hånd. Vores demokratis styrke afhænger af folkets oplysthed.
Alle os, der arbejder med kommunikation og markedsføring i det offentlige eller private, bør gøre os nogle etiske og moralske overvejelser, før vi popper champagnen og med bind for øjnene kaster os ukritisk i armene på AI-teknologi.
For en ting er sikkert. Vi har kun set toppen af AI-isbjerget. Lad os ikke håbe, at Stephen Hawking, som så ofte før, får ret.
