Hvilket ansigt er ægte?
Kunstig intelligens kan lave kunstige mennesker så let som ingenting. Og du kan ikke kende forskel. De er mest af alt meget skræmmende. Men også meget relevante for kommunikatører. Nu kan der skabes momentum med store følgerskarer af (falske) profiler, og man kan helt undgå dyre regninger til modeller og fotografer, for billeder kan bare autogenereres. Mulighederne ligger lige for, og fristelsen er stor. Så inden det kører helt af sporet, er det nødvendigt for organisationer at tage en klar (kritisk) holdning til fænomenet.
af Brian Due
Syntetiske personer er skabt af en computer. De findes ikke. Men du kan ikke se forskel. Deepfake er det også blevet kaldt, når man sætter et andet ansigt på en person. Det nye er, at det nu ikke længere handler om at skifte virkelige menneskers hoveder ud, men om helt at forkaste ideen om virkelige mennesker.
Det er ikke bare post-truth, men post-post-truth. Det er en ren falsk verden. Det er syntetisk; dvs. kunstigt og frembragt ad teknisk vej som en efterligning af noget, der forekommer i naturen.
I lægevidenskaben har vi længe haft syntetiske ben og arme og hud og organer. Er elementer af kroppen blevet udskiftet med noget kunstigt, er identiteten til gengæld blevet bevaret. Det er tæt på slut nu, hvor vi i den digitale verden for evigt aldrig mere umiddelbart kan stole på, om det, vi ser, er ægte eller en gennemført falsk konstruktion. Tidligere tiders abstrakte filosofiske spørgsmål om virkelighed bliver nu reelle problemer.
Denne person findes ikke
Debatten blev sparket i gang, da sitet ThisPersonDoesNotExist.com blev lanceret af softwareudvikleren Philip Wang fra Uber. Baseret på de nyeste udviklinger i maskinlæring udviklede han en algoritme, der, baseret på træning med et stort antalt ægte menneskebilleder, anvender neurale netværk til at skabe falske ansigter. Det er frit for enhver at gå ind på sitet og trække et ansigtet i maskinen.
Kan du se forskel?
På sitet whichfaceisreal.com kan du teste din egen formåen i ansigtsgenkendelse i kamp mod computeren. Ved nærmere øjesyn er de autogenererede billeder faktisk til at genkende 50 % af gangene. Typisk er der fejl omkring detaljer ved ørerne, overdreven refleks i øjnene, farveforvirring eller mærkelige skægrester, som i billederne herunder.
Hvem er ægte, og hvem er syntetisk? Personen til højre har en mærkelig skægrest på venstre hage. Han/hun er falsk og dårligt genereret.
Her er det ikke svært at se, at personen til venstre er falsk. Der er noget galt med det højre øre og kinderne.
Lad os se nærmere på varianter og brugsmuligheder.
Syntetiske virtuelle influencers
Syntetiske virtuelle influencers beskrev vi allerede sidste år. Det er falske profiler på Instagram. Syntetiske, genererede billeder af ikke kun profilbilledet, men også af hverdagssituationer og situationer, hvor influencers poserer med brandede produkter. For disse influencers er nemlig til salg og kan bruges ligesom alle andre influencers til at fremvise produkter og reklamere for sager. Og deres reach er højt. Lil Miquela er en af de mest kendte, og her ses hun syngende på et Instagramopslag.
Syntetiske modeller i kampagner
Du står og mangler et billede af en person, der gør noget bestemt, og du vil ikke betale en bondegård for en model og et fotoshoot. Svaret er syntetiske personer, eller hvad? Det er i hvert fald et marked, der er på vej op. Tidligere havde vi licenser til Polfoto – nu er der licenser hos bureauer, der sælger syntetiske mennesker, som fx rosebud.ai, generated.photos og icons8.
På generated.photos kan man købe licens til at bruge syntetiske modeller i markedsføring.
Hos icons8 kan du selv sammensætte dit perfekte billede med personer, farve, baggrunde osv.
Syntetiske profiler og trolls på SoMe
En troldehær af syntetiske profiler, der til forveksling ligner rigtige mennesker, kan styres mere eller mindre ondsindet. Russiske og kinesiske tjenester bruger dem, ved vi. Som fx historien om, at kvinden Katie Jones, forbundet med den politiske elite på LinkedIn, var kinesisk spion. I stedet for at sende en fysisk person afsted på mission, kan man sende tusinder af syntetiske mennesker ud på nettet og let rekruttere svage sjæle. Men også danske politikere, interesseorganisationer, kommunikationsbureauer osv. kan have en interesse i at skabe stor opmærksomhed og påvirke udfaldet af beslutninger. Facebook fjernede i øvrigt 900 syntetiske profiler for nylig. Hvor fristende det end er, er det ikke en farbar vej.
Her ses Katie Jones – en falsk profil, spion fra Kina, afsløret af USA.
Check out the latest report report from @Graphika_NYC and @DFRLab on #OperationFFS, a takedown of over 900 pages by @facebook for large-scale inauthentic behavior. https://t.co/mnU6Vi5dmf
— Graphika (@Graphika_NYC) 21. december 2019
Syntetiske virtuelle assistenter
Virtuelle assistenter er nogle, vi kan tale med. Det er Siri, Alexa, Cortana og Google Assistant. Der går lang tid før, vi får reelt fungerende humanoide robotter, der kan være vores assistenter. I mellemtiden vil vi have assistenter, vi kan tale med, men som også ser virkelige ud. I hvert fald hvis man spørger IT-firmaerne. Samsung har udviklet, hvad de kalder “a new kind of life”, kaldet Neon. Skræmmende. Post-humanistisk. Men de mener det. Det er virtuelle assistenter, der ligner rigtige mennesker.
Lav din egen NEON – en virtuel syntetisk assistent. Ligesom i science fiction-litteraturen.
Syntetiske kærester
Ekstreme japanere har i en årrække giftet sig med kunstig intelligens. Fremtiden for dating og kærlighedsmarkedet vil uden tvivl blive stærkt påvirket af syntetiske personer. Washington Post rapporterer om problemer med at tiltrække kvinder til datingsites, og vupti, syntetiske profiler kan pludselig gøre det ud for rigtige mennesker.
Her historien fra Washington Post.
Post-post-truth: vigtigt at tage en kritisk position nu
Trendens budskab er, at hvis den virkelige virkelighed ikke lige passer dig, så kan du bare skabe din egen. Hvor postmodernisme i gamle dage talte om flydende identitet og globalisering, og post-truth-æraen med Trump handlede om et fake news-maskineri, så er den nye bølge af syntetiske mennesker et radikaliseret post-post-truth-samfund. Nu kan jeg ikke længere kun frit vælge at flytte rundt, kommunikere usandheder, men også bare skabe en helt virtuel verden, der passer i mit kram.
Blev virtuelle verdener som Second Life aldrig et hit, fordi det foregik i et lukket univers, vil syntetiske mennesker til gengæld overrende internettet de kommende år. Det bliver helt umuligt at stole på onlineprofiler, man ikke i forvejen kender i kød og blod.
Før I hopper med på trenden, sparer penge og får større reach med syntetiske mennesker, så tag en grundig etisk snak om fænomenet. Lov mig det.
