I takt med at kunstig intelligens bliver bedre til at generere menneskelige ansigter, viser ny forskning, at vi mennesker er meget dårligere til at afsløre AI-ansigter, end vi tror. Det gør os mere mere sårbare over for misinformation, deepfakes, fake profiler og digitalt bedrageri .

Flere undersøgelser peger på, at både almindelige personer og såkaldte ”super recognisers” (folk med ekstraordinære evner for ansigtsgenkendelse) ofte fejlagtigt identificerer AI-skabte ansigter som ægte – og samtidig er overbeviste om deres egne evner, når de prøver.

 

Det store spørgsmål: Kan vi stadig skelne mellem virkelig og fake?

Ny forskning fra University of New South Wales og Australian National University viser, at folk generelt er for selvsikre i deres vurderinger af, om et ansigt er AI-genereret eller ej. I et studie med 125 deltagere – 36 med exceptionelle ansigtsgenkendelsesevner og 89 med almindelige færdigheder – blev folk vist en række billeder og bedt om at afgøre, om ansigterne var ægte eller lavet af AI.

Ifølge hovedforfatter på stuidetDr James Dunn er den mest slående konklusion, at:

“Det, der var gennemgående, var folks tillid til deres evne til at få øje på et AI-genereret ansigt – selv når denne tillid ikke matchede deres faktiske præstation.” (UNSW Sydney)

Med andre ord: mange har en stærk tro på, at de kan se forskel – selv når deres faktiske evne til at gøre det næsten svarer til tilfældigheder (som at slå plat og krone).

 

Hvorfor bliver vi narret?

Tidligere generationer af AI-genererede ansigter kunne ofte afsløres ved synlige fejl – som fordrejede tænder, glas der smelter sammen med ansigt eller ulogiske baggrunde. Men de nyeste generative modeller har eliminere disse åbenlyse fejl, så billederne ser overbevisende ægte ud ved første øjekast.

Netop det ironiske ved disse realistiske billeder er, at forskere nu mener, at de netop ser for perfekte ud:

“Ironisk nok afsløres de mest avancerede AI-ansigter ikke af, hvad der er galt med dem, men af, hvad der er for rigtigt.,” forklarer psykolog Dr Amy Dawel – med henvisning til deres usædvanligt symmetriske og gennemsnitlige proportioner.

Denne hyper-symmetri og perfektion, som AI kunstigt skaber, er netop blevet en slags “anti-fejl” – noget vores hjerner ikke er vant til at se, når vi forsøger at vurdere et ansigt.

 

Konsekvenser for digitale medier og misinformation

Denne fejlnøjagtighed kombineret med stærk selvtillid har vigtige konsekvenser: når folk tror, de kan skelne ægte billeder fra AI-fænomener, kan det gøre dem ”mere sårbare over for misinformation, deepfakes, fake profiler, scams og digitalt bedrageri”.

Forskerne påpeger, at visuel vurdering alene nu er langt mindre pålidelig, fordi de traditionelle kendetegn, folk har lært at kigge efter, ikke længere gælder. Det betyder, at det ikke længere er nok at stole på sin intuition eller erfaring med ældre AI-værktøjer som populær billedgeneratorer – de mest avancerede generatorer har ryddet de kendte afslørings kendetegn af vejen.

I stedet peger Dunn på behovet for en “sund skepsis”:

“I lang tid har vi kunnet se på et fotografi og antage, at vi ser en rigtig person. Den antagelse bliver nu udfordret.”

 

Fremtiden: Super-AI-detektorer og nye strategier

Interessant nok spekulerer forskerne også på, om visse personer måske allerede er bedre til at spotte AI-ansigter end andre – ikke blot på traditionelle ansigtskendetegn, men på subtile, statistiske mønstre, der skiller sig ud for dem. Dermed kan der potentielt være “super-AI-face-detectors” blandt os, som bruger strategier, vi endnu ikke forstår fuldt ud, og som måske kan undervises til at forbedre almen opmærksomhed på AI-falsknerier.

Den nye forskning understreger, at den visuelle verden på skærmen alene ikke længere er en sikker kilde til sandhed og ægthed – i en tid hvor AI kan skabe næsten perfekte menneskelige ansigter, kan vores egne øjne narres, mens vi alligevel tror, vi ser virkeligheden.

 

Billede 1 og 2 fra venstre er ægte. 3 og 4 er fake.

Prøv evt. flere eksempler på UNSW Sydney Newsroom.

 

Kilder: University of New South Wales, Australian National University, NeuroScience News, Journal of Psychology.

 

Relaterede artikler:

Fra troværdig journalist til falsk fortælling: AI gør misinformation næsten umulig at opdage

Misinformation genereret af kunstig intelligens: 3 færdigheder til at hjælpe dig med at spotte det