Ekspert om deepfake:

- Det ser jævlig mørkt ut

«John Fredriksen» dukker opp i en reklamevideo på nett. Utviklingen innen deepfake-teknologi bekymrer ekspert.

«John Fredriksen» dukker opp i en reklamevideo på nett. Teknologiekspert er bekymret over utviklingen. Reporter: Christina H. Korneliussen Vis mer
Publisert

Kort fortalt

  • En deepfake-video med «John Fredriksen» har dukket opp på nettet.
  • Videoen, som er laget med kunstig intelligens, viser Fredriksen som hevder å ha tjent penger på en investering.
  • Teknologiekspert Hans-Petter Nygård-Hansen mener videoen kan lure folk til å gi fra seg penger. Han påpeker at nordmenn er kjent for å være velstående og naive, noe som gjør dem til et attraktivt mål for svindlere.
  • Nygård-Hansen etterlyser strengere lovgivning og reguleringer for å forhindre misbruk av deepfake-teknologi.

- Jeg bestemte meg for å teste med mine egne penger og investerte 2500 norske kroner (...) etter fem timer hadde jeg 5750 norske kroner på kortet mitt, lyder det fra «John Fredriksen».

Videoen (se øverst) har den siste tida dukket opp som reklame før videoklipp på YouTube. Trykker man på den, kommer man inn i en «artikkel».

Og ja - for ordens skyld, så er det altså ikke skipsrederen, som ifølge Kapital er god for 205 milliarder kroner, som skryter av å ha tjent tusenlapper.

Den er nemlig en såkalt deepfake, altså en video laget med kunstig intelligens (AI) og som framstår ekte, men er falsk.

  • Børsen har lagt fram videoen overfor en representant for John Fredriksen, som foreløpig ikke har kommentert saken.

- Nordmenn er naive

- Det her er langt fra den beste deepfake-videoen jeg har sett. Ei heller den verste, sier Hans-Petter Nygård-Hansen, teknologipåvirker og foredragsholder, til Børsen.

Han mener videoen er mer enn god nok til å kunne lure folk til å gi fra seg penger.

- Nordmenn er kjent for å være velstående. Vi er alltid online og tilgjengelige i sosiale medier på våre smarttelefoner, og vi er blant verdens mest naive folkeslag, sier han.

TEKNOLOGIEKSPERT: Fredriksen-videoen er helt sikkert mer enn god nok til å lure noen til å gi fra seg penger, ifølge Hans-Petter Nygård-Hansen. Foto: Terje Bendiksby / NTB
TEKNOLOGIEKSPERT: Fredriksen-videoen er helt sikkert mer enn god nok til å lure noen til å gi fra seg penger, ifølge Hans-Petter Nygård-Hansen. Foto: Terje Bendiksby / NTB Vis mer

De relativt små beløpene er kanskje det som mest av alt avslører at den aktuelle videoen er falsk, mener Nygård-Hansen.

- Ser jævlig mørkt ut

I vår stadig mer digitale hverdag ser man titt og ofte «kjendiser» som reklamerer for eksempelvis kryptovaluta eller ulike produkter.

Ofte er det lett å se at noe skurrer. Men med den rasende utviklingen innen AI, frykter mange hvor overbevisende såkalte deepfakes kan bli.

Også Nygård-Hansens bekymring kommer til syne når Børsen spør hvordan man best kan unngå å bli utnyttet:

- Det ser jævlig mørkt ut. Falske nyheter «klikker bedre» enn ekte nyheter. Polariserende innhold engasjerer mer enn samlende nyheter. Kunstig intelligens er perfekte redskap for å svindle, lure, polarisere, splitte og juge.

AI-GENERERT: Mange gikk fem på da dette falske bildet av pave Frans begynte å sirkulere. Foto: Midjourney
AI-GENERERT: Mange gikk fem på da dette falske bildet av pave Frans begynte å sirkulere. Foto: Midjourney Vis mer

Tidligere i år gikk et bilde av pave Frans viralt, der han tilsynelatende har på seg en luksusjakke fra Balenciaga. Mange lot seg lure av det falske bildet.

Sliter i dyrtida

Det er potensielt mange samfunnsgrupper som kan tro på slike deepfakes og andre svindelmetoder, ifølge Nygård-Hansen.

Han trekker fram de unge, som ikke har en ferdig utviklet hjerne. På den andre siden har man eldre mennesker og sårbare personer.

Om lag 600 000 nordmenn er enten ikke-digitale eller har svært lav digital kompetanse, poengterer han.

- Det er mange som sliter økonomisk i disse dyrtider, det begynner å nærme seg jul, budskapet ser lovende ut, de har kanskje hørt at Bitcoin har mer enn doblet seg i år, og tror på det de ser.

2013: Den AI-genererte videoen er tilsynelatende forfalsket basert på et intervju Fredriksen ga under Tradewinds-festen i Norship-uka på Christian Radich i Oslo. Det opprinnelige intervjuet ligger i skrivende stund på YouTube. Dagbladet var tilstede i 2013. Foto: Nina Hansen / Dagbladet
2013: Den AI-genererte videoen er tilsynelatende forfalsket basert på et intervju Fredriksen ga under Tradewinds-festen i Norship-uka på Christian Radich i Oslo. Det opprinnelige intervjuet ligger i skrivende stund på YouTube. Dagbladet var tilstede i 2013. Foto: Nina Hansen / Dagbladet Vis mer

Nygård trekker fram to hovedbekymringer knyttet til deepfake-teknologi. Det ene mener han er «politisk tafatthet».

- Strengere lovgivning og kraftfulle reguleringer må på plass for å sikre at misbruk av slik teknologi får konsekvenser.

Han frykter også at mediene tar for lett på tematikken og at deepfakes kommer til å undergrave tilliten til mediene.

- På samme måte som da sosiale medier begynte å utfordre mediene med sine tabloide grep for å blidgjøre algoritmene, hvor mediene fulgte etter og lot seg friste av «klikk-horeriet» sine effekter, frykter jeg også for at mediene nøyer seg med å skrive lettbeinte saker om teknologiutviklingens uheldige sider, fordi det klikker bedre i sosiale medier.