Stjal 295 mill. med klonet stemme

Skal ha svindlet banken på oppsiktsvekkende vis ved hjelp av kunstig intelligens. - Er og blir et økende sikkerhetsproblem i framtiden, sier norsk ekspert.

SVINDEL: Svindlerne klarte å lure til seg store summer ved hjelp av kunstig intelligens. Foto: 1082948 / Shutterstock / NTB
SVINDEL: Svindlerne klarte å lure til seg store summer ved hjelp av kunstig intelligens. Foto: 1082948 / Shutterstock / NTB Vis mer
Publisert

Kriminelle skal ha stjålet verdier opp mot 35 millioner dollar, tilsvarende 295 millioner kroner, ved hjelp av AI-basert stemmekloning, ifølge en artikkel fra magasinet Forbes.

Rettsdokumenter magasinet har fått tilgang på kaster lys over den hittil ukjente, men utrolige historien.

Det var tidlig i 2020 at en bankdirektør i De Forente Arabiske Emirater fikk en telefon. Stemmen kjente han igjen: Det var en sjef for et selskap, som bankdirektøren hadde snakket med før.

Han kom med gode nyheter.

Ba om millioner

Personen hevdet selskapet var igang med et stort oppkjøp, og ba den aktuelle bankdirektøren om å overføre 35 millioner dollar - svimlende 295 millioner kroner, ifølge Forbes.

Bankdirektøren skal også ha fått e-poster, blant annet fra en advokat som bekreftet oppkjøpet og hvilke penger som skulle sendes hvor.

I sum skal det hele ha framstått så legitimt at bankdirektøren satte igang million-overføringene.

Svindlet

Men mannen i den andre enden var ikke den han utga seg for å være. Dette var nemlig en nøye planlagt svindel, der de kriminelle hadde brukt såkalt AI-basert stemmekloning.

Ifølge en artikkel fra Universitetet i Oslo kan slik stemmekloning være så naturtro at «selv ikke ektefellen din vil klare å avsløre det».

- AI (kunstig intelligens) er en velkjent teknologi og ekstremt potent, sier professor og leder av Forskningsgruppen for digital sikkerhet på UiO, Audun Jøsang, til Børsen.

- Det er, og vil bli et økende sikkerhetsproblem for forfalskning i fremtida, advarer han.

PROFESSOR: Leder av Forskningsgruppen for digital sikkerhet på UiO Audun Jøsang mener det er grunn til å være på vakt for falske stemmer over telefon. Foto: Universitetet i Oslo
PROFESSOR: Leder av Forskningsgruppen for digital sikkerhet på UiO Audun Jøsang mener det er grunn til å være på vakt for falske stemmer over telefon. Foto: Universitetet i Oslo Vis mer

Jøsang sier at man i utgangspunktet ikke kan stole på stemmer man kjenner igjen, over telefon. Grunnen til at vi fremdeles gjør det er at forfalskning ennå ikke er så utbredt, mener han.

- Må ha motivasjon

- For at den typen svindel skal skje, må angriperne ha motivasjon. Antakeligvis må de ha investert litt tid og ressurser for å klare å lage en falsk stemme til denne personen, som bankdirektøren kjente igjen, fortsetter professoren.

Stemmekloningen er en parallell til den såkalte Deepfake-teknologien, som er produksjonen av videoer manipulert ved hjelp av avansert dataprogrammering.

- For å lage en falsk stemme er det langt lavere terskel. For å få det til må svindlerne ha tak i stemmeprøver. Det kan de gjøre ved å prate med dem, for eksempel på kafé eller pub, og at personen uttaler et sett med lyder, forskjellige fonemer og tonefall. Alt som utgjør en stemme, sier Jøsang.

Han legger til at alle personer bør være på vakt.

- Man må se an situasjonen, og hvis det er spørsmål om at man kan bli lurt for store verdier, da er dette et relevant trusselscenario, og slike personer må være klar over det.

Jøsang mener det blir viktig framover å se på autentiseringsløsninger, slik at mottakeren kan få bekreftet om lyden eller bildet er ekte.

Minst 17 involvert

Det er ikke første gang slik svindel skjer. I 2019 ble et sjefen for et britisk teknologifirma forsøkt lurt på samme måte, dog for en vesentlig lavere sum: 240 000 dollar.

Der ble sjefen lurt, med samme teknologi, til å tro han snakket på telefon med toppsjefen i det tyske moderselskapet, ifølge Wall Street Journal.

De Forente Arabiske Emirater har bedt amerikanske etterforskere om hjelp i den aktuelle svindelsaken, der de tror minst 17 personer står bak. De stjålne pengene skal ha blitt overført til bankkontoer over hele verden.

Vi bryr oss om ditt personvern

borsen er en del av Aller Media, som er ansvarlig for dine data. Vi bruker dataene til å forbedre og tilpasse tjenestene, tilbudene og annonsene våre.

Les mer