Reuters:

Advarte om trussel mot menneskeheten

Dager før Sam Altman ble sjokksparket fra OpenAI, skal ansatte ha advart om et stort gjennombrudd innen kunstig intelligens som kunne true menneskeheten.

TECH-SENTRUM: Ansatte i OpenAI, som har hovedkvarter i San Francisco, skal ha advart styret om et mulig gjennombrudd innen kunstig intelligens. Foto: Justin Sullivan / AFP / NTB
TECH-SENTRUM: Ansatte i OpenAI, som har hovedkvarter i San Francisco, skal ha advart styret om et mulig gjennombrudd innen kunstig intelligens. Foto: Justin Sullivan / AFP / NTB Vis mer
Publisert

Et samlet Silicon Valley sperret opp øynene da OpenAIs toppsjef, Sam Altman, ble sjokksparket forrige fredag.

Nyheten vakte også oppsikt verden rundt, og førte til et enormt press mot styret som sparket ham.

Mer enn 700 ansatte i OpenAI truet nemlig med å si opp dersom ikke Altman ble gjeninnsatt.

Allerede onsdag ble det klart at Altman, som var en svipptur innom Microsoft, får tilbake toppjobben i OpenAI.

Dramatisk brev

Nå melder nyhetsbyrået Reuters om hva som skjedde før den oppsiktsvekkende sparkingen.

I et brev til styret, dager før Altman måtte gå, skal flere forskere i selskapet ha advart om et enormt framskritt innen kunstig intelligens (KI).

Forskerne hevdet dette kunne true menneskeheten, forteller to anonyme kilder med kjennskap til saken.

Det aktuelle brevet var angivelig én av flere faktorer, i en lengre liste med klager, som førte til sparkingen av Altman.

Blant annet skal det ha vært bekymring rundt kommersialisering av framskritt før rekkevidda av mulige konsekvenser var kartlagt.

Forskerne advarte i brevet om farene ved KI, men nøyaktig hva er ikke kjent. Reuters har ikke sett brevet selv, og de ansatte som skrev det har ikke ønsket å kommentere saken.

Gjennombrudd

OpenAI er mest kjent for chatboten ChatGPT. Generativ kunstig intelligens, som ChatGPT er et eksempel på, er i dag god på å skrive og oversette ved å statistisk forutsi neste ord.

I tillegg kan svar på samme spørsmål variere stort.

Bekymringen skal ha handlet om et nytt prosjekt kalt «Q*», uttalt Q-star, som er selskapets forsøk på utvikle neste steg, såkalt kunstig generell intelligens (AGI).

Det er en mer avansert form for KI, som i større grad minner om menneskelig intelligens.

Her skal OpenAI stå overfor et gjennombrudd, som kan være det første skrittet mot å utvikle AGI.

Løste matte

Gitt enorme dataressurser er den nye modellen nemlig også i stand til å løse visse matematiske problemer.

Foreløpig skal den kun løse oppgaver på barneskole-nivå, men de vellykkede testene gjorde forskerne optimistiske rundt den framtidige suksessen til Q*, forteller kildene.

I motsetning til en kalkulator som kan løse et begrenset antall operasjoner, kan AGI generalisere, lære og forstå, skriver Reuters.

Dersom generativ KI også mestrer matematikk, kan det indikere en større resonneringsevne som minner om menneskelig intelligens.

Farene ved intelligente maskiner har over lengre tid vært en bekymring blant forskere. Flere har tatt til orde for streng regulering av AGI, fordi frykten er at den en dag kan se på menneskeheten som en trussel mot sin egen eksistens, skriver Fortune, som også har omtalt saken.