Mener dommedags­profetier gagner KI-selskapene

– KI kan ta over verden og utslette menneskeheten innen tre til fem år hvis ikke noe gjøres, advarer Ludvig Lilleby Johansson, styreleder i Tryggere KI.

Også KI-toppsjefene i USA sier at de frykter utviklingen til sine egne systemer.

Debatten startet for fullt da tidligere Anthropic-forsker Jacob Coxon nylig sa opp og advarte mot å undervurdere teknologien.

Sier at KI-selskapene tjener på å advare

KI-forsker Ishita Barua ved Universitetet i Agder påpeker at denne nyeste rekken med advarsler fra selskapene kommer samtidig som Anthropic skal børsnoteres.

– Disse selskapene tjener jo ikke penger, nå skal de ut og hente frisk kapital. Dette er den eneste sektoren som kan si at teknologien er farlig og hente penger på det. Det å si at disse modellene er farlige, vitner jo også om hvor kapable de er, sier Barua.

Hun legger tydelig til:

– Det gagner dem.

Dette er KI-utviklingen folk bekymrer seg for:

– Er snart smartere enn mennesker

– Jeg er redd for at vi snart utvikler KI, som er mye smartere enn oss mennesker, og at vi kan miste kontrollen, sier Ludvig Lilleby Johansson.

– Det er en hårreisende påstand som man må ha litt mer evidens for å si den type ting. Tre til fem år er fryktelig lite, fryktelig kort tid, sier Barua.

– Det er hårreisende. Det er jeg helt enig i. Men det betyr ikke at vi ikke må gjøre noe med det, svarer Johansson.

Positivt at feil får oppmerksomhet

Anders Malthe-Sørenssen, professor i fysikk ved UiO og leder av regjeringens KI-utvalg sier han setter pris på at teknologiselskapene har begynt å snakke om ting som har gått galt.

– Det må jo være det første steget, litt sånn som man gjør i flyindustrien. Man må rapportere alle nestenulykker. Jeg er positiv til at vi nå begynner å se rapportering på ting som går galt. Hvorfor det? Jo, fordi da kan vi ta våre forholdsregler, sier han.

Ludvig Lilleby Johansson sier han ikke stoler på tekselskapene, og at de må styres utenfra.

– Vi ikke kan stole på det de sier. Men nå er det jo mange uavhengige forskere, og forskere som slutter i selskapene, som er veldig bekymret. I tillegg, når det er snakk om regulering, vil jeg si at det vi har i dag ikke er godt nok.

Se Debatten her: