«Når tankan bak e jævli dårlig gjæmt» – kritisk blikk på frislipp av kunstig intelligens

Midt i ei hektisk konferanseuke på BETT2025 i London tok jeg meg tid til å besøke min favorittbokhandel. I ikoniske Foyles i Charing Cross Road er det kafe med engelsk te og nybakte scones på toppen, og fem fristende etasjer fulle av bøker for en bokelsker.

Brennende aktuell bok om den kommende KI-bølgen

Her snublet jeg over den hyperaktuelle boka THE COMING WAVE av Mustafa Suleyman, skrevet fra innsiden av KI-miljøet. I 2010 var Suleyman med på å starte firmaet DeepMind. De skulle lære opp maskiner til å etterligne det vi hittil har sett på som spesifikt menneskelige egenskaper, fra tekst og tale til planlegging og fantasi, vurdering, empati og kreativitet. Målet var å skape et system som kunne kopiere og på sikt overgå og overta all menneskelig kognitiv ferdighet.

Etter som årene gikk og den teknologiske utviklingen akselererte, vokste Suleiman sin bekymring og angst for utviklingen. Den kunne løpe løpsk uten å la seg kontrollere eller stoppe. I boka viser han til en rekke eksempler på potensielt misbruk med uforutsatte og ødeleggende konsekvenser.

Han er spesielt bekymret for utvikling av syntetisk biologi, med tukling, modifisering av og manipulering med menneskets gener og DNA. Det virker som om utviklerne tar sikte på å gjenskape og ta kontroll over menneskets hjerne og liv. Et skremmende og dystopisk verdensbilde.

Suleiman advarer i klare ordelag mot utvikling av en stadig mer kraftfull teknologi i kompaniskap med dårlige krefter. Det vil føre til maktkonsentrasjon, kaos, diktatur, miljøsammenbrudd, utbytting og forakt for det svake. Retningslinjer og reguleringer blir omgått og sabotert i en tilsynelatende ustoppelig jakt på penger og makt. Uten motkrefter og oppdemming vil det føre menneskeheten mot katastrofen.

Et tydelig varsel om hvor ille det kan gå så vi ved innsettingen av Donald Trump som amerikansk president i januar 2025. Der står presidenten omkranset av de største teknogigantene og Amerikas rikeste menn. En klar påminning om at Halvdan Sivertsen utsagn fra Kjærlighetsvisa fremdeles står ved lag: «Når de fine ordan demmes blir motbydli, og tankan bak e veldig dårlig gjæmt».

Kjernen i diskusjonen om kunstig intelligens

Det er hevet over tvil at en positiv og målrettet bruk av kunstig intelligens kan gi positiv effekt innenfor mange fag og livsområder. På den negative siden ligger faren ved å bli bevisstløs fascinert av datateknologien.

Vi må spørre hverandre: Har vi råd til å ofre vår forpliktelse til å stå opp for menneskeverd, sannhet, etikk, normer og holdninger, empati og omsorg for menneskene og for vår klode på teknologiens alter?

Det kan skje om vi slipper fri videreutvikling av KI-teknologien og syntetisk biologi på alle plan. Risikoen for utforutsatte, skadelige og potensielt katastrofale følger er ellers for stor, skriver Suleiman:

«Den rådende diskusjonen om teknologi, etikk og sikkerhet er utilstrekkelig. På tross av mange bøker, debatter, bloggposter og tweeter, hører vi sjelden noe om å demme opp for den».

Ta humanismen tilbake

En farbar vei ut av dette dilemmaet er en sammenhengende, verdensomspennende kjede av teknologiske, etiske og lovhjemlede mekanismer for å begrense og kontrollere teknologi. Vi må først og fremst pusse støvet av humanismen, og ta menneskets ukrenkelighet og egenverdi tilbake. Om oddsene akkurat nå kan synes dårlige, ligger håper i kraften fra et overveldende flertall av verdens mennesker som vil støtte opp om universelle menneskelige verdier.

På BETT 2025, såvel som i media og vår hjemlige KI-debatt synes dette dilemmaet underkommunisert og oversett.

Av alle ting er KI-debatten i skole og akademia mest opptatt av spørsmål om juks på prøver og oppgaver. Vår kunnskapsminister ser ut til å mene at bare «skjerm» blir bannlyst fra skolen, aldersgrensen for bruk av mobil og sosiale medier blir hevet til 15 år, og læreren blir sjef i klasserommet, er problemet løst. Det er så trangsynt at det nesten ikke er til å tro.

Digitaliseringsminister Karianne Tung er nærmere til å adressere det reelle problemet. Hun vil nå innføre EUs nylig vedtatte forordning for digitale tjenester som norsk lov.

Til VG sier hun: «Det er jo råskap å sette niåringers hjerner opp mot algoritmer utviklet av verdens fremste it-eksperter». Har hun ikke fått med seg at voksne så vel som eldre er minst like prisgitt teknomaktene? Algoritmer trumfer alle aldersgrenser. Vi er altså alle i same båt.

Før vi kaster flere milliarder etter forskning på kunstig intelligens, må etter min mening nødvendige rammer for menneskelige hensyn og ønsket samfunnsutvikling på plass.

Så får vi heller leve med at en bråkjekk amerikansk visepresident på toppmøtet om kunstig intelligens i Paris nylig advarte mot at europeiske forsøk på å begrense digitale tjenester vil regulere de amerikanske techselskapene i hjel.

Kanskje det er akkurat det verden nå trenger?