Generativ kunstig intelligens

En bredt sammensatt ekspertgruppe vil bistå i å løfte frem viktige perspektiver og komme med anbefalinger om generativ kunstig intelligens (KI). Gruppen hadde sitt første møte i mars 2023.

Derfor gjør vi dette prosjektet:

Vi opplever et «iPhone-øyeblikk for kunstig intelligens»

Siden Teknologirådet ga ut rapporten Kunstig intelligens – muligheter, utfordringer og en plan for Norge i 2018, har utviklingen gått svært raskt. Fremveksten av store språkmodeller, utviklet av selskaper som Google og Open AI, er et vendepunkt for vår tids kraftigste teknologi. Språkmodellene er:

• Generelle og kraftige

Med et kraftig og generelt formål skaper modellene unikt og avansert innhold selv, basert på korte instrukser. Trent på hele internett, har de skrevet bøker og musikk og vunnet kunstkonkurranser.

• Løser nye oppgaver

Modellene har en uforutsett evne til å løse nye oppgaver, og har generert antistoffer og forutsett hvordan proteiner bretter seg. Stanford University mener teknologien vil kunne endre 4 av 5 jobber.

• Enkle å bruke

Modellene konverserer, er enkle å bruke, og har raskt blitt svært populære. ChatGPT nådde 100 millioner brukere på to måneder, og ble med det tidenes raskest voksende digitale tjeneste.

• Tilgjengelige for alle

Språkmodellene blir tilgjengelige som API-er, og programmene som bygger på dem blir del av de fleste digitale systemer. Teknologien finnes allerede i Google-søk og i Word, Excel og Teams.

iPhone lyktes fordi den var svært avansert teknologi som kunne brukes til nesten alt, var enkel å bruke, og gjorde det vanskelig å se for seg en hverdag uten. Språkmodeller gjør det samme for kunstig intelligens.

Utviklingen skjer raskt – og reguleringen holder ikke tritt

Utviklingen skjer ikke uten risiko. Språkmodeller er uforutsigbare og upålitelige, og dette arves av programmene som bygger på dem. Modellene er for komplekse til at utviklerne klarer å forutse alt de kan gjøre, og selv om det de sier kan fremstå korrekt, har de ikke noe begrep om sannhet eller løgn. De hallusinerer om de må, og kan opptre diskriminerende og manipulerende. Det er også krevende å kontrollere og vite hvordan de fungerer, på grunn av selskapenes hemmelighold.

Det gjøres nå en rekke forsøk på å sette rammer for kunstig intelligens. USA har lansert sin AI Bill of Rights – en liste med frivillige anbefalinger til utviklere av teknologien. EU forhandler om Artificial Intelligence Act, verdens første helhetlige regulering av kunstig intelligens. Kina vil med en ny lov sikre at generativ kunstig intelligens ivaretar sosialistiske verdier og ikke undergraver statens makt.

Hundrevis av eksperter og teknologifolk, blant dem Elon Musk, Apple-grunnlegger Steve Wozniak og historiker og forfatter Yuval Noah Harari, hevder i et åpent brev at utviklingen går for fort. De frykter at maskiner vil oversvømme mediene med propaganda og usannheter, automatisere bort alle jobbene, og til sist ta kontrollen over vår sivilisasjon. Derfor mener de at all utvikling av store språkmodeller kraftigere enn de som finnes i dag bør settes på pause, slik at politikerne får tatt grep.

Målet med prosjektet

Målet med Teknologirådets prosjekt er å kartlegge dette paradigmeskiftet for kunstig intelligens, vurdere hvilke spørsmål som blir spesielt viktige for norske politikere og myndigheter å ta stilling til, og å komme med anbefalinger om generativ kunstig intelligens.

Noen temaer prosjektet vil ta for seg:

• Behovet for norskutviklede språkmodeller
• Hvordan teknologien påvirker skole og utdanning
• Hvilke jobber som blir berørt, og hvordan
• Bruk av store språkmodeller i offentlig forvaltning
• Konsekvenser for kreative yrker, opphavsrett og patenter
• Håndtering av den økte mengden maskinskapt innhold på nett