Av Cecilie Hellestveit, konflikt- og folkerettsforsker og spesialrådgiver i Norges institusjon for menneskerettigheter, og Hanne Sofie Lindahl, prosjektleder i Teknologirådet (kronikken ble først publisert i Dagens Næringsliv)
I den ferske rapporten «Superintelligens, makt og menneskerettigheter» har vi i Teknologirådets og Norges institusjon for menneskerettigheter undersøkt hvordan kappløpet mot superintelligens endrer maktstrukturer og legger press borgernes på grunnleggende rettigheter.
Verdens største teknologiselskaper påvirker allerede i dag økonomien, politikken og kulturen, og ikke nok med det: de styrer oppmerksomheten vår, hva vi bruker tiden vår på, og setter rammene for hvordan nyheter og informasjon spres og prioriteres i det digitale. Dermed setter de også i økende grad rammene for vår offentlige samtale.
Rapporten skisserer fire framtidsscenarioer for hvordan superintelligens – forstått som maskinintelligens som overgår menneskelig intelligens – kan påvirke mennesker og samfunn, avhengig av hvem som kontrollerer utviklingen og bruken av teknologien.
I det ene scenarioet, der selskapene har kontroll, forskyves makten fra staten til private aktører. Resultatet er et svekket demokrati, begrenset nasjonal digital suverenitet og redusert politisk styringsevne.
Tekoligarkenes makt blir allerede nå omtalt som et stille kupp, der de i praksis bestemmer spillereglene for den digitale offentligheten og får økt innflytelse over politiske prosesser. I Europa utsettes og utvannes kritisk KI-regulering etter press fra både tekoligarker og Trump-administrasjonen. I USA forsøker Trump-administrasjonen å innføre et 10-årig moratorium på all KI-regulering for å unngå at regulering hemmer innovasjon. Det vil gi selskapene mer eller mindre frie tøyler til å utvikle sin avanserte teknologi.
I dag er superintelligens fortsatt en visjon og ikke en realitet, men lederne bak de største teknologiselskapene har klare ambisjoner om å gjenskape menneskelig intelligens i maskiner, i form av kunstig generell intelligens og superintelligens. Ifølge Sam Altman, CEO i OpenAI, er det ikke lenger er et spørsmål om kunstig intelligens vil bli kraftigere enn mennesker, men hvor kraftig.
Fortellinger om nærstående superintelligens fungerer riktignok som en strategisk ressurs for teknologiselskapene, og bidrar til å skape hype, frykt og forventninger. Men de er ikke alene, og mye kan stå på spill. Nesten 130 000 forskere, næringslivsledere og offentlige personer signerte nylig et opprop for et forbud mot utviklingen av superintelligens, inntil det foreligger en bred vitenskapelig enighet om at utviklingen kan skje på en trygg og kontrollerbar måte.
Menneskerettighetene kan fungere som et kompass for vår digitale fremtid. De pålegger staten å maksimere de fordelene teknologien gir, samtidig som de gir den i oppgave å holde teknologiutvikling som undergraver menneskerettighetene i sjakk. Derfor er menneskerettighetene kanskje det viktigste redskapet for å tøyle en superintelligens.
Menneskerettighetene skal beskytte ytringsfrihet, rettssikkerhet, privatliv og sikre like tilgang til goder som helse og utdanning. Men dette forutsetter at statene har reell evne til å håndheve rettighetene. Når makt flyttes fra staten til private teknologiselskaper, svekkes denne evnen. Statene beholder formell myndighet, men ikke reell makt, mens selskapene får stor innflytelse, makt og dominans i samfunnet, uten menneskerettslige plikter.
Vi står midt i en rivende teknologiutvikling med stadig mer avanserte KI-systemer. De kan bidra til å sikre menneskerettighetene, men dersom vi derimot lar tekoligarker, uten menneskerettighetsansvar, kontrollere og styre utviklingen, kan superintelligens bli menneskerettighetenes kryptonitt. Da risikerer vi å miste mye mer enn bare kontroll over teknologien.
Tekoligark er kanskje årets nyord, men de vil prege oss, verden vi lever i, og vårt eget samfunn i lang tid framover.
