Kunstig intelligens i velferdsstaten

Denne artikkelen stod på trykk i Klassekampen 13. juni 2017. Det er en kortversjon av en artikkel fra Nytt norsk tidsskrift som du kan lese her:

«Lesions learnt» stod det på forsiden av februarutgaven til Nature. Bak ordspillet var det en artikkel som viste at datamaskiner kan diagnostisere bedre enn leger. Forskere fra Stanford-universitetet i USA foret maskinen med bilder av føflekker, før det ble testet mot erfarne hudleger. I nesten hver test var maskinen mer treffsikker enn legene: Den fanget opp flere tilfeller av føflekkreft, og den ga færre falske positive.

Den samme teknologien kan også brukes for øre-nese-hals, øye, radiologi og patologi. Metoden er rask, og det er mulig å bruke mobiler og nettbrett i diagnostiseringen.

Kunstig intelligens har fått et gjennombrudd de siste årene: IBMs Watson vant Jeopardy, Apple lar oss snakke med Siri, Google-bilen har kjørt millioner av kilometer, og Facebook gjenkjenner ansikter like godt som mennesker.

Nøkkelen her er maskinlæring, en gruppe matematiske og statistiske teknikker som ved hjelp av eksempler trener maskinen til å løse en oppgave. Med fremveksten av internett og mobil teknologi mangler forskerne ikke lenger data for å trene stadig kraftigere datamaskiner til å gjøre oppgaver som før var forbeholdt mennesker.

Denne vårløsningen for kunstig intelligens (KI) skjer samtidig som norsk økonomi kjøles ned.  En aldrende befolkning gir færre i arbeid, mindre skatteinntekter og flere kronisk syke. Samtidig vil staten få mindre petroleumsinntekter.

Vi har derfor behov for ny teknologi som bidrar til billigere og bedre offentlige tjenester, spesielt i helse- og omsorgssektoren. Samtidig må flere ut i arbeid og stå lenger i jobb. Denne arbeidsstyrken trenger rett kompetanse for fremtidens jobbmarked.

La oss ta helse først. Medisinen kan bli mer demokratisk tilgjengelig – med like gode vurderinger over hele landet. Mens en hudlege kanskje ser 200 000 bilder i løpet av karrieren, fordøyde Stanford-algoritmen 130 000 bilder på tre måneder. Den fortsetter stadig å lære og alt den lærer, kan umiddelbart deles med andre maskiner. Smarte maskiner vil gi råd og beslutningsstøtte til helsearbeidere på alle nivåer, og oppgaver kan forskyves mellom leger, sykepleiere, hjelpepleiere og pasienter.

Selv om algoritmene blir mer presise enn legene, kan billigere diagnostikk også by på nye utfordringer. Om hundre ganger så mange sjekker seg for føflekkreft, vil flere trenge oppfølging uten at føflekken er ondartet. Sykdommer som egner seg for bildediagnostikk vil kunne få flere utredninger og tidlige diagnoser enn andre sykdommer. Vi kan derfor forvente at diskusjonene om helse-prioriteringer blir skarpere fremover.

Maktaspektet er også viktig. I England har det statlige helsevesenet NHS inngått en avtale med Google-eide DeepMind, som er verdensledende innenfor KI. DeepMind fikk tilgang til millioner av pasientjournaler for å forutsi risiko for forverring, gjeninnleggelse og død, etterspørsel etter sengeplasser og behov for leger på vakt. Men verken pasientene det gjaldt, eller andre offentlige instanser ble konsultert.

Denne saken er høyst relevant for Norge, siden vårt helsevesen har store og relativt fullstendige helsedata om oss. Uten data som råmateriale, ingen kunstig intelligens. Ett spørsmål er hvem som eier algoritmen som er laget basert på offentlige data. Bør tjenesten gis gratis tilbake som en motytelse, eller bør helsevesenet og fellesskapet få en del av inntektene?

Nettverkseffekten betyr at vinneren tar alt. Dette gjelder også for kunstig intelligens: Jo mer data store selskaper som Google og Facebook får, desto bedre blir tjenestene, og dermed tiltrekker de seg enda flere kunder, som igjen gir fra seg mer data. Da risikerer vi å ende opp med at noen få globale selskaper kontrollerer utviklingen av KI og dermed også nye helse-tjenester.

Debatten om fremtidens arbeid tok fyr etter at forskerne Frey og Osborne i 2013 anslo at 47 prosent av jobbene har høy risiko for å automatiseres vekk de neste 20 årene. Kunstig intelligens gjør maskiner i stand til å løse oppgaver som bare mennesker kunne gjøre tidligere. For eksempel revisorer, finansmeglere, sjåfører, butikkmedarbeidere, bakere og advokatsekretærer er i faresonen.

Men selv om noen oppgaver overlates til maskinene, vil de fleste yrker fremdeles inneholde mange oppgaver som vanskelig kan automatiseres bort. Historisk sett har teknologien dessuten skapt flere nye jobber enn den har tatt fra oss. Kunstig intelligens vil utvilsomt bidra til å skape helt nye jobber, også ved å gjøre det lønnsomt å flagge hjem oppgaver som er blitt outsourcet til utlandet. Uansett gjør vi lurt i å forholde oss til de raske endringene som skjer.

NAV må forberede seg på å hjelpe tusenvis av blå- og hvitsnipparbeidere inn i nye yrker de i utgangspunktet ikke er kvalifisert for. Men spørsmålet er omskolering for hvem og til hva? De digitale læringsplattformene retter seg i dag mot høyt utdannede og teknokyndige. Slike plattformer har stort potensial som omstillingsverktøy, men de må fylles med innhold som gjør dem relevante for langt flere.

Selv i yrker som ikke automatiseres bort, kan enkeltoppgaver flagges ut til lavest bydende frilanser – eller maskin. Allerede nå kan selskaper bruke slike plattformer til for eksempel programvareutvikling eller oversettelse: Kunstig intelligens kan gradvis tære på faste stillinger og presse oss ut i deltidsarbeid.

For dem som ikke finner sin nisje i den nye økonomien, kan delingsøkonomien med småjobber tilby nye muligheter. TaskRabbit og Upwork er to internasjonale plattformer, mens i Norge har Finn startet en tjeneste for småjobber.

Slike plattformer åpner muligheter som ellers ville vært vanskelig tilgjengelige. For frilanseren er tilgangen til nye oppdrag viktig. Samtidig gir teknologien formidleren makt, særlig hvis den er en algoritme med en betydelig informasjonsfordel.

Uber ansetter ikke sjåfører. Da kan de heller ikke fortelle sjåførene hvor de skal være. I stedet bestemmer algoritmer hvilken informasjon sjåførene får se. Gjennom digitale dytt og vink styres flåten for å maksimere selskapets fortjeneste – ofte på bekostning av sjåføren. Regulering og tilsynet med slike arbeidsplattformer blir derfor en utfordring.

Norges sikkerhetsnett som skal lette overgangen fra jobb til arbeidsledighet og tilbake i jobb. Systemet er bygget på antagelsen om at arbeidsledighet er unntaket. Men kunstig intelligens kan tvinge flere ut i ufrivillig ledighet. Kanskje er det en idé å innføre 6-timers-dagen, der resten av arbeidstiden gir folk mulighet til å utvikle seg i takt med maskinene.

Den hellige gralen i norsk skole er tilpasset undervisning. Ifølge loven skal opplæringen tilpasses elevenes evner og forutsetninger. Men med 20–30 elever per lærer er det praktisk umulig å gi hver elev kontinuerlig tilpasset opplæring. Læreren må ofte legge nivået der de fleste elevene befinner seg. For de svakeste blir det vanskelig å henge med, mens de sterkeste fort blir understimulert.

Kunstig intelligens kan utvilsomt hjelpe oss i skolen. Tilpassede læremidler har algoritmer som loser eleven gjennom pensum på læringsstier tilpasset hver elev. Først blir hun kartlagt av programvaren. I neste steg trekker algoritmer på erfaringen til tusenvis av andre elever. Konsepter og ideer blir presentert i den rekkefølgen eleven synes det er enklest å forstå, i hennes eget tempo og med løpende tilbakemeldinger. Systemet kan også bruke teknikker fra vanedannende dataspill som «Angry Birds» for å holde på elevens interesse.

Frafallet kan reduseres ved at data fra læringssystemer brukes for å fange opp elever som står i fare. Og flyktninger kan tette kunnskapshull og fases inn mer smidig i det norske skolesystemet. Digitale læremidler kan også tilpasses morsmålet til eleven, slik at manglende norskkunnskaper ikke behøver å hemme utviklingen i andre fag. Etter hvert som eleven blir bedre i norsk, kan språket i andre fag gradvis tilpasses mestringsnivået.

Læreren vil ikke bli erstattet av teknologien, men oppgavene endres. Det blir mindre tid ved tavla og mer tid som mentor. Når systemene rapporterer løpende om elever, klasser og hele skoler, forsvinner også behovet for nasjonale prøver.

På sikt er det ikke utenkelig at hver av oss får en «livslang læringspartner», en KI-basert følgesvenn som følger oss gjennom hele skolen og videre i livet.

Visjonen er å bryte med «one-size-fits-all»-modellen som har preget skolen i 200 år.

Kritikere peker på at digitale læremidler kan gjøre skolen til en fabrikk. Fremfor å stimulere til kritisk tenkning, tverrfaglige vurderinger og sosiale ferdigheter, ferdigheter som fremtiden vil etterspørre, presses elevene inn i læringsløp som defineres av algoritmeutviklere, mener de. Men det er nettopp der maskinene kommer til kort at vi andre skal finne vår nisje.

En stor elefant står igjen i det digitale klasserommet: Hvor tett på elevene skal teknologien få komme? Skal kunstig intelligens gi elever i skolen tilpasset undervisning, må den registrere alt eleven gjør, styrker og svakheter. Hver time, hver dag, i flere år.

Minst tre poeng er viktig å tenke på fremover, både i skolen og i andre deler av velferdsstaten hvor KI vil gjøre seg gjeldende:

For å få teknologien til å fungere er vi nødt til å fore maskinene med haugevis av data. Det offentlige har svært mye data om innbyggerne, og disse er ettertraktet i den kommersielle utviklingen av kunstig intelligens. Slike data er felleskapets verdier, og det offentlige har et ansvar for å forvalte dataene slik at de kommer innbyggerne til gode.

Selskaper som Google og Facebook vet veldig mye om oss, men vi får vite svært lite om hva de vet om oss, og hva de gjør med dataene de samler inn. Om teknologien skal brukes av det offentlige, må det være mekanismer som sikrer innsyn, tilsyn og ansvarlig utvikling og bruk.

Sist, men ikke minst gir kunstig intelligens systemene autonomi og forskyver dermed ansvar og makt. Derfor må vi begynne å diskutere hvordan vi skal kontrollere og styre algoritmene som veves inn i livene våre. Vi er nødt til å komme på innsiden av maskinene som snart kommer til å ta viktige beslutninger om livene våre.

Last ned hele artikkelen: