Hopp over innholdet

Kunstig intelligens: smart eller skremmende?

Artikkelen tilhører Kunstig intelligens, postet 26. jan 2017

Robindra Prabhu
KONTAKTPERSON:

Robindra Prabhu

Datamaskiner kan bli for smarte for vårt eget beste. Men de kan også gjøre livet bedre for hver enkelt av oss.

Denne saken er en del av Teknologirådets Saken forklart-serie

Kunstig intelligens (KI) handler om å utvikle datasystemer som kan lære av egne erfaringer og løse komplekse problemer i ulike situasjoner og miljøer. Slik sett vil maskiner ligne mer på mennesker.

Et viktig element i kunstig intelligens er såkalt maskinlæring, en gruppe matematiske og statistiske teknikker som ved hjelp av eksempler «trener» maskiner til å løse en oppgave, og som gjør maskinen bedre med erfaring.  Dette skiller seg fra tradisjonell programmering, hvor maskinen løser en oppgave ved hjelp av et sett med presise instruksjoner.

Selvkjørende biler bruker sensorer og maskinlæring for å forstå omgivelsene og ta beslutninger under kjøring. Dette skjer uten at et menneske har gitt bilen eksplisitte instrukser om hvordan den skal oppføre seg i enhver situasjon.

Vårløsning for intelligente maskiner

Det skilles gjerne mellom generell KI og spesialisert KI. Generell KI viser til systemer som utviser samme fleksibilitet i læring og problemløsning som mennesker i ulike og vidt forskjellige oppgaver. Spesialisert KI søker å løse spesifikke oppgaver, som f.eks. å gjenkjenne ansikter i bilder. Mens det er bred enighet om at generell KI ligger flere tiår frem i tid, har utviklingen innen spesialisert KI basert på maskinlæring skutt fart de siste årene.

Store datamengder, bedre algoritmer og billig regnekraft har ført til raske fremskritt, særlig innen såkalte nevrale nett – en maskinlæringsteknikk som er inspirert av biologiske nervevev i hjernen. I en konkurranse for bildegjenkjenning falt feilraten for den beste KI-metoden fra 26 % i 2011 til 3,5 % i 2015. Til sammenligning har mennesker en feilmargin på 5 %.

Som en følge av den rivende utviklingen, satser alle de store teknologi-gigantene nå tungt på teknologien.

Artikkelen fortsetter etter den digitale tidslinje.

 

Muligheter  – også for offentlig sektor

Smart forvaltning: Kunstig intelligens kan brukes til å forutse behov, tilpasse tjenester, avdekke svindel og feil, og gi offentlige etater styrket beslutningsstøtte. Enkelte typer saksbehandling kan automatiseres og gi umiddelbare svar. I kompliserte prosesser kan en digital personlig assistent hjelpe saksbehandleren med å evaluere saken og foreslå tiltak.

Talegjenkjenning gir mulighet for å snakke direkte med maskiner på mange ulike språk. Dette kan senke terskelen for bruken av offentlige digitale løsninger hos innbyggerne. 

Beslutningsstøtte for leger og pasienter: I en sektor med store mengder informasjon og ofte stort tidspress vil kunstig intelligens kunne bidra med beslutningsstøtte i krevende situasjoner. Mens en erfaren radiolog kanskje ser noen tusen bilder i løpet av et arbeidsliv, kan KI på kort tid trenes opp med flere millioner bilder fra hele verden. Dette betyr at alle innbyggere fra Kirkenes til Kristiansand på sikt kan få den samme kvaliteten på helsetjenestene.

Ved å kombinere kunstig intelligens med en digital assistent, kan også pasientene få hjelp i førstelinjen. Britiske helsemyndigheter gjør nå forsøk som skal erstatte henvendelser til legevakten. Brukeren svarer på spørsmål om sin tilstand, og algoritmen gjør en vurdering og gir behandlingsråd . En slik konsultasjon vil gå langt raskere enn en henvendelse til legen.

En lærer for hver elev: Tilpasset opplæring er et sentralt prinsipp i norsk skole. Intelligente digitale læremidler kan gi hver enkelt elev undervisningsmateriale og oppgaver som er tilpasset elevens individuelle utvikling, mestring og behov. De kan dessuten gi eleven målrettede og tilpassede tilbakemeldinger mens eleven løser oppgaver.

Trafikkflyt: Førerløse biler lover en sikrere og mer miljøvennlig trafikk. Med biler som kommuniserer i nettverk og styres av KI, kan dessuten trafikken flyte bedre. I Storbritannia har også enkelte motorveier blitt utstyrt med sensorer og KI-systemer for å forutsi trafikkbildet og håndtere trafikken på en mest mulig effektiv måte.

Utfordringer

Skjeve data: Kunstig intelligens trenes med data. Skjevheter i datasettene vil derfor forplante seg inn i KI-systemene, noe som kan befeste eksisterende ulikheter og forsterke forskjellsbehandling.

Eksempelvis har automatiserte systemer som vurderer jobbsøknader og peker ut den beste kandidaten økt i popularitet.  Når slike systemer trenes på data fra tidligere ansettelser, vil de kunne preges av skjeve valg og praksis fra f.eks. intervjurunder. Algoritmen vil da ikke bare viderefører en skjev praksis, men kan også gjøre den vanskeligere å oppdage.

Forklaringsproblemet: Kunstig intelligens og store data åpner for flere automatiserte beslutninger, f.eks. i søknader om lån, forsikring, stønad eller opptak. Samtidig kan det være krevende å forstå og forklare hvordan slike beslutningssystemer fungerer og kommer frem til sine resultater. Systemene risikerer da å bli «sorte bokser» som skjuler viktige antagelser, usikkerheter og normative valg. Dette gjelder særlig mer komplekse maskinlæringsteknikker.

EUs personvernforordning gir innbyggeren rett til en forklaring av automatiserte beslutninger. Hvordan sikres denne rettigheten i møte med avansert KI?

Hvem er ansvarlig? KI flytter stadig grensen for hvilke kognitive oppgaver maskinen kan løse. Dette reiser nye spørsmål knyttet sikkerhet og ansvar. I flere yrker kreves det i dag autorisasjon for å kunne utføre visse oppgaver. Hvis en maskin gjør en oppgave som tidligere ble gjort av en lege, trenger den da en lignende kvalitetssikring?

EU-parlamentet har nå til vurdering et rammeverk for regulering av KI, som blant annet foreslår juridisk ansvarliggjøring og registrering av avanserte KI-systemer, retningslinjer for ansvarlig utvikling og et krav om at selskaper må dekke tap forårsaket av slike systemer.

Vinneren tar det meste: Kommersiell kunstig intelligens domineres i dag av et knippe store utenlandske internettselskaper. Disse har tilgang på stordata som brukes til å utvikle KI-baserte tjenester. Når disse tjenestene tas i bruk, får selskapene stadig mer data, som igjen kan brukes til å videreutvikle og forbedre algoritmene. Når noen få selskaper dominerer utviklingen i så stor grad, vil det også kunne utfordre norske selskaper i den digitale økonomien.

Offentlig sektor sitter på store mengder data som kan brukes i utviklingen av kunstig intelligens. I Storbritannia har helsevesenet blitt kritisert for å ha delt anonymiserte offentlige helsedata med det Google-eide selskapet DeepMind. En av bekymringene er at selskapet vil bruke datasettene til å utvikle en kommersiell KI-plattform for helsetjenester og fortrenge mindre aktører fra markedet.

Superintelligens: I et åpent brev fra 2015 uttrykte blant annet fysikeren Steven Hawking, entreprenøren Elon Musk og forskningsdirektøren i Google Peter Norvig, dyp bekymring for kunstig intelligens og etterlyste mer forskning om konsekvenser for samfunnet. Bekymringen knytter seg ikke til en kunstig intelligens med egen vilje og bevissthet som blir ond, men heller en teknologi med verdier og mål som avviker fra menneskers.

I Global Risk Report 2017 gjennomført av World Economic Forum, betegnes KI både som en av de fremvoksende teknologien med størst nytteverdi, men også som den teknologien med det største skadepotensialet.

Her kan du lese en versjon av artikkelen i Aftenposten Viten.

Les flere saker:

20 mobile helseløsninger du kan ta i bruk nå

Slik blir du overvåket i overvåkingsøkonomien

Hvilken helserevolusjon vil vi ha?

Ny rapport: Digitalisering og delingsøkonomi i Europa

LES OGSÅ

Fire punkt du må ha på plass før du set i gang med kunstig intelligens

Kunstig intelligente maskinar kan vera god hjelp for deg i kvardagen. Men visste du at dei kan bli opplærte til å bli fordomsfulle? Les meir og sjå opptak frå vårt opne møte.

Les hele saken »

Se opptak av åpent møte om lærende maskiner i offentlig sektor

I Storbritannia oppfordres offentlig ansatte til å teste ut kunstig intelligens. Vi inviterte to briter til å fortelle hva som skjer der, og en professor som leder et spennende norsk forskningsprosjekt.

Les hele saken »

Kronikk: Når den svarte boksen sier nei

Intelligente maskiner kan bestemme om vi skal få banklån eller trygd. Da skylder den svarte boksen oss en forklaring.

Les hele saken »