Slitne politikere og byråkrater i Brussel pustet lettet ut 21. mai i fjor. Da hadde EU omsider blitt enig om den nye KI-loven sin, etter fem år med blod, svette og tårer.
Loven heter Artificial Intelligence Act (AI Act), eller KI-forordningen på norsk. Kort fortalt er lovens formål å gjøre det trygt og enkelt å utvikle og bruke kunstig intelligens i Europa.
Teknologirådet har tidligere beskrevet hvordan loven fungerer i en kortrapport. AI Act deler kunstig intelligens inn i kategorier etter hvor stor risiko bruken innebærer for folks rettigheter, som likebehandling og personvern, og stiller krav ut ifra det. Jo større risiko, desto strengere krav. KI som innebærer «uakseptabel risiko» blir forbudt, «systemisk» og «høyrisiko» KI stilles strenge krav til, mens mer ufarlig KI, som spamfiltre, er ok å bruke.
Å innføre, selge eller bruke de forbudte KI-systemene kan ende i bøter på opptil 35 millioner euro, eller syv prosent av omsetningen dersom lovbryteren er et selskap.
Nå har loven begynt å gjelde. 2. februar trådte nemlig de strenge forbudene mot en rekke typer farlig KI i lovens artikkel 5 i kraft. Unntaket er Norge. Selv om KI-forordningen er merket EØS-relevant, har Stortinget fortsatt ikke rukket å implementere den i norsk lov.
Kunstig intelligens som nå er forbudt i EU:
Loven forbyr åtte forskjellige typer av KI-systemer. Likevel er EU-lover som kjent ofte vage og åpne for tolkning. Nå har EU-kommisjonen skrevet 140 sider med veiledning til folk, politikere, utviklere og tilsyn for å forklare hva som egentlig er forbudt, med eksempler. Her finnes mange nyanser og forbehold, men grovt oppsummert blir dette nå forbudt:
- KI-systemer som manipulerer underbevisstheten din
Dette kan være en KI som lynraskt spiller av lyd eller viser et bilde i bakgrunnen av en video du ser på – for raskt for til at du får det med deg – og med mål om å påvirke deg, for eksempel til å kjøpe noe eller tenke annerledes om det du nettopp har sett på videoen. - KI-systemer som utnytter sårbare mennesker, som barn og eldre
Hva med KI-leker for barn som oppfordrer dem til å klatre på møbler eller ta frem skarpe kniver i bytte mot premier? Dette blir nå forbudt. Det blir også KI-leker som analyserer hva barna liker og tilpasser hva de sier og gjør for å gjøre barna avhengige av dem. Et tredje eksempel er mental helse-chatboter som overlister folk til å kjøpe dyre medisiner. - Sosiale poengsystemer basert på kunstig intelligens
I Kina får eller mister du sosiale poeng om du besøker foreldrene dine ofte eller glemmer å ta på hunden din bånd, og staten følger med. En konsekvens kan være at du ikke får reise med fly på flere måneder. Slike typer KI, som vurderer og deler mennesker inn i grupper etter hvordan de oppfører seg sosialt eller i offentligheten, blir nå forbudt i EU. - KI-systemer som «jobber» som forutseende politi
Dette er bruk av KI til å forutsi hvem som blir kriminelle, basert på ting som alder, hvor de kommer fra, eller hva slags bil de har. Det blir heller ikke lov med KI ment til å finne ut av hvem som vil snylte på skatten, basert på hvor de er født eller hvor mange barn de har. Politiet kan få hjelp fra slike systemer, men ikke lene seg på hva KI-systemet sier alene. - Å «skrape» og lagre bilder av ansikter fra sosiale medier eller overvåkingskameraer
KI-systemer som tråler sosiale medier som Facebook, Instagram, YouTube og TikTok etter bilder av brukernes ansikter, og lagrer disse i store databaser, blir nå forbudt. I september 2024 ble det amerikanske selskapet Clearview AI bøtelagt 380 millioner kroner av det nederlandske datatilsynet under GDPR for å drive med nettopp dette. - Følelsesgjenkjenning på jobb eller skole
Hva med et KI-system som gir sjefen din beskjed om du fremstår sint eller trist overfor kundene du snakker med i butikken du jobber i? Eller en KI som følger med på en elev sitt kroppsspråk for å forutsi om eleven kan bli voldelig? Begge deler blir nå forbudt. For øvrig i samfunnet vil slike systemer være tillatt. Et lovlig system kan for eksempel være et som oppfordrer en sjåfør til å ta pauser dersom det registrerer at sjåføren er trøtt. - KI-systemer som kategoriserer folk basert på biometri
Biometriske data er unike kroppslige særtrekk, som fingeravtrykk, en stemme eller et ansikt. KI-systemer som bruker slike data til å gruppere og finne ut av folks etnisitet, politiske meninger, religion eller seksuelle orientering, blir nå forbudt. Det kan være snakk om systemer som analyserer ansiktet til en person for å tilby personen reklame basert på antakelser om hva personer med et slikt ansikt, hudfarge eller stemme liker. - Politiets bruk av ansiktsgjenkjenning i sanntid på offentlig sted
Se for deg et overvåkningskamera eid av politiet på Oslo S eller Oslo Lufthavn som i sanntid overvåker og identifiserer personene som det filmer. Under lovforhandlingene i EU var dette det mest omstridte temaet. Dette er en svært inngripende bruk av KI som mange ønsket å forby, men som noen land også ville ha av sikkerhetshensyn. Til slutt nådde EU et kompromiss – hvert land får bestemme litt selv. I utgangspunktet blir slik bruk av KI forbudt, men det åpnes for at man kan gjøre unntak i lovverk på nasjonalt nivå.
Hva med Norge?
KI-forordningen er merket EØS-relevant, og vil bli norsk lov. Neste steg er at regjeringen gjennom Digitaliserings- og forvaltningsdepartementet legger lovforslaget ut på høring, og deretter frem for Stortinget. Norske politikere vil kunne påvirke bruken av KI i Norge også etter at loven trer i kraft. Elsparkesykler er et eksempel et produkt som er tillatt i EU, men der bruken er strengt regulert i Norge. KI-systemer kan reguleres på samme måte.
