En perfekt storm for desinformasjon
2024 blir et historisk valgår, med valg i land som Tyskland, Storbritannia, India, Sør-Afrika og USA, i tillegg til Europaparlamentet. Valgene skjer i en tid der halvparten av verdens demokratier opplever stor tilbakegang. Politisk polarisering er høyere enn noensinne når amerikanerne går til valg i november, og geopolitiske spenninger verden rundt kan intensiveres avhengig av valgenes utfall.
Valgåret sammenfaller også med et gjennombrudd for generativ kunstig intelligens. KI-genererte fotorealistiske bilder florerer nå på nett, som det falske bildet av Donald Trump som blir arrestert på åpen gate. Nettroboter som gir seg ut for å være mennesker og spredning av falske, men troverdige nyhetssaker og nyhetssider øker. Faktasjekkere sliter med å holde tritt med utviklingen, regulering henger etter, og arbeidet med verifisering og innholdsmoderering har blitt betraktelig nedskalert og svekket på sosiale medieplattformer som Facebook og X (tidligere Twitter).
Å forfalske blir billigere og mer automatisert, målrettet og utbredt enn før. Under valget i Slovakia i fjor kan et falskt KI-generert lydklipp av partilederen Michal Šimečka som hevdet å ville øke ølprisene ha påvirket valgresultatet. Lydklippet ble ikke tatt ned umiddelbart fordi modereringsverktøyene var tilpasset video og ikke lyd. Šimečkas parti vant heller ikke valget. Allerede i 2022 ble generativ kunstig intelligens brukt til å forvirre offentligheten i politiske og samfunnsrelaterte saker i 16 land.
Den nye, manipulerte normalen
Kvaliteten på det maskinene kan skape er nå så høy at det ikke er mulig for mennesker å se forskjell på hva som er maskinskapt og menneskeskapt. Mengden og spredningen øker også. I fjor ble minst 15 milliarder bilder generert av kunstig intelligens, og bildedatabaser som Adobe Stock fylles opp av falske, KI-genererte bilder.
Aktører som ønsker å forvirre velgere eller avspore og manipulere den offentlige debatten, har derfor fått flere nye verktøy. Generativ kunstig intelligens innlemmes nå i eksisterende digitale tjenester, og hvem som helst kan derfor manipulere bilder og videoer uten forhåndskunnskaper. Ansiktsuttrykk kan endres, og objekter i bildet kan flyttes og fjernes ved hjelp av enkle tastetrykk.
I denne nye, manipulerte digitale offentligheten er det vanskelig å vite hvem som står bak profiler og innhold, og hva som er ekte og ikke. Det kan svekke tilliten og troverdigheten til digitalt innhold, og til mediene som kilde til sann informasjon. En analyse av 162 000 profiler som diskuterte Gaza på sosiale medier, slo fast at én av fire kontoer var falske, og at 85 prosent av disse var styrt av bot-er.
OpenAI vil hindre spredning av desinformasjon under valgåret 2024
OpenAI, selskapet bak ChatGPT, har lansert en rekke tiltak for å håndtere de store mengdene KI-generert desinformasjon som kan spres i store mengder på nett i forbindelse med valg. Det innebærer at selskapet vil:
- Hindre at chatbots kan utgi seg for å være å være ekte mennesker eller offentlig institusjoner.
- Motvirke bruk av ChatGPT til politiske kampanjer og lobby.
- Innføre ekstra begrensninger på ChatGPT for å sikre at chatboten ikke oppgir feilaktig informasjon om demokratiske valg, samt muligheten til å søke opp informasjon på nett.
- Gi brukere muligheten til å rapportere om feilinformasjon generert av ChatGPT.
- Utvikle verktøy for å detektere bilder generert av kunstig intelligens.
Nylig valgte OpenAI å suspendere en chatbot designet for å etterligne den demokratiske presidentkandidaten Dean Phillips i USA. Boten var bygd på ChatGPT, og designet for å formidle kandidatens politiske ståsted og kommunisere med velgere.
Det er fremdeles usikkert hvilken effekt OpenAIs valgintegritetsløsninger vil kunne få, og håndheving av reglene blir viktig framover. Selskapet oppgir lite detaljer om hvordan de teknisk sett går til verks for å hindre uønsket bruk av tjenestene i forbindelse med valg.
Spørsmål for 2024
Bør Norge kreve merking av KI-innhold før stortingsvalget i 2025?
I USA vurderes merking av offentlig informasjon, og Google, OpenAI, Meta og Microsoft har forpliktet seg til å utvikle tekniske løsninger. Merking av kunstig generert innhold, inkludert dype forfalskninger og chatbots, er også en del av EUs nye AI Act, men loven trer i kraft først etter stortingsvalget i 2025.
Flere uløste spørsmål gjenstår: hva skal merkes, hvordan, og hvilken informasjon skal oppgis? Det må også pekes på hvem som skal være ansvarlig for merkingen.
Skal politisk reklame reguleres strengere?
I EU er et nytt regelverk for politisk reklame på trappene. Lovverket krever at avsender oppgis, forbyr sponsing av reklame fra land utenfor EU, og oppretter en offentlig database over politisk reklame for å sikre åpenhet. Det tar imidlertid ikke stilling til bruken av KI-generert politisk reklame.
Enkelte teknologiselskaper har valgt å innføre ytterligere begrensninger på politisk reklame. Meta forbyr å bruke generative verktøy til å lage slik reklame, inkludert annonser om valg, og YouTube krever særskilt synlig merking for KI-genererte videoer som tar for seg sensitive tema som valg. Selskapene er imidlertid ikke lovpålagt å gjøre slike tiltak, og Meta har eksempelvis fått kritikk for å ikke følge opp eget forbud mot KI-generert politisk reklame.
Trenger Norge et psykologisk forsvar?
Norge er relativt sett godt rustet for å håndtere desinformasjon, med høy tillit til mediene og lavere polarisering enn andre land. En kvalitets- og produktivitetsøkning av usann og villedende informasjon skaper likevel et behov for å forstå, overvåke og motvirke trusselen fra desinformasjon og uønsket påvirkning.
Selv om det ikke er ulovlig å spre usann informasjon, vil det framover bli nødvendig å forebygge og håndtere desinformasjon, uten å innføre begrensninger som innskrenker ytringsfriheten eller andre grunnleggende rettigheter. I Norge er arbeidet med desinformasjon fragmentert og delt på mange aktører. Til sammenligning har Sverige en egen myndighet for psykologisk forsvar, og Storbritannia har opprettet en Counter Disinformation Unit på departementsnivå.
Denne artikkelen bygger på én av fem teknologitrender som ble presentert i rapporten Teknotrender for Stortinget 2024.
