Generativ KI kan skape tekst, video og bilder, og løse avanserte oppgaver. Dermed har det blitt billigere og enklere å forfalske innhold, og spre falsk informasjon, villede og manipulere.
Halvveis inn i supervalgåret 2024, der halve verdens befolkning går til valg, er det tydelig at de nye KI-verktøyene brukes i valgkamp. Slik som sosiale medier endret valgkamp i sin tid, er valgkampen i ferd med å endres på nytt.
Eksempler på bruk av generativ kunstig intelligens i valgkamp:
- USA: Under primærvalget i New Hampshire i januar ble velgere oppringt av en falsk KI-generert etterlikning av president Joe Biden, som ba velgere la være å stemme.
- Pakistan: Tidligere statsminister Imran Khan brukte generativ KI til å spre politiske budskap fra fengselscellen. Eks-statsministeren skrev ned budskapet sitt, og en KI-generert klone av stemmen hans ble brukt for å spre talen som lydklipp og video.
- India: Under valgkampen i India sirkulerte millioner av deepfakes, dvs. troverdige, forfalskede og stadig oftere KI-genererte bilder, videoer og lydklipp. Politiske partier «klonet» egne politikere og brukte disse til å nå ut til flere velgere med persontilpassede budskap. Sanntidsoversettelse av politiske taler har også blitt testet ut i den indiske valgkampen – og regnes som en stor suksess.
- Indonesia: KI-genererte bilder, videoer og lydklipp av den avdøde diktatoren Suharto ble spredt i valgkampen. Flere partier har «gjenopplivet» kjente politikere for å nå velgerne med dagens valgkampbudskap.
Fri bruk, høy risiko
Det er for tidlig å si noe om bruken av generativ kunstig intelligens i valgkamp har hatt en positiv eller negativ effekt på tilliten til politikere, politiske partier og demokratiet som sådan. KI-generert propaganda, parodi og politisk satire florerte i den indiske valgkampen, men det er ikke nytt at disse virkemidlene brukes i valgkamp. Det er heller ikke regnet som ulovlig i demokratiske land. Tross utstrakt bruk av nye KI-verktøy i valgkampen, kan det se ut som «deepfake-dommedagen», som mange fryktet, lar vente på seg.
Men det som er sikkert, er at teknologien blir tatt i bruk, bruksområdene blir stadig flere, og begrensningene er svært få. Det gjør bruken uforutsigbar og uoversiktlig, og gjør det også vanskelig å kartlegge, håndtere og redusere risiko.
Teknologirådets prosjekt
Teknologirådet skal følge med på valgåret 2024 og hvordan generativ kunstig intelligens brukes i forbindelse med valgkamp og valg. Samtidig vil vi belyse politiske løsninger og handlingsrom for Norge i forbindelse med stortingsvalget i 2025.
Prosjektet vil vurdere følgende spørsmål:
- Hvordan blir generativ kunstig intelligens brukt i supervalgåret 2024?
- Hvilke konsekvenser kan det får for Stortingsvalget i Norge i 2025?
- Hvilke spilleregler trengs for å sikre en trygg og ansvarlig bruk av KI-verktøy i valg?
