Lanseringen av ChatGPT i november 2022 markerte gjennombruddet for generativ kunstig intelligens. Det er en fellesbetegnelse på en type kunstig intelligens som kan lage unikt innhold – både tekst, lyd, bilder og videoer – bare ved å få enkle instrukser i naturlig språk. Maskiner kan generere falske personer, nettsider og nyheter som kan spres i stor skala på nett.
– Det nye med generativ kunstig intelligens er hvor realistisk både falske avsendere og innhold fremstår, og at desinformasjon kan automatiseres og i verste fall oversvømme det offentlige rom. Samtidig er dette innholdet i stor grad beskyttet av ytringsfriheten, sier Tore Tennøe, direktør i Teknologirådet.
Teknologirådet og Norges institusjon for menneskerettigheter har gått sammen om å vurdere hvordan generativ kunstig intelligens vil påvirke den digitale offentligheten og ytringsfriheten.
Generativ kunstig intelligens og ytringsfrihet
Kunstig intelligens gir troverdig, men upålitelig informasjon
Generative tjenester bygger på store språkmodeller som er trent på enorme mengder data, blant annet fra internett. Siden disse dataene inneholder meninger, verdier og holdninger, er heller ikke maskinene nøytrale. Modellene kan også generere informasjon som ser overbevisende og riktig ut, men som i virkeligheten er falsk eller oppdiktet.
– ChatGPT har blitt kalt for en confident bullshitter på grunn av evnen til å dikte opp troverdig, men uriktig, informasjon, sier Hanne Sofie Lindahl, prosjektleder i Teknologirådet.
Det kan være vanskelig å oppdage hallusinering og feilinformasjon når maskinene genererer tilsynelatende velbegrunnede svar. Eksempelvis ble en jusprofessor anklaget for seksuell trakassering på bakgrunn av en nyhetssak fra Washington Post – en sak det viste seg at ChatGPT hadde diktet opp.
– En chatbot som gir villedende juridiske eller medisinske råd til befolkningen kan ha alvorlige og potensielt livstruende konsekvenser, sier Lindahl.
Et kinderegg for desinformasjon
Desinformasjon og falskt innhold på nett er ikke noe nytt. Likevel stiger bekymringen for at det nå skal bli mer falskt innhold av høy kvalitet. Generative verktøy gjør det enklere å forfalske det meste – alt fra nyheter og historiske hendelser til profiler, nettsider og identiteter.
NewsGuard har identifisert over 600 nyhets- og informasjonssider på 15 forskjellige språk, der så å si alle nyhetsartiklene er generert av kunstig intelligens. Mange av sakene er falske, og sidene har generiske titler som Ibusiness Day, Ireland Top News og Daily Time Update for å fremstå som legitime nyhetskilder. Forsvarets forskningsinstitutt har nettopp lansert en studie hvor de blant annet også har avdekket 14 norskspråklige, falske nettaviser.
– Generativ kunstig intelligens er et kinderegg for desinformasjon. Teknologien gjør det enkelt, billig og overbevisende å spre falsk informasjon, sier Lindahl.
Et eksempel er fra september 2023, to dager før valget i Slovakia. Da dukket det opp et dyp falskt lydklipp med intervju av lederen av Progressive Slovakia-partiet, Michal Simecka. Her forklarer Simecka hvordan han vil jukse seg til valgseier, for deretter å doble ølprisene. «Samtalen» var fabrikkert, og ble sett av tusenvis på sosiale medier. Det er umulig å slå fast om videoen var utslagsgivende, men Simecka vant ikke valget.
Hvordan virker dette inn på ytringsfriheten?
Redusert tillit til informasjon i det digitale domenet kan få store konsekvenser for samfunnet. Det kan i verste fall øke sosiale motsetninger, ødelegge demokratisk meningsbrytning, føre til (mistanke om) manipulering av demokratiske valg, undergrave tillit til statlige institusjoner og media, og sist, men ikke minst, sette nasjonal sikkerhet i fare.
Norges institusjon for menneskerettigheter slår i rapporten fast at ytringsfriheten ikke gjelder for maskiner, men at maskingenererte ytringer i stor grad vil være beskyttet av informasjons-, menings- og ytringsfriheten fordi maskinene fungerer som et verktøy for menneskers ytringer og utfoldelse.
Hva kan gjøres?
Rapporten trekker opp seks mulige tiltak det kan være nyttig å vurdere nærmere:
- Utvikle tekniske løsninger for verifisering
- Innføre krav om merking
- Stille selskapene til ansvar
- Styrke digital kildekritisk forståelse
- Etablere et psykologisk forsvar
- Støtte redaktørstyrte medier
- Påvirke internasjonal normutvikling
Den 14. desember holdt Teknologirådet og Norges institusjon for menneskerettigheter et lanseringsmøte om rapporten, med innlegg og diskusjon med politikere og eksperter. Opptak fra møtet kan du se nedenfor (lenke til Teknologirådets konto på Vimeo):
