Slik vil Kina regulere kunstig intelligens 

Utvikling av kunstig intelligens (KI) er i kjernen av den pågående teknologiske rivaliseringen mellom USA og Kina. Å høste gevinster av teknologiske gjennombrudd har blitt sikkerhetspolitiske prioriteringer. Samtidig forsøker begge land å utforme reguleringer som sikrer forsvarlig utvikling og bruk av teknologien, uten å hemme innovasjon.

Mens EU forhandler fram en generell kunstig intelligens-lov og USA utvikler frivillige prinsipper for ansvarlig kunstig intelligens, har Kina allerede innført en rekke lover for å regulere teknologien. De kinesiske KI-lovene er designet for å oppdateres forløpende, for å sikre at lovene holder tritt med teknologiutviklingen og for at eventuelle uforutsette smutthull kan tettes. I 2018 innførte Kina en lov for innholdsmoderering på nett, etterfulgt av blant annet regler for revisjon og registrering av algoritmer, merking av KI-generert innhold og krav om statlige sikkerhetsvurderinger av verktøy for generativ kunstig intelligens.

Debatten om å sikre at eksisterende lover ikke undergraver innovasjon og utvikling har blitt stadig mer fremtredende i Kina. Internett og tilhørende digitale tjenester er underlagt sterk statlig sensur og kontroll, og de nye KI-lovene har skapt hodebry for kinesiske tek-selskaper. Kina har lenge vært verdens største teknologieksportør. Nå gjenstår det å se om de nye reglene vil fremme innovasjon og teknologiske gjennombrudd eller stikke kjepper i hjulene for kinesiske teknologiselskaper.

Artikkelen fortsetter under tidslinjen.

Kilder for tidslinjen: 2017: Kinas KI-strategi, 2018: innholdsmoderering-loven, 2019: etiske prinsipper, 2021: algoritmeloven, 2022: syntetisk innhold-loven, 2022: midlertidig regulering av generativ KI.

Algoritme-loven (2021)

I 2021 vedtok Kina en lov for regulering av algoritmer som gjelder for alle digitale selskaper som bruker algoritmer, for eksempel til å fremme innhold og tjenester på sine plattformer. Loven krever at selskaper som tar i bruk algoritmer må rapportere på både risiko- og sikkerhetshåndtering, og den introduserer nye mekanismer for algoritmerevisjon.

• Algoritmerevisjon: Selskaper som tar i bruk algoritmer må oppgi informasjon til myndighetene om dataene algoritmene er trent på og algoritmenes funksjoner.
• Algoritmeregister: All bruk av algoritmer må registreres i et myndighets-kontrollert algoritmeregister. Her får myndighetene innsikt i treningsdata og funksjonalitet. Myndighetene får også innsyn i selskapenes sikkerhetsvurderinger og testing av algoritmene.
• Strengere innholdsmoderering: Algoritmer skal underbygge gjeldende verdier i samfunnet, aktivt formidle «positiv energi» og bli brukt på en «oppløftende» måte.
• Beskyttelse av arbeidere fra algoritmestyrt arbeid: Loven forbyr bruk av algoritmer til såkalt «algorithmic scheduling» for å beskytte arbeidernes rettigheter. Ansatte, i for eksempel matleveringstjenester, har blitt utsatt for høyt og tidvis urealistisk arbeidspress gjennom algoritmestyring. Denne type bruk av algoritmer i arbeidslivet blir derfor strengt regulert i algoritmeloven.

Lov om syntetisk innhold (2022)

Bare dager før OpenAI lanserte ChatGPT i 2022, innførte Kina en lov for regulering av innhold som er generert av kunstig intelligens. Loven kom på plass i kjølvannet av en samfunnsdebatt om deepfakes (realistiske forfalskninger av video og lyd laget ved bruk av kunstig intelligens) som ble sett på som en trussel for det digitale økosystemet for informasjonsflyt. 

• Merking av innhold: Loven krever at KI-genert innhold skal merkes. Det gjelder eksempelvis chatbots som kan simulere ekte mennesker, og generell merking av bilder, tale og tekst generert av kunstig intelligens. I tillegg forbyr loven tekniske løsninger som kan slette, endre eller skjule merkingen.
• Sensur av innhold og forbud mot falske nyheter: Det er ikke lov å generere innhold som kan «forstyrre økonomisk og sosial stabilitet», eller «forvirre og mislede offentligheten». Den inkluderer også et forbud mot falske nyheter.

Selv om Kina var tidlig ute med denne loven var timingen likevel noe dårlig. Påfølgende gjennombrudd innenfor generativ kunstig intelligens gjorde at kinesiske myndigheter mente det var behov for å stramme inn reglene ytterligere.

Midlertidig lov for generativ kunstig intelligens (2023)

For å holde tritt med den teknologiske utviklingen innførte Kina midlertidige regler for generativ kunstig intelligens, gjeldende fra august 2023.

• Sosialistiske kjerneverdier: KI-generert innhold skal reflektere sosialistiske kjerneverdier. Loven inkluderer en liste over hva slags innhold som er forbudt å generere, som for eksempel myndighetskritikk.
• Rettigheter skal respekteres: Det er ikke lov å generere innhold som kan skade menneskers fysiske eller psykiske helse, eller innhold som kan krenke menneskers rettigheter, inkludert immaterielle rettigheter, personvern og omdømmerettigheter.
• Statlige sikkerhetsvurderinger: Generative KI-systemer som tas i bruk av offentlig sektor må gjennomgå statlige sikkerhetsvurderinger for å få godkjenning til bruk.
• Krav til treningsdata: Utviklere av generativ KI-verktøy må være i stand til å sikre «korrekthet, nøyaktighet, objektivitet og mangfold» i dataene som er brukt til å trene modellene.

Siden den midlertidige generativ KI-loven ble lansert har det være usikkerhet rundt hvordan loven skal fungere i praksis: Hva er terskelen for kvalitetsdata, hvordan skal de statlige sikkerhetsvurderingene gjennomføres og hvordan kan selskaper garantere at språkmodellene ikke genererer ulovlig innhold? I oktober sendte den kinesiske myndighetsorganisasjonen The National Information Security Standardization Technical Committee et sett med retningslinjer på høring. Formålet med retningslinjene er å klargjøre hvordan reglene skal tolkes og implementeres i praksis:

• Kvalitetssikring av data: Selskaper som trener store språkmodeller må velge ut 4000 tilfeldige «dataprøver» fra et datasett. Dersom over 5 prosent av disse anses som enten ulovlig eller «negativ informasjon» blir datasettet svartelistet til fremtidig trening.
• Innholdsmoderering i tråd med sosialistiske kjerneverdier: Selskaper må velge ut hundrevis av nøkkelord for å flagge utrygt og ulovlig innhold. Retningslinjene definerer åtte ulike kategorier av politisk innhold som strider med sosialistiske kjerneverdier. Under hver av disse kategoriene må 200 nøkkelord flagges.
• Sikkerhetstesting av språkmodeller: Selskapene må teste språkmodellene for å sikre at mindre enn 10 prosent av det genererte innholdet bryter med gjeldende regler og standarder.

Foreløpig er retningslinjene sendt på høring til relevante aktører. Det gjenstår å se hva som blir det endelige innholdet, og om retningslinjene blir veiledende eller bindende.

Veien videre – generell KI-lov i 2024?

Kina har, i motsetning til for eksempel EU som vil regulere kunstig intelligens i en overordnet lov, valgt å regulere bestemte aspekter ved teknologien i flere forskjellige lover. De kinesiske KI-lovene innføres gradvis. Dersom myndighetene ikke er fornøyd med hvordan lovene fungerer, kan de enkelt endres og justeres. Men nå har det kinesiske statsrådet varslet at de også vil legge fram et overordnet lovforslag for regulering av kunstig intelligens for nasjonalforsamlingen. Denne loven skal supplere de eksisterende reguleringene av teknologien.

Et utkast har blitt utviklet av Chinese Academy of Social Sciences, men det er uvisst om dette er ett av flere lovutkast. Dersom utkastet som er lagt fram blir gjeldende, vil det innebære en lovfesting av en rekke styringsprinsipper for ansvarlig utvikling og bruk av kunstig intelligens, som også reflekteres i de eksisterende KI-lovene. Utkastet inkluderer i tillegg opprettelsen av et nasjonalt KI-organ for tilsyn og en «negativ-produktliste». Sistnevnte er en liste over KI-produkter og systemer som vil trenge myndighetenes godkjenning før de kan distribueres på markedet.

Det er usikkert hvordan denne lovprosessen blir framover. Kina har også flere kort i ermet – nylig lanserte myndighetene Global AI Governance Initiative. Målet er å sikre «en menneske-sentrert» utvikling av teknologien, også utenfor Kinas landegrenser, og fremme internasjonale standarder for testing og risikohåndtering.

Sakens forsidebilde er generert ved bruk av KI-verktøyet Midjourney.