Den 17. september la EU-kommisjonen fram et nytt lovforslag for å beskytte barn og unge på nett: EU KIDS Act.
Dette foreslår EU:
- 15-årsgrense på sosiale medier. Ingen tilgang for de under 13, og begrenset foreldrestyrt tilgang for 13- og 14-åringer.
- Mindre avhengighetsskapende design. Begrensninger på blant annet evighetsskrolling, automatisk avspilling, pushvarsler og belønningsmekanismer.
- Tidsgrenser. Maksimalt én times daglig bruk av foreldrestyrte sosiale medier-kontoer for 13- og 14-åringer, og tidsgrenser som beskytter skoletid og søvn.
- Tryggere algoritmer og standardinnstillinger. Mindre profilering, mulighet for å nullstille anbefalingshistorikk og strengere begrensninger på kontakt med fremmede.
- Nye krav til nettspill. Blant annet forbud mot avhengighetsskapende mekanismer som belønning for å spille mer, og kjøpepress generelt.
- Egne regler for KI-samtalebotter og KI-venner. De skal eksempelvis ikke utformes på en måte som skaper emosjonell avhengighet.
- Aldersverifisering gjennom EU-sertifiserte løsninger. For å håndheve ulike regler for ulike aldersgrupper.
Forslaget innebærer et skifte i hvem som får ansvaret for å dokumentere at digitale tjenester er trygge for barn. De største plattformene skal i større grad måtte vise på forhånd at tjenestene er safe by design. Dette vil, ifølge kommisjonspresident Urusla von der Leyen, snu bevisbyrden som i dag i stor grad ligger hos myndighetene, foreldrene og barna selv.
I dag stilles selskapene til ansvar først når skaden allerede skal ha skjedd. Det har vi blant annet sett i USA, der Meta nylig inngikk et forlik på opptil 17 milliarder dollar med amerikanske delstater etter anklager om at Facebook og Instagram var utformet på måter som gjøre barn og unge avhengige og påførte dem skade.
Kommisjonen legger ikke skjul på ambisjonsnivået: “Europe believes children should be raised by their parents, not by algorithms” (se fremleggelsen av lovforslaget ved kommisjonspresident Ursula von der Leyen).
Slik blir aldersgrensen
Lovforslaget inneholder en felles europeisk aldersgrense for sosiale medier. Hovedregelen som foreslås er at barn under 15 år ikke skal kunne opprette en selvstendig konto. Barn under 13 år skal ikke kunne ha egen konto, mens 13- og 14-åringer skal kunne bruke sosiale medier gjennom en foreldrestyrt konto med begrensede funksjoner. Blant annet skal foreldrekontroll alltid være aktivert, og den daglige bruken kan ikke overstige én time.
Fra 15 år kan barn opprette egen konto uten foreldresamtykke. Fram til fylte 18 år skal tjenestene likevel være safe by design. Det innebærer blant annet mindre avhengighetsskapende design og at funksjoner som sporing, pushvarsler og kontakt med fremmede er skrudd av som standard.
Aldersgrensene skal håndheves gjennom EU-godkjente løsninger for aldersverifisering. Utgangspunktet er at plattformen bare skal få vite om brukeren er over eller under den aktuelle aldersgrensen, men ikke få vite brukerens identitet eller nøyaktige alder. EUs aldersverifiseringsløsning er teknisk klar, og testes for øyeblikket i flere medlemsland. Planen er at løsningen skal tilgjengeliggjøres for alle medlemsland ved utgangen av 2026.
Aldersgrensen gjelder sosiale medier og videodelingsplattformer med funksjoner som kan innebære særlig risiko for barn, og vil typisk omfatte tjenester som TikTok, Instagram, Snapchat, Facebook og Youtube. Lovforslaget favner også bredere enn sosiale medier, og inkluderer nye regler og krav til andre populære digitale tjenester blant barn og unge, som nettspill og KI-samtalebotter. Nettspill kan for eksempel ikke oppmuntre til overdreven bruk, og KI-samtalebotter må forhindre emosjonell avhengighet.
KI-samtalebotter får egne regler
For første gang får KI-venner og generelle KI-samtalebotter egne, konkrete krav rettet mot barns bruk. EU-kommisjonen foreslår ikke aldersgrenser på disse tjenestene, men tar sikte på å regulere hvordan relasjonen mellom barnet og samtalebotten utformes. KI-samtalebotter skal ikke ha design eller atferd som simulerer mellommenneskelige relasjoner på måter som kan skape emosjonell avhengighet hos barn. Som standard skal de heller ikke bruke informasjon fra tidligere samtaler med barnet i senere samtaler. Leverandørene må også teste systemene før lansering for risiko for barns helse, sikkerhet, rettigheter og utvikling, og følge med på nye skadevirkninger etter at systemene er tatt i bruk.
Forslaget inneholder i tillegg særregler når KI-samtalebotter bygges inn i sosiale medier og nettspill. De skal ikke aktiveres automatisk eller plasseres særlig fremtredende i brukergrensesnittet, og barn skal ikke dyttes mot å bruke dem. Dersom funksjonen er aktivert, skal den være enkel å slå av. Da samtalebotten My AI ble lansert i Snapchat i 2023, ble samtalebotten plassert over samtalene med venner, og det var heller ikke mulig å fjerne den dersom man ikke betalte for tjenesten. Det er nettopp slike designvalg EU-kommisjonen nå vil forhindre for mindreårige.
Hva betyr dette for Norge?
EU KIDS Act er foreløpig et utkast til en lov som nå skal behandles av EU-parlamentet og Rådet. Reglene kan derfor endres før de blir vedtatt.
Håndhevingen skal bygge på EUs eksisterende digitale regelverk. For sosiale medier og andre nettplattformer skal tilsynet i stor grad følge systemet til EU-forordningen for digitale tjenester, mens reglene for KI-baserte samtalebotter skal håndheves gjennom KI-forordningen. Det vil si at EU-kommisjonen får ansvar for håndheving av de største nettplattformene (slik praksisen er under Forordningen for digitale tjenester). Ved brudd på loven kan selskapene få bøter på opptil 6 prosent av selskapets globale årsomsetning.
Dersom regelverket tas inn i EØS-avtalen, vil det også få direkte betydning for Norge. De europeiske verifiseringsløsningene kan dermed bli en del av måten norske brukere dokumenterer alder på nett. Samtidig vil regelverket gi nye tilsynsoppgaver til de nasjonale tilsynsmyndighetene som også skal håndheve KI-forordningen og Forordningen for digitale tjenester.
I Norge har regjeringen forslått en aldersgrense for bruk av sosiale medier fra det året man fyller 16. Det vil si at Norge har foreslått en høyere aldersgrense enn det som nå foreslås i EU. Medlemslandene skal etter dagens utkast ikke kunne sette en strengere nasjonal aldersgrense. Det kan bli et stridstema i forhandlingene i EU, ettersom flere land som for eksempel Spania, polen og Portugal allerede har foreslått 16-årsgrenser. Dersom denne delen av forslaget blir stående, kan det på sikt bety at Norge må tilpasse sin aldersgrense til den europeiske.
I det opprinnelige forslaget til aldersgrenser på sosiale medier i Norge, la regjeringen opp til at teknologiselskapene selv skulle ha ansvar for å kontrollere brukernes alder. Dette kravet ble senere tatt ut. Bakgrunnen var EØS-reglene: Digitale tjenester skal som hovedregel reguleres i landet der selskapet er etablert. Norge kan derfor ikke uten videre stille egne krav til hvordan utenlandske selskaper skal kontrollere alderen på norske brukere. Norge har nå fått klarsignal fra EU om å gå videre med en nasjonal aldersgrense. I EU-kommisjonens vurdering slår de fast at Norge kan fastsette en nasjonal aldersgrense, så lenge man ikke pålegger plattformene særnorske krav. Kommisjonen understrekker likevel at den norske aldersgrensen kan bli midlertidig: Dersom EU vedtar felleseuropeiske aldersgrenser, vil disse trolig også gjelde for Norge.
