– Så å si alle tjenester er i ferd med å bli digitale. Om vi skal ha vaskehjelp hjemme, kontormøbler til jobben eller globale advokattjenester, formidles dette i stadig større grad via digitale plattformer, sier Anne Siri Koksrud Bekkelund, prosjektleder i Teknologirådet.
Mens verden har blitt mer og mer digital, har EUs e-handelsdirektiv stått uendret siden det ble vedtatt i år 2000. I høst sendte EU-kommisjonen ut på høring sitt forslag til ny lovgivning for digitale plattformer, den såkalte Digital Services Act. Lovforslaget ser nå ut til å bli slått sammen med et annet lovforslag om ny konkurranseregulering. Målet er å sikre både konkurranse og personvern i den nye, digitale økonomien, og å regulere de store plattformene bedre.
Teknologirådet leverte i september et høringsinnspill til Kommunal- og moderniseringsdepartementet om forslaget til EUs Digital Services Act, med to innspill vi mener departementet bør ta med inn i EUs høring:
- EU bør utvikle et system for revisjon av algoritmer.
- EU bør begrense målretting av politiske annonser i sosiale medier.
Innspill fra Teknologirådet om Digital Services Act
Revisjon av algoritmer
De digitale plattformene er basert på algoritmer og maskinlæring – eller enkelt sagt kunstig intelligens. Det er blant annet fordi denne teknologien har kommet så langt at plattformene lykkes så godt.
Algoritmene skaper imidlertid nye utfordringer:
- Det kan være vanskelig eller umulig for brukerne å forstå hvordan et system kom frem til et svar, en anbefaling eller en rangering.
- Algoritmer kan være diskriminerende, for eksempel fordi de er trent opp på datasett med tidligere beslutninger som var diskriminerende.
- Algoritmene kan i en del tilfeller ta beslutninger som er meningsløse, eller til og med farlige, fordi de støter på en situasjon de ikke er trent for.
Teknologirådet anbefaler at EU setter opp et rammeverk og felles standarder for revisjon av algoritmer for å sikre at vi kan ha tillit til tjenestene.
En revisjon gir plattformeieren mulighet til å bevise for omverdenen at deres plattform oppfyller kriteriene, uten at de behøver å avsløre sine forretningshemmeligheter. Dette kan gi både flere kunder og tilgang på finansiering. Derfor ser vi også eksempler på frivillig algoritmerevisjon.
– Det er ikke bare plattformer som bør revideres, men alle systemer der maskinlæring og algoritmer tas i bruk på en måte som innebærer risiko for kunder, brukere eller samfunnet, sier Bekkelund.
– Vi presiserer imidlertid at ikke all bruk av algoritmer bør kreve forhåndsgodkjennelse. Det ville strupe utvikling og nødvendig effektivisering, fortsetter hun.
