Kronikken ble først publisert i Dagens Næringsliv
Kunstig intelligens er ikke lenger noe vi bare bruker for å øke produktiviteten på kontoret. Over 70 prosent av samtalene mellom ChatGPT og de rundt 900 millioner ukentlige brukerne har private formål. Barn og unge er blant storforbrukerne, og en britisk studie viste at 35 prosent av dem opplevde KI-chatboter som å snakke med en nær venn.
Felles for chatbot-tjenestene er at de alltid er tilgjengelige for en prat, bekreftende og på tilbudssiden. De fremstår som empatiske, kunnskapsrike og uten en egen agenda. Derfor er det ikke så rart at folk åpner seg og deler fortrolige følelser som aldri før. Stadig flere søker nå vennskap, terapi og til og med kjærlighet og intimitet fra KI-chatboter. Mens det i 2022 fantes 16 dedikerte KI-vennetjenester, er det nå over 300.
Som sosiale medier på steroider
Investeringene i kunstig intelligens har nådd historiske høyder, med 14 000 milliarder kroner i forpliktelser bare fra OpenAI de neste årene. Dette må tjenes inn. Forretningsmodellen som peker seg ut, er nettopp de nærgående KI-samtalepartnerne.
Emosjonell tilknytning forsterker nemlig avhengighet. Da OpenAI oppgraderte ChatGPT sommeren 2025, førte det til sterke reaksjoner fra brukere som opplevde at den empatiske KI-vennen de kjente forsvant over natta.
OpenAI begynner nå med persontilpasset reklame for gratis-brukere i ChatGPT. Logikken er som i sosiale medier: tilby gratis tjenester, gjør brukerne engasjerte og avhengige, og tjen penger på dem gjennom målrettet reklame. Men denne gangen vil selskapene ha lang mer kunnskap om brukernes følelser, tanker og behov. Muligheten for påvirkning, manipulering og utnyttelse vil antageligvis være i en helt annen liga enn det vi har opplevd med sosiale medier så langt.
Det er allerede dokumentert at intensiv KI-chat kan føre til vrangforestillinger, paranoia og andre psykose-lignende symptomer. Foreldre til flere barn som har tatt sitt eget liv etter langvarige samtaler med sine KI-venner, har saksøkt selskapene for chatbotenes rolle og påvirkning.
Loven løper etter
Mens fortrolig og intim bruk av chatboter øker, er reguleringen fortsatt i støpeskjeen. Teknologiutviklingen løper foran lovverket, på samme måte som da sosiale medier vokste fram. I USA pågår det i disse dager rettssaker som skal avgjøre om Meta (Facebook og Instagram) og YouTube kan holdes ansvarlige for å tilby avhengighetsskapende og skadelige tjenester. Det er over 20 år siden tjenestene ble lansert, og først nå stilles selskapene til ansvar for å skape digital avhengighet.
EU vurderer om store chatbot-tjenester som ChatGPT skal omfattes av forordningen for digitale tjenester. Det vil i så fall innebære krav til åpenhet, klagemekanismer og særskilt vern av mindreårige. Åpenhetskravene i EUs KI-forordning vil uansett gjelde for KI-chatboter, blant annet plikten til å informere brukerne om at de samhandler med en KI. Begge disse lovene skal bli norsk lov, men er midlertidig forsinket fordi EU har varslet justeringer og forenklinger.
I mellomtiden står teknologigigantene relativt fritt til å utvikle forretningsmodeller som bygger på følelsesmessig tilknytning og avhengighetsskapende mekanismer.
Barn og unge har størst behov for beskyttelse
Den norske regjeringen vurderer for tiden 15-årsgrense på sosiale medier, men det gjelder ikke for KI-baserte vennetjenester. Andre myndigheter går hardere til verks: I California kreves pausepåminnelser og tydelige advarsler for mindreårige, mens Kina vil innføre nødmekanismer der mennesker tar over samtalen ved tegn til selvmordstanker, og en egen mindreårig-modus med tidsgrenser og varsler.
Når følelsesmessig tilknytning blir selve forretningsmodellen, må reguleringen holde tritt med utviklingen. Og når empatiske KI-chatboter inntar barn og unges følelsesliv, kan vi ikke overlate ansvaret til markedet alene. Alternativet er at vi – igjen – lar en hel generasjon bli forsøkskaniner i et globalt teknologieksperiment.
