Sakene vi har valgt ut, er:
- OpenAI-modell brøt seg ut av testmiljø
- Kimi K3: Ny KI-modell fra Kina vekker oppsikt
- USA forbyr robotstøvsugere fra Kina
- New York stanser utbygging av nye datasentre
- Kina forbyr KI-venner for mindreårige
- Anthropic-forskere hevder Claude viser tegn til bevissthet
- Frankrike har vedtatt 15-årsgrense for sosiale medier
- Over 1100 KI-eksperter vil ha brems i teknologiutviklingen
- Økt presidentmakt i USA kan true dataoverføring mellom EU og USA
OpenAI-modell brøt seg ut av testmiljø
I juli offentliggjorde OpenAI og Hugging Face en uvanlig sikkerhetshendelse. Da OpenAI skulle teste en av sine nye KI-modeller, klarte modellen å bryte seg ut av det lukkede testmiljøet, skaffe seg internettilgang og hacke seg inn i Hugging Face. Angrepet var ikke tilfeldig. Hugging Face er en av verdens største plattformer for deling og utvikling av KI-modeller. OpenAIs modell forsøkte å få tilgang til nødvendig informasjon fra plattformen for å «jukse» på oppgaven den hadde fått i oppdrag å løse.
Hugging Face oppdaget angrepet, og i en felles pressemelding nærmest feirer selskapene hendelsen og omtaler den som «en enestående cyberhendelse» som viser hvor avanserte og kapable KI-modeller har blitt. Selv om selskapene bruker hendelsen for alt den er verdt til å fremheve kapasiteten til egne modeller, illustrerer den samtidig en alvorlig sikkerhetsutfordring: Stadig mer handlekraftige KI-modeller kan finne løsninger som utviklerne ikke har forutsett. I ettertid har OpenAI tonet ned den opprinnelige fremstillingen og understreket at hendelsen i stor grad skyldtes at testmiljøet ikke var sikret godt nok, snarere enn at modellen viste en uventet evne til å «bryte seg ut».
Kimi K3: Ny KI-modell fra Kina vekker oppsikt
I midten av juli lanserte det kinesiske selskapet Moonshot språkmodellen Kimi K3, som kan bli en viktig utfordrer til modeller som ChatGPT og Claude. Lanseringen blir omtalt som et nytt «DeepSeek-øyeblikk», en referanse til da den kinesiske modellen DeepSeek ble lansert og vakte oppsikt i januar 2025.
Nå vekker Kimi K3 oppsikt av flere grunner. For det første har Kimi K3 hele 2800 milliarder parametere, over fire ganger så mange som DeepSeek V3 hadde. Det gjør den til en av de største KI-modellene som noensinne er lansert. For det andre er Kimi K3 en KI-modell med såkalte åpne modellvekter (på engelsk Open-Weight Model), som betyr at modellen kan lastes ned, tilpasses og kjøres lokalt. Likevel, i motsetning til modeller med åpen kildekode, er bare deler av Kimi åpent og tilgjengelig. Brukere får tilgang til de ferdig trente modellvektene, men ikke nødvendigvis treningsdataene, kildekoden eller treningsprosessen. For det tredje introduserer Kimi en ny funksjonalitet med en sverm av KI-agenter (på engelsk Agent Swarm). I stedet for at én agent utfører en komplisert oppgave steg for steg, kan Kimi opprette mange spesialiserte agenter som arbeider parallelt og samarbeider om å løse kompliserte oppgaver. Det gjelder for eksempel å undersøke mange kilder, analysere store datamengder eller utvikle programvare.
Kimi K3 har med dette skapt stor ståhei, særlig i USA. Mens de mest avanserte amerikanske KI-modellene – som Claude, ChatGPT og Gemini – er lukkede modeller, satser flere kinesiske selskaper på åpne eller delvis åpne modeller. Disse modellene kan bli et viktig konkurransefortrinn for kinesisk KI, og samtidig utfordre USAs teknologiske dominans. USA har vurdert mottiltak, men over 20 teknologiselskaper, deriblant Microsoft, Nvidia, Meta og Palantir, forsvarer i et åpent brev KI-modeller med åpne modellvekter, og oppfordrer amerikanske myndigheter til å ikke innføre restriksjoner som hindrer utviklingen av dem.
USA forbyr robotstøvsugere fra Kina
Amerikanske myndigheter innfører et forbud mot humanoide roboter og andre avanserte roboter som kan utgjøre en «uakseptabel risiko for USAs nasjonale sikkerhet», uavhengig av hvilket land de er produsert i. Bakgrunnen for innstrammingen er bekymring for at roboter med sensorer, kameraer, trådløs tilkobling og programvare som kan oppdateres eller styres over internett, kan samle inn sensitiv informasjon eller utnyttes i cyberangrep. Myndighetene frykter at slike roboter kan kartlegge hjem, bygninger og annen kritisk infrastruktur, eller i verste fall fjernstyres av fremmede stater.
Forbudet er særlig rettet mot kinesiskproduserte roboter, men omfatter også moderne robotstøvsugere med kameraer og internettilkobling. Det innebærer at flere kinesiske produsenter ikke vil kunne lansere nye modeller på det amerikanske markedet. Blant selskapene som kan bli berørt er Roborock, Ecovacs og Dreame som i dag er blant de største kinesiske aktørene i markedet for robotstøvsugere. Innstrammingen er en del av en bredere amerikansk strategi for å begrense teknologi som kan utgjøre en sikkerhetsrisiko, og er et eksempel på hvordan den teknologiske rivaliseringen mellom USA og Kina får konsekvenser for forbrukerprodukter.
New York stanser utbygging av nye datasentre
I juli innførte New York, som den første amerikanske delstaten, et midlertidig forbud mot utbygging av nye, store datasentre med et strømforbruk over 50 megawatt. Formålet er å sikre tid til å utvikle nødvendig regelverk, og å kartlegge miljøkonsekvenser og energiforbruk. En av årsakene er den økende motstanden i befolkningen. Datasenternæringen har ført til en vekst i strømprisene, på bekostning av forbrukerne. Motstanden mot utbyggingen av KI-datasentre vokser også i resten av USA, og stadig flere lokalsamfunn tar et oppgjør med industrien. Årsaken er blant annet økte strømpriser, støy, naturinngrep og vannforbruk. Også i Norge vokser frykten for at datasenternæringen vil gi høyere strømpriser.
Kina forbyr KI-venner for mindreårige
Fra 15. juli ble KI-kjærester og andre KI-tjenester som simulerer venner eller familiemedlemmer forbudt for mindreårige i Kina. Den nye loven har som formål å motvirke at alle brukere, også de over 18 år, utvikler emosjonell avhengighet til KI eller erstatter menneskelige relasjoner med KI. For mindreårige må tjenestene ha en egen barnemodus med blant annet begrensninger på brukstid og pengebruk, påminnelser om at de snakker med en KI, og mulighet for foreldrekontroll. Barn under 14 år må i tillegg ha samtykke fra foreldre eller verge for å bruke slike tjenester.
Det nye regelverket har allerede fått store konsekvenser. Da reglene trådte i kraft 15. juli fjernet ByteDance muligheten til å lage og snakke med egne KI-personligheter i tjenesten Doubao (382 millioner månedlige brukere), mens Alibaba gjorde lignende endringer i sin KI-tjeneste Qwen (167 millioner månedlige brukere). ByteDance avviklet funksjonen for alle brukere, også voksne, trolig på grunn av at loven også inneholder krav til selskapene for å motvirke emosjonell avhengighet. Brukere kan lese eksisterende samtaler med sine KI-personligheter i tre måneder, men ikke fortsette samtalen. Det har ført til sterke reaksjoner fra brukere som over natten mistet KI-venner de hadde knyttet sterke følelsesmessige bånd til.
Anthropic-forskere hevder Claude viser tegn til bevissthet
I juli publiserte forskere i Anthropic en studie som indikerer at de ser tegn til bevissthet i sine KI-modeller. Forskerne hevder å ha funnet en slags intern «arbeidsplass» i modellen (på engelsk Global Work Space eller J-Space), der relevant informasjon samles, analyseres og brukes i videre resonnering. Denne mekanismen har, ifølge forskerne, interessante likhetstrekk med teorier om hvordan menneskelig bevissthet fungerer. Selv om det ikke beviser at KI har verken følelser eller subjektiv bevissthet, har det likevel stor betydning for den videre forståelsen av språkmodellers evner og selvforståelse. Funnene gir både ny kunnskap om hvordan språkmodeller fungerer, hvordan de kan manipuleres (ved å manipulere «arbeidsplassen») og gir nytt liv til diskusjonen om hvorvidt avanserte KI-systemer en dag vil kunne utvikle en slags form for «bevissthet». Andre forskere har fremhevet behovet for å studere velferden til KI-modeller på en mer systematisk måte, særlig dersom framtidige KI-systemer vil ha egenskaper som minner om bevissthet.
Frankrike har vedtatt 15-årsgrense for sosiale medier
Frankrike har vedtatt å forby barn under 15 år å bruke sosiale medier som TikTok, Instagram, Snapchat og X. Loven ble vedtatt med stort flertall i både Senatet og Nasjonalforsamlingen den 21. juli, med sterk støtte fra president Emmanuel Macron. Forbudet skal etter planen gjelde nye kontoer fra 1. september 2026 og eksisterende kontoer fra 1. januar 2027. I praksis betyr det at de sosiale medie-plattformene må finne måter å kontrollere brukernes alder på. Frankrike ønsker reell aldersverifisering, for eksempel gjennom en tredjepart som bekrefter at brukeren er gammel nok, uten å dele identiteten med plattformen. EU-kommisjonen holder på med å utvikle en digital løsning for aldersverifisering. Frankrike kan dermed bli det første EU-landet med en så omfattende lovfestet aldersgrense for sosiale medier, og føyer seg inn i en internasjonal trend etter at Australia innførte 16-årsgrense i fjor.
Det er fortsatt usikkerhet rundt hvordan den franske loven vil fungere i praksis. Det finnes foreløpig ingen endelig liste over hvilke tjenester som omfattes, og det er uklart om tjenester som YouTube, WhatsApp og Roblox skal omfattes av loven. Frankrike kan heller ikke alene pålegge de største plattformene alle kravene til alderskontroll, fordi dette i stor grad reguleres gjennom EU-forordningen for digitale tjenester (som på sikt også vil bli norsk lov). Den nye loven som forbyr sosiale medier for barn under 15 år er dessuten klaget inn for det franske grunnlovsrådet med argumenter om at et generelt forbud kan gripe for sterkt inn i barns ytringsfrihet, tilgang til informasjon og personvern. Rådet har mulighet til å underkjenne loven før den trer i kraft.
Over 1100 KI-eksperter vil ha brems i teknologiutviklingen
Over 1100 ansatte og ledende forskere i selskaper som OpenAI, Anthropic, Google, Meta og Microsoft har signert et åpent brev som ber amerikanske myndigheter om å bidra til å bremse utviklingen av KI globalt. Bekymringen er at KI-systemer selv snart kan bidra til å utvikle enda bedre KI-systemer, slik at teknologiutviklingen akselererer raskere enn mennesker og myndigheter klarer å kontrollere. Brevet etterlyser derfor tekniske og politiske mekanismer som gjør det mulig å styre tempoet i utviklingen. OpenAI-modellen som «brøt» seg selv ut fra et lukket testmiljø har aktualisert spørsmålet om kontroll over stadig mer kapable og autonome KI-systemer.
Økt presidentmakt i USA kan true dataoverføring mellom EU og USA
I juni opphevet USAs høyesterett en tidligere dom fra 1935, og slo fast at presidenten kan avsette etatsledere. Ledere av uavhengige amerikanske tilsyn har fram til nå vært beskyttet mot å få sparken av politiske årsaker. Årsaken til at beskyttelsen ble fjernet er at Donald Trump ønsket å fjerne den demokratiske kommissæren Rebecca Slaughter fra Federal Trade Commission (FTC), det amerikanske forbruker- og konkurransetilsynet, som blant annet håndhever deler av personvernlovgivningen.
Dette kan få stor betydning for hvorvidt data kan overføres lovlig fra EU til USA. For fri dataflyt krever EU at tredjeland har et personvern som er «i hovedsak likeverdig» med EUs, inkludert et uavhengig tilsyn. I EU-US Data Privacy Framework fra 2023 pekte USA på FTC som sitt uavhengige personverntilsyn, og EU-kommisjonen viser til FTC hele 259 ganger i avtalen. Når USAs høyesterett nå slår fast at FTCs uavhengighet er grunnlovsstridig, kan en av bærebjelkene i avtalen være svekket.
Personvernorganisasjonen noyb, ledet av Max Schrems, mener grunnlaget for avtalen nå er borte, og har bedt Europakommisjonen trekke tilbake beslutningen om at USA er et trygt mottakerland for personopplysninger fra EU.
