Innlegget ble også publisert i Aftenposten Viten 26. februar 2018
I mai 2017 fikk IT-ingeniøren Jeff Newman et glimt av fremtiden da han besøkte Peppes Pizza på Oslo S. På grunn av en feil i programvaren viste ikke den digitale reklameskjermen fristende bilder av pizza, men en beskrivelse av hvem som hadde sett på skjermen med kjønn, alder, utseende og humør. Da han nærmet seg for å ta et bilde, dukket en ny linje opp som beskrev ham selv: «male», «young adult», «glasses» og til slutt «smile: 0».
Formålet med reklameskiltet er å tilpasse innholdet til den som ser på, og dermed selge mer. Hos Peppes Pizza ble menn vist bilder av pizza med biff, mens kvinner fikk se sunne salater.
Til nå har utviklingen innen kunstig intelligens vært rettet mot å trene maskiner til å løse logiske oppgaver, som å spille sjakk eller stille medisinske diagnoser. Den nye emosjonelle overvåkningen gir datamaskinene innblikk i reaksjonene, humøret og følelsene våre.
Da løgndetektoren ble oppfunnet i 1921, ble det mulig å måle noens følelser gjennom kompliserte tester og spesialutstyr. Nå kan smarte kameraer gjøre analysene på avstand, uten at vi legger merke til det.
Slik kan maskinen forstå deg:
- Ansiktsgjenkjenning: Utviklingen innen ansiktsgjenkjenning har gjort datamaskiner bedre på å fange opp og tolke ansiktsuttrykk. Datamaskiner er nå bedre enn mennesker på f.eks. å skille et falskt smil fra et ekte.
- Taleforståelse: Apples Siri og Amazons Alexa har blitt langt bedre på å gjenkjenne og forstå tale. Ved å analysere stemmeleie og volum kan datamaskiner i tillegg tolke følelser og humør mens vi snakker.
- Sensorer på kroppen: Treningsarmbånd og smartklokker samler data som puls og bevegelse. Digitale armbånd kan også måle fuktighet og temperatur i huden, noe som er mye av den samme informasjonen en løgndetektor registrerer.
- Hva vi gjør på nettet: Det meste vi gjør på nettet registreres og analyseres. Psykologen Michal Kosinski har vist hvordan folk kan analyseres i detalj ved hjelp av Facebook-aktiviteten sin. 10 likerklikk kan si mer om en person enn den jevne kollega, og 300 likerklikk mer enn livspartneren.
Norsk app skal forebygge depresjon
Forskningsprosjektet Intromat ved Haukeland universitetssykehus utvikler en app som kan overvåke humørsvingninger hos personer med bipolar lidelse, og forutse depressive eller maniske episoder. Når symptomer blir oppdaget, kan et varsel sendes til brukeren, familien og legen. Målet er å fange opp symptomene før vedkommende ville ha oppsøkt hjelp selv, og dermed forebygge alvorlige tilbakefall.
Facebook oppdager selvmordsrisiko
Ifølge Verdens helseorganisasjon er selvmord den nest største dødsårsaken i aldersgruppen 15–29 år. Ved å følge med på brukeraktivitet kan Facebook Suicide Watch identifisere personer med selvmordstanker og oppfordre dem til å søke hjelp. En måned etter lanseringen hevdet Facebook-direktør Mark Zuckerberg at algoritmen hadde hjulpet mer enn hundre mennesker. Facebook vil ikke ta i bruk denne teknologien i Europa, på grunn av det de hevder er for strenge regler for personvern.
Kjeder eleven seg?
Læring er tett knyttet opp mot følelser, som nysgjerrighet, fascinasjon, forvirring og frustrasjon. En god lærer vil se og følge opp disse tegnene. Flere forsøker nå å gjøre dette med digitale læremidler. For eksempel har Hong Kong-selskapet Find Solution utviklet programmet 4 Little Trees, som analyserer elevenes ansiktsuttrykk gjennom kameraet på et nettbrett, og måler endringer i følelsene hos elevene mens de løser oppgaver. Om eleven ser ut til å slite eller miste motivasjonen, dukker det opp en pop-up med lyder, animasjoner og hint.
Politisk påvirkning
Cambridge Analytica har blitt kjent for sin rolle i Donald Trumps valgkampanje og «Leave.EU»-bevegelsen i Storbritannia. Like før det amerikanske valget i 2016 hevdet firmaets konsernsjef at de hadde analysert personligheten til alle USAs velgere — 220 millioner mennesker. Profilene ble brukt til å skreddersy politiske budskap til enkeltpersoner. For eksempel kunne velgere med høy score på nevrotisisme og planmessighet få annonser med budskap om innbrudd i hjemmet, og våpen som et sikkerhetstiltak. Mer introverte velgere kunne få se et bilde av far og sønn på andejakt, med budskap om tradisjon og familieverdier. Den psykologiske profileringen ga et ekstra lag til Trump-leirens analyser. I hvor stor grad det ga utslag på valgresultatet, er imidlertid omstridt.
For tett på?
Ny teknologi er verken god eller ond, men den er heller ikke nøytral. Maskiner med emosjonell intelligens kan opplagt brukes for å hjelpe oss, for eksempel som digitale assistenter i hverdagen eller i kritiske helsesituasjoner. Men den samme kapasiteten kan også brukes til å manipulere oss. Emosjonell overvåkning blir særlig problematisk dersom vi ikke vet om eller har samtykket til det, slik tilfellet kan være med bildeanalyser som avdekker seksuell legning eller følelser.
Et aktuelt spørsmål er om det er forskjell på om det er Haukeland sykehus eller Facebook som overvåker følelsene våre. Facebook har tilgang til enorme mengder data om oss. Dersom informasjonen de sitter på kan redde liv, er ikke det positivt? Samtidig er det uheldig om den samme informasjonen som brukes til å redde liv, også brukes til målrettet markedsføring. Det er særlig problematisk om personen som profileres er i en sårbar livssituasjon.
Historikeren og forfatteren Yuval Harari advarte nylig mot at kombinasjonen av lærende maskiner og biometri kommer for tett på oss. Dersom myndigheter eller store selskaper lærer å kjenne våre innerste behov bedre enn oss selv, og kan forutsi eller manipulere følelser eller begjær, er veien åpen for et «digitalt diktatur». Det er derfor viktigere enn noensinne at vi tar tilbake kontrollen over dataene om oss.
