– Så creepy! Jeg får vondt i magen, sier Elizabeth Rasmussen da hun får høre om tekgiganten Metas nye verktøy.
Nylig ble det nemlig kjent at Meta bruker innhold fra Facebooks meldingstjeneste Messenger til å trene opp sin kunstig intelligens-modell Meta AI.
Det får Rasmussen til å reagere. Klassekampen møter henne på et piknikteppe i Botsparken i Oslo, sammen med Ronny Skjøldt. De er begge ivrige brukere av Messenger – i hvert fall fram til nå.
Nyheten gjør dem bekymret for personvernet sitt, forteller de.
– Det virker som om vi kødder med ukjent terreng. Samtidig er det så lettvint å bruke Messenger, vi er medlem av mange Facebook-grupper med venner, sier Skjøldt.
Rulles ut i disse dager
Det er Rasmussen og Skjøldt ikke aleine om. Messenger er nemlig flittig brukt av nordmenn: Tall fra SSB viser at 56 prosent av nordmenn brukte Messenger daglig i 2024, mens 62 prosent av befolkningen brukte Facebook.
Nå har Metas KI-tjeneste altså sneket seg inn i den mest private sfæren. Tjenesten rulles ifølge nettstedet tek.no ut i disse dager. Klassekampen har foreløpig ikke tilgang til tjenesten.
Meta AI ligner på andre chatboter: Den genererer svar på spørsmål. Men den kan også hjelpe deg med å oppsummere meldinger, ifølge Tobias Judin, sjef for Internasjonal seksjon i Datatilsynet, da Klassekampen slår på tråden.
– Slik ender man opp med at dine private meldinger kan bli brukt til å trene opp Metas KI, sier Judin.
Det er mulig å reservere seg mot tjenesten. Det må imidlertid den enkelte bruker gjøre selv i hver enkelt chat. I gruppechatter er det kun gruppeadministratorer som kan reservere gruppa mot tjenesten.
– Gråsonejuss
I utgangspunktet slettes dataene som trener en KI-modell. Judin stiller likevel spørsmål ved om de egentlig forsvinner.
– Sannsynligheten for at KI-modellen husker noe, er liten, men sannsynligheten er heller ikke lik null, sier han.
– Det er dét mange reagerer på: Er det lenger noe som er hellig av bilder og meldinger? Hva får du lov til å ha i fred? Spørsmålet er om det er mulig å få velge selv. Det er gråsonejuss.
Judin mener den enkelte Messenger-bruker bør bekymre seg når mer og mer informasjon er fritt vilt.
– Vi oppfordrer til å ikke dele alt. Samtidig er det en prinsippsak, fordi man skal jo kunne snakke fritt med venner og familie.
Tilgang på langt mer data
I kappløpet om kunstig intelligens har Meta en stor fordel, påpeker Judin. Mens Open AI kun kan bruke informasjon som ligger åpent på internett, kan Meta gå et steg videre med langt mer data enn konkurrenten.
Den dataen benytter de seg av. Meta har tidligere fått kritikk for å mate sin språkmodell Llama 3 og 4 med opphavsrettslig beskyttet materiale. Seinest i mars skrev Klassekampen at Meta brukte piratkopiert litteratur skrevet av norske forfattere.
Et snaut år tidligere varslet de at de ville bruke innlegg og poster fra Facebook og Instagram til å trene sin KI-tjeneste. Det skapte sterke reaksjoner blant kunstnere som bruker plattformene til å promotere egen kunst.
Legger byrden på brukeren
Marija Slavkovik er professor ved UiB og forsker på KI. Hun er ikke begeistret over Metas siste trekk.
«Måten de samler inn denne dataen på, er ondskapsfull», skriver hun i en e-post.
Ifølge henne finnes det ikke helt private kommunikasjonskanaler på nett. Det er heller et spørsmål til hvilken grad de er private.
«Likevel har vi en antakelse om privatliv og retten til privatliv. Det bør ikke være slik at vi må legge kognitivt arbeid i å sikre at denne retten respekteres hele tida».
«Det du trodde var trygt i dag, er ikke trygt i morgen.»
— Anders Eidesvik, rådgiver i Langsikt
At den enkelte bruker må reservere seg fra Metas nye tjeneste, legger byrden på brukeren, poengterer hun.
Anbefaler å bytte app
Anders Eidesvik er rådgiver i tankesmia Langsikt. Han mener Metas endring er et overtramp mot brukere som registrerte seg i Messenger, og det under helt andre forutsetninger:
– Brukerne bør kunne ha tillit til at private samtaler forblir private, men det bryr ikke Meta seg om, sier han til Klassekampen.
Meta har tidligere uttalt at man ikke skal dele sensitiv informasjon med Meta AI.
– Men de sier ikke at du ikke kan dele med en venn, som deretter kan dele samtalen direkte videre med Metas egen KI-bot. Det du tror er privat, er plutselig ikke lenger det.
Eidesvik har selv flyttet viktige samtaler med familie og venner over til Signal, en kryptert meldingstjeneste som ikke bruker KI. Han oppfordrer Messenger-brukere til å skru av delingsfunksjoner for sensitive samtaler, men påpeker at dette er tidkrevende.
Når teknologiselskapene blir mer aggressive i datainnsamlingen, må Europa begynne å utvikle løsninger med europeiske verdier for personvern, mener Eidesvik.
– Det du trodde var trygt i dag, er ikke trygt i morgen. Det ser vi allerede ved at tjenestene vi trodde var gratis utnytter data til nøye målrettet reklame, og opptrening av egne modeller som erstatter menneskelig arbeidskraft, som erstatter oss.
Meta: Avviser kritikken
Meta er blitt forelagt kritikken fra Datatilsynet og Eidesvik. De viser til flere nettsider om Metas bruk av KI.
Meta skriver på sine nettsider at de trener KI-modellene sine på samhandlinger med Meta AI. Brukere basert i EU kan reservere seg fra at deres offentlige data brukes til å trene opp modellen.
«Vi bruker innhold som brukere har valgt å publisere offentlig for å bygge vår KI-modell,», står det.
I en e-post til Klassekampen skriver Emily Westcott i Meta:
«Vi bruker ikke brukeres private meldinger med venner og familie til å trene generative KI-modeller».
