Guns don’t kill people. People do, lyder det gjerne fra amerikanske politikere som motsetter seg regulering av våpen. Argumentet er at det er menneskers handlinger som bør reguleres, ikke produktet.
I Norge og Europa tenker vi ofte annerledes når et produkt har et betydelig risiko- eller misbrukspotensial. Vi stiller krav til produktene, begrenser hvem som kan selge eller kjøpe dem, eller rammer inn hvor de kan brukes. Slik regulerer vi alt fra legemidler og eksplosiver til solsenger.
Nå kommer KI-brillene for fullt. Enkelte kaller det den største forbrukerteknologien siden smarttelefonen. Brillene kan ta bilder, filme, ta opp lyd og bruke kunstig intelligens til å analysere omgivelsene, uten at den som filmes nødvendigvis får det med seg.
Det er allerede rapportert om snikfilming i garderober og uthenging i sosiale medier. Det er ille nok for den enkeltes personvern, men vi må også spørre oss hva det gjør med oss som samfunn. Må vi i fremtiden lure på om sidemannen på restauranten tar opp samtalen du har med kjæresten? Om noen filmer deg på dansegulvet en lørdagskveld? Eller om du blir med på et skjult opptak mens du eller barna bader på stranda?
Når vi aldri vet om vi blir filmet eller analysert, vil vi begynne å opptre annerledes. Det offentlige rom blir mindre fritt. Både personvernet og ytringsfriheten undergraves.
På toppen av privat misbruk kommer spørsmålet om hvordan de globale teknologiselskapene selv bruker personopplysninger og opptak fra brukerne. I mars meldte svenske medier at ansatte hos en underleverandør av Meta hadde gjennomgått materiale fra KI-briller for å trene opp kunstig intelligens. Blant materialet var opptak fra toalettbesøk og seksuelle situasjoner. Jo flere briller som tas i bruk, jo større blir datatilfanget og dermed makten til disse selskapene.
Er dagens regler gode nok? I juli skrev tre statsråder om KI-briller i Klassekampen under tittelen «Teknologi trenger rammer». Det er vi helt enige i, men vi er usikre på premisset om at dagens og kommende regler gir gode nok ramme.
«Å sette sin lit til disse reglene kan bli en sovepute»
Dagens regelverk er riktig nok teknologinøytralt. Deling av bilder og film av andre kan være ulovlig, enten opptaket er gjort med mobiltelefon eller KI-briller. Men at en regel finnes på papiret, er én ting. Hvorvidt den blir fulgt eller lar seg håndheve effektivt er noe helt annet. I tillegg gjelder ikke personvernforordningen (GDPR) for rent personlig bruk. Noe av brillebruken faller dermed utenfor sentrale deler av regelverket.
Det vi derimot er sikre på, er at verken dagens regler eller håndhevingsapparat er bygget for en hverdag der tusenvis av privatpersoner hver dag kan gjøre små, usynlige
personopplysningsbehandlinger av andre. Det er urealistisk at Datatilsynet eller andre myndigheter skal kunne fange opp og slå ned på en slik bruk.
Statsrådene viser også til den nye KI-loven og loven om digitale tjenester som en del av løsningen. Etter vårt syn er disse reglene primært skrevet for andre utfordringer. Å sette sin lit til dem her kan bli en sovepute.
Dette betyr ikke at KI-briller må forbys. Teknologien kan gi store gevinster, for eksempel for dem med nedsatt syn. Men vi bør utrede om det er rom og behov for nye regler som lar oss høste fruktene, samtidig som potensialet for misbruk reduseres.
Spørsmålet er for viktig til at vi raskt bør konkludere med at dagens regler er tilstrekkelige. Gjør vi det, risikerer vi at utviklingen overlates til enkeltbrukere og teknologiselskapene.
Når en teknologi fundamentalt kan endre hvordan vi snakker og oppfører oss i det offentlige rom, bør vi være sikre på at samfunnet har vært med på å bestemme spillereglene, før det snarere viser seg at teknologien har satt reglene for samfunnet.
Det haster med å utrede hvordan KI-briller kan og bør reguleres.
