Det vi befinner oss i nå er det jeg har kalt «marerittscenarioet», sier Shoshana Zuboff.
Hun snakker med oss i en videosamtale der stemmen hennes er tydelig og rolig, men budskapet presserende. Bak henne får vi et glimt av et helt usedvanlig pent kontor med dekorert tak – men utenfor, der er Elon Musk i full gang med å bygge ned staten, mens Donald Trump spytter ut presidentordre i et hittil usett tempo.
Zuboff er akademiker og har tiår av forskning på teknologi og samfunn bak seg. Hun slo gjennom internasjonalt da hun i 2019 ga ut mursteinen «Overvåkingskapitalismens tidsalder» – kalt «Vår generasjons ‘Kapitalen’» av forfatteren Zadie Smith. Det var en intellektuell avsløring av hvordan de store teknologiselskapene høster våre atferdsdata på nett, uten vår kjennskap.
Siden den gang har selskapene vokst seg enda større, og deres teknologiske muligheter har mangedoblet seg. Samtidig har det politiske landskapet endret seg. Dermed er det duket for marerittscenarioet, eller fusjoneringsscenarioet, som hun har advart mot. Det er en situasjon der en «autoritær statsmakt slår seg sammen med de digitale evnene til overvåkingskapitalismens gigaselskaper». Leser man Zuboffs beskrivelse, bringer det jo tankene til alliansen mellom Donald Trump og tek-oligarkene.
– Vi tenker på oligarker som sosiale eliter med enorm rikdom og makt, som har urimelig stor innflytelse over et samfunn. Men lederne som har kommet ut av overvåkingskapitalismens gigantiske selskaper, er noe svært spesifikt, som ikke har eksistert tidligere i menneskets historie. Og det sier jeg aktsomt, for jeg forsøker å gjøre meg flid for å ikke komme med store påstander det ikke finnes grunnlag for, sier hun.
– Tenker vi på keiserne i antikken, eller lederne for de store kartellene og monopolene – noen av dem kaller vi røverbaronene – så hadde også de voldsom rikdom og makt. Men informasjonsoligarkene har noe de bare kunne drømme om: total, tøylesløs makt over all menneskelig generert informasjon. Det har ikke eksistert før – at du gjennom internettets arkitektur og dets tilliggende enheter kan kontrollere menneskelig oppførsel: skape polarisering, produsere hat, hva enn det måtte være. Det vi ser nå, er det jeg i mange år har referert til som «marerittscenarioet», sier Zuboff.
– Jeg har sett dette toget komme. Jeg har sett det akselerere. Nå er det her, på grunn av en svak og likegyldig president som egentlig ikke har noen interesse for demokratiet. Det har skapt muligheten for denne nye fusjonen, hvor informasjonsoligarkene kan manipulere sitt rom på hvilken som helst måte den såkalte presidenten vil. Til gjengjeld gir han dem fraværet av lover, noe som er helt avgjørende for deres overlevelse.
Massiv motivasjon
Shoshana Zuboff er den ledende kritikeren av teknologigantens innhøsting og bruk av våre data. I det siste har hun vært forhindret fra å skrive om den dramatiske utviklingen: Hun forteller oss at hun ble truffet av lynet og har hatt operasjoner. I løpet av årene som har gått siden hun ga ut sitt hovedverk, så vi tegn til en oppmuntrende utvikling, selv i USA, peker hun på.
The Federal Trade Commission (amerikansk forbruker- og konkurransetilsyn) konfronterer teknologiselskapene med det Zuboff karakteriserer som veldig lovende juss-strategier, blant annet foreslår de å forby annonsering basert på overvåking og prissetting basert på overvåking – tilfeller der selskapene bruker vår atferd på nettet til å informere sine klienter om hvor mye de kan sette opp prisene og fremdeles forvente at vi kjøper deres produkter. Hun sammenligner strategien med den som fikk den famøse mafialederen Al Capone bak lås og slå.
– Han ble aldri tatt på fersk gjerning, men til syvende og sist fikk de ham på skatteunndragelse – noe som lå langt fra hans verste forbrytelser, men som uansett førte til strenge straffer. Slik jeg ser det, er det å ta tak i prissetting og annonsering basert på overvåking det samme. Det er strategier som kommer inn sidelengs, men som likevel er dødelige. For første gang har vi en rekke lover som utformes svært nennsomt. Det ser ut til å være all grunn til å tro at med en fortsatt demokratisk administrasjon, ville vi fått lover, substansielle begrensninger på hva disse selskapene kan gjøre, begrensninger som går rett til hjertet av grunnlaget deres.
Det er det viktigste bakteppet for tek-oligarkenes støtte til Donald Trump, peker Zuboff på.
– Marerittscenarioet, fusjonsscenarioet, kom temmelig raskt. Det kom mot slutten av valgkampen, da de trodde det var en sjanse for at Kamala Harris kunne vinne, og at de for første gang ville bli konfrontert med demokratiske lovgivere med frekkheten, uærbødigheten, til å faktisk pålegge dem lover. Fraværet av lover er den ene enkeltfaktoren som mer enn noe tillater dem å beholde sin absolutte kontroll over informasjons- og kommunikasjonssfæren i nær sagt hvert samfunn, sier hun.
– Veldig raskt bestemte de seg for å stille sine penger, sitt rykte og sin makt bak Trump. For de visste at Trump ville beskytte dem fra loven, ikke bare i USA, men, gitt hans impulsivitet og forakt for menneskelige institusjoner, så ville han ta kampen hvor som helst i verden, ettersom han følte for det. Når Mark Zuckerberg offentliggjør en video 7. januar, der han sier at de ikke lenger vil moderere innhold, var den egentlige beskjeden «Vi vil ikke lenger la oss skremme av lov og rett». Dette er, mener jeg, deres massive og presserende motivasjon.
Drevet til vanvidd
I desember i fjor publiserte forfatteren Zadie Smith et essay i The New York Review of Books, kalt «The Dream of the Raised Arm». Hun skrev om det kollektivt ubevisste under nazismen, hvordan det totalitære påvirker den jevne borger. Men hun brukte anledningen til å spørre hva det gjør med oss å leve under algoritmens jernhånd.
– Jeg har tenkt på et bilde fra det essayet, hvor Zadie Smith skriver at hun frykter Trump er en trojansk hest for Musk. Kjenner du deg igjen i den følelsen, og hvor bekymret er du for Musk versus Trump? Hvordan vurderer du hans makt?
– Jeg skal dele en idé med deg. Det er en idé som bare vil fungere om mange aviser går sammen, sier Zuboff.
Hun legger grunnlaget med en historie fra den iranske gisselkrisa i USA, da 53 amerikanere ble tatt som gisler i 1979.
«Jeg har sett dette toget komme. Jeg har sett det akselerere. Nå er det her.»
– Da den amerikanske ambassaden ble overtatt i Iran, og amerikanere ble tatt til gisler, var Jimmy Carter president. ABC hadde et nyhetsprogram hver kveld, med Ted Koppel, en av deres store nyhetsankere. Det startet alltid med: «Det er dag 146 for gislene, her er nyhetene». Dag etter dag etter dag, det føltes som om de krystet livet ut av president Carter, og gned det inn, hver dag. Jeg har ikke fortalt noen om denne ideen, men jeg skal si det til deg: Hva om en hel allianse av aviser fra hele verden trykte en sak på forsida, hver dag, der overskriften var «President Musk». «Det er 112 dager med president Musk, dette har skjedd». Jeg har en hypotese om at den type intervensjon ville være den raskeste, mest effektive måten å få Musk ut av Washington. Følger du tankegangen min?
– Ja. Det ville nok gjøre undre, gitt Trumps personlighet.
– Det ville drive ham til vanvidd. Han ville vært nødt til å fjerne denne fornærmelsen mot hans stolthet. Så: Hva tenker jeg om herr Musk i Washington nå? Det er et viktig begrep her, hva jeg kaller «economies of domination» – det å se etter måter å etablere dominans på, som ikke involverer å mønstre store armeer, men gjennom kontrollen over menneskelige data. Noe av det folk er mest bekymret over nå, er at noen som ikke er folkevalgt, noen som ikke kan stilles ansvarlig, noen som har et avvikende perspektiv på demokrati og styre – nå har tilgang på svært sensitive data, inkludert den personlige informasjonen til millioner av mennesker. Dette er en form for dominans. Han gjorde det på noen dager. Han har ingen hær bak seg. Han trenger ingen våpen, og se hvordan han dominerer. Dette er helt etter boka. Effekten er at det begynner å rive samfunnet enda mer fra hverandre. Vi har å gjøre med de psykologiske effektene av sjokk og frykt. Det er skremmende å se hvor mye to menn kan rive ned, når for mange legger seg flate.
– Jeg så en graf i dag, en framstilling av amerikanske presidentordre gjennom tidene. Trumps graf reiste seg rett i været, sammenliknet med tidligere presidenter. Dette er en svært aktiv administrasjon, helt fra starten. En ting Trump har gjort, er å tilbakekalle Bidens ordre om å legge begrensninger på KI. I og med at KI har eksplodert og Trump har bestemt seg for dette, hva slags landskap er vi i?
– Biden-administrasjonen etablerte at et demokrati har en rolle å spille i å sette regler og se at de blir overholdt, og det var en begynnelse – en måte å si at dette er et legitimt, viktig område for demokratisk styring. Nå har vi en radikal erklæring: «Det vil ikke være noe demokratisk styring over disse områdene». Og det er slik det har vært. Demokratiske ledere ga bort disse områdene til private selskaper uten at de måtte stå til svar for dem. Biden var første gang man gikk bort fra det som hadde blitt etablert på 1990-tallet. På det viset var det svært viktig, sier Zuboff.
– Vi ser nå det andre kapittelet i kunstig intelligens, som representerer en mer intensiv og akselerert overvåkingskapitalisme, også i deres mulighet for å manipulere atferd og å bruke intim kunnskap om folk. Dette andre kapittelet folder seg ut takket være massive mengder stjålne data. De støvsuger Youtube, skraper nettet og har ganske enkelt erklært at alt som eksisterer i digital form, er fritt, deres å ta.
En historisk mulighet
Ting kan se dystre ut, men Zuboff mener det verken er fånyttes eller håpløst. Tvert imot ser hun betraktelige muligheter for en ny juridisk infrastruktur.
– Vi trenger nye rettigheter som regulerer hva de kan ta fra oss, og hva de ikke kan ta fra oss – menneskets rett til å vite noe om seg selv, som bare vi selv kan velge å avsløre. Vi trenger et nytt juridisk rammeverk for å beskytte de rettighetene – akkurat som vi i det 20. århundre etablerte en hel rekke nye institusjoner for å regulere arbeidslivet, for å beskytte arbeideres rettigheter. Jeg mener det er en historisk sjanse nå for at Europa kan lede an i å skape allianser, med det afrikanske kontinentet, med sør- og Sentral-Asia. For det er ingen mennesker som slåss for og krever en dystopi, ingen som ønsker å se sitt privatliv fullstendig knust, som vil at algoritmen skal regjere over oss. Folk ønsker seg verdighet, autonomi, demokrati. De vil at deres regjeringer skal tøyle oligarkene.
