I fjor sommer tok Nataliya Kosmyna en beslutning. Som forsker visste hun at den var kontroversiell.
Hun bestemte seg for å publisere en vitenskapelig artikkel umiddelbart, før den var fagfellevurdert, altså kvalitetssikret. Normalt er dette en avgjørende del av å sikre kvaliteten i forskningen.
Men 36 år gamle Nataliya Kosmyna, som er ansatt ved det prestisjetunge amerikanske teknologiske universitetet MIT, mente at hun ikke kunne forsvare å holde tilbake konklusjonene, for fagfellevurdering kan ta flere måneder, til og med år.
– Jeg hadde aldri gjort dette før. Men utviklingen på dette feltet går så fort at jeg mente vi ikke kunne vente. For jeg er virkelig bekymret for konsekvensene. Spesielt for neste generasjon, forteller hun på videosamtale.
Artikkelen alt dreier seg om, tar for seg hva kunstig intelligens gjør med hjernene våre. Nærmere bestemt hvordan de såkalte språkmodellene som Chat GPT, som har blitt tatt i bruk av utrolig mange de siste årene, påvirker oss kognitivt.
Og konklusjonen var oppsiktsvekkende. Den var så oppsiktsvekkende at en lang rekke internasjonale medier, fra The New York Times til Time Magazine, har skrevet artikler om artikkelen.
Når studenter bruker Chat GPT til å løse oppgaver i stedet for å gjøre det selv, viste det seg at hjerneforbindelsene deres er markant redusert. De husker mindre og har mindre eierskap til det de til slutt leverer inn med navnet sitt på.
Nataliya Kosmyna uttrykker det på følgende måte:
– Det kan godt være at KI har potensial til å øke effektiviteten på enkelte områder i arbeidsmarkedet. Men prisen kan bli evnen til kritisk tenkning og problemløsning, som har brakt oss så langt som mennesker.
Sjelløse oppgaver
For et par år siden begynte Kosmyna å legge merke til en forandring hos studentene hun underviser ved MIT Media Lab. Her er det åpne kontorlandskap og laboratorier, forteller hun, med glassvegger mellom de ulike rommene, slik at det er nesten umulig å unngå å følge med på hva som skjer på skjermene til dem som sitter der.
Her kunne Kosmyna se hvordan søkefeltet til Chat GPT plutselig dukket opp på studentenes skjermer. Gang på gang. Og hvordan de ofte bare kopierte inn svarene i dokumentene de satt og jobbet med.
Samtidig begynte Kosmyna å motta en ny type e-poster fra studenter som for eksempel søkte om forskningsopphold. Normalt er slike henvendelser relativt kortfattede, forteller hun. Søkerne presenterer seg selv, legger kanskje ved en CV eller en anbefaling.
– Men plutselig, nærmest over natta, begynte mange av e-postene å bli veldig lange. Og detaljerte. Flere ganger opplevde jeg at studentene feilaktig refererte til forskningen min, selv om prosjekter ble blandet sammen, sier hun.
– Det virket veltalende ved første øyekast. Men det ga ikke mening hvis man virkelig forsto hva jeg arbeider med.
Kosmyna fikk en urovekkende følelse av at studentene hadde kastet seg over den nye teknologien uten å forstå hva den gjorde med arbeidet deres. Og enda viktigere: med dem selv.
Det ble starte på studien som seinere ble lynpublisert. Det var en av de første vitenskapelige studiene som ved hjelp av avansert teknologi som registrerer hjernens elektriske signaler, undersøker hva som skjer med hjernen vår mens vi bruker kunstig intelligens.
– Jeg hadde teknologien til rådighet i laboratoriet. Og studentene. Det føltes nesten som en akademisk svikt hvis jeg ikke gjennomførte den studien, forteller Kosmyna.
Slående resultater
I studien delte forskerne 54 forsøkspersoner inn i tre grupper. De var i alderen 18 til 39 år og kom fra Boston-området, der MIT ligger. Forsøkspersonene ble deretter bedt om å skrive en rekke essay i løpet av 20 minutter ved hjelp av enten Chat GPT, Google (uten KI-funksjonen) eller uten hjelpemidler til rådighet. Temaene var for eksempel etikken i frivillig arbeid og ulempen ved å ha for mange muligheter. Underveis ble aktiviteten i 32 forskjellige områder av hjernen overvåket med elektroder.
Studien har sine begrensninger, understreker Kosmyna. Forsøksperioden er for eksempel kort, og deltakerne kommer alle fra samme geografiske område. Men resultatet var slående:
Forsøkspersonene som brukte Chat GPT, hadde markant mindre hjerneaktivitet mens de utførte oppgaven. Og de presterte konsekvent dårligere, både kognitivt, språklig og atferdsmessig. I løpet av de månedene studien pågikk, ble de dessuten stadig latere for hver nye oppgave de fikk. Til slutt endte de med å kopiere teksten Chat GPT hadde generert og sette sitt eget navn på den.
Essayene som Chat GPT-brukerne leverte, var ensartede, brukte de samme uttrykkene og ideene og manglet originalitet. De to engelsklærerne som skulle vurdere dem, konstaterte at de var «sjelløse».
– Vår konklusjon er egentlig ikke så overraskende. Selvfølgelig krever det mer av hjernen å sette sammen en tekst med alt det innebærer av analyser, grammatikk og så videre, i stedet for bare å få det hele servert av en maskin, sier Kosmyna.
– Men det overrasket oss likevel hvor mye språkmodellene ser ut til å skade læringen.
Spesielt hos yngre brukere.
Siden den gang, legger Kosmyna til, har det bare kommet flere studier og erfaringer som bekrefter denne sammenhengen. Og som også viser hvilke andre atferdsmessige konsekvenser kunstig intelligens kan ha for oss som mennesker.
Tamagotchi på speed
Alle som var barn på 1990-tallet, husker nok Tamagotchi. Den lille, fargerike minidatamaskinen som simulerte et kjæledyr og måtte mates, trenes og underholdes. Og som, til tross for sin primitive grafikk, fengslet både barn og barnlige sjeler.
Tamagotchi er et tydelig eksempel på hvor primitivt vi mennesker oppfører oss når vi forholder oss til ting i vår sosiale verden, mener Malene Flensborg Damholdt, som er førsteamanuensis i psykologi ved Aarhus universitet og forsker på vårt forhold til moderne teknologi og hvordan det påvirker psykologi og relasjoner.
Derfor har det ikke overrasket henne hvor raskt og uforbeholdent vi har omfavnet kunstig intelligens – en slags Tamagotchi på speed – både som hjelpemiddel og i sosiale sammenhenger. I dag finnes det, som hun sier, utrolig mange eksempler på at vi diskuterer sosiale relasjoner med språkmodeller og forteller dem om følelsene våre. Det finnes til og med egne KI-terapeuter.
– Jeg har en doktorgradsstudent som tar for seg personer som bruker KI til å fungere som en avdød de savner. Det kan virkelig være alt mulig, forteller Damholdt.
Men akkurat som når det gjelder teknologiens innvirkning på kognisjon, er kunnskapen om hva den gjør med oss som sosiale vesener, også fortsatt begrenset.
En studie fra MIT har vist at jo mer tid personer bruker med Chat GPT, jo mer ensomme føler de seg. Samtidig er det bekymring for hva språkmodellene, med sin tendens til å snakke oss etter munnen, gjør med oss – ikke minst barn og unge. Annen forskning tyder imidlertid på at KI-terapi, hvis den brukes riktig, kan ha et potensial for personer med lette psykiske utfordringer.
Damholdt er også skeptisk til kunstig intelligens.
– Jeg frykter jo en dystopisk tilstand der vi velger KI og skaffer oss en avatar-venn i stedet for å samhandle med hverandre, sier hun.
– Men jeg er ikke helt sikker på hva som må til før vi kommer dit. Og selv om det også har vært veldig alvorlige tilfeller innen psykologien, opplever vi foreløpig ikke like stor KI-utfordringer som lærere og forelesere står midt oppe i.
Leger som overser kreft
I august i fjor ble det publisert en ny vitenskapelig studie i det prestisjetunge tidsskriftet The Lancet Gastroenterology & Hepatology. Her undersøkte forskerne hvilken innvirkning det har på leger når de rutinemessig bruker KI i arbeidet sitt. De fulgte 19 erfarne leger ved fire ulike klinikker for koloskopi i Polen over en periode på et halvt år. Studiene har som formål å oppdage tarmkreft.
«Du diskuterer ikke livskriser med kalkulatoren din»
— Nataliya Kosmyna, forsker ved MIT
I forbindelse med studien ble kunstig intelligens rutinemessig innført på klinikkene som et hjelpemiddel. Da teknologien etter få måneder ble tatt fra legene, hadde de blitt merkbart dårligere til å identifisere kreftsvulster. De erfarne legene, som hadde utført tusenvis av undersøkelser hver, oppdaget plutselig 20 prosent færre krefttilfeller. Og slik fortsatte det i flere måneder.
Det er Nataliya Kosmyna fra MIT som trekker fram den polske studien. Både fordi hun mener at den underbygger hennes konklusjoner om studenters bruk av språkmodeller: Hvor raskt kunstig intelligens svekker læring og kognisjon. Men også fordi hun mener resultatene hos legene er enda mer skremmende.
– Jeg har ikke lyst til å bli møtt av en lege som ikke lenger kan gjøre jobben sin selv. Eller for den saks skyld å sette meg på et fly der piloten ikke vet hva han skal gjøre hvis autopiloten svikter, sier hun.
Ved MIT er Kosmyna og kollegene hennes også i ferd med å undersøke hva slags kognitive innvirkning KI har på andre grupper enn studenter. Blant annet ser de på hjerneaktiviteten hos programmerere, forteller hun. Studien er ikke ferdig ennå, så hun kan ikke avsløre de endelige konklusjonene.
– Men jeg kan fortelle at resultatet er enda verre enn for studentene, sier hun.
Ikke det samme som en kalkulator
I takt med at erfaringen med og forskningen på KIs innvirkning på oss mennesker har vokst, har et nytt begrep oppstått:
«Disse språkmodellene burde aldri ha blitt gjort tilgjengelige på en så lemfeldig måte»
— Nataliya Kosmyna, forsker ved MIT
Kognitiv kapitulering – eller på engelsk: cognitive surrender.
Dette refererer til å gi opp selvstendig tenkning når KI skal avlaste hjernen vår.
Fenomenet går egentlig forut for den kunstige intelligensen; det er karakteristisk for mye ny teknologi. Vi kan ikke lenger huske telefonnumre fordi de alle er lagret på telefonen. Når vi bruker GPS for å finne veien, skjer det på bekostning av stedsansen. Kalkulatoren har gjort oss dårligere i hoderegning. Og så videre.
Men Kosmyna understreker at KI er noe helt annet: Det involverer evne til å tenke selv, huske, reflektere og analysere.
MIT-forskeren kaller det «direkte farlig» å sammenlikne KI med for eksempel kalkulatoren, slik flere har gjort. Ikke minst blant næringslivsledere som ser et stort potensial i teknologien. Hun mener det er å undervurdere den kunstige intelligensen.
– Du diskuterer ikke livskriser med kalkulatoren din. Du får den ikke til å gjøre skolearbeidet ditt. En kalkulator vil aldri minne deg om å kommunisere med et ekte menneske, sier hun.
Derfor mener Kosmyna at konsekvensene av KI er langt mer urovekkende enn at elever ikke lenger kan løse andregradsligninger eller dividere fordi de har fått kalkulatorer.
En fare er at teknologien svikter, påpeker hun. Vi kjenner allerede dette fra avhengigheten av for eksempel elektrisitet og internett.
– Og hva gjør vi da hvis store deler av vår menneskelige tenkeevne, litt karikert sagt, er bundet til en teknologi som eies av noen få mektige private selskaper, sier Kosmyna.
Og så er det måten KI påvirker tankegangen vår på. Ensrettingen og fordommer som kan oppstå. Det har allerede vært flere eksempler på det når det gjelder for eksempel etnisitet og kjønn. Disse fordommene stammer fra data henter fra internett som modellene er trent på. I tillegg kommer skjult reklame som for eksempel Chat GPT – til tross for grunnlegger Sam Altmans tidligere advarsler – har gjort til en del av forretningsmodellen.
– Vi står overfor voldsomme krefter, sier Kosmyna.
– Disse språkmodellene burde aldri ha blitt gjort tilgjengelige på en så lemfeldig måte. Det er vår egen skyld at vi ikke regulerte sosiale medier og andre tidligere teknologier, og at vi i skapte disse utfordringene. Vi bør gjøre en bedre jobb med kunstig intelligens. Og handle raskere.
© Information
Oversatt av Lars Nygaard
