Før nyttår har vi pleid å ha en årskavalkade, med viten-nyheter fra året som gikk. Men ikke i år. Ikke fordi vitenskapen har stanset opp: Nye teleskoper utfordrer våre forestillinger om universet, nye verktøy innen genetikk og datering endrer bildet av vår egen fortid. Og innen medisinen skjer det fortsatt fremskritt, med håp om kurer for både kreft, Alzheimer og annet.
Men i år var ikke dette det overordnede budskapet. Nå er fokus endelig på vitenskapens mer problematiske effekter. Det kom fram på årets Nobel-utdelinger: Fredsprisen handlet om hvordan en mektig teknologi, basert på en av de viktigste vitenskapelige revolusjonene, har satt menneskeheten i fare. På fysikkutdelingen, som feiret «gudfedrene» til dagens mest omtalte teknologi, kunstig intelligens, ble takketalen en advarsel om at også denne kan bli en eksistensiell trussel. Og på tampen av året kom nok en advarsel: om at en kunstig form for liv, «speilvendt liv», kunne løpe løpsk, uten at vi har noe forsvar.
Sårbare systemer
Forhåpentlig vil ikke disse truslene bli realisert. Men selv om ikke truslene vil komme som forespeilet, kan de bli skjebnesvangre på mer indirekte måter. Derfor er det viktig at vi tar advarslene på alvor og forbereder oss på det som kan komme. Det er nemlig ikke noe alternativ å forby eller avskaffe teknologiene. Kutte ut atomvåpen? Jo da, Putin vil synes det er en god idé – for oss andre. Kutte ut kjernekraft? Da vil i hvert fall klimaet komme ut av kontroll. Og forby kunstig intelligens? Si det til Kina, som har basert sin samfunnsmodell på KI-basert kontroll over befolkningen.
Det beste vi kan håpe på, er nok å begrense de negative effektene de nye teknologiene har på de sårbare systemene vi er avhengige av – de biologiske og de samfunnsmessige. Men dette krever kunnskap og årvåkenhet, noe vi ikke alltid har vist at vi har. Det tok sin tid før vi oppdaget hva utslippene fra fossilt brensel gjorde med klimaet. Det tok sin tid før vi oppdaget farene ved klorfluorkarboner, som nesten rakk å ta knekken på ozonlaget. Og det tok sin tid før vi oppdaget hva skjermmedier gjorde med oppvoksende generasjoner.
Den nye trusselen
Men som «KIs gudfar» Geoffrey Hinton advarte mot i nobeltalen, står vi nå overfor en ny trussel, av uante dimensjoner. Om det blir i form av en «superintelligens», er nok usikkert. Derimot er det snakk om en allerede tydelig trussel, mot det som har gjort sivilisasjonen mulig: den menneskelige intelligensen. Som i motsetning til andre dyrs intelligens ikke bare er biologisk, i form av instinkter (selv om vi også har dette), men som bygger på sosial og kulturell læring, som gjør det mulig å samarbeide og akkumulere felles kunnskap og teknologi. Dette er noe vi har tatt for gitt, men som er biologisk og historisk betinget. Og som kan ødelegges, om vi ikke passer på.
«Vi må ikke overlate barnas læring til maskiner»
Hvor viktig læring er, er noe man ikke minst har sett i forsøkene på å utvikle kunstig intelligens. Det er ikke tilfeldig at mange av pionerene her, som Hinton, kommer fra psykologien. Det er også i møtet mellom psykologi og KI at man har oppdaget hvilke avanserte mekanismer evolusjonen har utviklet for å gi barn deres fenomenale evner til læring. I de første årene gjennomgår de «kritiske perioder» der hjernen er spesielt åpen for læring innen for eksempel språk. Barn har også spesielle, medfødte mekanismer som gjør dem hypermottakelige for å lære. For eksempel at de automatisk søker kontakt med voksne, og lærer seg å dele deres oppmerksomhet (noe ingen andre dyr kan). Disse evnene – dels medfødte, dels utviklet etter medfødte «læringsprogrammer» – gjør at barn kan lære seg for eksempel ord imponerende raskt, ved hjelp av metoder verken psykologer eller KI-utviklere ennå har forstått, og som KI-er bare kan kompensere for ved hjelp av enorme mengder datakraft. (Og som betyr at KI raskt vil bli den mest sultne energislukeren – det er dette vi nå bygger gigantiske datasentre for.)
Å tenke selv
Men KI kan også bety at de mekanismene evolusjonen gjennom årtusener har utviklet for læring, kan bli forstyrret. Dette startet allerede med skjermenes inntog på barnerommene og i skolene, men med KI vil dette akselereres. Grunnen er at der snarveier kan tas, vil de bli tatt, som svenske Lasse Svanberg forutså i 1983 i boken «Bekvämlighetens triumf». Vi ser det allerede i dag: Når skoleelever og studenter får oppgaver, gidder de ofte ikke først tenke gjennom dem, men ber med en gang en KI om et forslag. Dermed får de ikke lenger trening i å tenke selv. Og de har allerede mistet insitament til å huske informasjon: Den jobben har de overlatt til Google. I dag ser vi også at ungdommer som synes det er vanskelig å formulere en unnskyldning eller noe annet personlig, overlater dette til en KI. Så nå behøver de heller ikke trene seg opp til å formulere sine følelser eller sine mellommenneskelige meddelelser. De kan overlate også det til maskiner.
Hva følgen av dette vil bli for samfunnet, og til syvende og sist for sivilisasjonen, kan vi bare begynne å ane. All samfunnsmessig og sivilisatorisk utvikling har vært avhengig av at barn og unge går gjennom kognitive og sosiale utviklingsløp som er utviklet i kulturer gjennom århundrer og årtusener. Der har de lært å kommunisere, der har de fått de kunnskapene og ferdighetene som samfunnene har vært avhengige av. Der disse utviklingsløpene er blitt forstyrret, har samfunn og sivilisasjoner kollapset.
Hull i beredskapen
Vi kan ikke stanse teknologiutviklingen, blant annet fordi det alltid vil være noen som vil prøve å komme i føringen for å oppnå strategiske fordeler. I dag er det framfor alt et kappløp om kunstig intelligens – som USA fremdeles leder (grunnet sin kultur for åpenhet og dermed for innovasjon), på tross av Kinas enorme satsing på dette. Men for å unngå alvorlige skadevirkninger, som vi vet at all kraftfull teknologi kan ha, er det livsviktig at vi blir mer kunnskapsrike og bevisste på systemene vi dermed utsetter for fare.
Når det gjelder kunstig intelligens, er det et stort hull i denne beredskapen: Vi forstår ikke hvordan den menneskelige intelligensen fungerer, og hvordan den svekkes når vi overlater stadig mer til den kunstige. Vi forstår ikke at det å tenke er noe langt mer enn å utføre noen på forhånd definerte algoritmer, som KI gjør. Det finnes ikke «maskiner som tenker», det er en fatal undervurdering av hva det vil si å tenke: Det innebærer også å vurdere hva som er oppgaven, hva som er viktig. For oss selv, og for de andre.
Mer enn KI
Nesten alt som får et samfunn til å gå rundt, handler om at den menneskelige intelligensen – som innebærer sosial intelligens (å forstå andre mennesker og deres motiver), og situasjonell intelligens (å forstå det spesifikke i situasjonene) – må kunne fungere. Dette er noe også årets nobelprisvinnere i økonomi, som Daron Acemoglu, har vært opptatt av: at menneskelig intelligens er så mye mer enn hva KI kan tilby. Og han mener dette kan forklare at KI ikke ser ut til å bli den gamechangeren i business som man trodde, og da heller ikke innen forvaltning (der KI heller kan bli en kilde til nye skandaler). Skal vi få det beste ut av KIs potensial, er det avgjørende at vi forstår disse begrensningene. At vi ikke bevisstløst kaster inn KI overalt, men kun lar KI overta oppgaver der menneskelige intelligens kan unnværes. Og lar oss få gjøre det vi kan best.
Dette betyr blant annet at vi ikke må overlate barnas læring til maskiner: De er nemlig fra evolusjonens side «programmerte» til å lære fra andre mennesker, ikke minst ved hjelp av evnen til felles oppmerksomhet. Og deres menneskelige lærere er også «programmerte» til å bruke læremetoder som barna kan respondere på. Og til å oppfatte når noe må justeres. Det betyr også at vi alltid må ha mennesker med i «loopen» når viktige avgjørelser skal tas. Fordi KI-er aldri vil være å stole på (det ligger i metodene), og fordi de aldri kan «forstå» mennesker, som har lært å tenke gjennom millioner av år med biologisk og kulturell evolusjon.
Å tenke handler også om å bruke vår viten fornuftig.