To menn, begge amerikanere, med svært ulike visjoner for fremtiden, har i løpet av sommeren lagt frem sine strategier for KI. Den første, som kom i mai, er pave Leo XIVs ensyklika «Magnifica Humanitas». Den siste, som kom i juli, er president Trump sin nye strategi for vitenskap, med tittelen «Science – A New Golden Age». Begge bruker store ord og begge har store ambisjoner om å påvirke hva KI skal bli.
Den første, fra pave Leo, vil neppe bli diskutert i Kunnskapsdepartementet eller Stortingets utdannings – og forskningskomite, eller blant rektorene på norske universiteter. Men det burde den. Pavens tekst åpner for en ny måte å begrepsfeste KI-utfordringen på. Det må handle om selve mennesket, mener paven – om hva KI gjør med forståelsen av hva et menneske er. Den andre, fra Trump, vil få umiddelbare konsekvenser for hvordan norske forskere arbeider sammen med amerikanske kollegaer. Hans strategi er en marsjordre for å vinne KI-kappløpet med Kina. Jeg vil oppfordre til at den siste bør ses i lys av den første.
Pave Leo har store ambisjoner. Han vil forsvare det menneskelige i møte med nye teknologier. Å forsvare det menneskelige krever en tydelig definisjon av hva det menneskelig er. Det er godt han er pave. Det gir et mer enn gjennomsnittlig godt utgangspunkt for å tenke rundt menneskets fremtid. Det menneskelige handler for paven (ikke så overraskende) om å forsvare det kristne bildet av menneskelig verdighet. Trump vil gjøre det motsatte, og har sterk støtte fra profilerte transhumanister som ønsker å forbedre mennesket gjennom vitenskap og teknologi, blant andre Elon Musk, Sam Altman og Peter Thiel. De har en felles drøm om å sammensmelte, rent fysisk, menneskelig og kunstig intelligens (for mer, se boken min Evighetsmennesket). Trumps strategi vil endre hva det vil si å være menneske. Teknologien skal løse alt fra kreft og aldringsgåten til energiforsyninger. Det handler ikke om verdighet, men om å vinne.
Trump vil satse stort på KI. Han vi ha fortgang. Han vil ha resultater, raskt. For å klare det vil han bruke fem milliarder dollar og gi forskere adgang til energidepartementets supercomputere. Trump synes det er en dårlig idé å overlate denne forskningen til universitetene, og i hvert fall ikke det han kaller «the legacy universites» (de gamle prestisjeuniversitetene, som Harvard, Yale og så videre), men vil heller gi pengene direkte til enkeltforskere, enten de jobber for selskaper eller universiteter, som kan løse definerte oppgaver, eller «missions». Institusjoner, regelverk, fagfeller, som selvsagt gjør at all forskning går litt saktere, men også blir grundigere, skal nedbygges. Fagfeller skaper for mye konsensus.
Paven er redd for det motsatte: Han er redd for at de enkelte selskapers jakt etter profitt skal skygge for det som vil komme samfunnet som helhet til gode. Paven er opptatt av nettopp institusjonene. Han vil ha mer regler, mer etisk bevissthet, mer vekt på konsekvenser, og mer fokus på taperne av den nye teknologien. Han vil likevel ikke ha full stopp i KI-utvikling. Han ser fordelene også. Han mener mennesket kan frigjøres fra monotone arbeidsoppgaver, for eksempel.
«Det nye mennesket ser ikke på seg selv som en del av noe»
Men farene er større enn fordelene, og løsningen må være å ta kontroll. Mennesket skal styre KI, ikke omvendt. Mennesket må ikke reduseres til data for KI modellene. Paven er bekymret for at det som grunnleggende sett driver begjæret etter sterkere og mer KI, på den ene siden er profitt og på den andre et ønske om å endre på grunnleggende vis hva det vil si å være et mennesket – hva det vil si å arbeide, hva det vil si å tenke, hva det vil si å samhandle, hva det vil si å leve. Paven bruker Babels tårn som bilde på hva som skjer når mennesket ikke lengre ser på seg selv som nettopp et menneske, men vil bli noe annet, noe som ligner på Gud. I KI alderen er det akkurat det som har skjedd. KI skaper ikke bare et nytt menneskesyn, men også en ny type menneske – et menneske som ikke trenger å begrenses, verken av plikt, moral eller av religion. Det nye mennesket ser ikke på seg selv som en del av noe (en større menneskehet), men som del av et kappløp og et brudd med det menneskeheten har vært.
Det er akkurat her jeg tror vi kan ha nytte av å se disse tekstene i lys av hverandre og i lys av norsk KI-politikk. Hva vil vi med KI? KI kan gi fantastiske resultater i for eksempel forståelse av store datamengder, ikke minst innenfor medisinsk forskning. Men KI er ikke kun et verktøy. KI forteller oss noe om hvordan vi forstår menneskenaturen, og hva tenkning og intelligens innebærer. I den offentlige debatten etter lanseringen av de store språkmodellene er bekymringene ofte av det mer pragmatiske slaget. Det handler om studenter som ikke skriver (eller leser) lenger, om eroderingen av det offentlige ordskiftet, om sårbar digital infrastruktur, om demokrati og valg, og om såkalt «alignment», altså å «lære» modellene folkeskikk.
Alt dette er svært viktig, men sjelden har debatten handlet om hva KI egentlig er. Om hva eksistensen av KI forteller, om oss. For å presisere: Ikke hva co-pilot eller Chat GPT svarer når vi spør, men det faktum at vi har skapt en slik «papegøye» eller et «svart speil». Vi må stille mer grunnleggende spørsmål i KI-debatten. Vi må løfte blikket fra de fantastiske mulighetene som den nye teknologien gir, og fra de mange praktiske konsekvensene den får, til de virkelige store spørsmålene. Hvordan endrer den kunstige intelligensen hvordan vi forstår intelligens, hvordan vi forstår tenkning, og dermed hvordan vi forstår hva det vil si å være et tenkende vesen, et menneske?
Språkmodellene er for eksempel sjelden usikre, sjelden tvilende, sjelden føler de på skam, sjelden er de nedfor. Hvis «det» vi i økende grad snakker med, både i skrift og tale, er en «rasjonell» intelligens, hva vil det gjøre med «oss»? I ytterste konsekvens: Hvordan vil de nye tenkemaskinene ikke bare påvirke hva mennesket er, men bli det nye mennesket, slik det eksplisitte målet til profilerte KI utviklere i USA lenge har vært. Ideen om å kopiere bevisstheten, sinnet og laste opp i maskiner er ikke bare en fantasi, men reelle utviklingsprosjekter i alt fra Musk sitt Neuralink til mindre profittere selskaper som Carbon Copies. Sistnevnte er et selskap som vil tilby verktøy for å kopiere hjernen.
President Trump sin nye forskningsstrategi vil påvirke norsk forskning. I debatten om hvordan vi skal møte den, bør vi stille de samme spørsmålene som pave Leo gjør. Det gir ikke nødvendigvis de samme svarene, men vi trenger de humanistiske perspektivene og de samfunnsvitenskapelige analysene for å løfte debatten fra KI som verktøy til KI som endrer hvordan vi forstår hva det vil si å være et menneske.
