Vi vet ennå ikke hvordan kunstig intelligens vil endre samfunnet. Derfor vet vi heller ikke hva det vil kreve av kunnskaper og ferdigheter å sikre fornuftig og trygg bruk. Vi kan likevel være sikre på at KI på en rekke områder vil endre både behov og tilegnelse av kunnskap; hva og hvordan vi bør lære.
Dette er en utfordring vi ikke tar alvorlig nok. KI utfordrer våre begreper og praksiser på måter som gjør at vi bør tenke utdanning på nytt. Mange har sikkert fått nok av skolereformer, men denne gangen handler det om noe like fundamentalt som da vi gikk fra håndverks- til industrisamfunn, nemlig en ny fordeling av oppgaver mellom mennesker og teknologi.
KI vil overta mange oppgaver som nå krever menneskelig intelligens. Ett eksempel er søk og behandling av informasjon. Andre er simulering og utprøving av nye løsninger innen eksempelvis medisin. Som vi vet: KI brukes allerede til å skrive artikler, rapporter og dokumenter, om med blandet suksess. De fleste eksemplene på uvettig bruk handler om store språkmodeller, der «intelligensen» består i å produsere ordrekkefølger som er statistisk sannsynlige, men ikke dermed sanne. Det vil alltid produseres løsninger som enten er oppdiktede eller irrelevante. Grunnen er at KI mangler noe som er fundamentalt for menneskelig intelligens: forståelse.
Slik virker verden
Det som gir mennesker forståelse, er at vi har modeller av virkeligheten. Fra vi er små, danner vi oss modeller av hvordan verden fungerer. Vi vet ikke hvordan, men aner at mye av det foregår instinktivt. Derfor har man ikke klart å få til det samme for KI-er. Det snakkes om «world models», og mange KI-firmaer hevder de holder på å utvikle slike, men de er begrensede, og vi har ennå ikke sett noe som nærmer seg noen form for «forståelse».
Virkelighetsmodeller finnes i naturen. Alle dyr har sine modeller av virkeligheten, tilpasset deres verden og hva de har behov for å vite. Det meste av deres kunnskap er instinktiv, men likevel ofte avansert når det gjelder alt mulig fra å skaffe mat, jakte, unnslippe forfølgere, finne partnere. For dyr er som regel de instinktive modellene nok, og trenger i liten grad å utvikles.
«Vi bør tenke utdanning på nytt»
Når det kommer til oss mennesker må modellene utvides og justeres når vi beveger oss ut i samfunnet. Hva disse modellene skal inneholde, endrer seg stadig. I tidligere samfunn kunne vi klare oss uten å lese og uten å vite så mye om hvordan verden der ute fungerte. I dag må vi kunne lese, skrive og regne, og vi må kjenne regler og lover. Etter hvert som vi vokser opp og får nye plikter og oppgaver, må våre virkelighetsmodeller oppjusteres. Hele tiden har vi en omtrentlig forståelse av verden, som gjør oss i stand til å unngå de verste brølerne.
Dette er den store forskjellen fra KI-er: Fordi de ikke har noen virkelighetsmodell, kan de i mange situasjoner gjøre fatale feil, som vi har sett med selvkjørende biler. Dette er feil vi mennesker ikke ville gjort, fordi vi har en mer helhetlig forståelse – som er langt fra komplett, men fungerer bra nok til vanlig.
Så mye å forstå
Det er denne forståelsen vi kan bidra med i en verden der stadig flere oppgaver overtas av teknologien. Derfor er det viktig at skolen – og samfunnet ellers – gir oss mulighet til å gjøre våre virkelighetsmodeller stadig bedre og mer nøyaktige, slik at vi kan holde øye med teknologien og korrigere når det trengs. Til det trengs det ulike typer kunnskap: I tillegg til det grunnleggende om den fysiske verden, hva vi trenger for å bygge hus, produsere mat og annet nødvendig, må vi vite hvordan samfunn fungerer sosialt, økonomisk og politisk. Og vi må vite en del om hvordan de viktigste teknologiene virker.
Ikke minst må vi forstå hvordan alt dette virker sammen, i systemer. Mange av våre grunnleggende problemer oppstår fordi vi ikke skjønner systemfenomener som feedback og eksponentiell vekst. Det er derfor vi stadig gjør feil i god tro: innen energi, miljø- og klima kosthold, utdanning, med mere.
Vi mangler også kunnskap og forståelse om hvordan naturlige systemer, geofysiske, biologiske, har utviklet seg gjennom millioner av år. Vi vet faktisk fremdeles ikke hvordan skyene, skogene og gressetende dyr påvirker klimaet. Vi vet fortsatt for lite om hvordan vi selv fungerer, som hvilken mat som er best for oss. Vi oppfatter for sent hvordan nye medier endrer barns og unges læring og sosialisering, slik at ikke bare leseevnen, men også tenkeevnen trues.
Hva i all verdensmodellen?
Likevel er vi fremdeles mye flinkere enn noen KI til å oppfatte nye problemer. Som da noen forskere – akkurat i tide – oppdaget at klorfluorkarboner var begynt å ødelegge ozonlaget. Menneskelig intelligens handler ikke bare om å løse problemer, men også om å identifisere dem. Fra evolusjonen har vi fått evnen til å oppdage når noe er galt i den verdensmodellen vi navigerer etter. Dette er en evne ingen KI ennå har, og som gjør at vi fremdeles må ha en hånd på rattet.
Det krever at vi oppdaterer oss i takt med at verden endres. Jo mer avhengig vi blir av KI, desto viktigere blir vår egen kunnskap og intelligens. Parallelt gjør KI-bruk oss dummere, om vi skal tro flere studier. Derfor er vi nødt å tenke nytt, om blant annet, utdanning om hvordan vi skal holde oss på høyde med den utviklingen vi selv har satt i gang.
