Bør vi være bekymret over KI-utviklingen? Ja. Bør vi være redd for at KI utrydder menneskeheten? Nei. Men vi bør snakke mer om ideologiene og pengene som påvirker debatten.
NRKs Debatten 17. september handlet om hvorvidt KI kan utslette oss. Historier om menneskeskapte vesener som truer menneskeheten er kjent fra myter, religion og populærkultur. Historiene knyttes nå til KI og spres av miljøer med tung finansiering av amerikanske tek-milliardærer. Det spekuleres om hypotetisk generell kunstig intelligens, enda mer hypotetisk superintelligens, og maskiner som forbedrer seg selv i rasende tempo.
Spekulasjonene er generelt vanskelige å etterprøve, blant annet fordi ledende KI-selskaper deler begrenset informasjon med forskere og myndigheter.
Men frykten kom før faktaene, uten å være basert på observasjoner i KI-laber. Nyere hendelser som hackingen av Hugging Face, er alvorlige, men handler om en avgrenset del av KI-fagfeltet: svært autonome, språkmodellbaserte KI-agenter med utilstrekkelige risikovurderinger, overvåkings- og sikringstiltak.
Budskapet om KI som eksistensiell trussel reiser minst to etiske utfordringer og har blitt kritisert av profilerte KI-etikere som Timnit Gebru, Shannon Vallor, Carissa Véliz, Emily Bender og Alex Hanna. For det første legitimerer ideologiene en ekstrem risikovilje på vegne av andre. For det andre rettferdiggjør de å nedprioritere eksisterende problemer med KI.
KI-frykten drives av ideologiske bevegelser som effektiv altruisme (EA) og longtermism. De finansieres av tek-milliardærer som på den ene siden advarer mot KI og på den andre siden investerer stort i KI-selskaper som Anthropic. Dette gjelder blant annet Dustin Moskovitz og Jaan Tallinn. Andre tek-milliardærer som tidligere har gitt store summer til bevegelsen, er Elon Musk, overvåkingsteknologi-kongen Peter Thiel og bedrageridømte Sam Bankman-Fried.
Det erselvfølgelig lov å ta imot penger fra EA-bevegelsen, og å mene at KI er en eksistensiell trussel. Her i Norge er Langsikt blant selskapene som mottar støtte. Den ene Debatten-deltakeren som omtalte KI som eksistensiell trussel, kom nettopp fra Langsikt. Den andre har også bånd til EA-bevegelsen, noe et enkelt Google-søk viser. NRK informerte imidlertid ikke seerne om at begge kom fra samme, snevre miljø. Norske medier bør ta ansvar for å synliggjøre hvilke bindinger ulike aktører har, og vurdere tek-miljøenes budskap kritisk. Ellers kan det gå under allmennhetens radar hvordan amerikanske tek-penger brukes for å påvirke hva vi diskuterer og hvordan vi forstår KI.
«Spekulasjonene er generelt vanskelige å etterprøve»
Hvis amerikanske dommedagsprofetier skal debatteres i Norge, bør vi undersøke hva som er basert på fakta og observasjoner, og hva som er ideologisk drevet og begrunnet.
KI har stort potensial, men innebærer også problemer som må håndteres snarest mulig. Dette inkluderer skjerpede cybertrusler, bias, natur- og miljøbelastning, og uansvarlig bruk med store konsekvenser for individer og samfunn.
Aktuelle tiltak er blant annet innsyn og regulering. EUs AI Office ber nå om mer informasjon fra de største KI-selskapene. Flere statsledere, med Støre og Stubb i spissen, tar til orde for uavhengige sikkerhetsevalueringer, standarder og styrket internasjonalt samarbeid. Dette er gode initiativer.
Vi må ikke la galskapen prege norsk KI-debatt. I stedet bør vi diskutere ideologiene og pengene som finansierer narrativ om at KI vil utslette oss – eller redde oss.
Da kan vi dempe irrasjonell frykt og styrke det systematiske arbeidet med å sikre lovlig, sikker og etisk forsvarlig KI.
