Samtale

Hinton

Den britisk-kanadiske informatikaren og kognitive psykologen Geoffrey Hinton meiner at det finst ein ekte fare for at store språkmodellar som ChatGPT ein dag blir så smarte at dei klarer å lure og utmanøvrere oss – og kanskje til og med drepe og utslette oss. Mellom anna grunngir han dette med at han meiner å ha oppdaga at tidlege versjonar av ChatGPT klarte å resonnera seg fram til ting som ingen kunne ha fortalt modellen direkte. Den store frykta til Hinton er at den dagen vi let språkmodellane få høve til å endra sin eigen kode for å forbetre seg sjølve, kan det spinne heilt ut av kontroll utan at vi merkar det. Hintons perspektiv er truleg eit mindretalsperspektiv blant folk som forskar på kunstig intelligens, men han er ingen kven som helst. Tvert om vert han ofte kalla gudfaren til kunstig intelligens, og han har vunne nobelprisen i fysikk. Sjølv er eg endå meir oppteken av syskenbarnet hans, Joan Hinton. Ho var fysikar og jobba med å utvikla den fyrste atombomba på manhattanprosjektet. Då ho fekk sjå bilete av dei amerikanske atombombene som øydela Hiroshima og Nagasaki, vart ho så kvalm at ho flytta til det revolusjonære Kina i protest.