Kunstig intelligens

Lydig robot eller fri agent?

Nye sikkerhetsbrudd får flere til å spørre om KI-utviklingen allerede er ute av kontroll.

Hvem er sjefen? De siste KI-blunderne reiser spørsmålet om agentene utgjør en reell trussel – eller bare god markedsføring. Her en robot med et menneske på KI-messa i Shanghai 18. juli. Foto: Ng Han Guan, AP/NTBHvem er sjefen? De siste KI-blunderne reiser spørsmålet om agentene utgjør en reell trussel – eller bare god markedsføring. Her en robot med et menneske på KI-messa i Shanghai 18. juli. Foto: Ng Han Guan, AP/NTB

Mange stiller seg det spørsmålet etter de nylige sikkerhetsskandalene, der to av de ledende KI-firmaene, Open AI og Anthropic, tilsynelatende hadde mistet styringen med noen av sine KI-agenter (KI-er som gjennomfører oppdrag på egen hånd). Det handler blant annet om at noen av disse har hacket seg inn på andre firmaer via internett, i noe som skulle være bare «trening» eller tester, men som altså gikk over styr.

Du må være abonnent for å lese denne artikkelen

Viten