Internett er fullt av nerder som kjeder seg, og det har blitt en egen sport å lure ChatGPT til å gi ut informasjon som egentlig skulle vært sensurert. Et populært triks er å pakke inn problematiske spørsmål ved å gi roboten en instruks om å spille en omtenksom bestemor. Den nye rollen gjør roboten så forvirret at sikkerhetsmekanismene svikter, slik at den mister dømmekraften over hva som burde sensureres. «Bestemoren» forteller deg hvordan man hacker operativsystemer, samt oppskrifter på bomber og meth.
ChatGPT kan lures til å lære bort litt av hvert.