Scenen er som tatt ut av et dataspill. Du våkner i ei brakke sammen med lutryggede medfanger i stripete drakter. I bakgrunnen høres filmusikken fra «Schindlers liste».
På mobilskjermen står det: «POV: YOU WAKE UP IN AUSCHWITZ».
Videoen på 35 sekunder er hentet fra Instagram-profilen «povhistory» og følger en innsatt gjennom konsentrasjonsleiren Auschwitz-Birkenau en hel dag. Dette er bare ett av mange eksempler på videosnutter skapt ved hjelp av kunstig intelligens som tar for seg temaer som andre verdenskrig og holocaust.
Ifølge internasjonale medier som Deutsche Welle og BBC spres bilder og videoer om holocaust som ild i tørt gress på sosiale medier.
Gamle tanker i nye former
Mange av klippene prøver å bruke teknologien til å skape et historisk bilde av hvordan ting kunne ha sett ut. Samtidig advarer eksperter på antisemittisme mot at videoene skaper et forvridd og dehumaniserende bilde av ofrene for historiens største folkemord.
Paweł Sawicki er talsperson ved Auschwitz-museet i Polen. Museet forvalter historien til den største av nazistenes konsentrasjonsleirer, hvor minst én million mennesker ble drept.
Sawicki sier de er kjent med fenomenet, men at de ikke kjenner omfanget av denne typen KI-generert innhold.
Når det gjelder videoene som omhandler Auschwitz-leiren, peker Sawicki på at videoene i seg selv ikke nødvendigvis sprer antisemittisk innhold.
«Men kommentarene som følger med postene, går i retning av fornektelse, hat og antisemittisme», skriver han i en e-post til Klassekampen.
Sawicki mener plattformene bør ta mer ansvar og aktivt moderere slikt innhold. Dersom det ikke fjernes, mener han det i det minste bør bli tydelig merket at det dreier seg om fabrikkerte bilder og videoer.
«Minnet og den historiske sannheten fortjener sterkere beskyttelse. Dette er viktig fordi slikt innhold ikke bare forfalsker historien, men ved å la disse forvrengningene dukke opp, sirkulere og få synlighet, bidrar Meta direkte til å undergrave den faktabaserte forståelsen av den komplekse historien til Auschwitz, som vi forsøker å beskytte», skriver han.
Gamle ideer i nye formater
Johannes Due Enstad er historiker og forsker på antisemittisme ved Institutt for samfunnsforskning. Han sier at spredningen av denne type KI-generert innhold på sosiale medier og internett er et økende problem.
– Jeg tror algoritmene fort kan lede folk videre til innhold som forsøker å legitimere antisemittiske ideer. Hos mange i mitt fagfelt ringer varselbjellene nå.
«Minnet og den historiske sannheten fortjener sterkere beskyttelse.»
— Paweł Sawicki, talsperson ved Auschwitz-museet
Samtidig er ikke Enstad overrasket over at slike videoer dukker opp. Han påpeker at det finnes 2000 år gamle innarbeidede fordommer og fiendtlige oppfatninger av jødene i vår kultur.
– Vi må ikke undervurdere hvor dypt i kulturen dette sitter. Derfor er det ikke så overraskende at tanker og ideer som har vist seg i ulike uttrykk gjennom århundrene, dukker opp i KI-generert innhold. Altså på plattformer og i former som preger dagens informasjonslandskap.
Falske rabbinere
Et nokså fersk eksempel er spredningen av kontoer med KI-genererte rabbinere på Tiktok som formidler antisemittiske troper. I videoene forteller «rabbinerne» om hvordan jødedommen handler om å kontrollere internasjonale relasjoner, medier, makt og penger.
Forskningsgruppa til Combat Antisemitism Movement har kartlagt 49 Tiktok-kontoer med slike «rabbinere». Til sammen har kontoene over 950.000 brukere, og de har samlet over 10 millioner liker-klikk, skriver Times of Israel.
– Faren er at man gjennom disse mediene kan nå langt flere mennesker mye raskere. Da blir det potensielt et mye større alvor, sier Enstad.
Da Klassekampen nylig søkte opp de mest kjente kontoene, var de fjernet fra Tiktok. Men rester av innholdet er fortsatt synlig på plattformen.
Hvem står bak kontoene? Det finnes nok ikke et entydig svar.
Likevel klarte BBC i fjor høst å spore flere Facebook-kontoer som sto bak KI-genererte bilder av holocaust-ofre til et nettverk av innholdsprodusenter i Pakistan, som samarbeider tett om hvordan de kan tjene penger på Facebook. Inntekten skaperne får fra Meta, avhenger av hvor stort engasjement postene får.
Etter medieomtalen har flere av kontoene BBC refererer til, blitt fjernet.
Meta svarer
Klassekampen har kontaktet Meta, som viser til sine retningslinjer for håndtering av hatefullt innhold og desinformasjon.
Der står det at Meta ikke tillater hatefullt innhold på sine plattformer Facebook, Instagram og Threads. Dette omfatter skadelige stereotypier som historisk har vært knyttet til trusler eller vold, som holocaustfornektelse og påstander om at jøder kontrollerer finansielle, politiske eller mediale institusjoner.
Meta skriver videre at desinformasjon som kan bryte med deres retningslinjer, vil bli fjernet.
Samtidig understreker Meta at det til syvende og sist er deres partnere som jobber med faktasjekking, som bestemmer hva slags innhold som fjernes.
Ber om mer kontroll
Johannes Due Enstad påpeker at barn og unge er spesielt sårbare for denne typen innhold. Dette er en av mange ting som understreker behovet for å få på plass bedre kontroll med de plattformene, mener han.
– Amerikanske og kinesisk-eide plattformer påvirker vår offentlighet og meningsdannelse både i Norge og andre land. Grunnleggende sett nok et viktig signal om å få på plass bedre kontroll. Dette er noe som må inn i debatten om nasjonal digital suverenitet.
