Deepfejk – fejkad verklighet

En deepfake är en bild, video eller ljudinspelning som har skapats eller manipulerats med hjälp av AI för att få det att se ut eller låta som att en person säger eller gör något som aldrig har hänt.

Det går inte att med blotta ögat eller örat avgöra om en bild, video eller ljudfil är äkta eller fejkad. Men genom att använda sunt förnuft och ställa ett antal källkritiska frågor kan du öka din motståndskraft.

Checklista: Så avslöjar du en deepfake

• Se först helheten. Se hela videon utan paus. Är det något som är konstigt? Är innehållet rimligt?
• Försök verifiera videons ursprung. Vem publicerade den först? Leta efter längre versioner, andra kameravinklar eller andra videor från samma händelse. Många bilder föreställer något helt annat än det som påstås. Använd Googles bild- eller videosök för att ta reda på var originalbilden finns.
• Kontrollera verkligheten. Om videon visar en specifik plats, händelse, person eller skylt: kontrollera om platsen eller byggnaden finns, om vägskyltarna stämmer, om händelsen finns rapporterad någon annanstans, om det finns äldre bilder av platsen eller om objektet ser likadant ut på andra fotografier.
• Videons längd. AI-genererade videor är ofta korta, ca 10-15 sekunder, eftersom de är så resurskrävande att producera.
• Bokstäver. Titta på text på skyltar, gatunamn och reklamaffischer över tid. Pausa videon och jämför samma text i flera bildrutor. Leta efter om bokstäverna byter form, om orden ändras, om bokstäver försvinner eller tillkommer eller om logotyper förändras. En AI kan producera en övertygande skylt i en enskild bild men ha svårt att hålla exakt samma detaljer konsekventa över många bildrutor.
• Kontrollera händer och fingrar. I AI-genererade videor har händer ibland sex eller sju fingrar, naglar som plötsligt ändras, fingrar som smälter samman eller deformeras när de passerar framför något. Föremål som personen håller i kan också ändra form. Pausa var 0,5–1 sekund och jämför detaljer mellan bildrutorna.
• Titta på reflektioner och genomskinlighet. Kontrollera om speglar, fönster, glas, vatten och blanka föremål följer verkligheten runtomkring. Om personen rör huvudet åt ett håll men spegelbilden eller reflektionen beter sig på ett annat sätt är det en varningssignal.
• Är källan känd eller anonym? Är kontot nystartat och endast har några få följare kan det vara fejk.
• Starka känslor. Var vaksam på information, bilder och annat innehåll som upprör, skapar starka känslor eller skrämmer. Botnätverk som drivs med hjälp av AI kan försöka bidra till att tonläget trissas upp kring en viss fråga, att en viss åsikt framstår som mer utbredd än vad den egentligen är eller att polarisering framstår som väsentligt större än vad som är fallet.

När kan man stöta på en deepfake på jobbet?

Exempel 1. Du får ett telefonsamtal eller videomeddelande från vad som låter och ser ut som din chef som verkar väldigt stressad. Den AI-genererade rösten ber dig att frångå rutinerna för att göra en akut utbetalning eller dela inloggningsuppgifter. Lägg på och ring upp på alternativt sätt.

Exempel 2. Du stöter på falska videoklipp som sprids externt där din arbetsgivares logotyp och talespersoner har manipulerats för att sprida felaktig information, i syfte att skada förtroendet för organisationen. Du blir arg, men är osäker på om filmerna är på riktigt. Prata med din chef eller dina kollegor om hur ni tar detta vidare.