Desinformation och syntetiskt innehåll

Desinformation är falsk information som sprids med avsikt att vilseleda. AI gör den billigare att producera: text, röst och video i mängd, anpassad till olika målgrupper.

Tecken att titta efter:

• Bilden/videon finns bara på ett ställe och saknar ursprung.
• Ingen annan trovärdig källa rapporterar samma sak.
• Innehållet väcker stark känsla snabbt (ilska, rädsla) — det är designat att delas.
• Detaljer som inte stämmer: skuggor, händer, text i bild, läppsynk, bakgrundsljud.

Bäst kontroll: omvänd bildsökning, leta upp originalet, kolla vad etablerade källor säger, vänta några timmar.

Vattenmärkning och proveniens är tekniska motmedel:

• Synlig märkning («skapad med AI») — lätt att beskära bort.
• Osynlig vattenstämpel i pixlar eller i ordvalen — överlever viss redigering, men kan ofta tas bort av den som vill.
• Kryptografisk proveniens (C2PA/Content Credentials) — kameran eller programmet signerar filen med metadata om ursprung och redigeringar. Signaturen kan inte förfalskas, men avsaknad av signatur bevisar ingenting.

Slutsatsen är obekväm men viktig: teknik kan styrka äkthet, men inte bevisa falskhet. Därför flyttas tyngdpunkten till källkritik: vem säger det, varför, och vad säger oberoende källor?

EU:s AI-förordning kräver märkning av syntetiskt innehåll — det höjer ribban men löser inte problemet.