Syftet bakom skapandet av falskt innehåll
En vanlig drivkraft för att producera denna typ av fejkade material är att generera klick, vilka kan omvandlas till intäkter om materialet sprids brett och blir viralt. Samtidigt har vissa av de videor som visar europeiska bönder också använts som verktyg i ryska propagandaoperationer.
AI-genererade videor och deras spridning på sociala medier
Vid protester mot Mercosur-frihandelsavtalet mellan Europa och Sydamerika har ett ökande antal videor, tillverkade med artificiell intelligens, börjat dyka upp på olika sociala plattformar. Vissa av videoklippen är tydligt märkta med information om att de är AI-genererade, medan andra visar en vattenstämpel från OpenAI:s bild- och videogenerator Sora. Trots detta riskerar dessa ursäkter att försvinna eller bli osynliga när materialet delas vidare av andra användare utan tydliga varningar.
Identifikation av AI-innehåll
Vissa videor visar tydliga tecken på artificiell intelligens. Till exempel kan vissa bilder av polisskydd visa inkonsekvenser, såsom olika typsnitt och storlekar på bokstaven ”e” i ordet ”police”. Flera videor har imiterat franska bönder, som protesterar mot Mercosur-avtalet men även är irriterade över åtgärder för att bekämpa spridningen av sjukdomen ”lumpy skin disease” bland nötkreatur.
Emotionella berättelser och deras inverkan
Andra videor skildrar personliga vittnesmål, ofta med starka känsloreaktioner. En av dessa visar en bonde som är upprörd över att hundratals kor ska avlivas i franska departementet Ariège. Trots att detta är sannolikt – eftersom en sådan avlivningsoperation ägde rum i december och ledde till polisinsats efter att bönder försökt stoppa den – finns tydliga tecken på AI-generering. Exempelvis kan man i bakgrunden se att ett korns bakdel förändras till dess huvud medan bonden talar.
Falska vittnesmål och visuella fel
I ett annat fall ger en bonde ett känslosamt vittnesmål, men tårorna han gråter är av blod och rinner inte nedför hans ansikte. Ytterligare exempel på AI-manipulation är videor där man kan se distinkta brister, som när en digital kopia av ett telefonnummer eller en bild av en bonde visar tecken på automatiserad tillverkning.
Video som syftar till att skapa klick och spridning
Händelserna kring fejkade videor visar att motiven ofta är ekonomiska: att generera klick som kan leda till intäkter. Europabönders protester har samtidigt utnyttjats i ett ryskt försökt att påverka opinionen. Ett exempel är en manipulerad euronews-video som i början av 2024 spreds snabbt på nätet. Videon kopierade kanalen Euronews visuella identitet och visade franska bönder som spred gödsel framför den ukrainska ambassaden efter ett påhittat brev från ambassadören, där de uppmanades att avsluta protesterna.
Falskhet kring officiella dokument och platser
Den verkliga videon visade dock inte Ukrainas ambassad i Frankrike. Det var istället en bild av huvudbyggnaden för regionrådet Bourgogne-Franche-Comté i Dijon, där bönder faktiskt spred gödsel. Även brevet från den påhittade ambassadören, som uppmanade bönder att sluta protestera, var falskt. Sammanfattningsvis var dessa åtgärder en del av ett ryskt försök att undergräva Ukrainas trovärdighet och sprida desinformation kring europeiska bönders autentiska oro inför införandet av icke-europeiska produkter på marknaden.