Vad händer när ingen längre vet om bilden är äkta?

Vad händer när ingen längre vet om bilden är äkta? Frågan blir allt mer relevant i en tid där artificiell intelligens kan skapa fotorealistiska bilder på några sekunder. Det som tidigare kunde fungera som ett visuellt bevis kan nu vara helt påhittat, samtidigt som äkta fotografier kan ifrågasättas som falska. Utvecklingen förändrar inte bara hur vi ser på bilder i sociala medier, utan också hur journalistik, politik och nyhetsrapportering påverkas. När gränsen mellan verklighet och manipulation blir svårare att upptäcka uppstår ett nytt problem: hur ska vi kunna avgöra vad som faktiskt har hänt när själva bilden inte längre går att lita på?

När AI gör falska bilder svåra att avslöja

Bilder har länge haft en särskild ställning som bevis för att något faktiskt har hänt. Ett fotografi från en olycksplats, en demonstration eller en politisk händelse har ofta uppfattats som mer trovärdigt än en beskrivning i text. Den fördelen håller dock på att försvinna. Med dagens AI-verktyg går det att skapa bilder som ser ut att föreställa verkliga människor, platser och händelser utan att något av det någonsin har inträffat. Resultatet kan vara så övertygande att en vanlig betraktare har svårt att upptäcka manipulationen.

Fotorealism förändrar spelreglerna

Tidigare krävde avancerad bildmanipulation både kunskap och tidskrävande arbete. Photoshop och liknande verktyg gjorde det möjligt att förändra fotografier, men resultatet kunde ofta avslöjas genom detaljer som såg onaturliga ut. Generativ AI har förändrat förutsättningarna genom att automatisera stora delar av processen. Användaren behöver i många fall bara beskriva vad bilden ska innehålla. Därefter skapas ett resultat som kan anpassas efter önskemål. Det innebär att bildskapande som tidigare krävde professionella färdigheter nu är tillgängligt för betydligt fler människor.

AI-bilder behöver dessutom inte vara perfekta för att skapa problem. Det räcker att de är tillräckligt övertygande för att påverka hur människor uppfattar en händelse innan någon hinner kontrollera informationen. På sociala medier sprids bilder snabbt, ofta utan att användaren känner till deras ursprung. En manipulerad bild kan därför få stor räckvidd innan den ifrågasätts. När en rättelse senare publiceras har den ursprungliga bilden redan hunnit forma uppfattningen hos tusentals eller miljoner människor.

Detaljerna blir allt svårare att tolka

Många har lärt sig att leta efter klassiska tecken på AI-genererade bilder, exempelvis märkliga händer, onaturliga ansikten eller felaktiga texter. Sådana ledtrådar kan fortfarande förekomma, men tekniken utvecklas snabbt. Bildgeneratorer har blivit bättre på proportioner, ljus, hud och detaljer i bakgrunden. Därför går det inte längre att utgå från att en bild är äkta bara för att den ser realistisk ut. Samtidigt kan även riktiga fotografier beskäras, redigeras eller presenteras utan sitt ursprungliga sammanhang.

Förtroendet blir den stora frågan

När människor vet att realistiska bilder kan vara skapade av AI uppstår ett bredare problem än enbart falska fotografier. Även äkta bilder kan börja ifrågasättas. En person som inte vill tro på en viss händelse kan hävda att fotografiet är AI-genererat, även när bilden är autentisk. Detta skapar en situation där osäkerheten i sig blir ett verktyg. Det kan bli svårare att övertyga människor om verkliga händelser, eftersom möjligheten till manipulation alltid finns i bakgrunden.

Vad händer med förtroendet för fotografier?

När bilden inte längre automatiskt fungerar som bevis förändras relationen mellan människor och visuella medier. För journalistiken innebär det en särskild utmaning. Redaktioner behöver kunna kontrollera var fotografier kommer ifrån, när de skapades och om de har förändrats. För privatpersoner blir situationen mer komplicerad eftersom det ofta saknas tid eller teknisk kunskap för att genomföra en sådan kontroll. Det betyder att förtroendet i allt högre grad kan behöva flyttas från själva bilden till de system, personer och organisationer som kan verifiera dess ursprung.

Sociala medier förstärker osäkerheten

Sociala plattformar bygger i stor utsträckning på snabb spridning. En bild som väcker starka känslor kan få stor uppmärksamhet innan någon har hunnit undersöka om den är äkta. Det gäller särskilt innehåll som bekräftar en redan etablerad uppfattning. En användare behöver inte nödvändigtvis tro att bilden är hundraprocentigt äkta för att dela den. Det kan räcka att fotografiet verkar passa in i en berättelse som personen redan tror på. AI kan därmed förstärka mekanismer som redan finns i informationsflödet.

Det blir också svårare att avgöra vad som är ett uppenbart skämt, ett konstnärligt experiment och ett försök att vilseleda. Samma bild kan användas i olika sammanhang och få helt olika betydelser beroende på hur den presenteras. Om en AI-genererad bild delas utan tydlig märkning kan mottagaren sakna viktig information om dess bakgrund. Problemet handlar därför inte bara om själva tekniken, utan om hur bilder används och distribueras.

Journalister får en större kontrolluppgift

För journalister innebär utvecklingen att bildverifiering blir en allt viktigare del av det redaktionella arbetet. Ett fotografi behöver kunna kopplas till en källa, en plats och ett sammanhang. Redaktioner kan exempelvis undersöka metadata, jämföra bilder från andra källor och kontrollera om fotografiet förekommer i äldre sammanhang. Även om sådana metoder inte alltid ger ett definitivt svar kan de bidra till att avslöja manipulationer. Det ställer samtidigt högre krav på resurser, kompetens och rutiner inom nyhetsorganisationer.

I vissa situationer kan det dessutom vara svårt att bevisa att en bild är falsk. Frånvaron av tydliga fel betyder inte automatiskt att fotografiet är äkta. På samma sätt är en teknisk analys inte alltid tillräcklig för att fastställa hela bildens historia. Ett verkligt fotografi kan exempelvis ha redigerats eller fått en missvisande bildtext. Därför behöver verifieringen ofta handla om mer än att identifiera om pixlarna har skapats av en kamera eller av ett AI-system.

Den visuella beviskraften förändras

Fotografiets traditionella styrka har legat i att det verkar fånga ett ögonblick direkt från verkligheten. När samma visuella uttryck kan produceras artificiellt förändras den egenskapen. Det betyder inte att fotografier blir värdelösa, men deras bevisvärde kan bli mer beroende av sammanhanget. Ett fotografi från en etablerad nyhetskälla kan exempelvis ha en helt annan trovärdighet än samma bild utan information om ursprung, datum eller fotograf.

Det kan också påverka hur människor reagerar på framtida bildbevis. Om publiken vänjer sig vid att ifrågasätta allt visuellt material kan skepsis bli en naturlig del av informationskonsumtionen. Det kan vara positivt när det leder till bättre källkritik, men problematiskt om det utvecklas till en generell misstro mot dokumentation. Då riskerar både falska och äkta bilder att behandlas som lika osäkra, vilket gör det svårare att etablera en gemensam bild av vad som faktiskt har hänt.

Tekniken som ska hjälpa oss skilja äkta från falskt

När AI blir bättre på att skapa trovärdiga bilder utvecklas samtidigt tekniker för att kontrollera digitalt innehåll. En viktig riktning är så kallad innehållsproveniens, där information om en bilds ursprung och förändringar kan följa med filen. Tanken är att mottagaren inte enbart ska behöva bedöma hur bilden ser ut, utan också kunna kontrollera dess historia. Om tekniken fungerar väl kan det bli möjligt att se om ett fotografi kommer från en kamera, har redigerats och vilka verktyg som har använts.

Digital proveniens kan ge bilder en historik

Ett fotografi kan i framtiden behöva bära med sig mer information än själva bilddata. Uppgifter om skapandet, redigeringen och publiceringen kan bidra till att fastställa hur materialet har hanterats. Sådana system kan vara särskilt värdefulla för journalistik, myndigheter och andra verksamheter där bildens autenticitet har stor betydelse. Samtidigt finns tekniska begränsningar. Informationen måste kunna bevaras genom olika system och plattformar, och mottagaren måste kunna förstå vad uppgifterna faktiskt innebär.

Det finns även en viktig skillnad mellan att kunna verifiera en fils tekniska historia och att kunna bevisa att motivet visar sanningen. Ett fotografi kan vara helt äkta som fil men ändå ha en missvisande bildtext eller vara taget i ett annat sammanhang än det som påstås. Proveniens kan därför stärka tilliten till materialets ursprung, men den ersätter inte journalistisk kontroll eller mänsklig bedömning.

AI-detektorer är ingen enkel lösning

Ett annat sätt att försöka upptäcka manipulation är att använda AI-modeller som analyserar bilder efter egenskaper som kan tyda på att de är genererade. Sådana verktyg kan vara användbara, men de har ingen garanti för att alltid ge rätt svar. Modellerna tränas på vissa typer av AI-genererat material och kan få svårare att identifiera nya bildgeneratorer eller bilder som har bearbetats efter skapandet. En bild som bedöms som sannolik AI kan därför fortfarande kräva ytterligare kontroll innan en slutsats dras.

Utvecklingen skapar dessutom en kapplöpning mellan skapande och upptäckt. När bildgeneratorerna förbättras behöver detektionssystemen anpassas. En metod som fungerar väl i dag kan bli betydligt mindre effektiv när nästa generation av bildmodeller används. Det gör att ingen enskild teknisk lösning sannolikt kommer att kunna lösa problemet permanent. Flera kontrollmetoder behöver i stället kombineras för att skapa en mer tillförlitlig bedömning.

Källkritik blir ännu viktigare

För vanliga användare blir därför grundläggande källkritik viktigare än någonsin. Några frågor kan vara särskilt relevanta när en bild väcker uppmärksamhet:

• Vem publicerade bilden och var kommer den ursprungligen ifrån?

• Finns samma händelse dokumenterad av oberoende källor?

• När publicerades bilden och stämmer tidpunkten med det som påstås?

• Finns det information om hur bilden har skapats eller redigerats?

• Verkar bildens sammanhang rimligt utifrån övriga tillgängliga uppgifter?

Det innebär inte att människor måste bli experter på bildanalys. Den viktigaste förändringen kan i stället vara att sluta behandla fotografiet som ett automatiskt bevis. En bild behöver bedömas tillsammans med sin källa, sitt sammanhang och den övriga information som finns tillgänglig. När tekniken gör det enklare att skapa övertygande visuella lögner blir förmågan att kontrollera informationens ursprung en central del av digital källkritik.