Även om metadata och synliga och osynliga vattenstämplar för AI-genererat innehåll underlättar är det ingen felsäker lösning för att skilja sant från falskt. Metadata och synliga vattenstämplar kan enkelt tas bort och det kommer alltid finnas bildmodeller som låter bli att inkludera osynliga vattenstämplar. Vore det bättre att särskilja det äkta från det artificiella genom att signera riktiga bilder?

Initiativet att ge bilder och videor kryptografiska signaturer finns redan genom Coalition for Content Provenance and Authenticity (C2PA), med medlemmar likt Google, Microsoft, Sony, Adobe, BBC, Meta, med flera. Sony och Leica har redan släppt kameror som signerar bilder kryptografiskt.

Pixel 10-serien är första mobilerna som erbjuder kryptografiska signaturer på hårdvarunivå för varje bild som tas med den inbyggda kamera-appen. Google använder den högsta säkerhetsstandarden – Assurance Level 2 – från C2PA. Signaturen skapas så fort sensorn ”ser” ljuset och på så vis bevisas att fotografiet kommer från en riktig kamera.

Signaturen möjliggörs delvis tack vare säkerhetschippet Titan M2. Att hårdvara krävs skiljer kryptografin från vanlig metadata som är enkel att fingera. Enligt Google är kryptografin privat och skapad så att ingen bild eller grupp av bilder kan förknippas med varandra eller med personen som tog bilderna. Men även C2PA och kryptografiska signaturer har fallgropar.

Tänk om någon visar en AI-genererad bild på en 8K-monitor och fotograferar bilden för att på så vis få en signatur som säger att bilden är äkta? Branschen motverkar bland annat detta genom att analysera omgivningens djup (en monitor eller utskriven bild är platt), samt inkludera data från andra sensorer i signaturen. Om bilden visar en solig park men det är mörkt i rummet där bilden togs, kan det upptäckas.

Om behörig mjukvara likt Photoshop redigerar bilden skapas en slags tidslinje, så att det går att se att den ursprungliga bilden är äkta och därefter hur fotografiet har ändrats. Mjukvaran identifierar den ursprungliga signaturen som inte längre är giltig men fortfarande synlig: en slags bokföring över ändringarna fotografiet genomgått.

Men C2PA är bara en del av lösningen. Folk kommer inte se en bild eller video på nätet, på sociala medier eller i en meddelandetjänst och sedan manuellt verifiera äktheten. För att signaturen ska ha effekt i praktiken behöver bilder och videor med kryptografiska underskrifter etiketteras tydligt.

Även det ska vara på gång. Telefoner och webbläsare verkar i framtiden ge äkta bilder ett emblem baserat på en lista med pålitliga källor. Om fotografiet exempelvis är signerat av en Pixel, en Galaxy, en Iphone eller en Sony-kamera visas en ”verifierad”-etikett, medan en varning visas för suspekta eller overifierade signaturer. Bilder som har skapats eller ändrats av AI ska också etiketteras.