Telefoner har börjat få inbyggda funktioner som manipulerar fotografier genom generativ AI. Som bekant finns det även gott om tjänster som kan skapa nya så gott som fotorealistiska bilder från grunden, utifrån textbeskrivningar.

Google och Samsung inkluderar särskild metadata för manipulerade bilder, men för att markeringen ska få någon effekt behöver tjänsterna bilderna delas till visa etiketter. Meta kommer nu göra just detta genom att etikettera AI-genererat innehåll på Instagram, Threads och Facebook på samtliga språk.

Enligt tillkännagivandet arbetar Meta tillsammans med branschpartners på en gemensam teknisk standard för att identifiera AI-innehåll, inklusive ljud och video. Under de följande månaderna kommer tidigare nämnda tjänster börja visa etiketter när AI-innehåll identifieras, för att påpeka att exempelvis en bild inte är ett traditionellt fotografi.

As the difference between human and synthetic content gets blurred, people want to know where the boundary lies. People are often coming across AI-generated content for the first time and our users have told us they appreciate transparency around this new technology. So it’s important that we help people know when photorealistic content they’re seeing has been created using AI.

Metadata och EXIF kan raderas av användare. Därför kommer för det mänskliga ögat osynliga markeringar dessutom användas i själva bilderna för att identifiera AI-genererat innehåll och för att avgöra om bilderna kommer från exempelvis Midjourney, Shutterstock, OpenAI, Adobe, Microsoft eller Google.

Meta påpekar dock att det i dagsläget fortfarande inte är möjligt att identifiera allt AI-genererat innehåll och att vissa personer även kan ta bort de osynliga markeringarna. Företaget arbetar därför på teknik som kan identifiera AI-innehåll som helt saknar data om ursprunget.