”Vem ska jag tro på när allt här såhär”, sjöng en svensk artist på 80-talet. Idag har vi syntetiska röster, videor och bilder som blir allt svårare att skilja från äkta varan. AI-genererade röster och bilder kan vara särskilt svåra att upptäcka.

Enligt en studie som publicerats i Royal Society Open Science kan dock bara fem minuters träning göra det betydligt lättare att identifiera AI-genererade ansikten. Studien har genomförts av forskare från de brittiska universiteten Leeds, Reading, Lincoln och Greenwich med 664 deltagare.

Deltagarna som utmärkte sig och var särskilt bra på att upptäcka syntetiska ansikten – så kallade super-recognizers – hade i snitt rätt i 41 procent av fallen, medan snittet för övriga låg på endast 31 procent. En annan testgrupp fick snabb träning innan testet och lärde sig vilka tecken man ska hålla utkik efter. Då steg precisionen till 64 procent för de bästa och till 51 procent för övriga.

Eftersom bildmodellerna blir allt mer realistiska i rask takt är det oklart om ens träning kommer hjälpa i framtiden. En universell standard för vattenmärkning av allt AI-genererat innehåll behövs, likt Google Synthid.

AI images are increasingly easy to make and difficult to detect. They can be used for nefarious purposes, therefore it is crucial from a security standpoint that we are testing methods to detect artificial images.

– Eilidh Noyes, University of Leeds