En av de nya AI-finesserna i Pixel 9-serien är Reimagine. Användare får markera delen av bilden som ska ändras och kan därefter skriva precis vad som ska visas där istället. Reimagine är tänkt att erbjuda en rolig, lekfull och enkel bildmanipulering.

Google verkar dock inte ha tänkt längre än så. En artikel av The Verge påvisar att Reimagine även kan utnyttjas för att i illasinnade syften snabbt skapa scener som aldrig hänt, exempelvis för att sprida desinformation, för nätmobbning eller utpressning.

Liknande bildmanipulering har varit möjlig i årtionden i avancerade bildbehandlingsprogram som Photoshop. Det finns dock viktiga skillnader mellan klassisk Photoshop-liknande bildmanipulering och dagens verktyg. Photoshop kräver förkunskaper, kompetens, tid, en dator och eventuellt även en icke obetydlig summa pengar såtillvida programmet inte piratkopieras.

Bild: The Verge

Nu är samma bildmanipulering möjlig att genomföra på bara några sekunder, utan några som helst förkunskaper, direkt från manicken alla redan bär i fickan – vilket skulle kunna ha negativa konsekvenser i fel sammanhang. I The Verge exempel ovan visas en helikopterkrasch, en trafikolycka, en bombliknande väska på en tunnelbana, samt en kvinna som till synes är omgiven av droger och drogtillbehör. Men inget av det har hänt utan har skapats på sekunder med Reimagine.

Bilder har alltid gått att manipulera men länge fanns konceptet ”bildbevis” och vi tog för givet att fejkade bilder var undantaget och inte regeln. På grund av generativ AI kommer vi få allt svårare att veta vad som är sant och vad som är falskt; vare sig det är bilder, video, ljud eller vad personer säger – så det är bäst att vara vaksam.