Google annonserer usynlige vannmerker for genererte bilder

SynthID «skrives inn i pikslene» av bildet, overlever redigering, og påvirker ikke bildekvaliteten, hevder Google.

— Mens generativ AI kan utløse et enormt kreativt potensiale, representerer det også nye risikoer, sier Google i en bloggpost. — Det kan gjøre det mulig for skaperne å spre falsk informasjon — både med og uten vilje.

Derfor samlet Det hvite hus flere store AI-selskaper i juli 2023 for å drive frem en avtale om blant annet nettopp vannmerking, eller «robuste tekniske mekanismer for å sikre at brukerne vet når innhold er AI-generert.»

Google er nå det første av disse selskapene som er ute med en usynlig vannmerkingsteknologi som ikke kan redigeres vekk, og som forblir i bildet selv etter endringer.

Kan bli industristandard
Som vanlig har Google store ambisjoner for arbeidet sitt, og siden de mener de har løst problemet med usynlige vannmerker i genererte bilder, ser de for seg et stort gjennomslag for teknologien:

— Vi håper at SynthID-teknologien kan fungere sammen med et bredt utvalg løsninger for skapere og brukere i hele samfunnet, skriver Google i bloggen sin.

De har ingen planer om å holde den hemmelig eller for seg selv, og planlegger å dele den med andre i industrien:

— SynthID kan utvides for bruk i andre AI-modeller, og vi ser frem til å gjøre den tilgjengelig for tredjeparter i nær fremtid.

Dermed kan teknologien muligens utvikle seg til å bli en industristandard, eller i hvert utgjøre et tidlig forsøk på å finne et usynlig vannmerke som kan brukes av alle.

Usynlig, men med spor
Vannmerking av generative AI-bilder har til nå blitt løst på mange måter, men det vanligste er å sette på en logo på toppen eller i hjørnet av bildet, eller bruke metadata tilknyttet selve filen.

Disse kan være utfordrende rent estetisk sett, og ikke alle ønsker å ha en synlig logo i bildene sine, mener Google.

Slike vannmerker kan dessuten greit fjernes med enkel redigering i et bildeprogram, og metadata kan ganske enkelt slettes fra filen.

SynthID-merkede bilder er derimot bygget inn selve bildet, uten å påvirke kvaliteten og er en usynlig endring av selve pikslene.

Det kan ikke redigeres vekk, og kan oppdages selv etter fargeendringer eller bruk av filtre, eller etter lagring med kvalitetstap, som for eksempel i JPG-formatet.

Beta i en beta
Teknologien er nå i beta hos betaen av bildegeneratoren Imagen, som kun er tilgjengelig for «et begrenset antall Vertex AI-kunder.»

Vertex AI er en utviklingsplattform for kunstig intelligens, som selger tilgang for penger.

Detektoren som følger med kan scanne et bilde og umiddelbart oppdage om det finnes et vannmerke, eller et «mulig vannmerke» — som man skulle tro vil være bilder som er tungt redigert.

Ikke alle vil bruke dette
For å fungere som Google ønsker, må denne detektoren være bredt tilgjengelig for alle som ønsker å sjekke om et AI-bilde er generert.

Enn så lenge fungerer SynthID bare med Googles Imagen-bilder, som er beta og ikke offentlig tilgjengelig, og det gjenstår å se hvor mange «tredjeparter» Google får gjennomslag hos, og om SynthID kan spre seg.

Marerittet måtte være å bli nødt til å bruke forskjellige detektorer hos hver generative tjeneste for å sjekke om et bilde er falskt.

Det finnes dessuten mange bildegeneratorer der ute som ikke er interessertei deteksjon eller standarder, og de som ønsker å spre feilinformasjon kan enkelt frem til disse i stedet.

Les også: Avtale om vannmerking av AI-innhold.

Les mer: Googles blogg, Axios, Mashable.