teknotum
Skip to content

Teknotum

Google annonserer usynlige vannmerker for genererte bilder

Kan oppdages etter endringer: Vannmerket finnes selv etter fargeendringer og filterbruk. (Bilde: Google)
SynthID «skrives inn i pikslene» av bildet, overlever redigering, og påvirker ikke bildekvaliteten, hevder Google.

— Mens generativ AI kan utløse et enormt kreativt potensiale, representerer det også nye risikoer, sier Google i en bloggpost. — Det kan gjøre det mulig for skaperne å spre falsk informasjon — både med og uten vilje.

Derfor samlet Det hvite hus flere store AI-selskaper i juli 2023 for å drive frem en avtale om blant annet nettopp vannmerking, eller «robuste tekniske mekanismer for å sikre at brukerne vet når innhold er AI-generert.»

Google er nå det første av disse selskapene som er ute med en usynlig vannmerkingsteknologi som ikke kan redigeres vekk, og som forblir i bildet selv etter endringer.

Kan bli industristandard
Som vanlig har Google store ambisjoner for arbeidet sitt, og siden de mener de har løst problemet med usynlige vannmerker i genererte bilder, ser de for seg et stort gjennomslag for teknologien:

— Vi håper at SynthID-teknologien kan fungere sammen med et bredt utvalg løsninger for skapere og brukere i hele samfunnet, skriver Google i bloggen sin.

De har ingen planer om å holde den hemmelig eller for seg selv, og planlegger å dele den med andre i industrien:

— SynthID kan utvides for bruk i andre AI-modeller, og vi ser frem til å gjøre den tilgjengelig for tredjeparter i nær fremtid.

Dermed kan teknologien muligens utvikle seg til å bli en industristandard, eller i hvert utgjøre et tidlig forsøk på å finne et usynlig vannmerke som kan brukes av alle.

Usynlig, men med spor
Vannmerking av generative AI-bilder har til nå blitt løst på mange måter, men det vanligste er å sette på en logo på toppen eller i hjørnet av bildet, eller bruke metadata tilknyttet selve filen.

Disse kan være utfordrende rent estetisk sett, og ikke alle ønsker å ha en synlig logo i bildene sine, mener Google.

Slike vannmerker kan dessuten greit fjernes med enkel redigering i et bildeprogram, og metadata kan ganske enkelt slettes fra filen.

SynthID-merkede bilder er derimot bygget inn selve bildet, uten å påvirke kvaliteten og er en usynlig endring av selve pikslene.

Det kan ikke redigeres vekk, og kan oppdages selv etter fargeendringer eller bruk av filtre, eller etter lagring med kvalitetstap, som for eksempel i JPG-formatet.

Beta i en beta
Teknologien er nå i beta hos betaen av bildegeneratoren Imagen, som kun er tilgjengelig for «et begrenset antall Vertex AI-kunder.»

Vertex AI er en utviklingsplattform for kunstig intelligens, som selger tilgang for penger.

Detektoren som følger med kan scanne et bilde og umiddelbart oppdage om det finnes et vannmerke, eller et «mulig vannmerke» — som man skulle tro vil være bilder som er tungt redigert.

Ikke alle vil bruke dette
For å fungere som Google ønsker, må denne detektoren være bredt tilgjengelig for alle som ønsker å sjekke om et AI-bilde er generert.

Enn så lenge fungerer SynthID bare med Googles Imagen-bilder, som er beta og ikke offentlig tilgjengelig, og det gjenstår å se hvor mange «tredjeparter» Google får gjennomslag hos, og om SynthID kan spre seg.

Marerittet måtte være å bli nødt til å bruke forskjellige detektorer hos hver generative tjeneste for å sjekke om et bilde er falskt.

Det finnes dessuten mange bildegeneratorer der ute som ikke er interessertei deteksjon eller standarder, og de som ønsker å spre feilinformasjon kan enkelt frem til disse i stedet.

Les også: Avtale om vannmerking av AI-innhold.

Les mer: Googles blogg, Axios, Mashable.

Author Tor FosheimPosted on 30. August 202330. August 2023Tags AI, google

Comments are closed.

Post navigation

Previous Previous post: Khrono: Tre tatt, syv undersøkes for ChatGPT-juks i høyere utdanning
Next Next post: OpenAI ber retten forkaste forfatter-søksmål

You might also like

Timbaland’s next pop starlet is an AI avatar

AIFF, the AI Film Festival, showcases innovative video, as industry set to pounce

OpenAI’s Codex now available to ChatGPT Plus users

Anthropic CEO says it’s time to wake up on AI job losses

Big Tech stops hiring new graduates, as entry level jobs dry up

Court rejects free speech rights for AI chatbots — for now

From the front page

Meta hires Ruoming Pang, Apple’s lead on foundational models

06:55 08 Jul 2025

Grok takes a hard rightward turn with «significant» new update

06:50 07 Jul 2025

Short Friday news roundup

07:00 04 Jul 2025

Google rolls out Veo 3 for Gemini Pro users globally

07:33 03 Jul 2025

Cloudflare to block AI crawlers by default, charge micropayments

06:58 02 Jul 2025

Adobe AI airplanes anthropic apple bard cancer chatgpt climate coding copilot copyright defense drones energy facebook film game gemini google images instagram internet iphone law llama media meta Microsoft military netflix openai playstation research romfart science search sony sosiale medier streaming tiktok TV twitter work zuckerberg

Meta

  • Log in
  • Entries feed
  • Comments feed
  • WordPress.org
  • About teknotum
  • Newsletter
Teknotum Manually edited with WordPress