Ny avtale: Nå skal AI-innhold identifiseres, vannmerkes

AI-bransjen har blitt enige med den amerikanske presidenten om en rekke frivillige tiltak for å bedre sikkerheten, sikre forskning på prioriterte felt, og ikke minst om å flagge innhold skapt av kunstig intelligens.

I følge dokumentet som ble publisert i går kveld, skal AI-selskapene Google, Amazon, Microsoft, Meta, og ChatGPT-eier OpenAI, blant annet ha blitt enige om uavhengig testing av generativ AI før de slippes på markedet, og nye investeringer i sikkerhet.

De ble også enige om å «utvikle robuste tekniske mekanismer for å sikre at brukerne vet når innhold er AI-generert,» som et vannmerkesystem.

Vannmerking allerede på tapetet
— Disse forpliktelsene er et lovende skritt, men vi har mye mer jobb å gjøre sammen, sa president Joe Biden om avtalen, i følge Reuters.

Når det kommer til flagging av generert innhold, har for eksempel Google tidligere snakket om å innføre metadata, og sier at de har bygget et verktøy for oppdage syntetisk lyd med nesten 99% nøyaktighet. Det har også Meta gjort.

Det er derimot vanskelig å se for seg hvordan man kan vannmerke spesielt tekst på en måte som ikke ganske enkelt kan redigeres bort. Avtalen gjelder derimot også bilder, video og lyd — som er enklere å implementere.

Merkbart borte fra overenskomsten er poulære Midjourney, som ikke bruker vannmerker, samt Stable Diffusion og Stability AI, som allerde har vannmerke.

Frivillig nå, lover kommer senere
Avtalen er dessuten frivillig, så det finnes ingen tidsramme for igangsetting eller noen konkret håndheving av den. Det skal visstnok nå være falsk markedsføring å bryte den, og dermed blir det eventuelt en sak for den amerikanske handelskommisjonen FTC (Federal Trade Commission).

Neste skritt skal være et president-dekret fra Biden, og så faller det til kongressen å eventuelt lovfeste avtalen. Der er det også flere forslag om AI-lover på vei, og mange ser ut til å kunne klare seg.

USA er derimot trege på avtrekkeren forhold til EU, der det ble enighet om rekke regler for AI i juni — som inkluderer et krav om at generert innhold skal identifiseres. Der sikter de på å ha en AI-lov på plass i løpet av året.

Den amerikanske avtalen sier også at AI-selskapene skal «utvikle og implementere AI-systemer mot samfunnets største utfordringer» — som kreftforskning og klimaendringer, og Det hvite huset sier at «AI kan bidra enormt til velstand, likestilling og sikkerhet for alle.»

Hvis de bare får sikkerhet, diskriminering, personvern og identifisering på plass, som denne avtalen er et skritt mot.

Les også: Metas nye stemmegenerator er for farlig for offentligheten, Forsøk på å avsløre ChatGPT.

Les mer: Det hvite husets avtale, The Washington Post om avtalen, Reuters nyhetsmelding og The Verge med bakgrunn.