Associated Press: Generativ AI er en uverifisert kilde

Alt innhold som publiseres av verdens største nyhetsbyrå skal gjennom samme faktasjekk, skriver de i nye AI-retningslinjer.

AP inngikk nylig en avtale med OpenAI om å bruke arkivet deres, som samtidig ga dem tilgang til ChatGPTs tjenester for å bruke i journalistikk, men i følge de nye retningslinjene skal ikke AIen brukes til noe i nærheten av å produserte innhold.

— Mens AP-staben kan eksperimentere forsiktig med ChatGPT, vil de ikke bruke den til å skape publisert materiale, står det klart på toppen av AP-dokumentet «Standarder for generativ AI,» skrevet av Amanda Barrett, Vice President for Standards and Inclusion.

Alt skal sjekkes
Det spiller ingen rolle om kilden er et innkommende tips fra et menneske eller en AI-robot; informasjonen skal verifiseres, og journalistene som jobber på en sak er like ansvarlige for faktaene i artiklene sine enten det kommer fra ChatGPT eller andre «upålitelige» kilder:

— All produksjon fra et generativt AI-verktøy skal behandles om ubekreftet kildemateriale, sier retningslinjene, — AP-staben må bruke sine redaksjonelle vurderinger og APs kildestandarder når de vurderer all informasjon for publisering.

Dette kan sees som det siste innlegget i en debatt om hvorvidt innhold fra kunstig intelligenser kan publiseres av vel ansette publikasjoner som AP er, eller i rettsdokumenter, eller endog i akademia, der det for meste har feilet eller blitt møtt med sterk skepsis.

De er ikke gode nok til journalistikk, mener AP, og ettersom ChatGPT ofte kan dikte opp fakta i ellers fornuftige artikler, må alt som kommer fra den kanten gjennomgås grundig, skriver de.

Ingen erstatning for journalister
— Vi ser ikke kunstig intelligens som er erstatning for journalister på noen måte, står det også i dokumentet.

Dette er i motsetning til en hel haug av amerikanske nettaviser som har begynt å bruke kunstig intelligens til å publisere materiale, samt NRK og VG her til lands, som har eksperimentert med å bruke ChatGPT til å lage oppsummeringer av artiklene sine.

Videre sier retningslinjene at de ikke vil endre på bilder, videoer eller lydklipp med bruk av AI- eller andre verktøy for legge til eller fjerne enkelte elementer. Virkeligheten skal fremstilles slik den er.

Advarer mot feilinformasjon
— Generativ AI kan gjøre det lettere for folk å bevisst spre mis- og feilinformasjon gjennom manipulerte ord, bilder, video eller lyd, inkludert innhold som ikke har noen tegn på endringer, og som ser realistisk og autentisk ut, advarer AP videre.

— Derfor skal journalister utvise den samme skepsisen som de normalt gjør, inkludert å forsøke å identifisere kilden til det originale innholdet.

AP forventer imidlertid at disse retningslinjene blir oppdatert omtrent hver tredje måned, ettersom landskapet endrer seg såpass raskt.

New York Times avslo AI helt
The New York Times var også i forhandlinger med OpenAI om tilgang til arkivene deres, og bruken av AI-verktøy var åpenbart ikke fristende nok for dem.

De avsluttet forhandlingene på en uvennlig måte, og vurderer nå å gå til sak om opphavsretten til artiklene deres.

AP er derimot en av de mest innflytelsrike nyhetsredaksjonene i USA, eller kanskje i verden, og de utgir en egen Style Guide som dette blir innlemmet i.

Denne stilguiden brukes så i tur av uttallige lokale og nasjonale redaksjoner i USA og resten av den engelskspråklige verden, og bærer derfor en del vekt i medielandskapet.

Les også: Amerikanske redaksjoner som bruker AI i innhold, Google forsøker å få innpass i redaksjoner

Les mer: AP: «Standards around generative AI», AP: Medier setter standarder for AI, Engadget: Rapport.