Jeg har tatt et bilde i Arboret som er et parkanlegg rett utenfor Sviland i Sandnes kommune i Rogaland. Jeg brukte mobilen til å ta et bildet, et fotografi av norsk landskap.
Så åpner jeg bildet i ChatGPT og ber om en justering. Ønsker litt mer liv i fargene, en annen beskjæring eller en forsiktig forbedring av uttrykket.
Resultatet er fortsatt et fotografi av det samme landskapet, men med de små justeringene jeg normalt ville gjort i Photoshoop. Så publiserer jeg bildet på Instagram.

«KI info».

Hva skjedde?

KI-generert eller KI-redigert?
KI-generert innhold og KI-redigert innhold er ikke nødvendigvis det samme.
Et bilde som er laget fra bunnen av ved hjelp av kunstig intelligens, er noe annet enn et fotografi som er tatt med et kamera og senere bearbeidet ved hjelp av KI.

Og her begynner det å bli interessant.

For mellom et tradisjonelt fotografi og et bilde som i sin helhet er generert av KI, finnes det en hel skala av ulike arbeidsprosesser:

• Et fotografi med vanlig farge- og eksponeringsjustering.
• Et fotografi der KI brukes til støyreduksjon eller bildeforbedring.
• Et fotografi der KI brukes til å fjerne eller legge til enkelte elementer.
• Et fotografi der bakgrunn eller himmel endres ved hjelp av generativ KI.
• Et bilde som i sin helhet er generert fra en tekstbeskrivelse.

Teknisk sett er dette svært forskjellige prosesser. Og fotografisk sett kan forskjellen være avgjørende.

Hvorfor betyr dette noe?
Tenk på et bryllupsfotografi. Hvis fotografen fjerner en søppelbøtte fra bakgrunnen, handler det først og fremst om estetikk. Men i et presse- eller dokumentarfotografi kan den samme endringen være av stor betydning. Da skal bildet gi et ekte og troverdig inntrykk av situasjonen som faktisk fant sted. En søppelbøtte kan være helt uviktig i ett bilde, men viktig informasjon i et annet. Det samme gjelder mennesker, objekter, værforhold eller andre detaljer i motivet. Når slike elementer endres, kan det også påvirke hvordan vi forstår det som har skjedd.
Derfor handler KI-merking ikke bare om teknologi, men om fotografiets troverdighet og hvilken funksjon bildet har. Et fotografi kan være bearbeidet og fortsatt være et fotografi. Men jo mer bearbeidingen endrer det som faktisk var til stede i situasjonen, desto viktigere blir det å vite hvordan bildet er behandlet.

Når «KI info» blir for lite informasjon
Meta bruker «AI info»-merking på innhold der de oppdager signaler om KI-bruk, blant annet gjennom tekniske standarder som C2PA og IPTC. Meta har samtidig selv skrevet at merkingen tidligere kunne bli utløst av mindre KI-baserte endringer, og at de derfor har endret hvordan informasjonen presenteres. For innhold som bare er redigert med KI, kan informasjonen blant annet ligge i innholdsmenyen i stedet for som en like fremtredende merking.
Problemet er at «KI info» i seg selv ikke forteller hvor mye KI som er brukt.

• Er bildet laget fra bunnen av?
• Er det et fotografi som bare har fått litt KI-basert støyreduksjon?
• Er himmelen byttet ut?
• Eller er et enkelt objekt fjernet?

For mottakeren kan alle disse prosessene være vanskelige å skille fra hverandre.
Dermed oppstår et paradoks: Merkingen skal gi oss mer informasjon, men dersom den blir for generell, kan den også gi oss mindre forståelse av hva som faktisk har skjedd.

Fra kamera til KI
Dette blir stadig mer aktuelt fordi KI-verktøy nå er en integrert del av programvaren fotografer bruker.
Arbeidsflyten kan for eksempel se slik ut:

Kamera → Lightroom → Photoshop → KI-verktøy → eksport → Instagram

Bildet begynte som et fotografi. Men arbeidsprosessen har også inneholdt KI.
Det er nettopp derfor det blir stadig vanskeligere å sette en enkel grense mellom «fotografi» og «KI-bilde».

Bildet er mer enn det du ser
Når vi ser på et fotografi, ser vi først og fremst selve bildet. Men den digitale bildefilen kan inneholde mye mer informasjon.

Dette kalles metadata.

EXIF
EXIF-data kan blant annet inneholde informasjon om kamera, objektiv, brennvidde, blender, lukkertid og ISO. I enkelte tilfeller kan også GPS-posisjon være lagret.

IPTC og XMP
Dette kan inneholde informasjon om fotograf, copyright, bildetekst, nøkkelord og annen informasjon knyttet til bildet og arbeidsprosessen.

C2PA
Så har vi C2PA: Coalition for Content Provenance and Authenticity.
C2PA er en åpen teknisk standard som kan brukes til å dokumentere et digitalt mediums opprinnelse og historikk. Det kan for eksempel være informasjon om hvordan et bilde ble laget, hvilke verktøy som er brukt og hvilke endringer som er gjort underveis. Det viktige er at C2PA ikke er en KI-detektor. Det er et system for å dokumentere innholdets historie.

Photoshop kan også dokumentere arbeidsprosessen
Moderne bildeprogrammer som Adobe Photoshop, Lightroom og Camera Raw har funksjoner for Content Credentials, basert på C2PA. Informasjonen kan blant annet dokumentere at et bilde har vært gjennom et bestemt program, og i enkelte tilfeller hvilke typer endringer eller KI-funksjoner som er brukt.
Det er imidlertid stor forskjell på å bruke et bildeprogram og å bruke generativ KI i programmet.
Å justere eksponering, kontrast, farger eller beskjære et bilde er ikke det samme som å be en generativ KI om å lage en ny himmel eller legge til et objekt. Samtidig blir skillet stadig mindre tydelig. KI-funksjoner er nå bygget direkte inn i verktøy som fotografer bruker hver dag.

ChatGPT og informasjon om bildets opprinnelse
Når bilder genereres eller redigeres med OpenAIs verktøy, kan det følge med informasjon om bildets opprinnelse. OpenAI bruker blant annet C2PA-metadata i støttede bilder. Dette kan gjøre det mulig for andre systemer å registrere at et bilde har vært gjennom et KI-verktøy. Men informasjon kan også forsvinne underveis. Et bilde kan bli eksportert, konvertert, beskåret, lastet opp til en annen tjeneste eller behandlet på nytt. Metadata kan da bli endret eller fjernet.
Dermed er metadata heller ikke en komplett fasit på hvordan et bilde faktisk ble til.

Kanskje vi stiller feil spørsmål
For fotografer handler dette om mer enn en liten etikett på Instagram eller Facebook.
Det handler om hvordan vi kommuniserer fotografiets opprinnelse, arbeidsprosess og troverdighet.
Er et dokumentarisk fotografi blitt et «KI-bilde» fordi fotografen brukte KI til å fjerne et distraherende element?
Er et portrett et KI-bilde fordi fotografen brukte KI-basert støyreduksjon?
Hva med en fotograf som bruker generativ KI til å utvide bakgrunnen noen få centimeter?
Og hva med et bilde som aldri har vært foran et kamera, men som er laget utelukkende ved hjelp av en tekstbeskrivelse?
Dette er ikke nødvendigvis et spørsmål om å være for eller imot KI.
Det handler om å finne presise begreper for forskjellige arbeidsprosesser.

Tre forskjellige utgangspunkt

Fotografert
Bildet er tatt med kamera og bearbeidet uten generativ KI.

KI-redigert fotografi
Et fotografi er utgangspunktet, men generativ KI er brukt som en del av bearbeidingen.

KI-generert bilde
Bildet er i hovedsak skapt av en generativ KI-modell.

Dette er tre forskjellige ting.
Likevel kan de i møte med publikum ende opp med den samme lille etiketten:

«KI info».

Hva betyr dette for fotografen?
KI blir stadig mer integrert i kameraer, programvare og etterbehandlingsverktøy. Dermed blir det også viktigere å kunne skille mellom:

hva som er fotografert,
hva som er bearbeidet,
og hva som er generert.

En teknisk KI-merking kan være nyttig for åpenhet. Men den bør ikke automatisk tolkes som at fotografiet er falskt, fullstendig KI-generert eller uten fotografisk opphav.

Kanskje er det derfor på tide å stille et annet spørsmål enn:

«Er dette KI?»
Kanskje spørsmålet heller bør være:

«Hvordan ble dette bildet til?»
For i en tid der KI blir en stadig større del av fotografens verktøykasse, er det ikke sikkert at «KI eller ikke KI» lenger er et presist nok spørsmål.

Kanskje vi skal spør oss selv
Bør vi som fotografer skille tydeligere mellom fotografi, KI-redigert fotografi og KI-generert bilde?

Kilder og videre lesning
Meta: om merking av KI-generert og KI-redigert innhold: https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/

Meta: om AI-merking på Facebook, Instagram og Threads: https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/

C2PA: Coalition for Content Provenance and Authenticity: https://c2pa.org/

OpenAI:  informasjon om C2PA i bilder: https://help.openai.com/en/articles/8912793-c2pa-in-dall-e-3