Kuppet Trettebergstuen med Deepfake-teknologi: - Sier alt om hvor mektig og farlig dette kan være

«Deepfakes» både skremmer og fascinerer kulturministeren. Sjefredaktør i VG mener den nye kunstig intelligens-teknologien er «en enorm utfordring».

Publisert / Oppdater

Knut Kristian  Hauger
Knut Kristian Hauger

Denne uken samlet Kulturdepartementet mediebransjen til en nordisk mediekonferanse på Nasjonalmuseet i Oslo der temaet var hvordan de store, globale teknologigigantene og ikke minst ny teknologi påvirker og utfordrer den demokratiske samtalen vår. En av dem som var invitert til konferansen var teknologistrateg i dansk TV2, Bo Bergstedt, som snakket om «deepfakes» og som for anledningen hadde laget en rekke ulike motiver og bilder av verten for dagen, kulturminister Anette Trettebergstuen.

Fra scenen kunne Bergsted gjennom bruk av kunstig intelligens og autogenerering av tekst til bilder vise frem statsråden som både Munch- og Rubens-malerier, som Disney-prinsesse, digitalt maleri, hårmodell og som en 70 år gammel dame.

- Det var en underlig opplevelse å se seg selv, samtidig som det ikke var meg. Det var kuriøst og artig, men det som sitter igjen som en delt opplevelse, er at dette kunne jeg bedt den kunstige intelligensen lage bilder av og jeg ville fått det på sekunder. Da er det ikke like morsomt lenger, sier Trettebergstuen til Kampanje.

Av motivene den danske teknologitoppen kunne ha vist, men som han aldri laget for å unngå at bildene senere kunne bli spredt på nettet, var Trettebergstuen som heiser et naziflagg, møter Putin eller lager en brannbombe. 

- Det sier alt om hvor mektig og farlig den teknologien kan være.

- For dette er farlig?

- Absolutt. Dette verktøyet i feil hender eller hender med dårlige hensikter er ekstremt skummelt, sier Trettebergstuen.

Slik har du aldri sett kulturministeren:

Ved å bruke rundt 30 bilder av Anette Trettebergstuen kunne Bo Bergstedt i TV2 i Danmark lage en rekke bilder av kulturministeren i alle mulige tenkelige varianter. Her Tretterbergstuen som hårmodell, digitalkunst, Munch-maleri, actionhelt, Disney-prinsesse og som 70 år gammel dame. Foto: Bo Bergstedt /Stable Diffusion/Dreambooth.

- Mange ting som er bekymringsfullt

Kunstig intelligens har allerede vært på en reise som spenner over datamaskiner som kan tenke, til datamaskiner som kan lære seg ting og til det som heter «deep learning» som handler om et nettverk der man med kunstig intelligens forsøker å kopiere menneskehjernen. Med den nye «deepfake»-teknologien vil framtidens falske nyheter blir mer livaktige enn Trettebergstuen og hele mediebransjen kunne ha forestilt seg

- Hva er det som er mest bekymringsfullt med dette?

- Det er mange ting, men at sannhet og verifiserbare kilder slik vi er vant til å tenke på dette gjelder ikke lenger. En levende person vi ser på en film kan like godt være en deepfake og det forandrer jo veldig mye. Hvor mange valgkamper er vi unna før vi kan komme til å se videoer spredd av partiledere som er deepfakes. Vi har ikke sett det enda, men det kan komme og det kommer garantert, sier statsråden.

Hun er også bekymret for yrkesgrupper hun som statsråd har ansvaret for, kan bli rammet.

- Hva skal vi med kunstnere, fotografer og journalister etter hvert når maskiner kan lage bildene, filmene og historiene for deg når en AI-maskin kan vinne kunstkonkurranser som vi så i dag. Det er mange ting som er bekymringsfullt, sier Trettebergstuen.

- For mediene hva kan det bety når vi ikke lenger kan vite om innholdet er skapt av menneske eller maskin?

- Debatten vi har hatt om fake news blir nesten mikro i forhold til dette her. Men nå som vi at dette kommer har det aldri vært viktigere å befeste rollen til og konkurransedyktigheten til de frie og redaktørstyrte mediene. Men også kildeforståelsen og kritiske bruk blir ekstremt viktig, sier Trettebergstuen.

- Og hvilket deepfake-bilde av deg selv likte du best?

- Det var mange kule. Det var nok de high-tech-bildene eller digital painting-bildene. Det er vel så nærme jeg kommer til å føle meg Star Wars-Anette noen gang, sier Trettebergstuen.

Les også: Advarer reklamebyråene i jakten på kunstig intelligens: - Må ikke bli en marketing-hype

Deepfake-spesialist:

- Vi må alle være våkne og holde et øye med dette. Også politikerne. I ytterste konsekvens kommer kunstig intelligens til å eie alle jobbene våre og hva skjer da? Da blir vi vel alle gående på borgerlønn, sier Bo Bergstedt i dansk TV2. Foto: Knut Kristian Hauger.

Lager AI-kunst på sekunder

«Deepfake» brukes som et samlebegrep på bilder, video og lyd fremstilt ved hjelp av maskinlæring, altså kunstig intelligens, og har man først programvaren og et grafikkort på sin

PC så er jobben gjort på kort tid. Materialet ligger allerede ute i form av bildene og videoene vi som mennesker har lagt ut på nettet.

- Det tok meg halvtime å sette det opp og når jeg har ansiktsmodellen så tar det to sekunder og laget et bilde. Det er bare å skrive hva jeg vil ha. Det kan være hva som helst. Hun kunne vært i bikini eller i et møte med Putin, sier Bo Bergsted i dansk TV2.

Bergstedt har jobbet med kunstig intelligens og videoteknologi i mange år og mener vi står overfor «en ny industriell revolusjon drevet av kunstig intelligens» på linje med dampmaskinen, elektrisitet og datamaskiner. Han sier utviklingen bare raser av sted og omfavnes av stadig nye bransjer som spill- og underholdningsindustrien, men også kunstverden. En særlig trend nå som sprer seg på nettet er programvare som kan generere AI-generert kunst og bilder bare ved å skrive inn en tekst.

-  Det var det kanskje ikke så mange som forventet, men disse algoritmene kommer til å bli brukt på enormt mye, sier han.

Favoritten:

Anette Trettebergstuens personlige favoritt var statsråden gjengitt som et digitalt maleri. - Her snakker vi et mulig profilbilde, sier Trettebergstuen til Kampanje. Foto: Bo Bergstedt/Stable Diffusion/Dreambooth.

- Bekymret for tilliten til mediene

Også innenfor markedsføring og reklame kan det ligge store muligheter ved å ta i bruk denne formen for innholdsproduksjon, mener Bergstedt. Skuespilleren kan snakke om produktet på alle mulige tenkelig språk og reklamebyrået, annonsøren og produksjonsselskapet trenger ikke å dra ut fysisk på en eksotisk strand eller hvor det måtte være for å filme reklamen.

- De lager en modell av ansiktet også kan de være hvor som helst eller hvis du er produsent av en brus så tar du bare 30 bilder av brusflasken også gjøre programmene resten, sier han.

- Hva er det som er utfordrende med kunstig intelligens og «deepfakes» som du ser det?

- Det kommer litt an på, men kommer du fra journalistikken så er den store hodepinen at du ikke kan se at bildene er falske. For designere, håndverkere og marketingfolk er hodepinen at det kommer et verktøy som kan lage visuelle ting. Også kan du lage musikk og tekst like godt som noen, sier Bergstedt som tror det vil dukke opp flere og flere historier som er falske fremover.

- Politikerne ute på fløyene vil begynne å si at det er ikke sant. Det er fake og hvis du ikke som nyhetsmedium kan bevise det har du et problem. Jeg er enormt bekymret for tilliten vi har til mediene, sier Bergstedt.

- En enorm utfordring for mediene

En av dem som skal møte utfordringene, men også ta imot mulighetene som den nye teknologien åpner for, er sjefredaktør i VG, Gard Steiro.

- Jeg mener dette er en enorm utfordring for mediene, og vi har bare så vidt begynt å pirke i denne problematikken, sier Steiro til Kampanje.

Han mener en av utfordringene mediene støter på når det gjelder «deepfakes» er det som går på å verifisere bilder, tekst og bilder som kan publiseres og hvilke standarder mediebransjen selv skal sette.

- Jeg etterlyser en bred debatt i bransjen for hvordan vi skal forholde oss til dette. Vi kan jobbe med det på hver vår tue, men vi må nok innse at denne endringen gjør at vi møte kunstig intelligens mer samlet også, sier Steiro.

Han sier mediene allerede i dag, med det han kaller «gårsdagens teknologi», blir lurt til å spre falsk informasjon.

- Dette kommer til å eskalere. Utfordringen går veldig fort. Jeg tror vi ligger på etterskudd allerede, sier Steiro.

- Skal politikerne spille en rolle her?

- Dette er en utfordring ikke bare for mediene, men for samfunnsdebatten, skoleverket og mange andre områder. Politikerne må jobbe med dette, men jeg er først og fremst opptatt av at mediebransjen tar ansvar selv, sier Steiro.

Les også: Schibsted fyller på med kunstig intelligens: - Det er litt tungt for en avismann, dette

Kuppet Trettebergstuen med Deepfake-teknologi: - Sier alt om hvor mektig og farlig dette kan være