Lažni posnetki Toma Cruisa niso škodljivi, toda vzbujajo skrbi

V začetku letošnjega leta so se na omrežju Tiktok pojavili posnetki ameriškega igralca Toma Cruisa, ki so bili ustvarjeni s pomočjo deepfake tehnologije. Sicer posnetki sami po sebi niso škodljivi, vendar vzbujajo mnogo skrbi, saj so videti tako resnično, da je skoraj nemogoče določiti avtentičnost posnetka, brez računalniške analize.
 

Kaj je to deepfake tehnologija?

 
V začetku leta so po spletu zaokrožili posnetki hollywoodskega zvezdnika, v katerih počne stvari, ki so zanj morda neobičajne. Kljub identičnemu videzu in značilnim obraznim potezam na posnetkih ni Tom Cruise. Na posnetkih je v resnici igralec Miles Fisher, ki je ob pomoči umetne inteligence (UI) in vizualnih učinkov videti in tudi slišati kot Tom Cruise.
 
CNN Business pojasnjuje, da je avtor teh posnetkov belgijski umetnik Chris Ume, ki je zaradi priljubljenosti posnetkov v juniju ustanovil podjetje Metaphysic. Podjetje se ukvarja z ustvarjanjem deepfake posnetkov oziroma 'globokih ponaredkov'. Tvorjenka sicer izhaja iz besedne zveze globoko učenje (deep learning) in angleške besede za ponaredek (fake). Globoko učenje je področje strojnega učenja in UI, ki omogoča strojem oziroma programom, da imitirajo proces človeškega učenja.
 
Podjetje Metaphysic uporablja tehnologijo deepfake za izdelavo sicer nemogočih oglasov in posnetkov. Njihovi projekti za stranke so vključevali kampanjo za britvice Gillette, ki je poustvarila mladega Deiona Sandersa iz leta 1989 in kampanjo za belgijsko nogometno zvezo, ki je oživela dva pokojna menedžerja belgijske ekipe.
 

Zlonamerna uporaba tehnologije

 
Veliko pozornosti je namenjene zlonamerni uporabi deepfake posnetkov in po mnenju strokovnjakov, z dobrim razlogom. Prvi znani primeri takšnih posnetkov iz leta 2017 so prikazovali obraze znanih osebnosti, zamenjane z obrazi pornografskih zvezd. Zakonodajalci so tudi opozorili, da bi lahko deepfake posnetke posamezniki škodoželjno uporabili za zavajanje javnosti. Na spletu se je prav tako pojavil posnetek tradicionalnega božičnega nagovora angleške kraljice, ki je videti zelo resničen, dokler  kraljica ne začne plesati na mizi.

Ker je to dokaj nova tehnologija, še ni jasnih pravil o izdelavi oziroma uporabi takšnih posnetkov. Denimo, ali naj bi bili gledalci obveščeni, kdaj gledajo deepfake posnetek, ali katere smernice naj bi veljale pri pridobivanju soglasja in izbiri osebe, ki je predmet posnetka. »Mislim, da so ta etična vprašanja res zapletena, ker ni strogih in hitrih pravil, po katerih lahko potegnete črto in rečete: 'Te meje ne bomo nikoli prestopili',« je za CNN Business povedal Nick Diakopoulos, izredni profesor za komunikologijo in računalništvo na univerzi Northwestern.
 
Diakopoulos pojasnjuje, da smo v kinu navajeni gledati resničnost, pomešano s posebnimi učinki in razumemo, da so oglasi v kinu namenjeni predvsem manipulaciji in napeljevanju k ogledu ali nakupu nečesa. Kot primer navede kampanjo za britvice Gillette, podjetja Metaphysic. Toda deepfake posnetki so po drugi strani lahko prilagojeni ljudem iz različnih demografskih skupin ali pa prikazujejo neko znano osebnost, ki podpira določen izdelek. V takšnih primerih bi bilo morda potrebno razkritje, da se gledalec ne bi počutil manipuliranega, meni Diakopoulos.
 

Kako pa je lahko ta tehnologija koristna?

 
Ume in soustanovitelji podjetja Metaphysic so poudarili, da se poskušajo zavedati potrebe po zaščitnih ograjah pri tej tehnologiji, ki jo poganja UI. To pomeni, da želijo zagotoviti, da se uporablja etično in ustrezno. Toda podjetje sodeluje neposredno s strankami, ki si želijo globokih ponaredkov in uporablja lastno tehnologijo, zato ima večji nadzor nad posnetkom, pojasnjuje Tom Graham, soustanovitelj podjetja. Za CNN Business je še dodal: »Tehnologija se pomika naprej, ne glede na to, komu je všeč.«
 
Tudi Ume je podobnega mnenja: »To je prihodnost, kjer imate več svobode in več ustvarjalnih možnosti.« Poudaril je, da rad očara ljudi s svojimi posnetki in da njegov namen ni, da bi komurkoli škodoval. Pri podjetju Metaphysic so prepričani, da je tehnologija lahko tudi zabavna in doseže neverjetne rezultate za filme, oglase ali druge oblike medijev, ki prej niso bili dosegljivi niti z najboljšimi posebnimi učinki.