Alja Cetinski

UVOD

Kaj je »deepfake«?

Nahajamo se v času, ko vse, kar vidimo, ni nujno več resnično. To nam dokazuje tudi deepfake tehnologija. Beseda je sestavljena iz besed »deep learning« (poglobljeno učenje) in »fake« (lažno). S to vrsto umetne inteligence lahko manipuliramo zvok, video in slike (avdio-vizualne lastnosti slike/gibljive slike). Povzročimo lahko, da izbrana oseba izreče besede po naši želji, stori dejanje, ki ga v resnici ni ali pa zamenjamo obraz prvotne osebe z drugim obrazom. Na žalost se tehnologija večinoma uporablja za slabe namene, kot je širjenje lažnih informacij in prevare. Za raziskavo bom uporabila tudi UI.

JEDRO

Kako ga ustvarimo?

Za ustvarjanje je pomembno strojno učenje računalnikov, učijo se na podlagi slik in videoposnetkov. Gradivo za učenje algoritma mora biti kvalitetno, sicer generiran deepfake ne bo dobre kakovosti. Poleg tega potrebujemo še algoritme, kot sta generativno kontradiktorno omrežje (GAN) in konvolucijska nevronska omrežja (CNN). GAN je sestavljen iz dveh omrežij: generatorskega in diskriminatornega. Z generatorskim omrežjem ustvarjamo nove podatke, diskriminatorno omrežje pa primerja novo ustvarjene podatke z resničnimi podatki. Primerjava med obema vrstama podatkov poteka dokler se popolnoma ujemajo, takrat je algoritem naučen. Ko pridobimo skupne značilnosti obeh obrazov se uporabi dekoder, ki je še en algoritem UI. Dekoder ustvari novo sliko na podlagi izvirne slike. Uporabljena pa sta dva, eden na obrazu prvotne osebe, drugi pa na obrazu ciljne osebe.

Danes se uporaba GAN-a opušča, zaradi počasnosti in potrebe po veliki količini materiala za učenje, nadomeščajo pa ga aplikacije, ki so na voljo praktično vsem. Sicer pa poznamo več vrst deepfake, to so: deepfakes za prenašanje mimike obraza ali telesa na ciljno osebo, avdio deepfakes in deepfakes s sinhronizacijo ustnic.

Uporaba in prepoznavanje

Uporabljajo se za manipulacijo glasov pri volitvah, z lažnimi izjavami politikov, zavajanje javnosti, kot odzivniki pri telefonskih klicih, kot lažni dokazi v pravnih postopkih, za maščevalno pornografijo in manipuliranje z vrednostjo delnic. Uporabljajo pa se tudi v Hollywoodu, kjer lahko ponovno uporabljajo obraze mrtvih zvezdnikov v različnih filmskih vlogah. Avdio deepfake lahko generira glas ljudem s poškodbami glasilk, različnimi boleznimi pri katerih je prizadet glas ali pa za boljšo sinhronizacijo tujih filmov.

Da bi se izognili deepfake prevaram pa se moramo naučiti prepoznavati ponarejeno gradivo. Deepfake tehnologija je načeloma legalna, razen če krši zakone o sovražnemu govoru ali otroški pornografiji. Če se nam zdi, da je gradivo ponarejeno, moramo biti pozorni na: nenaravno premikanje obraza ali telesa, vsebino, ki izgleda nenavadno, ko jo povečamo, nenavaden odsev v očalih, oči, ki ne mežikajo, nenavadne barve, na povedi, ki se zdijo napačno sestavljene

Da se zaščitimo pred potencialno nevarnostjo, moramo biti pozorni na vir, od katerega prihaja informacija, poleg tega pa naj verodostojnost preverimo pri zanesljivih virih. Lahko si naložimo programe, ki bodo vsebino analizirali in nam navedli verodostojnost.

ZAKLJUČEK

Na žalost slovenskega prevoda/izraza za besedo deepfake nisem zasledila. Mislim, da bi uveljavitev slovenske besede za ta izraz pripomogla k ozaveščanju ljudi o tej vrsti umetne inteligence v slovenskem prostoru. Kot sem že omenila, primanjkuje ozaveščenosti o tej temi in mislim, da bila potrebna predavanja o prepoznavanju lažnih vsebin na spletu, kako se zaščititi pred njimi in kako sporno vsebino prepoznati. Zakoni proti deepfake vsebinam so bili sprejeti le v ZDA, zato menim, da bi jih bilo potrebno uveljaviti v ostalih državah, socialna omrežja pa bi morala skrbneje pregledovati podatke za dobrobit svojih uporabnikov.

UI sem uporabila pri iskanju pravopisnih napak in pri generiranju slike z Bing Image Creatorjem (tehnologija DALL-E 3). Image creator je generiral 4. slike v kratkem času, izbrala sem eno izmed njih.

VIRI

BARNEY Nick, 2023, Deepfake AI (deep fake), techtarget.com, [28 .2. 2024, 19:23], dostopno na spletnem naslovu:
https://www.techtarget.com/whatis/definition/deepfake

CANDAN BELGI Ilke, 2023, Kako deluje tehnologija DeepFake?, hashdork.com, [28. 2. 2024, 19:34], dostopno na spletnem naslovu:
https://hashdork.com/sl/kako-deluje-tehnologija-deepfake/

Maja, 2020, Kaj so »deepfakes« in zakaj je nujno, da jih vsi spoznamo?, casoris.si, [28 .2. 2024, 19:33], dostopno na spletnem naslovu:
https://casoris.si/za-starse-in-ucitelje/kaj-so-deepfakes-in-zakaj-je-nujno-da-jih-vsi-spoznamo/

NELSON Daniel, 2022, Kaj so Deepfake?, unite.ai, [28 .2. 2024, 19:36], dostopno na spletnem naslovu:
https://www.unite.ai/sl/what-are-deepfakes/

SLIKOVNI VIRI

Slika 1: JOSHI Samart, 2017, github.com, [29 .2. 2024, 17:35], dostopno na spletnem naslovu:
https://user-images.githubusercontent.com/30948709/34805214-ed1af624-f6a2-11e7-8c51-767e00eb423a.jpeg

Slika 2: Izdelano z UI »Bing Image Creator«, A deepfake being created, 29. 2. 2024, [29 .2. 2024, 17:13], A. Cetinski

Slika 3: »An image showing difference between origin and deepfake, 5. 5. 2023, techdogs.com, [29 .2. 2024, 17:59], dostopno na spletnem naslovu:
https://assets.weforum.org/article/image/jUiAI0Yip2gdXLjdNPuJXyomAwfhsmocMbRSuWkux6A.jpg