Az utóbbi napokban két olyan videós manipuláció is tarolt az interneten, ami miatt újra érdemes beszélni a digitális megszemélyesítésről, és annak a veszélyeiről. Egy alkalmazással egészen régi fotók elevenedtek meg, és a technológia segítségével az azokon szereplő emberek keltek életre virtuálisan, a másik videóban pedig egy nagyon ijesztő digitális Tom Cruise beszélt olyan dolgokról, amiről az igazi Tom Cruise soha.
Hogy milyen veszélyeket rejt az, ha már a videókról sem lehet megmondani, hogy valódiak-e, arról már régóta folyik diskurzus. A manipulált képek után itt van a manipulált videók ideje, ami már sokkal fejlettebb annál, hogy egy nem ott és nem akkor történt egy videó, mint ahogy az a leírásában szerepel.
A deepfake a deep learning és a fake (hamis) szavak összevonásából ered, ugyanis a technológia lényege, hogy egy algoritmus, ami képes a gépi tanulásra (deep learning), annál valósághűbb, de hamis (fake) videót tud létrehozni, minél több információt kap. Ahogy a technológiai fejlődésben sokminden, úgy ez is első sorban a pornóból indult, ahol meglepő módon nem is a hírességek hamisított pornóvideói voltak az igazán nagy sikerek, hanem teljesen átlagos emberekről készültek hamis videók olyan helyzetekben, ami sosem történt meg. Az is éppen elég nagy baj lenne, ha ezeket a videókat a készítők a saját szórakoztatásukra használták volna, de inkább zsarolásos bűncselekményeket követtek el vele. Azt pedig nem nehéz elképzelni milyen veszélyeket rejt az, ha egy látszólag igazi videóban egy ország vagy egy szuperhatalom vezetőjének digitális mása beszél olyan dolgokról, amiket valójában sosem mondana.
Most egy vizuális effektekkel foglalkozó művész és egy Tom Cruise-imitátor készített meglepően valódinak tűnő deepfake videót, amit több millióan láttak a közösségi oldalakon. Az imitátor persze már eleve magabiztosan utánozta Cruise manírjait, ennek köszönhető, hogy a digitális technológiával megtámogatott videóban nem csak az arckifejezés, de az egész nagyon valósághű lett.
Majd a MyHeritage állt elő egy olyan alkalmazással, ami képes régi fotókat életre kelteni, így rég halott családtagokat vagy híres embereket lehet megszemélyesíteni. A loopban a megidézett emberek a fejüket mozgatják és mosolyognak is. Azóta több mint 26 millió képet animáltak.
A szintetikus média lehet, hogy a reklám – és szórakoztatóiparban nagy változásokat hozhat, de nagyon sok visszaélésre és törvénytelenségre is alkalmas, és bár a cikkben említett két példát készítő fejlesztők azt állítják, hogy nagyon odafigyelnek, hogy a fejlesztéseikkel ne lehessen visszaélni, mégis újra előkerülnek a kérdéseket, amiket ideje lenne minél gyorsabban szabályozni. Bár még a technológia nem tart ott, hogy otthon is gyorsan és egyszerűen ilyen tökéletességben kivitelezhető legyen. A Cruise-videónál például az imitátor két hónapig csak a különböző arckifejezéseket tanulta, a MyHeritage pedig azt mondta, hogy azért vízjelezte az elkészült videókat, és azért nem lehet hangot tenni hozzá, hogy csökkentsék a visszaéléseket, és ne használják “gusztustalan dolgokra” az oldalt, ahol a legtöbben egykori nagymamájukat vagy az ükszüleiket szeretnék megidézni.
A MyHeritage vezetője szerint csak a jéghegy csúcsa az alkalmazásuk, ennél sokkal több dolgra lehet használni a technológiát. Nem az ő algoritmusokat már használták is olyan kampányokban, ahol a cél az volt, hogy nagyon erős érzelmi reakciót váltson ki. Például a 2017-ben meggyilkolt újságíró Javier Arturo Valdez Cárdenast idézték meg egy videóban, aki saját gyilkosait kereste. Joaquin Oliver, egy 17 éves diák, aki a parklandi iskolai lövöldözésben vesztette életét, halála után a technológia segítségével kampányolt a fegyvertartás szabályozásáért, de használták már a dokumentumfilmben is, az Isten hozott Csecsenföldön című film szereplőit saját biztonságuk érdekében ilyen technológiával tették felismerhetetlenné.
Rengeteg módon tudja majd használni Hollywood, de már a mostani amerikai elnökválasztásnál is komoly félelem volt mindkét oldalon amiatt, hogy egy túlságosan valósághű deepfake akár demokratikus válságot is okozhat az országban, vagy globális válsághoz vezethet. De azokat is veszélyeztetheti, akik nem tudják megvédeni magukat, például azok a halott hírességek, akiknek a fotóit életre keltik, és esetleg reklámokhoz használják őket. Pedig a jövő haladhat abba az irányba, hogy a technológia fel tudja támasztani, vagy velünk tudja tartani a halott szeretteinket, és már fel is vetődik az egyik első kérdés a nagyon sok közül, ki engedélyezheti a halottak digitális feltámasztását, és hogyan tudja valaki ezt még életében megakadályozni?
Forrás: NY Times
