A mesterséges intelligencia könnyedén kihúzhatja a slamasztikából az emberiséget. A nem túl távoli jövőben megoldást találhat a globális felmelegedésre, megtalálhatja a rák ellenszerét, feloldhat egy rakás társadalmi és gazdasági problémát, ugyanakkor azt is elintézheti, hogy a barátnőd egy gangbang főszereplője legyen. Nem, sajnos nem viccelünk.
Igazából erre egy percet sem kell várni, néhány napja ugyanis maga Wonder Woman, azaz Gal Gadot tette szét a lábait a mostohatesójának egy hardcore pornóban, amit a deepfakes nevű felhasználó tett közzé a Redditen. Itt egy ártalmatlan részlet, csak hogy ne a levegőbe beszéljünk.
Igen, az ott Gal Gadot arca (nyilvánvalóan nem Gal Gadot teste), de természetesen a színésznőnek halványlila fogalma sem volt arról, hogy ő lett a StepSiblingsCaught legújabb üdvöskéje. A vonásait egy deepfakes által létrehozott tanuló automatika montírozta oda a pornószínésznő arcának helyére, és a legfélelmetesebb az egészben az, hogy emberünknek még csak nem is ez a szakterülete. A program létrehozása nem volt több számára egyszerű hobbinál, mióta pedig elkészült vele, tett már közzé pornót Scarlett Johansson, Maisie Williams, Taylor Swift és Aubrey Plaza főszereplésével.
Az illúzió persze nem tökéletes. Itt-ott bekockásodik a kép, lelóg a fejről a színésznő arca vagy elcsúszik a szájmozgás, szóval egy nem felületes szemlélő könnyedén képes észrevenni a kilógó lólábat. Azt azonban ne felejtsük el, hogy mindez egy hétköznapi kóder első próbálkozása. Nem nehéz tehát megjósolni, hogy akár néhány hónapon belül jöhet egy 2.0-ás verzió, ami úgy csinál Hillary Clintonból pornósztárt, hogy még Billnek is elkerekedik a szeme.
A Vice megkereste deepfakes-et, mégis, hogyan sikerült neki ez a laikusok számára nem annyira egyszerűnek tűnő mutatvány, és kiderült, hogy
a pornósító mesterséges intelligencia létrehozása minden volt, csak nem atomfizika.
Az alkotó természetesen nem vállalta fel a személyazonosságát, de azért készségesen válaszolt a kérdésekre. Elmondta, hogy a programja olyan nyílt forráskódú szoftvereken alapszik, melyek könnyedén és ingyenesen hozzáférhetőek bárki számára. Az ily módon létrehozott tanuló algoritmusnak csupán képekre volt szüksége a pornózásra ítéltetett celeb arcáról, amihez deepfakes egészen egyszerűen a Google képkereső alkalmazását használta fel.
Mellőzve a technológiai blablát, annyi történt, hogy deepfakes lediplomáztatott egy algoritmust pornóból és Gal Gadot arcából, melyet követően ez az algoritmus már képes volt arra, hogy önállóan, külső beavatkozás nélkül megcsinálja a videót, amiből fentebb láthatsz egy rövid részletet.
Az alkotó így összegzi a módszer lényegét:
Néhány száz arckép segítségével könnyedén képes vagyok milliónyi torzított arcképet létrehozni. Miután kiképeztem a hálózatot az igazi arcból és megtanítottam, hogyan alakítsa vissza az eltorzított arcokat az eredetivé, ha megmutatom neki valaki másnak az arcát, azt fogja hinni, hogy ez is csak egy torzított arc, és úgy fogja alakítani, hogy úgy nézzen ki, mint az eredeti, amiből kiképeztem.
A Vice ezzel kapcsolatban megkérdezte Alex Champandardot, aki a mesterséges intelligenciák szakértője, és aki elmondta azt, amit valószínűleg ezen a ponton már te is sejtesz: ez az egész igazából tényleg pofonegyszerű, és még csak atomerőműre sincs szükséged ahhoz, hogy működésre bírd. Egy erősebb videokártyával szerelt PC néhány óra alatt megbirkózik a feladattal, de egy átlagos, internetezésre és munkára használt számítógép is megcsinál egy pornóvideót egy nap alatt.
Más szóval, bárki, akárkiről csinálhat olyan videót, amilyet akar, amihez nincs szüksége másra, mint egy házilag is előállítható tanuló algoritmusra, egy számítógépre, és néhány száz fényképre az illető arcáról.
Azt a néhány száz képet összeszedni a szelfikorszakban = vasárnap délutáni séta a parkban. Szóval van baj, nem kicsi. A témát nagyon aktuálissá tevő deepfakesnek persze erre is van válasza:
Minden technológiát lehet rosszra használni. Ezt nem lehet megakadályozni. Szerintem viszont egyáltalán nem rossz dolog, hogy egy átlagember is ennyire könnyen elkezdheti tanulmányozni a tanuló hálózatokat.
Ez mondjuk igaz, de azért az semmiképpen nem frankó, hogy belátható időn belül gyakorlatilag bárkiről bármilyen videótartalmat lehetséges lesz otthon, minimális erőbefektetéssel előállítani.
Szerencsére Alex Champandard nem látja annyira sötéten a jövőt, és egy szakembernek mi is könnyebben elhisszük, hogy azért nem akkora a gáz. Ő ugyanis azt vallja, hogy a videómanipuláló tanuló algoritmusok fura módon többet használnak, mint ártanak, mivel olyan technológiákat hívnak életre, melyek segítségével detektálhatóak a manipulált képek.
Arról nem is beszélve, hogy a jelenség egészséges szkepticizmust építhet ki a társadalomban, mely jelenleg pontosan a felé tart, hogy mindent elhisz, ami szembejön vele a Facebookon.