Umělá inteligence už není jen doménou sci-fi románů, ale stále častěji začíná ovlivňovat i náš život. A to nejen k lepšímu. Počítačem generované domácí úkoly dělají starosti učitelům, výtvarníci kvůli snadno generovatelným obrázkům přicházejí o zakázky, scénáristé herních hitů jsou znechuceni strojovými překlady, které jim przní jejich texty.
Přistižený streamer Brandon Ewing se prý na deep fake porno díval jen jednou a ze zvědavosti.
Ale jak už to tak bývá, pornografický průmysl novou technologii dokázal využít a nabízí možnost nahradit obličeje herců v již natočených scénách tvářemi známých celebrit, stačí k tomu jen dostatek zdrojového materiálu.
Samozřejmě to není legální, na druhou stranu podobné video dokáže s patřičným softwarem během pár minut vygenerovat každý i na obyčejném mobilním telefonu, a tak je přísun takto vytvořených „fejků“ prakticky nezastavitelný. Uvědomuje si to například i herečka Scarlett Johanssonová, která se nechala slyšet, že se jí deepfake porno sice hnusí, ale bojovat proti němu nebude, protože to jednoduše nemá smysl.
Ano, výsledek má k dokonalosti daleko a že jde o podvod, pozná téměř každý, přesto se z tzv. deep fake porna stává čím dál větší fenomén.
Streamerka Pokimane je nedobrovolnou hvězdou mnoha deepfake pornosnímků.
V lednu na sebe upozornil streamer Brandon Ewing, vystupující na internetu pod přezdívkou Atrioc, když nechtěným záběrem na svůj „pracovní“ monitor všem svým divákům ukázal, že za podobný materiál dokonce platí. A aby toho nebylo málo, z opomenuté záložky v prohlížeči bylo poznat, že na jím navštívené stránce nedobrovolně „vystupují“ i jeho streamerské kolegyně Pokimane, Sweet Anitu a Mayu Higu, se kterými se osobně zdá.
Sám streamer se omluvil, prý na tomto odkaze (dnes už nedostupném) byl ten den poprvé a zaplatil jen ze zvědavosti. Co také říct jiného, že? Poté se na měsíc stáhl do ústraní a vrátil se jako nový člověk, který v rámci pokání začal proti fenoménu falešné pornografie aktivně vystupovat. Mimo jiné poslal 60 tisíc dolarů (cca 1,3 milionu korun) na účet právní kanceláře, která se snaží pomáhat obětem deep fake videí, ale i tzv. porna z nenávisti.
Explicit "deepfake" content has no place on Twitch—or anywhere. To help protect women streamers we're hosting a Creator Camp on March 14 with more resources and ways to keep safe. Read our update to the community with more info here: https://t.co/KAH4zUTSBp https://t.co/Q01sLolGJP
Scarlett Johanssonová si uvědomuje, že boj proti anonymní mase internetu je předem odsouzen k neúspěchu.
K situaci se pak obsáhle vyjádřila i samotná streamovací platforma Twitch, na které všichni výše zmínění vysílají. S „dýpfejky“ sice prý sama problém nemá, protože je na ní obecně jakákoliv pornografie zakázaná, hodlá však svým uživatelům do budoucna pomáhat s prevencí i rychlým řešením případných incidentů. Zároveň by prý pro tento druh obsahu chtěla změnila terminologii, a tak místo obecného slova deepfake zavádí pojem „synthetic non-consensual exploitative images“ (NCEI), tedy synteticky vytvořené nekonsensuální snímky zneužívající povahy. Své uživatele pak chce v této oblasti školit a radit jim, jak se v jistých situacích chovat a reagovat.
Přesto je Twitch za svoji bohulibou snahu kritizován, podle některých lidí reakce přišla až příliš pozdě, více než měsíc od samotného Ewingova trapasu.
