Deep fake, face swap i voice cloning dnes dokáží vytvořit až děsivě přesvědčivou iluzi reality - video, ve kterém někdo říká či dělá něco, co se nikdy nestalo, nebo hlas, který zní přesně jako váš šéf či kolega. Tyto technologie už dávno nejsou jen hříčkou filmařů, ale reálným nástrojem podvodů, manipulace i dezinformací. V článku si srozumitelně vysvětlíme, jak deep fake technologie fungují, v čem se liší jednotlivé typy falešného obsahu a podle jakých signálů je možné je v praxi rozpoznat.
Pod označením deepfake se ukrývá technologie umělé inteligence a strojového učení, s jejíž pomocí je možné vytvořit sice fiktivní, zato však velmi realisticky vypadající audiovizuální obsah. Termín vznikl spojením slov deep learning (hluboké učení) a fake (podvrh). S pomocí deep fake je tedy možné tvořit taková videa, na kterých osoby říkají nebo dělají věci, které se ve skutečnosti nikdy nestaly.
Technologie je natolik pokročilá, že propracované deepfake video napodobující vzhled a hlas konkrétní osoby může působit velmi věrohodně, téměř nerozeznatelně od skutečnosti. Toho pak mohou zneužít mnoha způsoby např. kybernetičtí útočníci.
Moderní deepfake obsah je vytvářen pomocí pokročilých generativních modelů umělé inteligence, které se učí z velkého množství reálných obrazových, video a zvukových dat. Tyto modely dokáží zachytit typické rysy vzhledu, hlasu i chování konkrétní osoby a následně generovat nový, velmi realisticky působící obsah s podvrženým sdělením.
V počátcích deepfake technologií hrály významnou roli generativní adversariální sítě (GAN), které byly schopné vytvářet realistické obrazy a videa na základě vzorů z trénovacích dat. Dnes jsou však tyto modely ve většině případů nahrazovány modernějšími přístupy, které dosahují vyšší kvality i stability výsledků.
Současným standardem se stávají zejména difuzní generativní modely, mezi které patří například Stable Diffusion a jemu podobné systémy. Ty umožňují vytvářet velmi realistické obrazy a pomocí navazujících nástrojů také animace či video sekvence, a to na základě textových nebo obrazových vstupů. Tyto modely dnes stojí zejména za tvorbou vysoce kvalitních syntetických obrazů a v kombinaci s dalšími technologiemi se podílejí i na vzniku části moderního deepfake obsahu.
Výsledkem těchto technologií jsou takzvané syntetické obrazy a videa – vizuální výstupy vytvořené nebo zásadně upravené umělou inteligencí, které mohou působit jako autentický záznam reality, přestože jsou plně nebo částečně syntetické (uměle vytvořené).
V praxi se tedy deepfake video s využitím této technologie tvoří např. tak, že podvodník nashromáždí reálné audiovizuální záznamy konkrétní osoby, poté nechá umělou inteligenci si tyto záznamy analyzovat a „načíst“ specifika jejího projevu, načež z těchto poznatků AI vygeneruje nové video, avšak tentokrát s podvrženým obsahem.
Face Swap (česky výměna obličejů) je jedna z konkrétních forem deepfake technologií zaměřenou na výměnu obličejů. Namísto generování obsahu totiž v tomto případě jde o kompletní nahrazení obličeje jedné osoby na videu obličejem jiné osoby.
S pomocí této technologie je tedy pak už velmi snadné vytvořit face swap video, na kterém se daná osoba nachází v takových situacích či místech, ve kterých ve skutečnosti nikdy nebyla.
Lip Sync je další ze seznamu technologií, které jsou využívány k tvorbě face swap nebo deepfake videí. Funguje tak, že se vezme určitý zvukový záznam (nejčastěji něčí hlas nebo zcela smyšlená řeč), který je poté spárován s cílovým videem, aby to vypadalo, že osoba na videu říká slova ze zvukového záznamu.
Aby takové video vypadalo co nejdůvěryhodněji, jsou pohyby úst osoby na videu pomocí AI upraveny tak, aby byly synchronní se zvukovou nahrávkou a vyřčenými slovy. Cílem je tedy vytvořit deepfake video, na kterém daná osoba řekne něco, co ve skutečnosti nikdy neřekla.
I za technologií Lip Sync stojí umělá inteligence, nejčastěji modely pro audio-driven animaci obličeje či motion transfer. V obou případech se jedná o techniky umělé inteligence, které analyzují mimiku osoby z referenčního videa a aplikují je na jiný subjekt.
AI model nejčastěji analyzuje samotný zvukový signál a na jeho základě generuje odpovídající pohyby rtů a mimiky ve videu. Namluvení zvukového záznamu tak probíhá reálnou osobou, ale poté tyto pohyby přenese do nově generovaného videa na jinou osobu.
Voice Cloning neboli klonování hlasu je proces využívající umělou inteligenci, pomocí kterého je možné vygenerovat hlas velmi věrně napodobující hlas konkrétní osoby. Systém se nejprve učí z hlasových nahrávek, ze kterých si osvojí charakteristické rysy daného hlasu, jako je barva, intonace, tempo nebo rytmus řeči. Následně dokáže tímto klonovaným hlasem pronášet zcela nové věty, které daná osoba nikdy neřekla.
Riziko a možnosti zneužití klonovaného hlasu pro tvorbu deepfake videí jsou jasné - klonovaný hlas řekne to, co podvodník potřebuje, ale originálním hlasem konkrétní osoby na videu. Ve spojení s technologií Lip Sync pak tímto způsobem může vzniknout velmi propracované deepfake video, které je velmi těžké odhalit.
V oblasti klonování hlasu došlo v posledních letech k výraznému technologickému posunu. Zatímco dřívější systémy pracovaly s jednoduššími modely (např. rekurentními neuronovými sítěmi - RNN), moderní voice cloning je dnes založen na pokročilých generativních architekturách, které dokáží vytvářet velmi realistický mluvený projev i z krátkých hlasových ukázek.
Významnou roli dnes hrají zejména transformerové modely a v některých systémech také difuzní přístupy, které dokáží analyzovat a generovat řeč jako celek, nikoliv pouze po jednotlivých časových krocích. Díky tomu přesně zachycují jemné nuance lidského hlasu, včetně rytmu řeči, důrazu, pauz nebo emočního zabarvení. Tyto modely se učí z hlasových nahrávek charakteristické rysy konkrétní osoby a následně jsou schopny generovat nový mluvený projev, který zní velmi věrohodně a přirozeně.
Klíčovou součástí voice cloningu jsou také moderní Text-to-Speech (TTS) systémy, které převádějí psaný text na mluvené slovo. Na rozdíl od starších syntetických hlasů dnes TTS technologie dokáží produkovat plynulou řeč s přirozenou intonací a tempem, přičemž některé systémy umožňují i omezené modelování emočního projevu. V kombinaci s hlasovým modelem konkrétní osoby pak umožňují číst libovolný text hlasem, který zní jako skutečný člověk, a právě tato schopnost činí voice cloning tak přesvědčivým – a zároveň rizikovým z hlediska zneužití.
Klonování hlasu není jediným způsobem, kterým je možné vytvořit hlas. Alternativu představuje tzv. syntetický hlas. Zatímco voice cloning se snaží napodobit konkrétního člověka, syntetické hlasy žádnou reálnou osobu nekopírují.
Vznikají totiž trénováním umělé inteligence na velkém množství různých hlasových nahrávek, ze kterých systém následně poskládá nový, univerzální hlas.Ten pak lze flexibilně přizpůsobit tónu, stylu nebo emocím a použít ve velkém měřítku, například pro automatizované služby. Oproti tomu je tedy voice cloning specifičtější a osobnější – a právě proto i citlivější z hlediska bezpečnosti a zneužití v deepfake videích.
Přestože jsou technologie Deep Fake, Face Swap, Lip Sync a Voice Cloning nejčastěji spojovány s riziky a zneužitím, existuje celá řada legitimních a přínosných oblastí, kde nacházejí uplatnění.
Technologie deep fake, face swap a lip sync se využívají při tvorbě vizuálních efektů, digitálním omlazování herců, dabingu nebo lokalizaci obsahu do jiných jazyků. Ve hrách umožňují vytvářet realistické postavy s přirozenými pohyby obličeje a synchronizací řeči.
Pomocí umělé inteligence lze vytvářet realistické rekonstrukce historických osobností, které mohou promlouvat k studentům či návštěvníkům muzeí. Tyto technologie se uplatňují také při tvorbě virtuálních průvodců, interaktivních výstav či vzdělávacích videí.
Deep fake a voice cloning lze také využít při digitalizaci a rekonstrukci historických nahrávek, filmů nebo rozhlasových záznamů. Umožňují obnovit poškozený materiál, doplnit chybějící části nebo zachovat hlas a podobu významných osobností pro budoucí generace – typicky v archivech, knihovnách a paměťových institucích.
Realisticky generovaná videa umožňují personalizovanou komunikaci se zákazníky, tvorbu realistických marketingových kampaní či jednotný vizuální styl napříč různými trhy a jazyky, bez nutnosti opakovaného natáčení.
Firmy mohou zase využívat realistické AI avatary nebo klonované hlasy pro zákaznickou podporu. Výhodou je konzistentní tón komunikace, možnost rychlé aktualizace obsahu a dostupnost 24/7, aniž by bylo nutné znovu natáčet videa nebo školit nové prezentující.
Kombinace voice cloningu a lip syncu také umožňuje překlad a lokalizaci obsahu tak, že výsledné video působí přirozeně – mluvčí „mluví“ cílovým jazykem, zachovává však mimiku i styl projevu. To je přínosné nejen pro marketing, ale i pro vzdělávací kurzy, firemní školení nebo veřejné informační kampaně.
Voice cloning může pomoci lidem, kteří přišli o hlas v důsledku nemoci nebo úrazu. Na základě dřívějších nahrávek je možné vytvořit hlas, který zachovává jejich osobní projev a umožňuje jim opět komunikovat. Text-to-speech technologie se zase často používá při předčítání článků, což zpřístupní psaný text lidem s dyslexií či zrakovým postižením.
V kontrolovaném prostředí lze technologie využít i k nácviku sociálních situací – například u lidí se sociální úzkostí, poruchami komunikace nebo autismem. Virtuální postavy s realistickými reakcemi umožňují bezpečný trénink rozhovorů, prezentací či krizových situací.
S rostoucí dostupností technologií Deep Fake, Face Swap či Voice Cloning se však výrazně zvyšuje i riziko jejich zneužití.
Útočníci mohou pomocí deepfake videí nebo klonovaného hlasu napodobit konkrétní osobu a vydávat se za ni při komunikaci se zaměstnanci, obchodními partnery či zákazníky, což může vést k neoprávněnému přístupu k informacím, systémům či prostředkům (např. v rámci průmyslové špionáže).
Podvodné phishingové e-maily jsou zřejmě nejčastější metodou sociálního inženýrství, voice cloning a deepfake videa ale útočníkům umožňují vytvářet také velmi přesvědčivé podvodné telefonáty či videokonference, vydávající se například za vedení společnosti. Zaměstnanci takto mohou být zmanipulováni k převodu finančních prostředků či sdělení přístupových údajů (viz. podvod vedený proti společnosti GymBeam).
Deepfake obsah může zobrazovat jednotlivce nebo firmy v kompromitujících či nepravdivých situacích. I krátkodobé šíření takového obsahu může mít dlouhodobý dopad na důvěryhodnost značky nebo kariéru jednotlivce.
Podvodníci mohou hrozit zveřejněním falešného, přitom však realisticky vypadajícího videa, pokud oběť nesplní jejich požadavky. Oběti se často brání jen obtížně, protože obsah působí autenticky. Zvyšuje se tak riziko vydíratelnosti lidí na důležitých pozicích ve firmách i ve státní správě.
Generovaný obsah může být zneužit k zesměšňování, diskreditaci nebo psychickému nátlaku na konkrétní osoby, a to jak v osobním, tak v pracovním prostředí.
Klonovaný hlas nebo podvržené video může být například zneužito k potvrzení naléhavého požadavku, který by jinak vyžadoval víceúrovňové schválení. To představuje významné riziko zejména pro účetní, HR nebo IT oddělení.
Deepfake videa mohou být zneužita k šíření fake news, manipulaci veřejného mínění nebo ovlivňování rozhodování, například v politickém či ekonomickém kontextu.
Účinné rozpoznání podvrženého videa může být velmi náročné, obzvláště v případě, kdy jde o propracovaný podvrh. Přesto může běžný uživatel sledovat několik varovných signálů, kterými jsou deepfake videa charakteristická. Vyžaduje to však velkou pozornost, jinak tyto detaily nemusíte vůbec postřehnout. Seznam níže řadí signály od těch spolehlivějších k těm méně spolehlivým.
Je také třeba upozornit, že s každým dalším modelem už tyto znaky mohou být méně a méně patrné. Jejich absence ale současně neznamená, že je obsah pravý.
Lidské oko není dokonalé, proto je k odhalování deepfake videí dostupná i celá řada nástrojů, které byly vyvinuty speciálně za účelem detekce falešného obsahu. Tyto programy se snaží analyzovat videa či zvukové nahrávky a upozornit na možné znaky syntetického obsahu, přičemž jejich spolehlivost se může výrazně lišit v závislosti na použité technologii a kvalitě podvrhu. Jako příklad můžeme uvést software Sensity AI, Deepware či Hive Moderation.
Šíření deepfake obsahu představuje pro firmy reálné riziko ztráty pověsti, ale potenciálně i dat či financí. Naštěstí existují konkrétní způsoby, jak se firmy (ale i jednotlivci) mohou před podvrženým obsahem chránit. Mezi nejlepší praktická opatření patří následující.
Na ochranu před deepfake myslí i legislativa. V rámci EU jí zavádí hlavně Akt o umělé inteligenci. Tento předpis zavádí právní úpravu zaměřenou přímo na umělou inteligenci včetně generativních systémů, které mohou manipulovat s identitou nebo ovlivňovat veřejné mínění či základní práva, a zavádí zejména povinnosti v oblasti transparentnosti a odpovědnosti u generativních systémů, přičemž za vysoce rizikové jsou považovány pouze některé konkrétní způsoby jejich použití.
To v praxi znamená přísnější požadavky na transparentnost, bezpečnost a odpovědnost provozovatelů. Další ochranu poskytuje také Nařízení o digitálních službách (DSA), jehož cílem je regulovat online platformy tak, aby omezily škodlivý obsah v digitálním prostoru, a nakonec i Obecné nařízení o ochraně osobních údajů (GDPR).
Souhrnně tyto regulace požadují princip transparentnosti (uživatelé mají být informováni, že komunikují s AI nebo vidí obsah vytvořený AI), ukládá poskytovatelům služeb povinnost reagovat na nahlášený škodlivý obsah a zavádět opatření ke snižování systémových rizik, nikoliv však plošně ověřovat pravdivost veškerého obsahu.
Kyberbezpečnost ve firmách řeší i další předpisy EU – NIS2, DORA a CRA. Jejich cílem je zejména vyšší "kyberodolnost" firem.
Na národní úrovni v rámci ČR pak s ochranou před deepfake souvisí aktivní snaha novelizovat trestní zákoník. V ČR totiž byla předložena iniciativa, která rozšířila skutkovou podstatu trestného činu tak, aby postihovala vytváření a šíření podvrženého obsahu v případech, kdy je prokazatelný úmysl způsobit jinému vážnou újmu na právech – návrhem byl až 2letý trest odnětí svobody pro původce takového materiálu.
"Stejně bude potrestán, kdo v úmyslu způsobit jinému vážnou újmu na právech vyrobí dílo, které neoprávněně zobrazuje, zachycuje nebo jinak využívá podobu jiného nebo jeho projev osobní povahy, které se jeví být pravými, ačkoli ví, že pravé nejsou, nebo takové dílo učiní veřejně přístupným, zprostředkuje, uvede do oběhu, prodá nebo jinak jinému opatří.“
Novela vyhlášená jako zákon č. 270/2025 Sb. vstoupila v platnost od 1. ledna 2026 a úpravu zakotvila do nového odst. 2 v rámci trestného činu poškození cizích práv dle § 181 trestního zákoníku.
Konkrétní platformy i poskytovatelé AI systémů mají povinnost zavést mechanismy detekce, označování i odstraňování škodlivého obsahu. Pokud byste se pak někdy stali obětí škodlivého deepfake obsahu, můžete se opřít nejen o obecné občanskoprávní nároky jakou je ochrana osobnosti, ale zároveň také o právní rámec EU, který se snaží omezit šíření a zneužití generativních technologií, a v krajních situacích také o trestní rámec ČR, který původce podvrženého materiálu může nově potrestat i odnětím svobody.
Generativní AI a s ní i technologie deep fake se vyvíjejí neuvěřitelnou rychlostí a stále častěji vytvářejí tak propracovaný obsah, že je náročné jej odlišit od reality i pro odborníky. Přitom se dá očekávat, že v blízké budoucnosti budou falešná videa i audio nahrávky ještě propracovanější. Běžné nástroje jejich detekce tak budou muset držet krok s novými technikami generování, což je velká výzva jak pro výzkum, tak pro běžné uživatele a firmy.
Tato dynamika může dále ve společnosti vést k tomu, že lidé začnou přirozeně zpřísňovat hodnocení digitálních důkazů. Jinými slovy, vidět už nebude znamenat věřit, protože jakákoliv videa mohou být snadno upravitelná či zcela smyšlená. Takový vývoj bude mít zásadní dopad na společenskou důvěru, mediální prostředí i každodenní komunikaci - proto si jednotlivci i firmy budou muset osvojit nové způsoby ověřování pravosti digitálního obsahu.
Deep Fake, Face Swap a Voice Cloning jsou technologie, které umožňují vytvářet realistický, ale zcela falešný obsah. Představují tak pro firmy i jednotlivce značná bezpečnostní rizika. Důležité je vzdělávání zaměstnanců, zavádění ověřovacích procesů, bezpečné nakládání s daty a využívání detekčních nástrojů. Legislativa EU i ČR poskytuje rámec ochrany, přesto je důležité být o krok napřed a digitální obsah kriticky hodnotit. Vzhledem k rychlému vývoji AI se totiž schopnost odhalovat podvrhy stává nezbytnou součástí firemní i osobní bezpečnosti.
Autor článku
Vystudoval Informační management na VUT v Brně a v současnosti pokračuje ve vzdělávání studiem MBA programu Management a kybernetická bezpečnost na CEVRO univerzitě. Baví ho technologie, modernizace a to, že může být součástí projektů, které firmu posouvají dál.
Při nákupu stolního počítače je snadné přeplatit za výkon, který nikdy nevyužijete. Rozdíl mezi rozumnou a zbytečnou investicí přitom často tkví v jediné komponentě. Podívejte se, jak se orientovat v cenách procesorů, grafických karet, pamětí i úložišť. Číst celý článek
Firewall rozhoduje o tom, jaká komunikace se do vašeho zařízení dostane a co naopak zůstane zablokované. V článku se proto podíváme na to, jak firewall funguje, kde se s ním běžně setkáte a proč je lepší jej nechat většinou zapnutý. Číst celý článek
Při výběru HP ZBook zjistíte, že řada se dále dělí do několika podřad, které se mezi sebou liší zaměřením, výbavou i výkonem. Následující článek vám pomůže se v tomto dělení zorientovat a vybrat stroj, který bude nejlépe odpovídat vašim nárokům. Číst celý článek
Tradiční bezpečnostní model „hrad a příkop“ přestává v době cloudu, práce na dálku a sofistikovaných útoků stačit. Model nulové důvěry (Zero Trust Architecture) tento přístup obrací naruby - nikomu a ničemu automaticky nedůvěřuje a každý přístup ověřuje. Číst celý článek
Letní vedra dnes již nejsou výjimkou, ale pravidlem. V kancelářích, kde se kumuluje teplo od lidí, počítačů, tiskáren i slunce proudícího přes prosklené plochy, může teplota během pár hodin vystoupat nad hranici, kdy klesá soustředění a roste únava. Číst celý článek
Přehřívání počítače neznamená jen vyšší hluk ventilátorů, ale i nižší výkon, nestabilitu systému a kratší životnost komponent. Správně navržené chlazení PC je proto klíčové - od volby vhodné skříně a proudění vzduchu až po chlazení procesoru a grafické karty. Číst celý článek
