Co je deepfake
Deepfake je kombinací slov deep learning (hluboké učení) a fake (falešný). Jde o velmi pokročilou metodu vytváření falešných videí nebo obrázků pomocí umělé inteligence. Zjednodušeně řečeno se AI naučí tvář, hlas nebo pohyby konkrétní osoby tím, že analyzuje velké množství fotografií a videí. Následně dokáže tuto tvář vložit na jinou osobu ve videu, vytvořit zcela nový videoobsah nebo naklonovat hlas tak, aby říkal cokoliv, co mu zadáte. Nejvíce znepokojivé je, jak snadno je dnes možné podobný obsah vytvořit.
Jak deepfake technicky funguje
Základem deepfake technologie jsou neuronové sítě, konkrétně generativní adversariální sítě (GAN). Ty jsou trénovány na obrovském množství dat, aby se naučily rozpoznávat a reprodukovat vzorce v obrazech i zvucích.
Princip GAN připomíná souboj dvou neuronových sítí. Jedna vytváří falešný obsah, zatímco druhá se učí rozpoznat, zda je pravý, nebo uměle vytvořený. Je to podobné jako hra na policisty a zloděje – obě strany se neustále zdokonalují. Tento proces pokračuje tak dlouho, až jsou výsledky natolik realistické, že je druhá síť jen obtížně odhalí. Právě proto jsou dnešní deepfake videa stále přesvědčivější.
Kde se deepfake vzal
Pojem deepfake vznikl v roce 2017, kdy se na internetu objevila falešná videa s herečkou Gal Gadot. Od té doby prošla technologie prudkým vývojem – od jednoduchého nahrazování obličejů až po dnešní systémy využívající pokročilé neuronové sítě, které dokážou vytvářet zcela nové a velmi realistické obrazy.
Bohužel se tato technologie od počátku často zneužívala k tvorbě nelegálního nebo škodlivého obsahu. Významnou část deepfake materiálů dodnes tvoří pornografická videa vytvořená bez souhlasu zobrazovaných osob.
Finanční podvody
Deepfake se dnes nepoužívá pouze k vytváření falešných videí celebrit. Stal se také účinným nástrojem finančních podvodů.
Jedním z nejznámějších případů je incident z Hongkongu z roku 2024. Zaměstnanec jedné společnosti převedl přibližně 25 milionů dolarů poté, co dostal pokyn během videokonference od osoby, která vypadala jako finanční ředitel firmy. Ve skutečnosti však byli všichni účastníci videohovoru vytvořeni pomocí umělé inteligence.
Tento typ podvodu se objevil i v Česku. Podobnou zkušenost popsal zakladatel společnosti GymBeam, jehož falešná podoba byla použita při videohovoru s kolegou. Součástí hovoru byla také další osoba, kterou podvodníci vydávali za externího právníka.
Jak deepfake poznat
Ani dnešní deepfake videa nejsou úplně dokonalá. Pokud budete dostatečně pozorní, můžete odhalit několik typických znaků.
Zaměřte se například na osvětlení a stíny. Deepfaky často chybují ve fyzikálních vlastnostech světla, takže stíny na obličeji nemusí odpovídat osvětlení okolí nebo působí nepřirozeně.
Jedním z nejspolehlivějších vodítek bývají oči. Člověk běžně mrká přibližně 10 až 20krát za minutu. U deepfake videí může být mrkání příliš časté, příliš vzácné nebo nemusí být synchronizované. Při detailním pohledu navíc nemusí odpovídat odrazy světla v obou očích.
Všímejte si také vlasů a jejich okrajů. Právě kolem linie vlasů se často objevuje rozmazání nebo jemné blikání způsobené překrýváním uměle vytvořeného obličeje.
Budoucnost deepfake technologií
Technologie se vyvíjí velmi rychle a způsoby rozpoznávání deepfake videí mohou během několika let přestat fungovat. Čím jednodušší je vytvořit přesvědčivý falešný obsah, tím obtížnější je jeho odhalení.
Vzniká tak nepřetržitý závod mezi tvůrci deepfake technologií a nástroji pro jejich detekci. Řada odborníků předpokládá, že v budoucnu bude rozpoznání kvalitního deepfake pouhým lidským okem téměř nemožné. Proto se stále větší důraz klade na legislativu i vývoj automatických detekčních systémů. V České republice na tuto problematiku reaguje novela trestního zákoníku účinná od 1. ledna 2026.
Závěr
Deepfake videa jsou ukázkou technologie, která může být užitečná, ale zároveň velmi snadno zneužitelná. Mohou poškodit pověst lidí, šířit dezinformace nebo sloužit k finančním podvodům. V době rychlého rozvoje umělé inteligence proto bude stále důležitější ověřovat informace z více důvěryhodných zdrojů a nepodlehnout prvnímu dojmu.
Zdroje:
- https://www.itnetwork.cz/blog/fenomen-deepfake-jak-rozeznat-skutecnost-od-klamu
- https://prg.ai/jak-celit-deepfakes-ai-umela-inteligence/
- https://www.koop.cz/bezpecnost-ma-zelenou/vsechny-clanky/sok-youtuber-kovy-oznamil-konec-kariery.-jak-poznat-deepfake-a-jak-se-chranit
- https://o2cybernews.cz/clanky/deepfake-utoky-silne-na-vzestupu-co-to-je-a-jak-je-poznat
