Generálny riaditeľ bol na videohovore. Vysvetlil, prečo sa prevod musí uskutočniť ešte dnes, prečo musí ostať dôverný a prečo treba obísť bežný schvaľovací proces. Bol presvedčivý. Autoritatívny. A úplne vygenerovaný AI.

Deepfake - synteticky generovaný zvuk, video a obrázky, ktoré presvedčivo zobrazujú skutočných ľudí hovoriacich alebo robiacich veci, ktoré nikdy neurobili - prešli od technologickej kuriozity k aktívnemu nástroju podvodu. To, čo si v roku 2018 vyžadovalo špecializované výskumné laboratórium, sa v roku 2025 dá vyrobiť v reálnom čase na spotrebiteľskom zariadení.

Ako podvodníci nasadzujú deepfake:

📄 Podvod s dokumentmi generovanými AI - Generatívna AI vytvára presvedčivé falošné výplatné pásky, bankové výpisy, faktúry a doklady o príjme. Používajú sa na úverové podvody, žiadosti o prenájom, vízové podvody a vydávanie sa za dodávateľa. Netreba falšovateľa - stačí prompt. Mnohé štandardné kontroly overovania dokumentov nedokážu odhaliť dokumenty generované AI bez forenznej analýzy.

💕 Romantické podvody so syntetickými persónami - Profilové fotografie generované AI vytvárajú podvodné online vzťahy. Na rozdiel od ukradnutých fotografií čerstvo vygenerované obrázky nemajú predchádzajúcu existenciu na internete - spätné vyhľadávanie obrázkov nenájde nič.

🎤 Klonovanie hlasu na vydávanie sa za manažérov a rodinu - AI klony hlasov manažérov autorizujú bankové prevody alebo obchádzajú bezpečnostné kontroly. Tá istá technika poháňa varianty podvodu na starých rodičov - syntetický hlas vnúčaťa zavolá staršiemu príbuznému a tvrdí, že je v kríze. FTC zdokumentovala klonovanie hlasu ako jeden z najrýchlejšie rastúcich vektorov podvodu v roku 2024.^[ref]

📱 Sextortion a manipulácia - Deepfake videá umiestňujúce skutočné osoby do kompromitujúcich situácií sa používajú na vydieranie. Syntetické odporúčania verejných osobností propagujú podvodné investície.

🪪 Obídenie KYC - Deepfake tváre spárované s ukradnutými dokladmi totožnosti porazia detekciu živosti pri otváraní účtu. Správa Onfido za rok 2024 zistila, že deepfake útoky na overovanie totožnosti vzrástli medzi rokmi 2022 a 2024 o 3 000 %.^[ref]

📹 Vydávanie sa za iného na videohovore pri firemnom podvode - Zamestnanec financií hongkonskej nadnárodnej firmy bol oklamaný, aby previedol 200 miliónov HK$ (25 miliónov USD) po videokonferencii, kde všetci účastníci - vrátane zdanlivého finančného riaditeľa - boli deepfake vygenerované AI.^[ref] Podvod sa odhalil až po prevode.

🤖 Deepfake v reálnom čase pri živých hovoroch - Technológia teraz umožňuje živú výmenu tváre a hlasu vo videohovoroch - nie predtočený klip, ale živú vrstvu. Overovanie cez videohovor sa ako protipodvodná kontrola stalo výrazne menej spoľahlivým.

Výzva je hlboká: deepfake útočia na overovacie mechanizmy, ktorým ľudia inštinktívne dôverujú. Vyvinuli sme sa tak, aby sme tváre a hlasy rozpoznávali ako spoľahlivé signály identity. Syntetické médiá túto dôveru zneužívajú priamo.

Čo môžeme urobiť:

Pre organizácie:

- Zaveďte overovanie mimo kanála pri vysokohodnotových finančných pokynoch. Nikdy neautorizujte významný prevod len na základe videohovoru alebo hlasového hovoru - overte si to cez samostatný, vopred dohodnutý kanál.

- Zaveďte vopred dohodnuté heslá pre komunikáciu manažmentu o finančných záležitostiach. Ak heslo nie je poskytnuté, pokyn nie je autorizovaný.

- Aktualizujte detekciu živosti v KYC tak, aby počítala s videom generovaným AI, nielen s výmenou statických obrázkov.

- Školte zamestnancov o vydávaní sa za iného cez deepfake: naliehavosť, utajenie a autorita sú tri páky, za ktoré sa ťahá. Ak pokyn cez videohovor spustí všetky tri, berte to ako varovný signál.

Pre jednotlivcov:

- Dohodnite si rodinné heslo pre núdzové hovory. Chýbajúce heslo = zastavte sa a overte si to nezávisle.

- Buďte skeptickí voči akémukoľvek video odporúčaniu investícií od verejných osobností zdieľanému na sociálnych sieťach.

Dôverovali ste svojim očiam. Presne s tým počítali.