Keby ste mali s vašim nadriadeným videohovor a z očí do očí by vám povedal, aby ste vykonali určitú finančnú transakciu, zamysleli by ste sa, či je osoba na obrazovke skutočná? Keďže deepfaky sú čoraz častejšie a uveriteľnejšie, mali by ste zvážiť aj takúto možnosť.
Je to skutočné?
Vďaka hĺbkovému učeniu (forma strojového učenia) môžu ľudia meniť obrázky, videá a zvukové nahrávky tak, že umiestnia niečiu tvár, telo alebo hlas do iného prostredia a vytvoria dojem, že daná osoba povedala alebo urobila niečo, čo sa v skutočnosti nestalo. Výsledok? Deepfake.
Vedeli ste?
Vedeli ste, že počítaču stačí vypočuť si len 10 – 20 sekúnd niečieho hlasu, aby dokázal vytvoriť zvukový deepfake?
Táto pútavá technológia je teraz dostupná širokej verejnosti. Aplikácie ako FaceApp umožňujú ľuďom vytvárať deepfake videá prakticky kohokoľvek. Môžete napríklad vložiť svoju tvár do populárneho hudobného videoklipu alebo sa stať hlavným aktérom zábavnej filmovej scény. Niektoré deepfaky na internete môžu byť vtipné, ale v nesprávnych rukách sa umelo zhotovené videá alebo zvukové nahrávky môžu stať nástrojmi počítačovej kriminality.
Deepfake ako tyran, politik či útočník
Okrem zábavy môžu mať deepfaky aj závažné právne, osobné alebo dokonca politické dôsledky. A keďže kybernetickí zločinci môžu v súčasnosti poľahky vyrobiť zvukové alebo obrazové záznamy, sociálne inžinierstvo je vďaka tomu ešte aj rafinovanejšie.
V oblasti digitálnej bezpečnosti sa môžu deepfaky používať na vydieranie, podvody aj manipuláciu. Niekto by napríklad mohol pomocou umelo vytvoreného videa vydierať generálneho riaditeľa, aby zaplatil za jeho zničenie, ak nechce riskovať ohrozenie povesti svojej spoločnosti. Firmy sa často môžu stretnúť s tzv. vishingom. Ide o špecifickú formu phishingu, pri ktorej sa využíva deepfake zvuková nahrávka na manipuláciu so zamestnancami, ktorí následne konajú v presvedčení, že plnia príkazy svojich zamestnávateľov.
Jeden z najznámejších prípadov deepfake útoku sa stal v roku 2019, keď generálnemu riaditeľovi britskej energetickej spoločnosti zavolal jeho šéf a povedal mu, aby previedol takmer štvrť milióna libier dodávateľovi v Maďarsku. Keďže hlas znel podobne ako hlas jeho nadriadeného z Nemecka, generálny riaditeľ príkaz počúvol. Čoskoro nasledoval ďalší telefonát, v ktorom volajúci na generálneho riaditeľa naliehal, aby poslal ďalšie peniaze. To v ňom vzbudilo ešte väčšie podozrenie, a tak sa rozhodol kontaktovať úrady. Onedlho sa ukázalo, že generálny riaditeľ sa stal obeťou vishingu, pri ktorom bola pravdepodobne použitá technológia deepfake na duplikáciu hlasu jeho nemeckého šéfa.
Ďalší prípad, pri ktorom útočníci využili túto technológiu, sa stal v roku 2022. Patrickovi Hillmannovi, vedúcemu komunikačného oddelenia kryptomenovej burzy Binance, volalo viacero ľudí, ktorí tvrdili, že s ním už predtým hovorili. Podľa nich diskutovali o možnosti kótovať svoje aktíva na burze Binance, pričom za určitú hotovosť mali dostať token Binance. Hillmann bol prekvapený, pretože žiadneho z volajúcich nepoznal a domnieval sa, že s nimi nikdy nebol v kontakte. Neskôr Hillmann zistil, že kybernetickí zločinci vytvorili z útržkov jeho predchádzajúcich zverejnených rozhovorov deepfake kópiu jeho osoby a nasimulovali falošné obchodné hovory v službe Zoom. V tomto prípade ľudia, ktorí sa stali obeťami deepfaku, prišli o svoje peniaze, ale problém mohol vážne ovplyvniť aj povesť burzy.
Nenaleťte na deepfaky
Pri pohľade na niektoré prepracovanejšie deepfaky sa vám môže zdať, že nemáte šancu zistiť, či to, čo vidíte online, je umelo vytvorené alebo reálne. V skutočnosti je dobré byť skeptický. Ak aspoň trochu pochybujete o tom, čo vidíte na obrazovke, už len vďaka tomu ste o krok bližšie k zachovaniu bezpečnosti.
Ako však môžete odhaliť deepfake? Deepfake zvukové nahrávky je náročnejšie rozpoznať, pretože môžu znieť presne ako bežný ľudský hlas. Niektoré programy však teraz vedia odhaliť už aj deepfake zvuky. Pýtate sa ako? Ľudský hlas dokáže vydávať obmedzený rozsah zvukov. „Hlas počítača“ však nie je taký obmedzený, a preto znie trochu inak.
Dá sa odhaliť deepfake bez špecializovaného softvéru? Môže to byť ťažké, ale nie nemožné. Keď sa snažíte overiť pravosť videozáznamu alebo zvukovej nahrávky, položte si tieto otázky:
- Zdá sa vám nahrávka ťažko uveriteľná? Je obsah škandalózny a jasne sa snaží vyvolať emocionálnu reakciu divákov alebo poslucháčov? Ak áno, môže to byť prvé znamenie, aby ste k nemu pristupovali skepticky a overili si informácie, ktoré vidíte alebo počujete.
- Nie je na detailoch niečo podozrivé? Tvorcovia deepfakov majú často problémy skopírovať jemnejšie výrazy, ako sú žmurkanie, dýchanie alebo nepatrné pohyby vlasov a tváre. Občas si môžete všimnúť aj nenápadné chyby v sekvenciách zachytávajúcich väčší pohyb. V zvukových nahrávkach by ste mali hľadať neprirodzené pauzy medzi slovami alebo, naopak, príliš dokonalú reč.
- Pohybuje sa telo prirodzene? Keď k nám niekto hovorí, máme tendenciu pozerať sa skôr na jeho tvár než telo. Aj tvorcovia deepfakov sa zameriavajú predovšetkým na replikovanie výrazov tváre, takže ak sa vám zdá, že tvar tela alebo pohyby osoby vo videu sú trochu zvláštne, možno sa pozeráte na deepfake.
- Je zvuk v súlade s videom? Niekedy sa tvorcom deepfakov nepodarí zosúladiť zvukový záznam s pohybmi osoby. Opäť pozorne sledujte tvár, či pohyby pier zodpovedajú slovám, ktoré z nich údajne vychádzajú.
- Je osvetlenie konzistentné? Alebo sa vám zdá, že hlava osoby je neprirodzene svetlá či tmavá? Rozdiely v osvetlení vám môžu napovedať, či ide o deepfake.
IT tímy by sa mali snažiť informovať zamestnancov spoločnosti o deepfakoch a ich rizikách. Keďže deepfaky sú fascinujúcim príkladom technológie, ktorá môže slúžiť na zábavu aj páchanie kybernetických zločinov, mali by ste sa usilovať o to, aby školenia zamestnancov boli interaktívne a hravé. Napríklad pošlite zamestnancom niekoľko videí a nechajte ich hádať, ktoré sú skutočné a ktoré nie. Zamestnanci si vďaka aktívnemu zapojeniu s väčšou pravdepodobnosťou zapamätajú, čo sa naučili, a využijú svoje vedomosti na to, aby bola vaša spoločnosť bezpečnejšia.
