Slovensko: Deepfake audio novinára Denníka N poskytuje znepokojujúci príklad zneužívania AI

Kampaň pred slovenskými parlamentnými voľbami v roku 2023 sa zapísala do histórie a nie zo správnych dôvodov. Po prvýkrát zohrali deepfakes úlohu v predvolebnej vojne. Dva dni pred voľbami obletelo sociálne siete video so zvukovým klipom, na ktorom údajne vystupovala Monika Todová, prominentná novinárka nezávislého spravodajstva Denník N, a Mikael Simeka, líder Strany Progresívneho Slovenska. K falošnej konverzácii nikdy nedošlo, no aj tak sa video dostalo k tisíckam používateľov sociálnej siete.

„Rozhovor“ o volebnom podvode je úplný mýtus. Ale v krátkom videu, ktoré koluje dni pred slovenskými voľbami, sa o tom ozývajú digitálne generované hlasy novinára a šéfa strany. Umelo zmanipulované video, známe ako deep fake, zobrazuje statický obraz novinára a politika. Zvuková stopa je nekvalitná a nie autentická, no ich slová sú tiež titulkované. Obe zúčastnené strany pravosť rozhovoru okamžite popreli. Autentickosť videa potvrdilo viacero organizácií a expertov na kontrolu faktov.

Podľa skupín pre slobodu tlače sa deepfake zahŕňajúci Todoa považuje za jeden z prvých príkladov technológie umelej inteligencie v EÚ, ktorá sa používa na manipuláciu novinárovho napodobňovania – a vyvoláva obavy, že takéto nástroje by mohli byť v budúcnosti zneužité. Médiá treba urážať a urážať.

Hoci hlboké falošné videá alebo zvukové klipy môže vytvoriť každý s minimálnym úsilím, odhaliť ich nie je také jednoduché. Novinár a výskumník ICJK Bellingcat Michael Colborne potvrdzuje: „Stále neexistuje užitočnejší, dostupnejší a predovšetkým spoľahlivejší nástroj na vyhľadávanie obsahu generovaného AI, od zvuku cez video až po fotografie. Určiť, ako a presne bol vytvorený, je náročné.“ vznikla dabingom, alebo niekto vytrénoval umelú inteligenciu a vytvoril z nej zvukový súbor, to sa nedá povedať,“ hovorí dátový analytik Investigace.cz Josef Slerka.

Zložité je aj sledovanie cesty deepfake videa. Skutočnosť, že sa prvýkrát začala šíriť z Telegramu, jej vzhľad ešte viac sťažila. Je takmer nemožné nájsť pôvodný zdroj, ktorý klip s absolútnou istotou šíril. Je však zrejmé, že nahrávka mohla slúžiť dvom účelom: zdiskreditovať novinára a poskytnúť dôkazy pre naratív Kremľa, že Spojené štáty chceli zmanipulovať výsledky slovenských volieb.

Forma hanlivých útokov

Monika Dodová, významná osobnosť slovenskej tlače z Denníka N, už v minulosti čelila očierňovaniu. Ako je tam uvedené Analýza Centra pre vyšetrovanie Jána Kuciaka (ICJK), najviac napadnutého novinára v mesiacoch pred parlamentnými voľbami v septembri 2023. Toto hĺbkové video síce prekonalo doterajšie taktiky, no terčom týchto útokov je už dlho.

Proti Todoa prebieha nepretržitá očierňovacia kampaň, do ktorej sú zapojení nielen politici, ale aj dezinformačné stránky. Neustále urážky, nenávistné prejavy a dokonca monitorovanie – Toto sú veci, ktorým musela v posledných rokoch čeliť. A často sú to politici, ktorí ich poháňajú, vrátane ich tlačových konferencií. Okrem nich sa stal obeťou deepfaku, ktorý by mohol byť v budúcnosti úplne novým nástrojom pre očierňovacie kampane. Novinár už bolo zobrané Podal trestné oznámenie pomocou právnych krokov a bezpečnostnej platformy Safe.Journalism.SK – pre podozrenie z ohovárania a trestného činu poškodzovania cudzích práv.

Hlbokofalšované video však mohlo slúžiť aj inému účelu — zapadalo do naratívu Kremľa, že USA chcú zmanipulovať výsledky slovenských volieb. Video zverejnené pár dní pred tým, ako Slováci išli voliť, sa efektívne šírilo na sociálnych sieťach a e-mailoch. Najúspešnejšími zdieľateľmi falošného videa na sociálnej sieti boli politici: bývalý šéf Najvyššieho súdu a exminister Štefan Harabin a bývalý poslanec Peter Marek. Obaja sú prokremeľskými postojmi a silnými zástancami propagandy v krajine. Marček navštívil anektovaný Krym v roku 2018.

Zistenia ICJK ukazujú, že falošné video sa spočiatku šírilo medzi verejnosťou Podelil sa Cez telegramový účet Štefana Harabina. Poslal ho však zo skrytého osobného účtu pod názvom „Kabika Ha“. Účet bývalého ministra spravodlivosti omylom zdieľal obsah tohto používateľa. Podarilo sa mu to už najmenej 27-krát. Z analýzy obsahu účtu tiež vyplýva, že používateľka účtu „Gabika Ha“ sa musela začiatkom septembra 2023 zúčastniť Salamandrových dní v Banskej Štiavnici s bývalým ministrom spravodlivosti. Jeho manželka Gabriela (skrátene Kabika) Harabinová, meno synonymné pre „Kabika Ha,“ Harabin zavesil na reportéra z ICJK.

Hoci sa pôvodne objavilo na Telegrame, falošné video sa prostredníctvom Facebooku rozšírilo medzi desaťtisíce používateľov. Podľa AFP fact-checkera Roberta Barka, ktorý na slovenskom Facebooku preveruje pravdivosť informácií, sa šíria najmä cez osobné účty, „ako najvirálnejší falošný obsah na Facebooku“. Funkcia bývalého poslanca Národnej rady Petra Markeka bola podľa Barce veľmi úspešná.

Je pozoruhodné, že objavenie sa deepfake videa zahŕňajúceho Totowu a Shimeku sa zhodovalo s a tlačová správa Video bolo zverejnené krátko predtým, ako sa objavilo video od ruskej spravodajskej agentúry SVR, obviňujúce Spojené štáty zo zasahovania do ovplyvňovania výsledku slovenských volieb. Sergej Naryškin, šéf spravodajskej služby SVR, obvinil USA, že nariadili spojencom, aby spolupracovali s obchodnými a politickými kruhmi na „získaní výsledkov hlasovania požadovaných USA“. V tlačovej správe sa spomína aj šéf strany Michael Chimeka.

V noci pred voľbami 29. septembra sa slovenské voľby stali stredobodom spravodajstva ruskej štátnej televízie Rosija 1. správy Primárne zameranie sa točilo okolo možnosti zasahovania USA do výsledkov slovenských volieb. Jediný, kto túto teóriu zopakoval na kameru, bol Stepan Harabin a podľa záberov poskytol rozhovor ruskej propagandistickej televízii.

Ak orgány činné v trestnom konaní na Slovensku nedokážu identifikovať zdroj dezinformačného útoku, konečný motív hlbokého podvodu sa nikdy nepotvrdí. Keď sa však používanie nástrojov AI v najbližších rokoch stane dostupnejším, potenciál pre podobne hlboké falošné útoky a dezinformačné kampane podporované AI sa môže zvýšiť, čo prinesie vážne demokratické otázky nielen pre Slovensko, ale aj pre Európu a svet. Zatiaľ čo vo svete pokračujú debaty o tom, ako AI ovplyvní žurnalistiku a slobodu tlače, tento prípad predstavuje znepokojujúci príklad hrozieb, ktoré môže vyspelá technológia predstavovať teraz aj v budúcnosti.

Karin Kőváry Solymos pracuje vo Vyšetrovateľskom centre Jána Kuciaka (ICJK) na Slovensku.

Časť tohto článku vznikla na objednávku IPI Sloboda médií je rýchla odpoveď (MFRR), celoeurópsky mechanizmus na monitorovanie, monitorovanie a reagovanie na porušovanie slobody tlače a médií v členských štátoch EÚ, kandidátskych krajinách a na Ukrajine. Projekt je spolufinancovaný Európskou komisiou.