Deepfake Menace zasiahne slovenské voľby

Tento incident sa považuje za prvý príklad použitia umelej inteligencie v EÚ na manipuláciu s imidžom novinára – a mohol by naznačovať použitie takýchto nástrojov na diskreditáciu médií. Od Medzinárodnej tlačovej agentúry.

Kampaň pred slovenskými parlamentnými voľbami v roku 2023 sa zapísala do histórie a nie zo správnych dôvodov. Po prvýkrát zohrali deepfakes úlohu v predvolebnej vojne. Dva dni pred voľbami 29. septembra obletelo sociálne siete video so zvukovým klipom, na ktorom údajne vystupovala Monika Dodová, prominentná novinárka z nezávislého spravodajstva Denník N, a Mikael Simeka, líder Strany Progresívneho Slovenska. Falošná konverzácia, v ktorej sa podľa všetkého diskutovalo o spôsoboch zmanipulovania volieb, sa nikdy nestala, no video sa aj tak dostalo k tisíckam používateľov sociálnej siete.

„Rozhovor“ o volebnom podvode je úplný mýtus. Ale v krátkom videu, ktoré sa stalo virálnym niekoľko dní pred prieskumom, bolo počuť, ako o tom hovorili digitálne generované hlasy novinára a lídra strany. Umelo zmanipulované video, známe ako deepfake, zobrazuje statický obraz novinára a politika. Zvuková stopa je nekvalitná a nie autentická, no ich slová sú tiež titulkované. Obe zúčastnené strany pravosť rozhovoru okamžite popreli. Autentickosť videa potvrdilo viacero organizácií a expertov na kontrolu faktov.

Podľa skupín pre slobodu tlače sa deepfake zahŕňajúci Todoa považuje za jeden z prvých príkladov technológie umelej inteligencie v EÚ, ktorá sa používa na manipuláciu novinárovho napodobňovania – a mohla by poskytnúť znepokojivú predzvesť budúceho zneužívania takýchto nástrojov. Médiá treba urážať a urážať.

Hoci hlboké falošné videá alebo zvukové klipy môže vytvoriť každý s minimálnym úsilím, odhaliť ich nie je také jednoduché. „Efektívnejšie, dostupnejšie a predovšetkým spoľahlivejšie nástroje na objavovanie obsahu generovaného AI, od zvuku cez video až po fotografie, ešte nikdy neexistovali,“ potvrdil Michael Colborn, výskumník v Bellingcat, holandský výskumník. Žurnalistická skupina špecializujúca sa na overovanie faktov a spravodajstvo s otvoreným zdrojom. Náročné je aj určiť, ako a presne vznikol. „Či to bolo vytvorené tak, že to niekto nahral a potom daboval pomocou umelej inteligencie, alebo umelú inteligenciu natrénoval a vytvoril z nej zvukový súbor, to sa nedá povedať,“ povedal dátový analytik Investigace.cz Josef Slerka.

Zložité je aj sledovanie cesty deepfake videa. Prvýkrát sa začal šíriť z aplikácie Telegram, aplikácie na odosielanie správ, ktorá je známa svojimi vlastnými nastaveniami zabezpečenia, čo ešte viac sťažilo jej vzhľad. Je takmer nemožné nájsť pôvodný zdroj, ktorý klip s absolútnou istotou šíril. Je však jasné, že nahrávka mohla slúžiť dvom účelom: diskreditovať novinára a poskytnúť dôkazy pre naratív Kremľa, že USA chceli zmanipulovať výsledky slovenských volieb.

Vzor ohováračských útokov

Monika Todová, významná osobnosť slovenskej tlače, už čelila očierňovacej kampani. Krok Analýza Centra pre vyšetrovanie Jána Kuciaka (ICJK), bol najviac napadnutým novinárom v mesiacoch pred parlamentnými voľbami. Toto hĺbkové video síce prekonalo doterajšie taktiky, no terčom týchto útokov je už dlho.

Proti Dodowovi prebieha neustála očierňovacia kampaň nielen zo strany politikov, ale aj na dezinformačných stránkach. Neustále urážky, nenávistné prejavy a dokonca monitorovanie Čomu musela v posledných rokoch čeliť. A často sú to politici, ktorí podnecujú útoky, a to aj na svojich tlačových konferenciách. Deepfake bude v budúcnosti úplne nový nástroj pre očierňovacie kampane. Totowa už existuje bolo zobrané Podal trestné oznámenie pomocou právnych krokov a bezpečnostnej platformy Safe.Journalism.SK – pre podozrenie z ohovárania a trestného činu poškodzovania cudzích práv.

Ako sme však uviedli vyššie, toto hlboké falošné video mohlo slúžiť inému účelu – zapadalo do naratívu Kremľa, že Spojené štáty zamýšľali zasahovať do výsledkov slovenských volieb. Sociálne siete a reťazové e-maily zohrali kľúčovú úlohu pri šírení videa pred tým, ako ľudia prišli k urnám, pričom najúspešnejšími zdieľateľmi sociálnych sietí boli dvaja politici: bývalý šéf Najvyššieho súdu a exminister Stephen Harabin a bývalý poslanec Peter Maršek. Obaja sú prokremeľskými postojmi a silnými zástancami propagandy v krajine. Marsek navštívil anektovaný Krym v roku 2018.

Zo zistení Investigatívneho centra Jána Kuciaka (ICJK) na Slovensku vyplýva, že falošné video sa pôvodne šírilo verejne. Podelil sa Cez Harabinov telegramový účet. Poslal ho však zo súkromného účtu pod názvom „Kabika Ha“. Účet bývalého ministra spravodlivosti omylom zdieľal obsah tohto používateľa. Podarilo sa mu to už najmenej 27-krát. Z analýzy obsahu konta tiež vyplýva, že používateľ konta „Kapika Ha“ musel osobne sprevádzať bývalého ministra spravodlivosti na podujatí (Salamandrové dni) v Banskej Štiavnici začiatkom septembra 2023. Harabin, ktorý je spriaznený so svojou manželkou Gabrielou (skrátene Kabika) Harabinovou, ktorej meno je synonymom pre „Kabika ha“, sa zavesil na reportéra z ICJK.

Hoci sa pôvodne objavilo na Telegrame, falošné video sa prostredníctvom Facebooku rozšírilo medzi desaťtisíce používateľov. Podľa Roberta Barka, overovateľa faktov AFP, ktorý preveruje pravdivosť informácií na slovenskom Facebooku, sa šíria najmä cez osobné účty, „ako najvirálnejší falošný obsah na Facebooku,“ povedal. Podľa Barce bol najúspešnejší post Marcka.

Najmä sa objavilo hlboké falošné video zahŕňajúce Todoa a Chimeka. tlačová správa Video bolo zverejnené krátko predtým, ako sa objavilo video od ruskej spravodajskej agentúry SVR, obviňujúce Spojené štáty zo zasahovania do ovplyvňovania výsledku slovenských volieb. Sergej Naryškin, šéf spravodajskej služby SVR, obvinil USA, že nariadili spojencom, aby spolupracovali s obchodnými a politickými kruhmi na „získaní výsledkov hlasovania požadovaných USA“. V tlačovej správe uviedol šéf strany Chimeka.

V noci pred septembrovým hlasovaním sa slovenské voľby stali stredobodom spravodajstva ruskej štátnej televízie Rosija 1. správy Primárne zameranie sa točilo okolo možnosti zasahovania USA do výsledkov slovenských volieb. Práve Stephen Harabin túto teóriu podľa záberov zopakoval na kameru, jediný poskytol rozhovor stanici známej propagandou.

Ak orgány činné v trestnom konaní na Slovensku nedokážu identifikovať zdroj dezinformačného útoku, konečný motív hlbokého podvodu sa nikdy nepotvrdí. Keď sa však používanie nástrojov AI v nasledujúcich rokoch stane dostupnejším, potenciál pre podobne hlboké falošné útoky a dezinformačné kampane podporované AI sa môže zvýšiť, čo prinesie vážne otázky nielen pre Slovensko, ale aj pre Európu a svet. Ako pokračujú debaty o tom, ako AI ovplyvní žurnalistiku a slobodu tlače, tento prípad predstavuje znepokojujúci príklad hrozieb, ktoré môže hĺbková technológia predstavovať teraz aj v budúcnosti.

…

Karin Kovari Solimos Tento článok je autorom príspevku Medzinárodného tlačového inštitútu (IPI). Pôvodne zverejnené, a pôsobí v Spravodajskom centre Jána Kuciaka (ICJK) na Slovensku. Časť tohto článku vznikla na objednávku IPI Sloboda médií je rýchla odpoveď (MFRR), celoeurópsky mechanizmus na monitorovanie, monitorovanie a reagovanie na porušovanie slobody tlače a médií v členských štátoch EÚ, kandidátskych krajinách a na Ukrajine. Pretlačené so súhlasom, s menšími úpravami, aby vyhovovali štýlu zmien.