Slovenské volebné deepfakes ukazujú, že AI je nebezpečenstvom pre demokraciu

Dva dni pred voľbami na Slovensku bol na Facebooku zverejnený zvukový záznam. Mala dva hlasy: Michala Simeku, ktorý vedie liberálnu Stranu Progresívneho Slovenska, a Moniku Todovú z denníka Dennick N. Zdalo sa, že diskutovali o tom, ako zmanipulovať voľby kupovaním hlasov od marginalizovanej rómskej menšiny v krajine.

Šimečka a spol Dennick N Zvuk okamžite odsúdil ako falošný. Jednotka na kontrolu faktov tlačovej agentúry AFP povedal Zvuk vykazoval známky manipulácie pomocou AI. Príspevok bol však zverejnený počas 48-hodinového moratória pred začiatkom volieb, počas ktorých musia médiá a politici mlčať. Podľa slovenských volebných pravidiel však bolo plošné odvolanie postu zložité. Tiež, pretože príspevok bol zvukový, využil medzeru v mediálnej politike spoločnosti Meta. diktuje Iba falošné videá – upravené tak, aby prinútili človeka povedať slová, ktoré nikdy nepovedali – sú v rozpore s jeho pravidlami.

Voľby boli tesným súbojom dvoch popredných kandidátov s protichodnými víziami pre Slovensko. V nedeľu ohlásili, že pro-NATO strana Progresívne Slovensko prehrala so SMERom, ktorý viedol kampaň za stiahnutie vojenskej podpory susednej Ukrajine.

Šéfka digitálneho odboru EÚ Věra Jourová pred hlasovaním uviedla, že slovenské voľby budú testom toho, aké zraniteľné sú európske voľby voči „zbrani masovej manipulácie za niekoľko miliónov eur“, ktorú Moskva používa na zasahovanie do volieb. Teraz, v nadväznosti na to, budú krajiny po celom svete pátrať po tom, čo sa udialo na Slovensku, a hľadať vodítka o výzvach, ktorým môžu čeliť aj oni. Hlasovanie sa bude konať o dva týždne v blízkosti Poľska, o ktorom nedávna štúdia EÚ uviedla, že hrozí, že bude terčom dezinformácií. Budúci rok sa vo Veľkej Británii, Indii, Európskej únii a Spojených štátoch uskutočnia voľby. Fact-checkers, ktorí sa snažia bojovať proti dezinformáciám na sociálnych sieťach na Slovensku, ukázali, že AI je už dostatočne vyspelá na to, aby narušila voľby, pričom im chýbajú nástroje na boj proti nim.

„Nie sme tak pripravení, ako by sme mali byť,“ hovorí Veronika Hinková Frankowska, projektová manažérka organizácie Demagog na kontrolu faktov.

Počas volieb tím Hinkovej Frankowskej pracoval dlhé hodiny a svoj čas delil medzi overovanie faktov počas televíznych diskusií a monitorovanie platforiem sociálnych médií. Demagog je partnerom na overovanie faktov pre Meta, čo znamená, že spolupracuje s gigantom sociálnych médií na písaní štítkov overujúcich fakty pre podozrenie z dezinformácií šírených na stránkach ako Facebook.