Iniciativa AI dětem

Cyklus debat AI horizonty

AI a propaganda

Plošná reklama v politických kampaních a propagandě je old school. Online prostor prochází rychlou proměnou a nabízí neustále nové možnosti ovlivňování lidí. Jakou roli v celé mašinérii hraje AI? Jaký mají vliv doporučovací systémy? Co přináší generativní umělá inteligence? Je vůbec možné se účinně bránit — ať už systémově nebo jako jednotlivci?​

O debatě

Debata proběhla 28. 5. 2024
Moderoval ji Ondřej Hrách z Aignos
Odkaz na Facebookovou událost
Autorem článku je žurnalista Jiří Labanc

Hosté

Spoluautor podcastu Kanárci v síti. Technolog s vášní pro vše lidské a stejně hlubokou nedůvěrou k technoutopismu. Pracoval ve firmách jako je Sun Microsystems, MSD, Avast nebo Semantic Visions.
Přes téma rizik umělé inteligence se v posledních letech dostal k širšímu tématu digitálních manipulací, výpočetní propagandy a dezinformací, o kterých spoluvytváří český podcast Kanárci v Síti a přednáší na FIT ČVUT předmět “Hacking mysli”.

Veronika Batelková je lektorkou mediální a informační gramotnosti. Lektoruje od roku 2018 a nejvíce se zaměřuje na učitele, knihovníky a další vzdělavatele, zároveň má letité zkušenosti s žáky a studenty. Vede organizaci Zvol si info bojující proti dezinformacím, pořádá mezinárodní školicí projekty pro pracovníky s mládeží a podílí se na výuce několika univerzitních kurzů na Masarykově univerzitě, kde úspěšně absolvovala studium žurnalistiky, politologie a informačních věd se zaměřením na technologie ve vzdělávání.

Záznam z debaty

Jak mohou umělá inteligence a propaganda rozvrátit důvěru?

Výsadní postavení v online prostoru už nemá jen lidmi tvořený obsah, do informačního prostředí se dostává i ten strojově generovaný. Jeho účelem navíc nemusí být ani tak posílení důvěry, jako spíše cíl ji poškodit. O tom, jak spolu souvisejí propaganda, umělá inteligence a algoritmy sociálních sítí, diskutují účastníci třetí debaty AI horizontů.

Podle lektorky mediální a informační gramotnosti Veroniky Batelkové umělá inteligence vstupuje do tématu propagandy a dezinformací skrze nástroje pro zatraktivnění nabízených informací. „Manipulace bude uvěřitelnější, hůře rozpoznatelná,“ míní. Batelková rovněž vedle role obsahu připomíná doporučovací systémy, které jsou zodpovědné za šíření informací na online platformách. „AI do propagandy vnáší rychlejší a lépe zacílenou produkci dezinformací, navíc ve větším množství. Můžeme totiž pomocí dostupných AI nástrojů brát v potaz i psychologické jevy a charakteristiky osobnosti, a ušít tak zprávu na míru,“ tvrdí Batelková.

„S nástupem generativní AI se zdá, že vstupujeme do nového světa propagandy. Pravdou ale je, že v tomto světě žijeme už více než 15 let,“ naráží zase Josef Holý na fakt, že už v roce 2006 sociální síť Facebook spustila newsfeed, který filtruje obsah viditelný na uživatelově zdi, takzvané timeline. Dodává, že k manipulaci už není nutné využívat lež. „Stačí informace zasadit do správného kontextu, neříct celou pravdu. Posune se tak vnímání určitého fenoménu,“ říká Holý, který je autorem technologického podcastu Kanárci v síti.

Holý naznačuje, že doteď užívaná definice dezinformace, tedy že se jedná o „lživou informaci, která je záměrně vytvořená za účelem matení veřejnosti“ už nemusí platit. Propagandu jako takovou pak definuje jako zneužití emocí ve veřejné komunikaci. Právě díky personalizovanému obsahu se může propaganda i efektivně šířit. Ale popořadě.

Cambridge Analytica pro každého

Navzdory negativům mohou AI nástroje manipulaci i zavčas odhalit. Do jisté míry. „Je například riskantní využívat detektory psaného textu. Jednoduše proto, že nefungují správně. Chybovost je příliš vysoká a může to ve výsledku poškodit vztah mezi studenty a učiteli,“ tvrdí Holý.

„Na druhou stranu,“ podotýká Veronika Batelková, „umělá inteligence přináší obrovský potenciál do vzdělávání, protože dokáže personalizovat a zefektivňovat výuku.“ Holý s ní souhlasí. „Potenciál vidím v osobních asistentech, kteří nám pomohou mimo jiné se vyznat v informačním přehlcení. Takovéto nástroje se ostatně snaží vyvíjet i firmy jako Apple či Microsoft.“

Zrovna informační přehlcení je faktor, který ze zkušeností Batelkové často řeší mladí lidé. „Na workshopech slýchávám, že ‚všude jen lžou.‘ Studenti tak nemají jasno, co je a není pravda. V důsledku pak třeba nejdou k volbám.“

Holý v souvislosti s manipulací zmiňuje, že práci takzvaných trollích farem – organizovaných center pro ovlivňování veřejného prostoru – už převzaly velké jazykové modely (LLM) a odborníci na marketing. Korpus celého internetu, na kterém se velké jazykové modely učily, totiž dávají dohromady reprezentativní vzorek společnosti. Aktéři v pozadí manipulací si tak mohou nasimulovat vlastního analytika či cílovou skupinu, případně zanalyzovat obsah na sociálních sítích a získat tak ‚velkou pětku osobnostních rysů‘ (v angl. OCEAN profile), podle které se běžně dají pochopit potřeby cílového publika. „A tento profil navíc vytvoříte na základě několika delších příspěvků na Facebooku. Je to nedokonalé, ale určitý obraz o uživateli tento přístup poskytuje. Je to taková Cambridge Analytica pro každého,“ připomíná Holý celosvětovou kauzu, během které stejnojmenná firma sbírala a zneužívala osobní data uživatelů Facebooku mimo jiné pro volební kampaň Donalda Trumpa.

Co však na jedné straně spektra využívá černá propaganda, může využít ve svůj prospěch i strategická komunikace na opačné straně. „Problém je nastavit jejímu státnímu aparátu pravomoci ve chvíli, kdy následující volební období může být zvolena strana, která případné centrum strategické komunikace přeorientuje z hodnotové a prodemokratické propagandy na onu černou,“ tvrdí Josef Holý.

Holý zmiňuje, že základní kvalitativní posun nastal v okamžiku, kdy se společnost vzdala dohledu nad infomačním prostorem. „Kontrolu jsme přenechali technologům s jedinou metrikou – KPI, tedy naší pozorností.“ Vysoce postavené figury technologického průmyslu dle Holého na konferencích mluví nikoliv o tom, kolik dobra jejich platformy přinesly – třeba kolik bývalých spolužáků sblížily –, nýbrž kolik hodin dokázaly sociální sítě uživatele udržet u obrazovek. Dodává, že technologičtí giganti dělají vše pro to, aby společnost nad algoritmy dohled neměla.

„Facebook letos v srpnu ukončí CrowdTangle. Tento nástroj sloužil analytikům ke sledování a analýze provozu a kampaní. CrowdTangle sice nahradí jiným nástrojem, nicméně nebude mít takové kapacity a schopnosti. K tomu navíc připočtěme, že letos máme volební rok – k urnám půjde kolem 60 zemí. Meta se netají ani omezením dosahu pro politický obsah na svých platformách. V praxi to ale znamená, že smete všechny aktivisty pro lidská práva, ženská práva, témata o LGBTQ a další. Protože kvůli těmto tématům se vedou politické a kulturní války. Mimo jiné i díky algoritmům,“ říká.

TikTok? Zakázat

Tématem debaty AI horizontů bylo i šíření emocí na sociálních sítích. Josef Holý v té souvislosti zmiňuje studii, podle které se lživé či zavádějící informace šíří na sociální síti X (dřívější Twitter) mnohem rychleji než pravda. „Je však důležité zmínit, že více než lež je důležitý emoční obal, do kterého je případná lež zabalená,“ říká Holý.

Na běžné uživatele a jejich vnímání reality mají vliv i agregátory zpráv. Když minulý rok zaútočilo hnutí Hamás na Izrael, k zemi se obrátila celosvětová pozornost. Následná studie výzkumníků z Center for an Informed Public z washingtonské univerzity poukázala na silný vliv účtů, které o situaci informovaly na síti X. Tři dny od útoku Twitter ovládl účet Visegrád 24, který na příspěvcích o válce nasbíral 371 milionů zhlédnutí. Mezi sedmičkou nejsledovanějších účtů nebylo ani jedno tradiční médium. Pro srovnání, účet CNN Breaking News (který se za zpravodajská média umístil na první příčce) získal za stejnou dobu pouhých 63 milionů zhlédnutí.

Třebaže anonymní Visegrád 24 dává najevo, že pouze přebírá zprávy, právě toto přiznání poukazuje na zásadní problém – pozornosti se dostává subjektům s minimálně neprůhlednými cíli (u Visegrádu je však popisuje novinář Jakub Jetmar pro server Mediář) a autorskými strukturami. Mimo jiné tak účty dokáží využívat propagandu ve svůj prospěch. A protože informace dokáží zaobalit do emočního hávu – to na rozdíl od tradičních seriózních médií –, mají větší šanci dosáhnout vyšších metrik, kam je posunou algoritmy sociální sítě.

Veronika Batelková zmiňuje též influencery ‚zpravodaje‘, které často sleduje mladší generace. „Na jednu stranu jsou to skvělé projekty, na druhou stranu postrádají novinářské pozadí. Nemohou tedy nikdy být zcela nestranní a objektivní.“ Josef Holý doplňuje, že od novinářů je odlišují procesy tvorby obsahu. „Když novináři zavoláte a nabídnete mu nějaké zjištění, buď vám to položí, nebo si vaše tvrzení nejprve ověří. S přibývajícími fanoušky na účtech influencerů se pak snadněji šíří myšlenkový směr, kterými se běžní uživatele dají ovlivnit.“

Ze zkušenosti Batelkové mladí lidé čerpají digitální obsah z čínské aplikace TikTok. Reakce na sbírání dat o uživatelích jsou podle ní dvojí. „Jedni jsou překvapeni, co vše o nich sociální síť ví, druzí nad hrozbami o zneužití dat mávnou rukou, protože přece nejsou známí a důležití. Jenomže důležití nejsou možná nyní ve školním věku. V dospělosti mohou být vlivnými lidmi. Čínský režim (se kterým podle tamních zákonů musí provozovatel TikToku sdílet svá data) pak bude mít dokonalý profil dané osoby.“

O TikToku jako o hrozbě se informuje už několik let. Svou vizi staví provozovatel sociální sítě na myšlence vytvořit nejlepší doporučovací algoritmus. „A podle lidí z Facebooku je algoritmus TikToku návykovější, umí lépe cílit na uživatele, sbírá lepší signály. Byť je inkorporovaný v Americe, vlastní jej čínská firma ByteDance. S tím se neodvratitelně pojí i vliv čínské vlády. Problém je, že o tomto vlivu nemáme přímé důkazy. Představte si ale, že jste ve Spojených státech amerických v 60. letech, tedy v období studené války, a v Americe by byla celoplošná televize provozovaná Sovětským svazem. Rozhodně by nebylo možné takovou televizi s ohledem na tehdejší atmosféru provozovat. S TikTokem je to nyní stejná situace,“ vysvětluje Josef Holý.

Autor podcastu Kanárci v síti dodává, že by u nás TikTok zakázal. „Je to hodnotový boj západních společností proti totalitní Číně. Nakonec Číňané západní sociální sítě na svém území taky zakázali. Nevím, proč by měli své platformy provozovat u nás,“ říká s tím, že algoritmus na území Číny je jiný než ve zbytku světa. Třetinu podle Holého tvoří vzdělávací obsah, třetinu zábava a nakonec čínská propaganda.

„Jak bojovat proti manipulacím? Jsem zastáncem vzdělávání,“ míní Veronika Batelková, „ale to samotné nestačí. Důležité je posílit a podporovat kvalitní žurnalistiku, abychom vnímali a četli skutečně ověřené informace. Nepřehánějme to ale. Jsme až příliš excitovaní a málo času věnujeme trávení přijímaných informací. Je v pořádku se dění v informačním prostoru občas neúčastnit,“ myslí si Batelková.