AI a kognitivní válčení

Český komunikační prostor už nějakou dobu zaplavuje vlna dezinformací a tak hledáme cesty, jak se s tímto fenoménem, který, jak se zdá, bude jen narůstat, vyrovnat. Umělá inteligence v tomto konfliktu slouží oběma stranám. Dnes se podíváme na to, jakým způsobem AI využívají dezinformátoři.

Zásadní technologií jsou chatboti. Snadná a tudíž masová tvorba textů schopných ovlivnit veřejnost je v dezinformacích zásadní. Právě ona masovost totiž vytváří dojem, že názor je ve společnosti široce zastoupený, což do oné názorové bubliny vytvořené dezinformátory vtahuje další a další čtenáře. Zde bych rád zmínil pojem Kognitivní válčení, kterému se věnují například i výzkumné projekty NATO. Na rozdíl od klasické propagandy, která vám prostě lže, aby vás přiměla dělat špatná rozhodnutí na základě špatných informací, tak kognitivní válčení pomalu plíživě mění vaše názory tak, aby byly v souladu s názory útočníka. Návodně formulované nadpisy, pocitově zabarvené komentáře v diskuzích pod články, fotografie vytržené z kontextu atd. Představte si, že přijdete do diskuzního vlákna pod článkem na nějaké politické téma a 80 % komentářů bude tvrdit, že krok vlády v článku popsaný je špatný. Vám to tak ale nepřipadá a tak napíšete svůj pochvalný názor. Jenže v tom okamžiku se na vás vrhne bouře dost agresivní kritiky. Bude to mít tři dopady. Zaprvé příště budete mlčet – tudíž se váš názor podařilo vyřadit z veřejného prostoru. Zadruhé se začnete cítit se svým názorem v menšině, i když opak může být pravdou. A zatřetí pod tímto tlakem začnete svůj názor měnit. Myslíte si, že váš názor je pevný a nějací hejtři na netu ho nezmění? Dobře tedy, ale co vaši přátelé a rodina, těm už naslouchat budete? Na ně je totiž vyvíjen ten samý tlak a oni ho druhotně přenášejí na vás. Že ani to vás nezlomí? V tom případě ale vznikne zlá krev mezi vámi a vašimi blízkými a to, když to vynásobíme počtem takto zasažených lidí, prohloubí napětí a nespokojenost ve společnosti. Útočník tedy dosáhl svého tak jako tak.

AI má v tomto typu informačního působení velké využití, protože dokáže věrohodně simulovat třeba právě ty komentáře pod články, vytvářet celé dezinformační zpravodajské weby, tvořit falešné důkazy a nakonec ještě zpětně vyhodnocovat účinnost celé informační kampaně. Mocným dezinformačním nástrojem je tzv. Deepfake. Falešná videa, na kterých jsou vlivné osobnosti propagující názory výhodné pro útočníky. Míra realističnosti je vysoká, protože technologie umožňuje věrně simulovat jak vzhled, tak hlas dané osobnosti a je čím dál obtížnější rozeznat falešná videa od pravých. Tím spíš, když velká část populace vůbec věrohodnost zdrojů neprověřuje.

Žijeme v éře, která umožňuje sdílet informace napříč celou planetou v reálném čase, což lidstvu otvírá úplně nové možnosti.