На прага сме на поредната предизборна кампания, а производството на политическа пропаганда никога не е било толкова достъпно заради възможностите, които дава изкуственият интелект. Етична ли е употребата му в политическите послания? Превръща ли се политиката в риалити шоу?
"Всяко нещо, което видим, може да бъде манипулирано."
"Технологията се развива лавинообразно, трябва да сме всички нащрек какво гледаме."
"Имаме 100% канали, които само с това се занимават, политическо съдържание - мемета."
"Въпросът е какво ни казва смешката."
"Ти контролираш всъщност потока на мисли и как се възприема даден проблем. Много лесно е да се минат тези морални линии."
Сътворение на синтетична реалност. Производството на политическа пропаганда никога не е било толкова достъпно.
Снимки: Pixabay
Петя Чалъкова - изкуствовед, Дигитално изкуство: "Искаме да покажем колко е лесно. Ето. Наистина може да си помисли човек, че е картина от реалността. Това е безплатна версия, която много бързичко генерира нещо на базата на един елементарен текст."
На историята с трите бидона повярваха не само потребители, но и медии, след като в клип мъж с каруца, пълна с монети, влиза в банка с думите: „Искам да ги обмените за евро!“
Генерираната с изкуствен интелект дезинформация основно се създава по две причини – за пари или за влияние. Видеата със снежната Камчатка например са правени за кликове. Достатъчно хора повярваха и това е донесло пари на създателите им.
В ръцете на политици обаче и при липсата на етични задръжки, изкуственият интелект се превръща в автоматизирана машина за пропаганда, която разделя, плаши, осмива, подменя фактите. Налага субективен разказ. Често, чрез различни визуални провокации политическите формации тестват, доколко приемлива е някаква теза и дали може да влезе в официалната им реторика.
Георги Ангелов - старши анализатор в компания за медиен мониторинг и анализ с AI: "Целта е да бъде залят избирателят с определен тип съдържание, което ще не ще, му влияе, колкото и да го прави само за смеха."
Руслан Трад - сътрудник в DFRLab за глобална сигурност: "Ти контролираш всъщност потока на мисли и как се възприема даден проблем… Повечето хора искат просто да харесат някаква картинка. Те не искат да осмислят съдържанието й, смешна им е, защото, например, отговаря на техни вече съществуващи политически убеждения. И всъщност тази специфика, използване на такива инструменти няма за идея да убедят другия лагер. Те имат идеята да консолидират своя вече съществуващ лагер и вече, когато дойдат избори, да бъде използван този лагер за избирателна активност."
Георги Ангелов - старши анализатор в компания за медиен мониторинг и анализ с AI: "Тези послания са високо емоционални и остават в главата на човека. В един момент създава предразсъдъци, които са устойчиви. И това ще влияе върху решението, което всички тези хора и децата им ще взимат в следващите 10-15 години. Не само изборите."
Така изглежда политическата слопаганда – нискокачествено политическо AI съдържание. Има добре развити чужди канали, но този е може би първият на български език.
Той е част от по-голяма международна проруска мрежа за дезинформация в Източна Европа, която екипът ни разкри преди повече от година.
За да натрупат последователи във Фейсбук тези страници публикуват сантиментални истории и таргетират уязвими хора, податливи на различни влияния. Следващата крачка на тази структура – въвеждане на автоматизирано политическо кликбейт съдържание. Колкото и да личи, че и текстът, и снимките са генерирани с изкуствен интелект, а така наречените водещи са синтетични хора - винаги има кой да повярва.
Каналът се захранва с текстове от псевдоновинарски дезинформационни мрежи у нас като често те споделят видеата на собствените си страници, което показва, че връзката може да не е случайна, а целта да не са просто кликове. Снимките на журналистите в този сайт например също са генерирани с изкуствен интелект, такива хора няма, съдържанието е проруско и антиевропейско.
Отскоро публикациите също са придружени с изображения, направени от големите езикови модели.
Руслан Трад - сътрудник в DFRLab за глобална сигурност: "Въпреки че много потребители виждат, че изображението е по-скоро лошо направено и генерирано с изкуствен интелект, това няма значение. Важно е посланието, което се изпраща. И всъщност то достига до много хора, защото говорим вече за платени кампании."
Това е кампания с AI видеа, които бяха разпространени в Полша, за да създадат настроения за напускане на Европейския съюз. Десетки информационни операции са разкрити в Европа през последните една -две години.
Вече говорим за "замърсяване" на езиковите модели, които дават фалшиви резултати при търсене, особено по темата Украйна. Автоматизирани коментари напълно изкривяват дебата в социалните платформи. Изборите са период, в който такива явления се активизират.
Георги Ангелов - старши анализатор в компания за медиен мониторинг и анализ с AI: "Изглежда, че има същата схема, която имаше в Румъния. Устойчива екосистема за създаване на политическо съдържание, по което голяма роля в него играе дезинформацията и поляризацията. Това означава, че имаме един централен профил, който го играе чист и около тях други неофициални. Някои партии имат, както сме виждали, че имат мрежа от над 20 акаунта и по този начин главният акаунт става чист, а другите могат да бъдат свалени. С развитието на големите AI модели, имаме 100% канали, които само с това се занимават, политическо съдържание на мемета. Не можем да знаем, дали пак го прави някой, защото е фен или е платен. Но има такива белези, че това се случва и в България."
По примера на Тръмп официални профили на партии и политици вече публикуват снимки и видеа, генерирани с изкуствен интелект като част от комуникацията си с избирателите.
Това може да е проблем, тъй като свежда политиката до риалити шоу. Заради алгоритмите, тези публикации стават все по-провокативни и с по-опростени послания.
Възпитава се общество, което е нетолерантно, инфантилно и неспособно на политически дебат. Тази тенденция и в глобален мащаб заплашва демократичния процес.
Руслан Трад - сътрудник в DFRLab за глобална сигурност: "Когато вашият любим политик публикува мим, така наречен, тези смешни картинки, с кратък текст или някакво изображение, което осмива опонента, обикновено аудиторията или вашите избиратели много бързо ще разпространят това изображение или видео. И пак се създава един балон от затворени кръгове, които не говорят помежду си. И това по същество удря самата политическа система."
Петя Чалъкова - изкуствовед, Дигитално изкуство: "Въпросът е какво ни казва смешката? Уж са забавни и смешни, а всъщност отдолу контекстът на смешката е едно съобщение, което насочва вниманието към език на омразата например или към доразвиване на фалшива новина в съзнанието на потребителя. Те са целенасочено създадени уж да си кажем шегата, но да ви насоча вниманието в по правилната, в кавички, посока."
Руслан Трад - сътрудник в DFRLab за глобална сигурност: "Такива инструменти са много успешни в общества, в които има разделение, или пък липсата на единна цел, която да обвързва различните прослойки на обществото."
Георги Ангелов - старши анализатор в компания за медиен мониторинг и анализ с AI: "Поляризацията - ние срещу вие, винаги я има. Това е нещо, което продава. Превръщането на политиката в забавление не е нещо ново, но пък сега вече става някаква лавина."
Наричат го „техника на пожарния маркуч“ - т.е. едно и също послание от възможно най-голям брой източници залива зрителя.
Георги Ангелов - старши анализатор в компания за медиен мониторинг и анализ с AI: "И така от каквото и да се интересуваш, от филми, от мемета, смешки, получаваш една и съща информация. Дори да не сеинтересуваш, тя стига до тебе. Ти веднъж като цъкнеш, алгоритъмът на TikTok е такъв,че ако 2-3 пъти прицъкаш през такава информация, тя започва да те залива. Едно и също нещо. И така се получава изкуствена алгоритмична амплификация. т.е.увеличаване."
Възможно ли е обикновеният потребител да се ориентира дали това, което вижда е истина или е изкуствена реалност. До преди година имаше ясни белези, които сочеха, че една снимка е фалшива – броя на пръстите, рамките на очилата, обиците – дребни несъвършенства,които помагаха. Машините наваксаха и фактор остана единствено критичното мислене.
Руслан Трад - сътрудник в DFRLab за глобална сигурност: "Ако един изследовател е много опитен, може да забелязва някакви гличове - малки пробиви в изображението, което показва, че не е естествено движението на образа. Или пък изграждането на бекграунда. Вече ако е много вложено в тази кампания, много по-трудно е просто с опит. Трябва да вкараш софтуер, трябва да използваш инструменти, които засичат използването на изкустен интелект.
Те често не са безплатни.
Даже са много скъпи някои от тях.
Тоест за обикновения потребител остава контекстът да преценява?
Да."
Петя Чалъкова - изкуствовед, Дигитално изкуство: "Колкото и да разчитаме на критичното си мислене, когато материалът, който ни се представи е с идеален звук, припокриващ дадена известна личност, с идеален образ, припокриващ образа на тази личност наистина става неразличимо кое е истина и кое лъжа."
Видеото, в което руски „AI девойки“ пеят, е пример за нов тип политическа пропаганда, трудно разпознаваема за широката публика. Това също е политическа пропаганда — но не от вида, който повечето хора могат да разпознаят. Тези генерирани с изкуствен интелект видеа се разпространяват в цяла Европа, включително през български акаунти. Тяхната цел – да изградят идеализиран образ на руската култура, като подготвят публиката за следващото послание – родината на тези красиви хора няма как да прави грозни неща.
Генеративният изкуствен интелект поставя много етични предизвикателства. Преди дни официалният профил на Белия дом в Екс пусна снимка на жена, задържана от службата ICE за организиране на протести.
Журналистическо разследване показа, че снимката е манипулирана – за да изглежда жената с по-тъмен цвят на кожата и по-агресивна.
Петя Чалъкова - изкуствовед, Дигитално изкуство: "Когато една такава технология бъде пусната грубо казано сред населението без абсолютно никакви установени правила, трябва да се има предвид, че към момента за изкуствения интелект има много, много, много малко рестрикции… при създаването на едно такова клипче, етиката остава в рамките на моралния кодекс на създателя на въпросното клипче или това за какво ще се използва, къде ще се публикува, кой ще го гледа, нали кой ще е аудиторията. Така че това са неустановени, нерегламентирани точки, за които тепърва трябва да се говори. И тук идва точно основният проблем, че всъщност ние не проведохме този диалог преди да започнем да използваме тази технология, а тя вече е масово сред нас, навсякъде."
Не много далеч във времето изкуственият интелект ще превземе тотално информационното пространство с перфектно генерирани видеа, снимки, текстове. Преценката реално ли е това, няма да бъде лесна.
Способността да разграничаваме между факти и измислици е ключова – това е гаранцията, че няма да попаднем в нечия въобразена реалност.
Чуй новините
Подкаст
