WEBVTT 00:00:00.000 --> 00:00:09.000 Музика 00:00:09.000 --> 00:00:11.000 Музика 00:00:11.000 --> 00:00:15.000 Всяко нещо, което видим, може да бъде манипулирано. 00:00:15.000 --> 00:00:20.000 Музика 00:00:20.000 --> 00:00:25.000 Технологията заслужава лавинообразно и трябва да сме всички на штрек. 00:00:25.000 --> 00:00:26.000 Какво гледаме? 00:00:26.000 --> 00:00:29.000 Имаме сто процентни канали, които само с това се занимават. 00:00:29.000 --> 00:00:31.000 Протискосътържаване е медметът. 00:00:31.000 --> 00:00:34.000 Въпросът е какво ни казва смешката? 00:00:34.000 --> 00:00:39.000 Ти контролираш също потока на мисли и как се възприема даден проблем. 00:00:39.000 --> 00:00:43.000 Много лесно е да се минат тези морални линии. 00:00:43.000 --> 00:00:47.000 Музика 00:00:47.000 --> 00:00:49.000 Сътворение на синтетична реалност. 00:00:49.000 --> 00:00:54.000 Производството на политическа пропаганда никога не е било толкова достъпно. 00:00:54.000 --> 00:00:57.000 Тук искаме да покажем колко е лесно. 00:00:57.000 --> 00:01:01.000 Ето, наистина може да си помисли човек, че действително това е красива определенност. 00:01:01.000 --> 00:01:05.000 На тези три бидона повярваха не само потребители, но и медии. 00:01:05.000 --> 00:01:08.000 Музика 00:01:08.000 --> 00:01:10.000 Искам да ги обмените за ЕГО! 00:01:10.000 --> 00:01:14.000 Генерираната с изкуствен интелект дезинформация основно се създава по две причини. 00:01:14.000 --> 00:01:16.000 За пари или за влияние. 00:01:16.000 --> 00:01:20.000 Видеята с нежната камчатка, например, са правени за кликове. 00:01:21.000 --> 00:01:25.000 Достатъчно хора повярваха и това е донесло пари на създателите им. 00:01:25.000 --> 00:01:29.000 Претете на политици, обаче, и при липсата на етични задръжки, 00:01:29.000 --> 00:01:34.000 изкуственият интелект се превръща в автоматизирана машина за пропаганда, 00:01:34.000 --> 00:01:40.000 в която разделя, плаши, усмива, подменя фактите, налага субективен разказ. 00:01:40.000 --> 00:01:45.000 Често, чрез различни визуални провокации, политическите формации 00:01:45.000 --> 00:01:48.000 тестват доколко приемлива е някаква теза 00:01:48.000 --> 00:01:51.000 и дали може да влезе в официалната им реторика. 00:01:51.000 --> 00:01:55.000 Целта е да разделя избирателя в презентивното съдържание, 00:01:55.000 --> 00:01:59.000 което ще му влияе, колкото и да го прави само за смеха. 00:01:59.000 --> 00:02:04.000 Ти контролираш, всъщност, потока на мисли и как се възприема даден проблем. 00:02:04.000 --> 00:02:07.000 Повечето хора искат просто да харесат някоя картинка. 00:02:07.000 --> 00:02:10.000 Те не искат да осмислят съдържанието и смешно им, 00:02:10.000 --> 00:02:15.000 защото, например, отговаря на техни вече съществуващи политически убеждения. 00:02:15.000 --> 00:02:20.000 И, всъщност, тази специфика използване на такива инструменти 00:02:20.000 --> 00:02:23.000 няма за идея да убедят другия лагер. 00:02:23.000 --> 00:02:29.000 Те имат идеята да консолидират своя вече съществуващ лагер 00:02:29.000 --> 00:02:34.000 и вече, когато дадат избор, да бъде използван този лагер за избирателна активност. 00:02:34.000 --> 00:02:39.000 Тези послания са високо емоционални и остават в главата на човека. 00:02:39.000 --> 00:02:42.000 В този момент създава предразсъдъци, които са устойчиви 00:02:42.000 --> 00:02:50.000 и това ще влияе върху решението, което всички тези хора и децата им ще взимат в следващите 10-15 години. 00:02:50.000 --> 00:02:51.000 Не само ни. 00:02:51.000 --> 00:02:57.000 Когато разочарованието премина границите на търпението, улиците започват да говорят. 00:02:57.000 --> 00:03:02.000 Здравейте, аз съм Силвия Костова от списание «Свобода на истината». 00:03:02.000 --> 00:03:05.000 Така изглежда политическата пропаганда. 00:03:05.000 --> 00:03:09.000 Нискокачествено политическо AI съдържание. 00:03:09.000 --> 00:03:14.000 Има добре развити чужди канали, но този е, може би, първият на български език. 00:03:14.000 --> 00:03:20.000 Той е част от по-голяма международна проруска мрежа за дезинформация в Източна Европа, 00:03:20.000 --> 00:03:23.000 която екипът ни разкри преди повече от година. 00:03:23.000 --> 00:03:28.000 За да натрупат последователи във Facebook, тези страници публикуват сантиментални истории 00:03:28.000 --> 00:03:32.000 и таргетират уязвими хора, податливи на различни влияния. 00:03:32.000 --> 00:03:40.000 Следващата крачка на тази структура – въвеждане на автоматизирано политическо кликбейт съдържание. 00:03:40.000 --> 00:03:45.000 Колкото и да личи, че и текстът, и снимките са генерирани с изкуствен интелект, 00:03:45.000 --> 00:03:51.000 а така наречените водещи са синтетични хора, винаги има кой да повярва. 00:03:51.000 --> 00:03:56.000 Каналът се захранва с текстове от псевдо-новинарски дезинформационни мрежи у нас. 00:03:56.000 --> 00:03:59.000 Често те споделят видеята на собствените си страници, 00:03:59.000 --> 00:04:05.000 които показват, че връзката може да не е случайна, а целта да не са просто кликове. 00:04:05.000 --> 00:04:11.000 Снимките на журналистите в този сайт, например, също са генерирани с изкуствен интелект. 00:04:11.000 --> 00:04:15.000 Такива хора няма. Съдържанието е проруско и антиевропейско. 00:04:15.000 --> 00:04:22.000 Отскоро публикациите също са придружени с изображения, направени от големите езикови модели. 00:04:22.000 --> 00:04:31.000 Въпреки че много потребители виждат, че изображението е по-скоро лошо направено и генерирано с изкуствен интелект, 00:04:31.000 --> 00:04:34.000 това няма значение. Важно е посланието, което си спраща. 00:04:34.000 --> 00:04:39.000 И всъщност то достига до много хора, защото говорим вече за платени кампании. 00:04:39.000 --> 00:04:45.000 Това е кампания с AI, които бяха разпространени в Полша, 00:04:45.000 --> 00:04:49.000 за да създадат настроение за напускане на Европейския съюз. 00:04:49.000 --> 00:04:54.000 Десетки информационни операции са разкрити в Европа през последните една-две години. 00:04:54.000 --> 00:04:58.000 Вече говорим за замърсяване на езиковите модели, 00:04:58.000 --> 00:05:03.000 които дават фалшиви резултати при търсене, особено по темата Украина. 00:05:03.000 --> 00:05:08.000 Автоматизирани коментари напълно изкривяват дебата в социалните платформи. 00:05:08.000 --> 00:05:12.000 Изборите са период, в който такива явления се активизират. 00:05:12.000 --> 00:05:15.000 Изглежда, че има същата схема, която имаше в Румъния. 00:05:15.000 --> 00:05:21.000 Устойчива, да го кажем, екосистема за създаване на политическо съдържание, 00:05:21.000 --> 00:05:26.000 в което голяма роля играе дезинформацията и поляризацията. 00:05:26.000 --> 00:05:30.000 Това означава, че имаме един централен профил, който го играе чист, 00:05:30.000 --> 00:05:33.000 и около тях други неофициални партии. 00:05:33.000 --> 00:05:37.000 Няколко партии имат по, както становихме, мрежа от над 20 акаунта 00:05:37.000 --> 00:05:42.000 и по този начин главният акаунт става чист, а другите могат да бъдат свалени. 00:05:42.000 --> 00:05:47.000 В различието на големите езикови модели, имаме 100% канали, 00:05:47.000 --> 00:05:50.000 които само с това се занимават – политическо съдържание, ММТ. 00:05:50.000 --> 00:05:54.000 Не можем да знаем дали пак го прави някой, защото е фен или е платен, 00:05:54.000 --> 00:05:59.000 но има такива белези, че това се случва в България. 00:05:59.000 --> 00:06:05.000 ТРЕВОЖНАЯ МУЗЫКА 00:06:05.000 --> 00:06:09.000 По примера на Тръмп, официални профили на партии и политици 00:06:09.000 --> 00:06:13.000 вече публикуват снимки и видеа, генерирани с изкуствен интелект, 00:06:13.000 --> 00:06:16.000 като част от комуникацията си с избирателите. 00:06:16.000 --> 00:06:21.000 Това може да е проблем, тъй като свежда политиката до реалити шоу. 00:06:21.000 --> 00:06:25.000 Заради алгоритмите, тези публикации стават все по-провокативни 00:06:25.000 --> 00:06:29.000 и с по-опростени послания. Възпитава се общество, 00:06:29.000 --> 00:06:34.000 което е нетолерантно, инфантилно и неспособно на политически дебат. 00:06:34.000 --> 00:06:39.000 Тази тенденция и в глобален мащаб заплашва демократичния процес. 00:06:39.000 --> 00:06:45.000 Когато вашият любим политик публикува мим, така наречен, тези смешни картинки, 00:06:45.000 --> 00:06:50.000 които с кратък текст или някакво изображение, което усмива опонента, 00:06:50.000 --> 00:06:57.000 обикновено аудиторията или вашите избиратели много бързо ще разпространят 00:06:57.000 --> 00:07:02.000 това изображение или видео. И пак се създава един балон 00:07:02.000 --> 00:07:06.000 от затворени кръгове, които не говорят помежду си. 00:07:06.000 --> 00:07:10.000 И това по същество удара самата политическа система. 00:07:10.000 --> 00:07:15.000 Въпросът е какво ни казват смешките. Слушат се забавни и смешни, 00:07:15.000 --> 00:07:19.000 но всъщност отдолу контекста на смешките е едно съобщение, 00:07:19.000 --> 00:07:23.000 което насочва вниманието към език на омразата, например, 00:07:23.000 --> 00:07:28.000 или към доразвиване на фалшива новина във съзнанието на потребителя. 00:07:28.000 --> 00:07:34.000 Те са целенасочено създадени, уж докато си кажем шегата, 00:07:34.000 --> 00:07:39.000 да ви насоча вниманието в по-правилната, в кавички, посока. 00:07:39.000 --> 00:07:42.000 Това е нещо, което продава. Превръщането на политиката в забавление 00:07:42.000 --> 00:07:46.000 е нещо ново, но пак сега вече става някаква лавина. 00:07:46.000 --> 00:07:49.000 Наричат го техника на пожарния мъркоч. 00:07:49.000 --> 00:07:55.000 Т.е. едно и също послание от възможно най-голям брой източници залива зрителя. 00:07:55.000 --> 00:08:01.000 Каквото и да се интересуваш, било то от филми, мемета смешки, 00:08:01.000 --> 00:08:05.000 получаваш най-същата информация. 00:08:05.000 --> 00:08:08.000 Дори да не ти се интересува, тя стига до теб. 00:08:08.000 --> 00:08:12.000 Съжаляваш, като цъкнеш алгоритма на токи такъв, че ако 2-3 пъти 00:08:12.000 --> 00:08:15.000 прецъкаш през такава информация, тя започва да те залива. 00:08:15.000 --> 00:08:17.000 Едно и също нещо. 00:08:17.000 --> 00:08:21.000 И така се получава изкуствена алгоритмична амплификация. 00:08:21.000 --> 00:08:23.000 Т.е. увеличаване. 00:08:23.000 --> 00:08:26.000 Възможно ли е обикновеният потребител да се ориентира дали това, 00:08:26.000 --> 00:08:29.000 което вижда, е истина или е изкуствена реалност? 00:08:29.000 --> 00:08:34.000 Допреди година имаше ясни белези, които сочеха, че една снимка е фалшива. 00:08:34.000 --> 00:08:37.000 Броя на пръстите, рамките на очилата, обиците. 00:08:37.000 --> 00:08:40.000 Дребни несъвършенства, които помагаха. 00:08:40.000 --> 00:08:45.000 Машините наваксаха и факторът остана единствено критичното мислене. 00:08:45.000 --> 00:08:51.000 Ако един изследовател е много опитен, може да забелязва някакви огличове, 00:08:51.000 --> 00:08:56.000 така наречени малки пробиви в изображението, 00:08:56.000 --> 00:09:00.000 които показват, че не е естествено движението на образа. 00:09:00.000 --> 00:09:03.000 Или пък изграждането на бейграундът. 00:09:03.000 --> 00:09:09.000 Ако е много вложено в тази кампания, много по-трудно е просто с опит. 00:09:09.000 --> 00:09:13.000 Трябва да вкараш софтуер, трябва да използваш инструменти, 00:09:13.000 --> 00:09:17.000 които засичат използването на изкуствен интелект. 00:09:17.000 --> 00:09:19.000 Те често не са безплатни. 00:09:19.000 --> 00:09:21.000 Даже са много скъпи, няколко от тях. 00:09:21.000 --> 00:09:25.000 Тоест обикновеният потребител остава контекста да преценява. 00:09:25.000 --> 00:09:27.000 Колкото и да разчитаме на критичното мислене, 00:09:27.000 --> 00:09:35.000 когато материалът, който ни се представи, е с идеален звук при покриващ дадена известна личност, 00:09:35.000 --> 00:09:39.000 с идеален образ при покриващ образа на тази личност, 00:09:39.000 --> 00:09:42.000 наистина става неразличимо кое е истина и кое е лъжа. 00:09:45.000 --> 00:09:47.000 Това също е политическа пропаганда, 00:09:47.000 --> 00:09:51.000 но не от вида, който повечето хора могат да разпознаят. 00:09:51.000 --> 00:09:54.000 Тези генерирани с изкуствени интелект идеи 00:09:54.000 --> 00:09:56.000 се разпространяват в цяла Европа. 00:09:56.000 --> 00:10:03.000 Включително през български акаунти. 00:10:03.000 --> 00:10:05.000 Тяхната цел е да изградят идеализиран образ на руската култура, 00:10:05.000 --> 00:10:06.000 като подготвят публиката за следващото послание. 00:10:06.000 --> 00:10:10.000 Родината на тези красиви хора няма как да прави грозни неща. 00:10:10.000 --> 00:10:15.000 Генеративният изкуствен интелект поставя много етични предизвикателства. 00:10:15.000 --> 00:10:19.000 Преди дни официалният профил на Белия дом, Флекс, 00:10:19.000 --> 00:10:25.000 пусна снимка на жена, задържана от службата ICE за организиране на протести. 00:10:25.000 --> 00:10:29.000 Журналистическо разследване показва, че снимката е манипулирана, 00:10:29.000 --> 00:10:34.000 за да изглежда жената с по-тъмен цвят на кожата и по-агресивна. 00:10:34.000 --> 00:10:37.000 Когато една такава технология бъде пусната, 00:10:37.000 --> 00:10:40.000 грубо казано, сред населението, 00:10:40.000 --> 00:10:43.000 без абсолютно никакви установени правила, 00:10:43.000 --> 00:10:47.000 защото това трябва да се има предвид към момента за изкуствени интелекти. 00:10:47.000 --> 00:10:51.000 Има много, много, много малко рестрикции при създаването на едно такова клипче. 00:10:52.000 --> 00:10:58.000 Етиката постава в рамките на моралния кодекс на създателя на въпросното клипче, 00:10:58.000 --> 00:11:03.000 или това за какво ще се използва, къде ще се публикува, кой ще го гледа. 00:11:03.000 --> 00:11:05.000 Тук идва точно основният проблем, 00:11:05.000 --> 00:11:08.000 че всъщност ние не проведохме този диалог, 00:11:08.000 --> 00:11:11.000 преди да започнем да използваме тази технология. 00:11:11.000 --> 00:11:14.000 А тя вече е масово сред нас, навсякъде. 00:11:14.000 --> 00:11:16.000 Не много далеч във времето, 00:11:16.000 --> 00:11:21.000 изкуственият интелект ще превземе тотално информационното пространство 00:11:21.000 --> 00:11:24.000 с перфектно генерирани видеа, снимки, текстове. 00:11:24.000 --> 00:11:29.000 Преценката реално ли е това, няма да бъде лесна като в този пример. 00:11:32.000 --> 00:11:36.000 Способността да разграничаваме между факти и измислици е ключова. 00:11:36.000 --> 00:11:41.000 Това е гаранцията, че няма да попаднем в нечия въобразена реалност. 00:11:46.000 --> 00:11:51.000 Абонирайте се на нашия канал!