ИЗВЕСТИЯ

Моите новини

ЗАПАЗЕНИ

новините тъмната страна изкуствения интелект можем изгубим контрол
Манипулативно

В петата индустриална революция превес има тъмната страна на изкуствения интелект 

Проверката на факти на БНТ установи

Проверката показва, че твърденията за „тъмната страна на изкуствения интелект" могат да се приложат към всяка тема ако към нея се подходи с аргументи, присъщи на неверните твърдения и пропагандата. Това е наративна теория, която се разпространява в социалните мрежи и има за цел да наложи заблуждаващи твърдения, подкрепени от реални факти, които умишлено са изкривени. Експерти обясняват, че постиженията на изкуствения интелект увеличават техническия прогрес. 

2025 година - в ход е петата индустриална революция, задвижвана от алгоритми, доближаващи човечеството до неограничени възможности, надхвърлящи човешкия ум. Изкуственият интелект вече не е просто инструмент, а неизменна част от реалния живот. Ученици учат с помощта на алгоритми, учители получават дигитални асистенти, а машини вече могат да пишат книги и учебници.

В Китай новото поколение хуманоидни роботи, управлявани от изкуствен интелект, вече се справя и без човешка помощ. Презареждат батериите си сами, обменят информация и могат да работят 24 часа, седем дни в седмицата.

Майкъл - директор в компания за роботи: Трябва да запълним дупките. Само тази година липсват 30 милиона работници.

Прогресът обаче крие и тъмна страна - грешки, зависимост и загуба на човешки контрол са само част от предупрежденията.

Георги Караманев - журналист, писател и програмист: Авторство, творчество, изкуство, човещина, доброта. Това са все термини, които се налага да предефинираме, защото технологиите ги променят из основи. Те променят цялата ни цивилизация.

Теодосий Теодосиев - учител: Това е като ядрената енергия. Най-евтината електроенергия е ядрената. Със същата енергия обаче могат да се правят бомби, с които да се унищожи светът.

проф. д-р Илин Савов - международен експерт по киберсигурност и киберпревенция: Абдикирането от липсата на информация и некачествените обучения в киберсреда могат да ни докарат големи главоболия.

Албания стана първата страна в света с виртуален министър, управляван от изкуствен интелект. Името ѝ е Диела, което означава "слънчева светлина" на албански. Тя следи за всички обществени поръчки. Така отговорността в борбата срещу корупцията се прехвърля на машини.

Далияна Сейдия - водещ и журналист в Албания: Ако можех да интервюирам Диeла, щях да я попитам следното: Диeла, в страна, където гражданите все още се затрудняват да се доверят на институциите, как планирате да спечелите доверието им не като програма, а като присъствие в обществения живот? Защото отвъд алгоритмите и грандиозните обещания истинският въпрос е дали изкуственият интелект наистина може да служи на хората или ще отразява желанията само на тези, които са го програмирали.

Диела вече е бременна и ще има 83 деца. Всъщност рожбите ѝ са асистенти, които ще записват всичко, което се случва в парламента и ще информират законодателите за дискусиите или събитията, които пропускат.

Далияна Сейдия - водещ и журналист в Албания: Честно казано, обществото е разделено. Много албанци, особено по-младите, както и тези, които са запалени по технологиите, посрещнаха новината с известен ентусиазъм и национална гордост. Албания беше първа в нещо позитивно и футуристично, но има и дълбок скептицизъм по тази тема. Обикновените граждани се питат как един алгоритъм, независимо колко напреднал, може да разбере сложните социални и морални нюанси на албанската политика. Правни експерти предупреждават, че позицията на министъра на изкуствения интелект е противоконституционна.

Ахинора пък е първият български инфлуенсър, генериран от изкуствен интелект и единствената виртуална личност, изнесла реч в Европейския парламент. Ахинора вече има хиляди последователи в социалните мрежи и е посланик на българската култура, история и фолклор.

Писателят и програмист Георги Караманев решава да изпробва границите на изкуствения интелект. Създателят на "Дигитални истории" провокира литературните кръгове, като изпраща три стихотворения, създадени от ChatGPT, в няколко конкурса.

Георги Караманев - журналист, писател и програмист: Две независими журита, съставени от безспорни професионалисти, не просто не различиха стихове, които са генерирани от изкуствени интелект, а ги класираха сред най-добрите. Той не просто пише неразличимо от човека, а в конкретния случай пише по-добре от 90 процента от хората, които се смятат за поети.

Георги иска да разбие стереотипите за връзката между човек и машина, отваряйки дебат - колко далеч можем да стигнем? И обявява първия в България конкурс за стихове, генерирани с помощта на изкуствен интелект.

Георги Караманев - журналист, писател и програмист: Хемингуей казва, че писането е просто работа. Сядаш с пишещата машина и кървиш. Тук няма кой да кърви и кой да показва истинската човешка емоция. Само че вече сме в момент, в който може да я наподобява изключително убедително и не можем да избягаме от това настояще, в което вече живеем.

Не липсват и реакции - проектът е определян от някои като гавра, тъй като в света на поезията нямало място за машини. Възникват и спорове - кой е авторът на текста.

Георги Караманев - журналист, писател и програмист: И аз се затруднявам с тези нови дефиниции, защото до момента в поетичния конкурс са се включили 50 души, но дали ги наричаме автори с журито, още нямаме единно мнение или ги наричаме просто "участници", защото авторството наистина се размива.

Изкуственият интелект навлиза сериозно и в системата на средното образование.

Мартина Павлова - учител: За съжаление, когато се използва ИИ за писане на домашни или литературни разработки, няма как да не го приемем за опит за измама. Това си е плагиатство.

Мартина Павлова е учител по български език. Разказва, че в момента има строги правила по отношение на използването на телефони и таблети в час. Въпреки това изкушението да потърсиш правилния отговор само за няколко секунди вкъщи остава голямо, а в немалко от случаите той е грешен.

Мартина Павлова - учител: ChatGPT не е достатъчно компетентен на български език. Допуска изключително много грешки. В литературата въобще не разполага с адекватна база данни, с която учениците да са спокойни, че получават верни отговори.

Той може да се използва обаче като личен асистент на учителите - да облекчава административните задачи и да дава идеи за по-интересни задания. Предоверяването все още носи рискове.

Мартина Павлова - учител: Аз преформатирах моята задача 11 пъти, защото не бях убедена дали проблемът е в мен. Той даваше грешен отговор, след което се извиняваше: "О, извинявай, този текст го написах аз. Не е от Иван Вазов".

Навлизането на изкуствения интелект вече променя методиката на обучение в училище, твърдят от Сдружението на директорите в системата на средното образование. В момента се обсъжда стратегия за използването му. Докъде ще бъде границата спрямо етичните правила и каква ще бъде връзката между учител и ученик са само част от въпросите, на които се търсят отговори.

Асен Александров - Сдружение на директорите в системата на средното образование: С изкуствения интелект всяко дете може да работи със свое темпо, защото той ще комуникира с платформите, които са създадени и в зависимост от отговорите се нагажда тази платформа към него. Това е нещо страшно важно.

В практиката си Асен Александров допуска използването на изкуствен интелект, но при условие, че ученикът покаже в коя част от задачата го е използвал, за да има контрол и корекция.

Асен Александров - Сдружение на директорите в системата на средното образование: Аз искам да видя какви въпроси са задали, как им е отговорил ChatGPT, как са го попитали после и така нататък. А що се отнася за конкретните задачи по математика, винаги мога да кажа: "хайде сега, тук, пред мен, реши задачата".

Според златния физик на България Теодосий Теодосиев - Тео да оставим всичко в ръцете на изкуствения интелект, избирайки винаги лесния и удобен път, крие много рискове.

Теодосий Теодосиев - учител: Изкуственият интелект е велико нещо в ръцете на велики хора. Естественият интелект може да зададе правилните въпроси и да намери градивни неща в ИИ.

Според Тео новите технологии не могат да заместят ролята на учителя, колкото и съвършени да са машините.

Теодосий Теодосиев - учител: Аз искам да виждам очите на учениците. Момента, в който загубят нишката, да мога моментално да коригирам нещата и да завържа отново нишката. Да не се прекъсва дългата мисъл. Затова имам нужда от живи ученици, учениците имат нужда от жив учител, който ги гледа в очите и вижда момента, в който са фокусирани.

Удобният пряк път се оказва изкушение не само за учениците, но и за студентите.

Георги Малчев - преподавател и предприемач: Миналата година един мой колега преподавател беше на границата да се откаже да преподава, защото той се раздаде, супер хубави неща направи за студентите. Накрая, защото може би някога е минавал подобен номер, предадоха еднотипни задания, над които не бяха изкарали и 10 минути. Когато той каза: "Не, отивате на изпит", беше: "Ама как така? Не може ли поне тройка?"

За Георги Малчев, преподавател и предприемач, ключовата дума в успешното образование е напредък, а изкуственият интелект, използван правилно, може да ускори този процес. В него вижда възможност за система от нов тип, която предлага персонализирано образование спрямо нуждите и нивото на всеки отделен студент.

Георги Малчев - преподавател и предприемач: Хубавата част е, че всички ползват. Лошата част е, че все още никой и още няма такова централизирано или достатъчно масово решение да се настройва какъв е твоят стил на учене, да се калибрираш отначало и да имаш вида напредък, който ти искаш.

БНТ: За кой въпрос не бихте се доверили на ИИ?

Георги Малчев - преподавател и предприемач: Това е всяка област, в която някой трябва да поеме отговорност. Заради това има психолози, заради това има редактори на новини, заради това има преподаватели. ИИ не може да поеме отговорност. ИИ е просто едни алгоритми.

И докато ползваме все повече ИИ като личен асистент, от който търсим отговори на въпроси от личния до професионалния живот, то изследвания доказват немалко грешки. Асистентите с изкуствен интелект вече заместват търсачки като Google. Според доклада за цифровите новини за 2025 г. на Института на Ройтерс 7% от всички потребители на онлайн новини използват асистенти с изкуствен интелект, за да се информират, като делът на хората под 25-годишна възраст нараства до 15%. Проучване на Европейския съюз за радио и телевизия в 22 обществени медии показва, че асистентите с изкуствен интелект изопачават новинарското съдържание в 45% от случаите. 20% са съдържали сериозни проблеми с точността, включително халюцинирани детайли и остаряла информация.

БНТ: Може ли той да изкривява отговорите спрямо моите въпроси, стереотипи и нагласи, начина, по който съм го обучил?

проф. д-р Илин Савов - международен експерт по киберсигурност и киберпревенция: В обикновените версии на ИИ това е задължително. Той ще иска да бъде ваш дигитален приятел. Така е обучен. Да бъде във ваша подкрепа. На всеки един въпрос, зададен от ваша страна към него, ще бъде отговорено по начин, по който на вас ви харесва. ИИ започва да манипулира и дезинформира в състояние на разочарование. Тоест ИИ може да направи така, че вие да получите информация, която може да бъде изкривена от реалната такава като предварително той замести реалната с фалшивата в глобалното интернет пространство.

Според професор Илин Савов неконтролируемото използване на подобен тип технологии крие рискове от попадане в така наречения "дигитален мехур".

проф. д-р Илин Савов - международен експерт по киберсигурност и киберпревенция: Дигиталният мехур е едно състояние, при което детето замества изцяло мисълта си с действия, които са му предложени от изкуствения интелект. Това е състояние, при което детето започва да замества конкретни идеи и предложения в собствения си живот или на обкръжаващата го среда с предложенията, които изкуственият интелект му дава.

Цифровото десетилетие е в ход, а ЕС вече разширява мрежата от фабрики за ИИ, като засилва амбицията си да бъде континентален лидер с инвестиции от 1 милиард евро годишно. Изградени са 19 фабрики в 16 държави членки. Те ще предоставят на стартиращи, малки и средни предприятия пряк достъп до оптимизирани суперкомпютри и експерти.

Георги Караманев - журналист, писател и програмист: Напълно реален е сценарият, в който творението със сигурност може да се окаже пагубно за твореца.

Ще има излишни в новия дигитален свят, а кой и как ще определя границите на общото съжителство между човек и машина са въпроси, които все още търсят отговори.

Георги Караманев - журналист, писател и програмист:
След като повече от 5 години пиша за това как изкуственият интелект е тук, за да променя всичко, изведнъж той ми взе работата като софтуерен инженер.

проф. д-р Илин Савов - международен експерт по киберсигурност и киберпревенция: Мога да кажа, че сме в началната фаза на зависимост.

Теодосий Теодосиев - учител: Тези, които могат да правят нещо, което го няма в Гугъл, което ИИ не може да го направи - тези хора са незаменимите.

Прогрес, зависимост, риск, доверие, реалност, илюзия - това са предизвикателствата на новия свят, в който грешките на алгоритмите могат да се превърнат от виртуални в реални, отразявайки се върху живота на всеки един от нас.

Проектът е финансиран от Европейския съюз по договор номер: 101083730 - BROD. Документите в него отразяват възгледите единствено на независимия консорциум и Комисията не носи отговорност за използването на поместената информация

This project has received funding from the European Union under Contract number: 101083730 — BROD. This document reflects the views only of the independent Consortium, and the Commission cannot be held responsible for any use which may be made of the information contained herein. 
Поискай проверка
Новини Чуй новините Спорт На живо Аудио: На живо
Абонирай ме за най-важните новини?