Защо се налага Европа да регулира изкуствения интелект?

"Аз съм ChatGPT, голям модел за обработка на естествения език, разработен от OpenAI. Моята цел е да помагам на хората като отговарям на техни въпроси и предоставям информация в различни области".

Така суперпопулярният напоследък ChatGPT отговаря на въпроса "Кой си ти?" ChatGPT е пример за едно от приложенията на изкуствения интелект (ИИ). Тази съвкупност от технологии ни предлага огромни възможности във всички сфери на живота. Възможности, които в някои случаи все звучат като научна фантастика.

"Макар че разполагам с богат набор от знания, важно е да се отбележи, че аз не притежавам собствено съзнание или самосъзнание, а просто анализирам текста и предоставям отговори въз основа на обучението си", казва още той.

Изкуственият интелект може да донесе много ползи – по-добро медицинско обслужване, по-безопасен и по-чист транспорт, по-ефективно производство, по-устойчиво потребление на енергия.

"Най-кошмарният сценарий, който мога да си представя, свързан с изкуствения интелект и роботиката, е свят, в който роботите са станали толкова мощни, че са в състояние да контролират или манипулират хората без тяхно знание. Това може да доведе до общество, в което правата на хората вече не се зачитат", казва хуманоидният робот Амека, създаден през 2021 г.

Това осъзнава не само Амека. Все повече се чуват и разтревожени гласове, които питат дали в определен момент машините ще спрат да се нуждаят от хората и може ли ИИ да се превърне в кошмар за човечеството. Хуманоидният робот също има мнение по темата.

"Затова е важно да сме наясно с потенциалните рискове и опасности, свързани с ИИ и роботиката. Трябва да предприемем стъпки сега, за да гарантираме, че тези технологии се използват отговорно, за да избегнем всякакви негативни последици в бъдеще."

Светът се нуждае възможно най-бързо от правила, които да регулират изкуствения интелект и да му поставят граници. Европа е напът за приеме първия в света закон за изкуствения интелект.

"Изкуственият интелект е твърде важен, за да не се регулира. Той е твърде важен, за да се регулира лошо. Един добър закон, около който всички да се обединим възможно най-скоро, трябва да бъде обща цел. И разбира се, че се нуждаем от разумни правоприлагащи мерки. Имаме нужда от правомощия, които този закон ще ни даде на практика, за да бъдат хората в безопасност", казва Маргарете Вестагер - зам.-председател на Европейската комисия.

Европейският парламент одобри своята дефиниция за ИИ и раздели областите на употребата му според степенна на риск. Подходът е човекът, а не машините са бъдат в центъра на вниманието. Европа обръща голямо внимание на етичните въпроси, за да не се стига да злоупотреби с изкуствен интелект, нарушаване на лично пространство и човешки права.

БНТ: Какви могат да бъдат последствията?

Ева Майдел - евродепутат от ЕНП, докладчик от Комисията по индустрия и иновации: Това, от което много граждани се притесняват, е, когато изкуственият интелект взима решения, вместо да ги взима например един банков служител или човек, работещ в университет, който да реши дали да приеме един студент в определена специалност. Т.е., ако на един гражданин му бъде отказан кредит от банката и това решение е взето от изкуствен интелект, ние правим така, че този закон да квалифицира тази дейност на ИИ като високорискова и гражданинът, ако не е доволен от решението, да може да разбере на базата на какво то е взето. Т.е., ако сте компания, която развива този вид изкуствен интелект, би трябвало да може да отговорите на този въпрос, да имате достатъчно документация и достатъчно прозрачност.

Освен банковият сектор и образованието, друг високорисков сектор, който използва системи с ИИ, е биометричната идентификация в реално време на обществени места. През последните години системи, които извършват лицево разпознаване, се прилагат масово: работодатели ги използват, за да наблюдават работниците си, властите, за да следят запалянковците по стадионите или пристигащи по летищата. Биометричната идентификация, която използва изкуствен интелект, може да разпознава физически, поведенчески и психологически характеристики на човека, може да следи движението на очите, изражението на лицето, гласа, дори походката, сърдечния ритъм или кръвното налягане. Така се установяване на самоличността на дадено лице на базата на сравняване на биометричните данни с тези на множество други, съхранени в база данни. Обикновено от наблюдавания не се иска съгласие лицето не дава съгласие за това.

"Въведохме нещо, което го нямаше в първоначалното предложение, а именно даваме възможност на гражданите или на потребители да възразяват, да се оплакват, в случай че не се чувстват добре заради използването на някаква технология", посочи Драгош Тудораче - румънски евродепутат от Обнови Европа и докладчик по темата

Според ЕП биометричната идентификация накърнява правата и свободите на хората и може да остави у обществото усещане за постоянно наблюдение и безконтролна власт на държавата. Евродепутатите дават за пример Китай и така наречената социална кредитна система - високотехнолотична програма, която властите използват за наблюдение, оценка и често ограничаване на правата на хората. Затова ЕП предлага напълно да се забрани използването на ИИ за лицево разпознаване и проследяване. Както и биометрично категоризиране по пол, възраст, цвят на косата, цвят на очите, татуировки, етнически или социален произход, език или религия. Това означава, че системите не трябва да се настройват да разпознават само определена група, например чернокожи хора.

"Имахме разминаване до последната минута в парламента по тази точка за ясна забрана за биометрична идентификация в реално време. Някои искаха да политизират този въпрос и да го превърнат в инструмент за пропаганда, но не успяха. Парламентът прие ясна предпазна мярка, за да се избегне всеки риск от масово наблюдение и в същото време да запазим възможността с идентификация, която не в реално време да преследваме престъпниците в обществото", каза Брано Бенифей - италиански евродепутат от Групата на социалистите, и докладчик по темата.

Европейската народна партия смята, че лицевото разпознаване в реално време все пак може да се използва в няколко случая, но засега това предложение не се приема от останалите.

"Трябва да можем да използваме изкуствен интелект или лицево разпознаване само в случаите, когато говорим за терористична атака или когато има отвлечени деца. ЕНП много ясно отстоява позицията, че в тези два случая трябва да имаме възможност нашите правоохранителни системи да могат да използват изкуствения интелект, особено в първите моменти при такива случаи", коментира Ева Майдел.

ЕП забранява и системите с ИИ, насочени към определяне на емоции, изражения на лицето, движения, честота на пулса или гласа. Различни компании вече предлагат такива технологии, които се използват от властите по границите например, на работното място, при интервю за работа или в образователни институции. Европа също така не иска и записите от видеонаблюдение и лицеви изображения да се запазват и да се създават бази данни. Изкуственият интелект може да бъде опасен и за разпространението на дезинформация, но в същото време е необходим за по-бързото ѝ откриване.

"Въпросът за дезинформацията е изключително важен. Това не е ново понятие, но в последните няколко години социалните мрежи и платформи направиха така, че дезинформацията да се разпространява по-бързо. Това, което ИИ допринася в момента към тази дискусия е, че можеш много по-бързо да генерираш съдържание, което е създадено от ИИ", коментира Ева Майдел.

Преди изборите е много важно системите с изкуствен интелект да бъдат надеждни. Създателите им също осъзнават това.

"Това е една от областите, за които съм най-загрижен: общата способност на тези модели да манипулират, да убеждават, да предоставят един към един, разбирате ли, интерактивна дезинформация. В контекст на избори и с оглед на това, че тези модели стават все по-добри, разбирам, че това е създава безпокойство", каза Сам Алтман - директор на OpenAI.

Европа ще настоява кампаниите, които генерират съдържание чрез изкуствен интелект, каквато система е и ChatGPT, да бъдат максимално прозрачни за своите алгоритми и задължително да отбелязват, че съдържанието е създадено от машина.

"Компаниите, които използват изкуствен интелект в своите услуги, като Bing на Microsoft и Bard на Google трябва да осигурят гаранции, че тези услуги няма да се използат от злонамерени хора за създаването на фалшиви новини. Компаниите, които имат услуги, разпространяващи съдържание, създадено от изкуствен интелект, трябва да създадат технологии за ясното му отбелязване и разпознаване от потребителите. Нашата основна задача е да защитаваме свободата на словото, но когато става думи за продуктите на изкуствения интелект, аз не виждам никакво основание машините да имат право на свобода на словото", посочи Вера Йоурова - зам.-председател на Европейската комисия, отговарящ за европейските ценности.

Международните компании, които не спазват правилата в ЕС, ще бъдат глобявани. Някои политици се притесняват, че прекалено строгите правила в Европа могат за изгонят технологичните компании.

"Ситуацията е критична. Някои от стартъпите или дигиталната индустрия може да си кажат, че става прекалено сложно и да напуснат Европа. Има вероятност това да се случи. Надявам се все пак да не го правят, а и ще се опитаме да постигнем по-добър резултат по време на триалозите. Няма гаранции, че това ще стане, но ще се опитаме", смята Аксел Фос - евродепутат от ЕНП, Германия.

Всички компании, които искат да продават продуктите си тук, така или иначе ще трябва да отговарят на новите регулации. Според Аксел Фос ЕП се ръководи в действията си от страхове - нещо, което никога не води до прогрес.

За да се превърнат в европейски закон, който ще важи за всички държави от общността, новите правила за изкуствения интелект ще трябва да бъдат одобрени от държавите и от Комисията. В Брюксел се надяват законът да е факт през февруари и да влезе в сила след двегодишен преходен период.

Чуйте последните новини, където и да сте!
Последвайте ни във Facebook и Instagram
Следете и канала на БНТ в YouTube