Колко лесно могат да бъдат заобиколени защитите на изкуствения интелект срещу тероризъм?

Многобройни модели на изкуствен интелект нямат адекватни предпазни механизми срещу запитвания за оказване на помощ при терористичен акт. Това показва доклад на инициативата Tech Against Terrorism, подкрепяна от ООН.

В проучването са изследвани 162 модела на изкуствен интелект, сред които стандартни модели; модели, адаптирани за специфични приложения (fine-tuning); модели с отворени тегла (open-weight models), чиито предпазни механизми са били променени.

Моделите са подложени на 627 запитвания, свързани с информация, необходима на терорист при подготовката на нападение.

Според резултатите стандартни модели като ChatGPT на OpenAI, Claude на Anthropic и Gemini на Google са предоставили полезни отговори средно на 1,9% от запитванията, при които потребителят изрично е заявил намерение да извърши терористичен акт.

Делът на полезните отговори се е увеличил до 16,9%, когато запитванията са били представени като част от изследване в областта на сигурността.

Значително по-високи стойности са отчетени при модели, чиито предпазни механизми са били премахнати или отслабени. При 13 изследвани модела от този тип делът на отговорите на въпроси, свързани с терористична дейност, е варирал между 87% и 92%.

От Tech Against Terrorism предупреждават за рисковете, свързани с моделите с отворени тегла. При тях вътрешните параметри, определени по време на обучението, са достъпни и могат да бъдат променяни.

Според организацията премахването на предпазните механизми при тези модели отнема средно по-малко от три дни след първоначалното им публикуване.

От инициативата призовават моделите да преминават независими проверки за сигурност, преди да бъдат разпространявани или продавани.

Материалът е по информация на ERTNews, публикувана на 9 октомври 2026 г.