Заплахата "Изкуствен интелект" – дали технологията ще заличи човечеството?

Хората, които разработват Изкуствен интелект се опасяват, че той може да погуби човечеството до края на десетилетието. Това твърдение на един от водещите изследователи на технологията отново събуди страховете за потенциалните вреди от нея. Призиви за забавяне на темпото и обуздаване на надпреварата при разработване на Изкуствен интелект дойдоха от учени, от директори на водещи компании и от ООН.

Броени дни след като напусна поста си изследовател на Изкуствен интелект в компанията "Антропик", Джейкъб Коксън даде гласност на притесненията си за влиянието на технологията в интервю за BBC.

Джейкъб Коксън, изследовател в областта на ИИ: Вярвам, че ако не забавим темпото, предвид сегашния ход на развитието – да, съществува голяма вероятност всички ние да загинем в близко бъдеще.

Водещи разработчици на изкуствен интелект разкриха, че техни модели са излезли извън средата си и са проникнали в системите на други компании по време на тестове за киберсигурност. Компанията "Антропик" представи данни за злоупотреба с нейния модел Claude, използван за дейности като разработване на оръжия, кибероперации, наблюдение и измами.

Джейкъб Коксън, изследовател в областта на ИИ:
Хората, работещи в тези компании, се чувстват уловени в капана на една надпревара и се страхуват от нейните последици.

Изпълнителният директор на "Антропик" Дарио Амодей предложи план за забавяне - включване на независими оценители с достъп до системите за проверка на мерките за безопасност; координация между компаниите за определяне на стандарти за безопасност и международно сътрудничество за управление на рисковете, свързани с ИИ. Илън Мъск и изпълнителният директор на OpenAI Сам Алтман изразиха съгласие с Амодей. Призив за спешни действия отправи и върховният комисар на ООН за правата на човека.

• Надпреварата за изкуствения интелект: Кой и как ще управлява технологията?

Фолкер Тюрк, върховен комисар на ООН по правата на човека:
Надпреварата за създаване на все по-мощни системи с изкуствен интелект представлява съществен поврат към нарастващи рискове за всеки аспект от живота ни. Застрашени са всички човешки права, включително правото на живот и храна, на личен живот, здраве и сигурност.

Пекин изрази несъгласие с представянето на технологията в негативна светлина.

Гуо Дзякун, говорителят на китайското МВнР:
Разпространяването на тези, представящи технологията като заплаха, само ще възпрепятства процеса на глобално управление на изкуствения интелект.

Реакция, която напомни за позицията на американския президент Тръмп, който по-рано заяви, че се притеснява само дали страната му ще спечели състезанието за изкуствения интелект.