Заплаха ли е изкуственият интелект?

Изпълнителният директор на OpenAI Сам Алтман каза, че светът има право да се страхува, но трябва и да се доверява на компаниите, които се занимават с изработването на изкуствен интелект. Повечето от тях се съгласиха с това твърдение, но без да обясняват как са стигнали до това заключение. Един от големите въпроси сега е дали регулациите за умните модели да бъдат налагани отвън, или от компаниите-разработчици.

Наясно сме с мащаба на дейността си. Светът трябва да вярва, че ще постъпим правилно, каза Сам Алтман по време на пресконференция в Сан Франциско. Мнозина се опасяват, че компаниите, които се занимават с разработка на ИИ, биха могли да концентрират твърде много власт, с която да злоупотребяват.

снимка: илюстративна

Сам Алтман, изпълнителен директор на OpenAI: "Мисля, че светът има право да се страхува от това. Изправени сме пред две големи предизвикателства. Има потенциал за загуба на контрол - при инцидент, или ако нещо сериозно се обърка. И възможност за концентрация на твърде много власт, с което да се повлияе на мирогледа на хората. И имаме един много тесен път, по който да вървим - с прагматизъм и постоянство. За да може светът да ни се довери, че ще вземаме правилните решения."

Това е първата му публична изява след като бивш служител на друга компания за изкуствен интелект "Антропик", изрази опасения, че до края на десетилетие човечеството може да изчезне, ако не се забави разработването на умните модели.

Сам Алтман, изпълнителен директор на OpenAI: "Тези модели станаха добри толкова бързо, че ние трябва да се нагаждаме и да ги управляваме по нов, по-строг начин. Трябва да сме сигурни, че управлението и мониторингът ни са една крачка пред възможностите на тези модели."

снимка: БТА/Архив

Изпълнителните директори на Антропик и Енвидиа се съгласиха с предложението за забавяне на темпото на развитието на ИИ. Към подобен призив се присъедини и Илън Мъск. Повечето високотехнологични компании се обявиха за саморегулации, а не за намеса на правителството.

Дженсън Хунаг, изпълнителен директор на Nvidia: "Темпото се забавя, докато не сме сигурни, че на пазара се пуска нещо, което ще бъде оценено. Пазарната регулация вече е на лице. Не се нуждаем от нови закони. Не се нуждаем от нови регулации. Просто трябва компаниите да решат, че при необходимост, трябва да спрат възможно най-бързо ... Но ако е ясно, че един продукт не е сигурен, трябва да се направи пауза и нещата да бъдат направени по правилния начин."

Преди дни президентът Доналд Тръмп заяви, че няма нужда от забавяне темпото на развитие на ИИ и че най-важното е, САЩ да бъдат на първо място в разработването на умните модели.