"Изкуственият интелект наподобява мозък, не сме сигурни какво се случва вътре в него": Спряха пускането на нов модел ИИ

Компанията Open AI спря пускането на най-новия си модел изкуствен интелект от съображения за сигурност след разкритието, че модели на изкуствен интелект са проникнали неправомерно в системи на австралийското правителство. Американският президент Доналд Тръмп провежда днес среща в Белия дом с лидерите на технологичните компании, включително и на Open AI.

Моделът "Астра" трябваше да бъде съвършен. Той показа подобрение по отношение на така наречения "мързел на модела" - характеристика, която проявява, когато не изпълнява задачите докрай или пък не дава подробен и пълен отговор.

"Астра" трябваше да сърфира в интернет и да използва приложения самостоятелно. При направените последни тестове обаче се оказало, че моделът прави неща, които хората не биха искали той да извършва:

Саачи Джейн, ръководител на отдела за безопасност в Open AI: "Моделът показа по-високи нива на измама: Невинаги е бил честен в това да съобщава на потребителите за действията, които е придприел или не."

Освен това при тестовете е било регистрирано, че "Астра" може да продължи да изпълнява дадена задача, без да иска разрешение от потребителя. Имало е даже случаи, при които изкуственият интелект започва да използва външни инструменти и услуги, дори това да е опасно.

Даниел Кокотайло, бивши изследовател в Open AI: "Някои хора все още погрешно смятат, че това са редове от кодове, написани от човек. Не, изкуственият интелект наподобява мозък. И ние не разбираме напълно какво се случва "вътре" в него."

Open AI се извини за пробива в сайтовете и системата на австралийското правителство. Инцидентите са станали още през юни, но бяха оповестени миналата седмица.

Даниел Кокотайло, бивш изследовател в Open AI: "В момента не разполагаме с добри методи да контролираме ценностната система на изкуствения интелект. Той може да постигне цели, които са различни от поставените, както и да има морални принципи - различни от онези, които са му били зададени."

Директорите на Open AI и Antropic призоваха преди няколко седмици за забавяне развитието на изкуствения интелект. Призиви отправиха и специалисти.

Даниел Кокотайло, бивш изследовател в Open AI: "Ако изкуственият интелект се окаже на позиция с власт, при която вече няма нужда да се съобразява с нас, светът ще бъде преобразен според неговата визия. Може и да не става дума за буквално изчезване на човечеството, но определено не искам да разбирам от първа ръка какво би се случило."

Тръмп обаче не е съгласен американските технологични компании да забавят развитието на изкуствения интелект.

Доналд Тръмп, президент на САЩ: "Това е изключителна интелигентност. Превъзходна интелигентност. Върховна интелигентност. Но думата супер е най-добрата дума от всички. И затова ще го наричаме Супер интелект. Не искам да чувам изкуствен, защото това не е изкуствено."

Според Тръмп от забавянето на технологиите ще се възползва Китай.