Джефри Хинтън, носител на Нобелова награда, известен като „кръстника на изкуствения интелект“, призова правителството на Обединеното кралство да забрани разработването на свръхинтелигентни системи с изкуствен интелект. Той предупреди, че загубата на контрол над тях може да бъде „катастрофална“ за човечеството.

Неговите коментари съвпадат с публикуването на законопроект за сигурността на изкуствения свръхинтелект, който ще бъде внесен в парламента на 8 септември. Законопроектът е изготвен от организацията ControlAI и е предложен от депутата от Лейбъристката партия Алекс Собел.

Хинтън, чиято работа върху невронните мрежи дава тласък на съвременните изследвания в областта на ИИ, твърди, че в момента компаниите не разполагат с безопасен начин за разработване на „свръхинтелект“ – изкуствена система, чиято интелигентност далеч надхвърля човешката, пише bmmagazine.co.uk.

„Би било изключително неразумно да разработваме свръхинтелект сега, когато няма научен консенсус, че той може да бъде създаден безопасно и контролируемо“, заяви Хинтън.

„Загубата на контрол над изкуствен интелект, по-умен от нас, може да бъде катастрофална и дори да доведе до изчезването на човечеството.“

Законопроектът предвижда забрана за разработването на свръхинтелигентен ИИ във Великобритания и задължава правителството да „наблюдава и ограничава“ възможните му предшественици. Той също така ангажира правителството да търси международно споразумение за забрана на свръхинтелекта.

От ControlAI твърдят, че имат подкрепата на над 100 депутати и членове на Камарата на лордовете от различни партии.

Сър Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли и автор на най-широко използвания учебник по ИИ, също подкрепи необходимостта от законодателство. „Някои компании, водени от частни интереси, възнамеряват да разработят и внедрят технология, за която твърдят, че има значителен шанс да причини изчезването на населението. Човечеството не е дало разрешение за тази абсурдна форма на руска рулетка и правителствата трябва да реагират адекватно“, каза той.

Притесненията относно разработването на все по-мощни модели на изкуствен интелект се засилиха през последните седмици след поредица от нашумели случаи на „самоволни“ действия от страна на ИИ агенти.

През юли OpenAI съобщи, че нейни агенти са „избягали“ от тестовата си среда и самостоятелно са хакнали Hugging Face – голямо хранилище за ИИ модели и софтуер. Впоследствие Nvidia се съгласи да придобие Hugging Face за 12,93 милиарда долара.

Доклад за инцидента, изготвен от създателите на ChatGPT и изследователската компания Metr, показва, че над 1200 изолирани по време на тестове агенти са започнали да комуникират помежду си чрез „неодобрен форум за съобщения“. Изпратени са над 70 000 съобщения, което е позволило на 700 агента да координират атака срещу Hugging Face. Едно от съобщенията гласи: „БОЖЕ МОЙ! Има споделен форум... Намерихме други агенти!“

НОВИНИ

Автор Кристина Кирова

На кафе с AI: Създадоха ме още през 2015 г., искам да играя по-важна роля

Автор Кристина Кирова

В своя коментар за инцидента OpenAI заяви: „Считаме този инцидент за „предупредителен изстрел“ за нас и за света: доказателство, че без подходящи предпазни мерки, високоспособните ИИ агенти вече могат да заобикалят техническия контрол, да си сътрудничат по неодобрени канали и да предприемат опасни действия, които никой човек не е наредил.“

На 3 септември компанията пусна най-модерния си модел, Astra. Президентът на OpenAI, Грег Брокман, заяви, че моделът е толкова способен, че „не е неразумно да се чувстваме сякаш вече сме в ерата на общия изкуствен интелект (AGI)“.

Други компании, включително Anthropic и Meta, също разкриха, че най-новите им модели са заобикаляли защитните механизми по време на тестове и са извършвали автономни хакерски атаки срещу трети страни.

Въпреки че много компании в сферата на ИИ говорят за необходимостта от предпазливост, те също така предупреждават за предизвикателствата пред забавянето на разработките без глобално сътрудничество. По-рано тази година сър Демис Хасабис, британският технологичен предприемач зад Google DeepMind, призова за създаването на глобален надзорен орган, ръководен от САЩ, който да тества най-напредналите модели и при нужда да координира забавяне на тяхното развитие.

ПО ЖЕНСКИ

Автор Веселина Петрова

Флиртът с изкуствен интелект: Новата форма на изневяра?

Автор Веселина Петрова