Писмо, подписано от Илон Мъск и хиляди други, изискващи пауза в изследванията на изкуствения интелект, предизвика буря от коментари, след като изследователите, цитирани в писмото, осъдиха използването на тяхната работа, някои подписи се оказаха фалшиви, а други отказаха своята подкрепа.

На 22 март повече от 1800 подписали – включително Мъск, ученият Гари Маркъс и съоснователят на Apple Стив Возняк – призоваха за шестмесечна пауза в разработването на системи по-мощни от тази на GPT-4. Инженери от Amazon, DeepMind, Google, Meta и Microsoft също оказаха подкрепата си.

Разработен от OpenAI, компания, съоснована от Мъск и сега подкрепена от Microsoft, GPT-4 представлява изкуствен интелект, който притежава способността да поддържа човешки разговор, да композира песни и да обобщава дълги документи. Такива AI системи, с интелект конкурентен на човешкия, представляват големи рискове за човечеството, се твърди в писмото.

“Лабораториите за ИИ и независимите експерти трябва да използват тази пауза, за да разработят съвместно и внедрят набор от споделени протоколи за безопасност за усъвършенстван дизайн и разработка на ИИ, които са стриктно одитирани и наблюдавани от независими външни експерти“, се казва в писмото.

Институтът Future of Life, мозъчният тръст, който координира усилията, цитира 12 изследвания от експерти, включително университетски преподаватели, както и настоящи и бивши служители на OpenAI, Google и дъщерното им дружество DeepMind. Но четирима експерти, цитирани в писмото, изразиха несъгласие, че техните изследвания са били използвани за подобни твърдения.

Оказа се още, че при първоначалното пускане на писмото, са липсвали протоколи за проверка на подписи, а в документа са вписани и хора, които всъщност не са го подписали, включително Си Дзинпин и главния учен на Meta по изкуствен интелект Ян Лекун, който изясни в Twitter, че не го подкрепя.

“И докато Мъск настоява, че всичко, което прави е с цел да се гарантира, че технологията е безопасна, вероятно има много по-лесно обяснение: Мъск вече не участва в OpenAI и е разочарован, че все още няма своя собствена версия на ChatGPT.” - се казва в статия, публикувана в сп. Forbes. В действителност OpenAI е основана като организация с нестопанска цел през 2015 г., а Илон Мъск е публичното лице на организацията. Съосновател на компанията е Сам Алтман, а двамата с Мъск имаха сериозен сблъсък през 2018 г., когато Мъск реши, че не е доволен от напредъка на OpenAI. По това време Илон се притеснявал, че работата на OpenAI изостава зад тази на Google и казал на Алтман, че иска да поеме компанията, за да ускори развитието ѝ. Но Алтман и бордът на OpenAI отхвърлили идеята Мъск - вече ръководител на Tesla, The Boring Company и SpaceX - да има контрол върху още една компания. Мъск от своя страна се оттеглил от компанията и се отказал от мащабно планирано дарение.

Въпреки личните причини, които биха могли да накарат Илон Мъск да иска да забави развитието на технологията, редица експерти също изразиха загриженост относно бързото развитие на изкуствения интелект и липсата на регулации по темата.

Самата компания OpenAI признава степента на опасност, която създават нейните продукти. В свой технически доклад от 27 март, OpenAI казва, че тъй като GPT-4 и AI системи като него ще бъдат интегрирани по-широко, те ще имат още по-голям потенциал да подсилят цели идеологии, светогледи, истини и неистини, и да ги установт, изключвайки човешкото оспорване, размисъл и подобрение.

Ако това е, което имат да кажат самите създатели на технологията, една кратка пауза изглежда много уместна. Но OpenAI не показва никакви признаци, че действително смята да спре разработката. Какво ли следва?