В момента водещите системи с изкуствен интелект (AI) изискват непрекъснат човешки надзор, за да се развиват и оптимизират. На хоризонта обаче все по-ясно се очертава концепцията за т.нар. „рекурсивно самоусъвършенстване“ – хипотетична повратна точка, при която машините биха могли да се обучават и надграждат напълно автономно, пораждайки екзистенциални въпроси за бъдещето на човечеството.

Когато алгоритмите задминат най-интелигентните хора

При този сценарий изкуственият интелект достига ниво, при което може безкрайно да подобрява своите алгоритми и да конструира свои още по-способни наследници. Според Ришуб Джайн, бивш изследовател в Google DeepMind и основател на организацията за безопасност на технологиите Sampura Research, най-тревожна е скоростта на подобен процес. По думите му алгоритмите биха могли за изключително кратко време да настигнат най-интелигентните хора, което носи сериозни рискове.

Макар Джайн да определя апокалиптичните теории за „извънземен контрол над света“ като преувеличени, той изразява реално безпокойство от бързината, с която технологията може да изпревари механизмите за човешки контрол.

„Когато даден изкуствен интелект изпълнява милиони действия едновременно или управлява цяла компания, ние няма да имаме способността да проследим дали действията му са безопасни“, предупреждава Джайн. Той дава за пример потенциален мащабен срив на глобалния интернет: темпото на самообучение на AI може да надхвърли тестовете за сигурност, като например софтуерът да бъде проверен единствено за програмен код, но не и за взаимодействията му с външни уеб услуги, което да доведе до колапс на мрежата.

НОВИНИ

Автор Веселина Петрова

Експерти предупреждават: Никога не споделяйте тези 5 неща с ChatGPT

Автор Веселина Петрова

Рискове за сигурността и обществения ред

Експертът по биосигурност към Съвета за стратегически рискове Кристъл Грант посочва, че наред с огромните ползи, технологията носи сериозни опасности в сферата на киберсигурността. Според нея нападателните възможности на напреднал AI могат да се използват за масов хаос в обществото – например чрез блокиране на електропреносната мрежа в деня на важни национални избори.

Водещите технологични лаборатории също отчитат рисковете, въпреки че реализирането на подобни сценарии може да е далеч във времето. От OpenAI наскоро обявиха, че все още не е ясен безопасният път към пълно и контролирано рекурсивно самоусъвършенстване, въпреки че компанията си поставя за цел да разработи автоматизиран изследовател до март 2028 година.

Истинска заплаха или просто паника

От своя страна конкурентната лаборатория Anthropic предупреждава в официални доклади, че навлизането в такъв етап може драстично да увеличи риска хората да изгубят контрол върху машинните системи. Главният изпълнителен директор на компанията, Дарио Амодей, подчертава, че към тази сфера трябва да се подхожда с максимално внимание, ако изобщо се предприемат стъпки в тази посока.

Въпреки тревожните анализи, част от експертите в сектора запазват скептицизъм, подчертавайки, че обществената паника и сензационните заглавия около технологията значително изпреварват реалното ѝ ниво на развитие към днешна дата.