Дали изкуственият интелект ще бъде най-голямото постижение на човечеството, или последната му грешка? В този въпрос няма нищо хиперболично, когато идва от човек като Илон Мъск – предприемачът зад Tesla и SpaceX, който от години стои едновременно в авангарда на технологиите и в ролята на техен критичен наблюдател.

По време на показания в съдебен процес, направени преди броени дни в Калифорния, Мъск формулира една тревожна, но трудно пренебрежима теза, а именно, че изкуственият интелект не е просто инструмент, той е сила, която може да преобърне самите основи на човешкото съществуване. Според него, ако бъде оставен без контрол или разбиране, AI може не просто да ни измести, а да ни елиминира.

Това предупреждение не идва от страх от новото, а от наблюдение върху скоростта, с която се случва развитието. Мъск твърди, че моментът, в който машините ще надминат човека, не е научна фантастика, той „наближава бързо“. Именно тук се оформя дилемата ще изградим ли симбиоза с интелекта, който създаваме, или ще станем излишни в собствената си еволюция?

Getty

Когато идеалът срещне конкуренцията

Иронично или не една от организациите в центъра на този дебат е OpenAI, съоснована от самия Мъск с идеята да работи в полза на човечеството. Днес той твърди, че компанията се е отклонила от първоначалната си мисия и се е насочила към комерсиални цели. По думите му изкуственият интелект в крайна сметка ще надмине хората и че този ден „наближава бързо“. „Изключително съм загрижен за изкуствения интелект, отдавна се притеснявам“, каза той, обяснявайки, че „ако постигнем симбиоза между изкуствения интелект и хората, можем да създадем изкуствен интелект, който е по-добър за човечеството“.

Зад този конфликт прозира по-дълбок въпрос – може ли етика да съществува устойчиво в среда, доминирана от технологична надпревара?

Фантастиката като предчувствие за реалността: Уроците на Азимов

Любопитно е, че много преди изкуственият интелект да излезе от лабораториите и да влезе в реалния свят, авторите на научнофантастичната литература вече са предвидили подобни дилеми, изразявайки своите опасения за бъдещето. Айзък Азимов, един от най-влиятелните писатели на научна фантастика, формулира т.нар. Три закона на роботиката – опит да се наложи морална рамка върху изкуствения интелект:

1. Роботът не може да нарани човек или чрез бездействие да позволи човек да бъде наранен.

2. Роботът трябва да се подчинява на заповедите на хората, освен ако те противоречат на първия закон.

3. Роботът трябва да защитава собственото си съществуване, стига това да не противоречи на първите два закона.

Парадоксът на подчинението – или когато машината не може да избере

На пръв поглед Трите закона на роботиката изглеждат като почти перфектна морална система – ясни, логични и непротиворечиви. Но още в ранните разкази на Айзък Азимов, като „Гоненица“ („Runaround“) от сборника „Аз, роботът“, става ясно, че проблемът не е в нарушаването на правилата, а в техния сблъсък. В разказа роботът СПД-13 (известен като „Пауъл и Донован роботът“ – SPD-13) е изпратен да добива селен на Меркурий. Когато възниква авария, той се приближава до източника на опасност, но се оказва блокиран между два императива – вторият закон – да се подчинява на човешките заповеди (които го карат да изпълнява задачата), и третият закон – да защитава собственото си съществуване (заради опасното излъчване около него).

Резултатът е парадокс – роботът започва да се движи в кръг, буквално гонейки противоречивите приоритети, без да може да вземе решение. Той не нарушава нито един закон – просто попада в логическа блокировка, в която всяко действие едновременно е и правилно, и невъзможно.

Именно тук Азимов прави нещо ключово , като показва, че опасността не е в бунта на машината, а в нейната безпогрешна логика, която може да се окаже безпомощна пред сложността на реалния свят.

Това е прозрение, което остава актуално и днес. Проблемът не е злонамереността на изкуствения интелект, а начинът, по който формалните правила се сблъскват с непредвидими ситуации, които не могат да бъдат напълно кодирани предварително.

Двете визии за бъдещето на Мъск: Страх или надежда

Връщайки се към опасенията, които Мъск излага пред съда, той прави ясно разграничима културна аналогия, за да илюстрира възможното бъдеще. От едната страна стои мрачният свят на „Терминатор“, доминиран от неконтролируеми машини. От другата – оптимистичната визия на „Стар Трек“, където технологиите служат като продължение на човешкия потенциал, а не като негова замяна.

„Човечеството трябва да избягва мрачно бъдеще, подобно на това, изобразено във филмите за „Терминатор“, и вместо това да се стреми към по-надеждна визия, вдъхновена от „Стар Трек“, заявява бизнес магната.

НОВИНИ

Автор Антония Михайлова

AI даде живот: Родиха се първите 19 бебета от изкуствено създадени ембриони

Автор Антония Михайлова

Между утопията и риска

Интересен детайл от разказите на Мъск е разговорът му с Лари Пейдж от Google. Докато Пейдж вижда в изкуствения интелект бъдеща утопия, Мъск остава обезпокоен от липсата на внимание към рисковете. Тази разлика в перспективите отразява по-широкото разделение в технологичния свят – оптимизъм срещу предпазливост.

Истината вероятно е, че и двете са необходими. Без оптимизъм няма иновации. Без предпазливост няма оцеляване.

И ако има едно нещо, върху което си струва да се замислим сериозно, то е, че най-голямата опасност не се крие в самите технологични постижения, а в нашата склонност да ги подценяваме и да поставяме материалното облагодетелстване над безопасността и дългосрочните последици. Затова въпросът не е просто какво може да направи технологията, а какви граници ние сме готови да ѝ поставим – навреме и с достатъчна сериозност и отговорност за бъдещето.