Компютрите ще променят бъдещето. Как да сме сигурни, че ползите надделяват над рисковете?

„Създаването на завършен изкуствен интелект може да сложи край на човешката раса“, предупреждава Стивън Хокинг. Елон Мъск се опасява, че развитието на изкуствения интелект може да бъде най-голямата заплаха за съществуването на човечеството. Бил Гейтс призовава хората да внимават с него.

Страхът, че чудовищата, създадени от хората, ще станат техни господари или палачи, не е нищо ново под слънцето. Но изразени от известен космолог, от предприемач от Силициевата долина и от основателя на Майкрософт - всичко друго, но не и противници на технологичния прогрес - и насочени срещу огромните инвестиции в изкуствения интелект от големи компании като Гугъл и Майкрософт, тези страхове придобиха ново значение. Със супер компютрите в джоба на всеки и роботите, наблюдаващи бойното поле, да ги отхвърлим просто като научна фантастика изглежда пълна самозаблуда. Въпросът е как да се тревожим разумно.

Стотици водещи учени предупреждават за опасностите от изкуствения интелект

Научихте ме на език и...

Първата стъпка е да се разбере какво могат вече да правят компютрите и на какво вероятно ще бъдат способни в бъдеще. Благодарение на скока на процесорната мощ и нарастващото богатство от достъпни дигитално данни, изкуственият интелект преживява бум на възможностите си. Като имитират слоевете неврони в човешкия мозък и поглъщат огромни количества данни, днешните „учещи се“ системи могат да се научат да изпълняват разни задачи - от разпознаване на образи до превод почти толкова добре, колкото хората. В резултат на това, неща, които някога изискваха интелект - тълкуване на изображения или играене на видеоиграта „Frogger“ - сега са във възможностите на компютърни програми. Алгоритъмът DeepFace, представен от „Фейсбук“ през 2014 г., може да разпознава отделни човешки лица с 97 процента точност.

Решаващият момент е, че тези възможности са тесни и специфични. Модерният изкуствен интелект постига подобие на интелигентност чрез груба сила на поглъщане на цифрова информация, без да се опитва по какъвто и да е начин да се приравни към това как умовете дават на хората независимост, интереси и желания. Компютрите все още не разполагат с нищо подобно на неограничената, непостоянна способност да правят изводи, да отсъждат и да вземат решения - или интелект в стандартния човешки смисъл на думата.

И все пак изкуственият интелект вече е достатъчно силен, за да допринесе с огромни постижения към човешкия живот. Вече може да подобри човешките усилия, допълвайки нещата, на които са способни хората. Спомнете си шаха, който компютрите сега играят по-добре от всеки човек. Най-добрите играчи в света обаче не са машини, а това, което гросмайсторът Гари Каспаров нарича „кентаври“: комбинацията от човешки екипи и алгоритми. Такива колективи ще се превърнат в стандарт по отношение на най-различни дейности. Подпомогнати от изкуствения интелект, лекарите ще могат значително по-добре да забелязват раковите заболявания при преглед. Алгоритми за разпознаване на реч на смартфоните ще дадат интернет на милиони неграмотни хора в развиващите се страни. Дигитални асистенти ще предлагат обещаващи хипотези при академични изследвания. Алгоритми за класификация на изображения ще позволят на преносимите компютри да предоставят полезна информация на погледа на хората върху реалния свят.

И Бил Гейтс смята, че изкуствения интелект е заплаха за човечеството

Дори и в краткосрочен план, не всички последици ще бъдат положителни. Помислете, например, за силата, която ще даде изкуственият интелект на апарата на държавната сигурност, както при демокрациите, така и при диктатурите. Способността да се следят милиарди разговори и да се разпознае само по гласа или лицето един гражданин от тълпата представлява сериозна заплаха за свободата.

И дори когато има големи обществени ползи, много хора ще изгубят от изкуствения интелект. Първоначалните „компютри“ бяха „черните“ работници, обикновено жени, които извършваха безкрайни изчисления за шефовете си. Точно както транзисторите заеха мястото им, така изкуствения интелект вероятно ще замени тълпи от чиновници. Образованието и обучението ще помогнат и състоянието, натрупано с помощта на изкуствения интелект, ще бъде изразходено за нови дейности, които ще доведат до нови работни места. Но работниците са обречени да бъдат изместени.

Стивън Хокинг предрича, че изкуственият интелект ще се превърне в заплаха за човечеството

Видеонаблюдението и изместването на хората от роботи обаче не е това, което тревожи господата Хокинг, Мъск и Гейтс, нито пък това, което вдъхновява десетките футуристични филми за изкуствен интелект, с които Холивуд отскоро наводнява кината. Тяхната тревога е като цяло по-далечна и по-апокалиптична: заплахата от независими машини със свръхчовешки познавателни способности и с интереси, противоречащи на интересите на хомо сапиенс.

Такива изкуствено интелигентни същества все още са много далеч в бъдещето; всъщност, може би никога няма да успеем да ги създадем. Макар и след век, в който ръчкаха и човъркаха из мозъка, психолози, невролози, социолози и философи все още не могат да разберат как е създаден ума - или какво точно е. И икономическата причина за съществуването на дори ограничен изкуствен интелект, който има интереси и е автономен, изобщо не е ясна. Автомобил, който се движи по-добре, отколкото ако е управляван от собственика си, звучи страхотно; автомобил със свое собствено мнение за това къде да иде - не толкова.

... Знам как да ругая

Но дори и ако перспективата за това, което Хокинг нарича „завършен“ изкуствен интелект все още е далечна, би било разумно обществото да помисли как ще се справи. По-лесно е, отколкото изглежда - не на последно място, защото хората създават автономни обекти със свръхчовешки способности и нелогични интереси от известно време. Правителствената бюрокрация, пазарите и армиите: всички те са способни на неща, които неорганизирани индивиди без чужда помощ не могат да направят. Всички те имат нужда от автономност, за да функционират, могат да придобият свой собствен живот и могат да причинят огромна вреда, ако не са основани по правилен начин и управлявани от закони и наредби.

Тези паралели трябва да утешат хората, които се страхуват, защото и предлагат конкретни методи, по които обществото да разработи безопасно изкуствения интелект. Точно както военните се нуждаят от цивилен контрол, пазарите са регламентирани и административният апарат е длъжен да бъде прозрачен и отговорен за действията си, така системите на изкуствения интелект трябва да бъдат достъпни за контрол. Тъй като софтуерните специалисти не могат да предвидят всички възможни обстоятелства, трябва да съществува и копче за изключване. Тези ограничения могат да бъдат поставени без да се прави компромис с прогреса. От ядрената бомба до правилата за движение по пътищата, човечеството е използвало техническата изобретателност и юридическите ограничения, за да обуздае и други големи нововъведения.

Идеята за евентуално създаване на автономен не-човешки интелект е толкова забележителна, че лесно може да засенчи дебата. Да, има рискове. Но те не бива да помрачават огромните ползи от раждането на изкуствения интелект.