Надпреварата за AI може да унищожи човечеството

Текстът е публикуван в бр. 3 (55) на сп. Business Global

Г-н Ванков, можем ли да предвидим коя ще е доминиращата технология след 20 години?

Това е много трудна задача, но все пак има няколко тренда, които са сигурни. На първо място е замяната на човешкия, повторяем труд с роботизиран или автоматизиран, а това със сигурност ще се случи не само в западните държави, а навсякъде по различни причини – икономически, социални иИван Ванков (познат с псевдонима си Гатака) е IT експерт с над 22 години опит в сектора, преминал цялата вертикала от стажант до CTO (главен технически директор). Запален е по всички технологии, които могат да улеснят хората и да направят живота на всички една идея по-лесен. През 2007 г. започва да публикува видеоуроци за програмиране на PHP в личния си дневник – нещо, което не е правено у нас до онзи момент. По-късно уроците се превръщат в платформата „Научи ме“. Освен това Иван е IBM шампион 4 пъти подред, лектор и експериментатор. Последните години активно се занимава с практическото използване и интегриране на модели за машинно обучение в реални продукти и процеси.
политически. Ще станем свидетели на глобално окрупняване и монополизиране на почти всички големи сектори. Роботиката и изкуствeният интелект (AI) и сега са почти на нужното за това ниво, но им трябва още малко.

Втората сфера, където предстоят изключително големи промени, е производството на енергия. В този период наистина ще ограничим сериозно използването на фосилните горива, но моята прогноза е, че основният им заместител ще бъде водородът. Ще има голям бум на водородните централи и въобще на цялата инфраструктура, която е необходима, за да поддържа такава глобална водородна мрежа. Тя най-вероятно няма да бъде напълно готова след 20 години, но ще е на много напреднал етап. В този преходен период важна роля ще играят малките модулни ядрени реактори. Важен напредък ще има и по отношение на ядрения синтез. Там теорията е ясна, като в момента проблемът е инженерен и той все някога ще намери решение. Друг е въпросът дали бизнес моделът за изграждане на нова подобна мощност ще е икономически конкурентен. Това ще зависи най-вече от достъпността на редкоземни елементи.

Какви ще са предимствата и недостатъците на тези технологии?

Зависи от коя гледна точка разглеждаме въпроса. По отношение на бизнеса предимствата са повече от недостатъците. Ако гледаме от гледна точка на обикновения човек, е обратно.

Да вземем за пример сегашното поколение големи езикови модели. Те вършат „хамалската“ работа, но не могат да заменят човешката креативност. Ако говорим за писане на код например, те могат да ти спестят много време, като помагат в процеса, но не могат да изградят цяла система сами. Всеки техен отговор трябва да се верифицира за халюцинации и грешки. Предимствата за бизнеса са, че на практика по-малко, но квалифицирани хора могат да вършат повече работа, тоест вдига се ефективността. Това и сега се случва в определена степен, но към момента използването на AI е по-скъпо, отколкото наемането на хора, чисто оперативно като разход най-вече заради високата цена на големите модели и нуждата от верификация на техния отговор. Но това се променя с бързи темпове и до няколко години цената ще спадне драстично. Този процес ще върви успоредно със споменатото окрупняване на бизнеси, защото икономията от мащаба ще е особено важна. Затова наблюдаваме как се правят тези огромни центрове за данни, които в бъдеще ще имат нужда от собствени ядрени централи.

Можем ли да очакваме в този период да се появи генералният изкуствен интелект, който да е по-умен от хората, и как той ще повлияе на човечеството?

Трябва да е ясно на всички, че той не може да бъде създаден от сегашното поколение модели, базирани на transformers архитектура. Трябва хората да създадат нов алгоритъм, но кога ще се появи той, никой не може да предвиди. Много хора работят и много ресурси се наливат в тази посока, но проблемът не опира до пари. Нужна е комбинация от гениалност, късмет и креативност.

А как ще се отрази, зависи от организацията, която ще го контролира. Той е виртуален, но за да има пряко влияние върху нашия живот, трябва да бъде свързан с физическите системи. Едни от най-умните хора на нашето време от години водят сериозни дискусии дали и как трябва да му се дава достъп до физическия свят. Как да се контролира. Моето мнение е, че трябва да има механизъм, който може да прекъсне тази връзка с физическия свят и моделът да няма контрол върху този механизъм.

Това е по отношение на базовата сигурност. А как този усъвършенстван изкуствен интелект ще се отрази на живота ни, ще зависи от това кой и как ще го използва. Можем да се озовем в дигитална дистопия, или въобще може да стане някакъв абсолютен тоталитаризъм. AI е инструмент и като всеки инструмент той може да се използва и за добри, и за лоши неща. Точно затова всички са се втурнали да го притежават – някои с добри намерения, други преследват по-мрачни цели.

Битката ще е както тази за ядреното превъзходство по време на Студената война, защото това ще бъде сила, ще бъде мощно оръжие, което е способно да унищожи цели нации и в крайните сценарии – цялото човечество.

Извън потенциалното физическо унищожение можем ли да очакваме бъдещите технологии, които хората създават и ще създават, да заплашат социалния мир?

Разбира се. Хората ще се налага да мислят много по-малко и последиците от това могат да се решат само чрез качествено образование. AI автоматизацията и роботиката неизменно ще доведат до социални проблеми и силно класово фрагментиране на обществото. Неслучайно се правят експерименти с гарантиран базов доход.

Но въпреки всичко хората ще намерят с какво да се занимават, защото аз съм на мнение, че формата на креативност на човешкия мозък няма да може да се репликира поне в следващите 50 – 100 години.

А можем ли да очакваме до края на века да се промени обществено-икономическият строй? Успехът на индивидуалния човек е в сърцето на капитализма – какво ще стане, когато машините поемат водещата роля в създаването на благата?

Ами промените се случват и в момента, постепенно, тъй като човекът от създател на блага бавно се превръща основно в консуматор. Като се замислите за основното, което използваме в ежедневието си – колко са компаниите, по-точно техните реални собственици, които стоят зад тях? Петнайсетина-двайсет в целия свят. Ние на практика вече живеем в корпоративен монопол. А технологиите ще затвърждават това като тенденция. На политическо ниво правителствата ще защитават още по-яростно интересите на корпорациите и границата между тях ще се размива все повече. Водещата роля на държавите ще избледнява. Различни съпротивителни сили ще дърпат в различни посоки и бъдещето зависи от това коя ще надделее. Ако глобалистките сили надделеят, не е изключено в даден момент да се стигне до едно глобално държавно управление с една валута, с някаква степен на автономност на сегашните държави по примера на сегашните щати в САЩ. Възможно е и корпорациите вече да не се задоволяват само с влияние върху политиките, а да поемат една по-директна роля в управлението. Отново – това каква ще е посоката на развитие, ще зависи от качеството на образованието. Зависи колко критично мислещи хора ще има и колко просто ще се носят по течението на удобството на технологиите.

Каква е прогнозата Ви за човечеството за края на този век?

Добрата новина е, че голяма част от болестите ще бъдат победени заради иновациите в медицината и изкуствения интелект. Лошата е, че няма да можем да спрем негативните последици от климатичните промени. Много от цивилната инфраструктура няма да издържи и ще изисква съществени промени. Излизането на открито ще бъде свързано с много рискове. Храната ще се отглежда в затворени/изолирани помещения, част от нея синтетично, друга с помощта на имитиране на естествени условия. Ще има изключително силен контрол по отношение на потока на информацията и „свободата на словото“ ще е позволена само ако отговаря на конюнктурата.

Звучи малко като „1984“...

Съжалявам, но всичко сочи натам по една много проста причина. Появяват се много мощни инструменти, пораждащи технологична зависимост, срещу които няма съпротивителни сили. Не виждам какъв тип инструмент може да се появи, за да се противопостави на подобна тенденция. Умален модел на това наблюдаваме и сега в Китай. Там, ако искаш да си купиш храна в най-обикновен квартален магазин, трябва да минеш през лицево разпознаване. И плащането става след верификация, че срещу теб няма някакви ограничения. Т.е., ако партията реши по някаква причина, може да не ти позволи да си купиш храна. В Китай отдавна не използват хартиени пари. И каква контрамярка можеш да приложиш срещу такава репресия? Какъв механизъм имат да променят нещо? Не говорим за централна система, при която, ако изключим един компютър, и всичко спира, както гледаме по филмите.

За да се предотврати такъв деспотичен сценарий, ще е нужно да се надигне критична маса от хора с по-широк мироглед и мислене. Затова е важно кой ще контролира този технологичен инструментариум. Това ще определи как ще се дефинира обществото на бъдещето. Може да е позитивно, но може да бъде и доста нелицеприятно. Най-важният фактор, който ще определи накъде ще се развият нещата, е общественият капацитет за контрафактическо мислене, а той се изгражда от всеки един от нас, индивидуално, и чрез нас се пренася на нашите деца. Казано с други думи – всичко зависи от нас, хората.

---

Можете да купите списанието в павилионите на Inmedio, Relay, големите вериги бензиностанции, търговските вериги "Фантастико", "Кауфланд", "Билла" и др.