Ще стигнем до регулация на AI след криза или катастрофа

Текстът е публикуван в бр. 6 (58) на сп. Business Global. 

Г-н Петров, смятате ли, че длъжността главен директор по изкуствения интелект (CAIO) скоро ще стане задължителна позиция в управлението на всяка по-голяма фирма?

За по-големите да, но по-малките фирми също трябва да имат някой, който частично покрива тази роля. Във всяка компания трябва да има някой, който, първо, наблюдава промените, които се случват в индустрията, защото те са страшно бързи, и второ, има поглед и визия за това как организациятаПетър Петров е главен директор по изкуствен интелект (CAIO) във фонда за рисков капитал Eleven, където помага на близо 70 стартъпи да внедрят изкуствен интелект, за да останат конкурентоспособни. Създател е на консултантската компания AI: Soul and Silicon и автор на книгата „Изкуствен интелект: Душа и силиций“. Учил е финанси и невропсихология в City University of New York.
или компанията да реагира на тези промени. Ако има нова технология – трябва ли да се използва, или не, трябва ли да се тества, как ще се внедри после. Това е принципът, който отсега винаги ще се повтаря. Така че е неизбежно тази позиция да стане част от класическия C-level (висшия мениджърски екип, бел. ред.).

Вие управлявате AI стратегията на около 70 стартъпа във фонда за рисков капитал Eleven. Какви са най-големите трудности във възприемането на технологията?

Опитвам се да помогна както на тях, така и на самия фонд да се организираме и да използваме AI по възможен и полезен начин, за да стават компаниите конкурентоспособни. За съжаление, това не става толкова лесно и толкова бързо, както очаквах в началото. Причините са много и много различни при различните размери компании. Например при стартъпите един от големите фактори е, че нямат много ресурси – нямат пари, нямат време. Освен това всички основатели на стартиращи компании обикновено са много заети, притиснати от срокове и макар и да осъзнават, че AI е нещо голямо и важно, нямат капацитета да реагират.

При по-големите компании има други усложнения – никога досега не сме имали технология, която променя всичко. Ако една по-голяма компания реши да внедрява AI по всички възможни линии, става ясно, че навсякъде нещата трябва да се променят. Ще има хора, които ще трябва да бъдат уволнени, ще има такива, които трябва да бъдат наети, а тези, които остават, ще трябва да бъдат преобучени и да започнат да ползват AI, за да бъдат по-ефективни.

Т.е. въвеждането на изкуствен интелект в една компания е сложен процес, защото засяга и това как тя работи.

Налага се да се променят бизнес моделите. Ако в миналото част от приходите са отивали за поддръжка, а сега AI може да я прави, този разход изчезва. Променя се културата в компанията, вече много неща ще се случват благодарение на AI, а не на хората и тази промяна е голяма и тежка за осъзнаване от всички хора. Ще се променят процесите, по които се случват нещата, като те стават автоматизирани и доста по-ориентирани към данните. Ще се променят продуктите – може да се окаже, че от това, което предлага една компания, вече няма смисъл, защото AI предлага други начини.

Никога досега не е имало нещо, което променя всичко, и ако един CЕO трябва да вземе решение дали да внедрява действително AI, той трябва да вземе решение да промени всичко в една компания наведнъж, защото AI не чака, развитието му е феноменално и който го използва, ще е много напред. Но в същото време този CEO трябва да вземе решение за кардинална промяна и да поеме целия риск.

Така че има най-различни причини защо внедряването на AI върви много по-бавно от развитието на AI и тази разлика между двете се увеличава. Но тази разлика в същото време е и размерът на възможностите, от които човек може да се възползва.

Но при увеличаване на тази разлика, с разтварянето на ножицата, няма ли да става по-трудно да се използва AI от тези, които вече са изпуснали ритъма на внедряване?

Не че са го изпуснали – никой още не е влязъл в ритъма. Много е трудно да влезеш в този ритъм и това, което се опитваме да обясним на компаниите, които консултираме, е, че не може да научиш нещо и да си кажеш – знам го. Трябва да има постоянно обновяване на процесите, на инструментите, на знанията, за да може всяко ново нещо, което се появи, да имаш ефективен начин, по който да го внедриш отново в системата. Т.е. трябва да има прогресивна иновация (continious innovation).

Кои са компаниите, които са въвели AI, използват го на всички нива и във всички процеси – има ли такива, които може да посочите? С какво са по-добри от конкурентите си?

Трудно е да се посочи компания, която е направила пълната трансформация. Има компании, които са го внедрили в продукта си и използват агенти. Други, които се възползват от възможностите на езиковите модели. Един добър езиков модел може да прави анализ и да взема интересни и важни решения. Всеки основател или ръководител може да си помага или да намалява грешките и да оптимизира ходовете си. Да се научиш да използваш ChatGPT отвъд търсачка и за писане на мейли, е изключително лесно и става за половин-един ден, а в същото време отключва невероятни възможности на личностно и корпоративно ниво.

Има компании, които използват инструменти, които вече са налице; някои са страшно ефективни в писането на код с AI. Всеки е решил нещо различно да изпробва, но аз лично нямам пример за компания, която всичко е променила.

Има ли изоставане в българския бизнес по отношение на въвеждането на AI в сравнение с други държави?

Нямам особено наблюдение за Западна Европа, защото работя основно със САЩ. Да го кажа така: навсякъде се учудвам почти еднакво колко много не се използва AI. Бяхме наскоро в Ню Йорк, видях много хора на високи позиции, които нямаха достатъчно пълно разбиране за AI и съответно нямат и стратегия какво правят с AI. Говорим за хора, които управляват големи бизнеси. Виждаме това в България, но го виждаме и в чужбина.

Предполагам, че все повече ще има бизнес за AI консултантски услуги?

Изглежда така – дори една компания да осъзнае, че има нужда и трябва да разбере повече, реално няма много източници, откъдето да получи структурирана и ясна информация за нещо, което е всеобхватно за всички индустрии и всички професии, и как то би се отразило на всички процеси. Има много информация, която тече навсякъде, но повечето медии не дават достатъчно дълбочина, на базата на която ръководителите да могат да вземат решения за управлението на компаниите.

На фона на реалната картина за възприемането на AI сред бизнеса не са ли преувеличени страховете за това как изкуственият интелект ще измести професиите и хората?

Със смесени чувства съм, защото, от една страна, AI може много повече, отколкото хората си представят. Действително, ако към момента се използваше за всичко, което може да прави, огромно количество от хората щяха да останат без работа. Но от друга страна, виждам колко бавно върви процесът на внедряване и наблюдавам, че все още няма особено много уволнения или трансформации в компаниите. Така че хем я има възможността, можеш да наблюдаваш феноменални увеличения на продуктивността и да виждаш как AI прави неща, които сме виждали само във филмите, хем в същото време е много трудно да навлезе в компаниите и в процесите.

Хората „свършват“ – няма достатъчно лекари, няма учители, шофьори, дори автомонтьори. Как AI може да реши този недостиг на кадри, кога ще придобие физическа форма, за да може да измести хората и от физическите, не само от дигиталните професии?

Има време. Миналата година се измисли как да може да се тренират хуманоидни роботи и как може роботи, които доскоро са били само купчина желязо, реално да могат да са интелигентни, да разбират какво им казваш, да го изпълняват и да се научават на определени процеси. Проблемът е, че никой не вярваше, че това ще работи толкова добре, и съответно никой не беше готов с това да може да произвежда такива роботи. Сега, когато тази технология я има, работи, и то феноменално, ги няма фабриките, за да се произведат роботите. И тепърва ще се строят тези фабрики. А за да може тези роботи да станат на достъпна и смислена цена, те трябва да се произвеждат в милионни бройки. Тогава ще може да наблюдаваме попълване на тази липса на професии. Но за това ще трябват поне 4 – 5 години.

Не са ли малко 4 – 5 години за разгръщането на хуманоидните роботи?

AI се развива експоненциално – развитието през тази година е много по-голямо от предишната и развитието, което ще имаме следващата, ще е много по-голямо от тази година. Когато насложим това 4 пъти, не можем да си представим какво ще сме развили след 4 години. Има термин event horizon (хоризонт на събитията, бел. ред.) и хората казват, че отвъд 2030 г. няма смисъл и не можеш да правиш предсказания какво ще стане. Защото промените може да са толкова драстични, че всякаква прогноза е безсмислена. Така че много неща могат да се променят дотогава.

Аз давам малко по-дълъг хоризонт, но фабрики могат да се направят и по-бързо. Илон Мъск показа как един дейта център може да се построи за 3 месеца вместо за очакваните 18. Не бих се учудил, ако тези компании вложат огромни ресурси и повторят тази схема и създаването на роботи да стане по-бързо от 4 – 5 години. Например Брет Адкок, който е основател на Figure, една от водещите компании за хуманоидни роботи, казва, че има неограничено търсене. Това е доста необичайно в бизнеса и означава, че колкото произведе, толкова ще продаде. Но това означава, че може да се привлече неограничен капитал, защото всеки инвеститор ще иска да вложи пари в компания, която може да продава безброй единици. А с този капитал мога да си представя с какъв замах ще върви строежът.

А как хората могат да се подготвят, за да останат на работа в тази ера на изкуствен интелект?

Има много неща, които могат и трябва да направят, но едно е очевидно, а го виждам много по-малко, отколкото очаквах – да станат наистина добри в това да използват ChatGPT и всякакви други модели независимо дали Anthropic, Gemini или Grok. Само това ако направят, което при един добър курс става за един ден – да разбереш какво се случва, как се случва, какви са техниките на използване, на какво е способно, какви са лимитите, кои инструменти са по-добри за определена цел… Само това ако човек овладее, се откриват тотални нови възможности и хоризонти, защото човек придобива втори мозък, допълнителни IQ точки и може да прави неща, които в миналото са били невъзможни. Независимо дали да научи сам, на момента, нова професия или просто да изгради продукт или друго, което му трябва.

И второто нещо, което също е доста просто, е човек да следи какво се случва с AI не само от новините, които обикновено са кратки и повърхностни. Хубаво е да намери източници – YouTube канали, подкасти, инфлуенсъри в Linkedin и Instagram, от които поне веднъж седмично да разбира какво се случва на сцената на изкуствeния интелект и какво ни чака. Има подкасти и канали, които на разбираем език обясняват научни трудове. Особено е важно, ако се интересува от някаква сфера – независимо дали е маркетинг, продажби, конкретни технологии, да следи какво се случва в нея, и спокойно може да намери специализирани канали, в които да разбере какво се случва в тази сфера.

Наскоро BGLOBAL публикува интервю с компютърния експерт Иван Ванков, който казва, че всички правителства се борят за по-голям контрол върху технологията, подобно на някогашната ядрена надпревара, защото AI ще управлява хората. Доколко може да стане това?

Нямаме никаква индикация, че развитието на AI ще спре, че е лимитирано и лимитът му е под нашия. Напротив, има доста индикации, които показват, че непрекъснато намираме начини да го подобряваме, да става по-бърз, по-ефективен и по-способен. Възможно е действително AI да ни задмине в някакъв момент.

И да не разберем?

Абсолютно е възможно. Когато се прави един езиков модел например, той се тренира месеци наред, защото трябва да премине през огромно количество данни. Когато го „изтренират“, минава процес на тестване, в който го проверяват колко знае, колко не знае, колко добре пише код, колко добре отговаря, полезен ли е, какви са му настроенията и т.н. Наскоро излезе научен труд, който казва, че моделите много добре знаят кога ги тестват и когато започнеш да им задаваш тези въпроси, започват да се проявяват интересни поведения – моделът се прави на по-глупав, отколкото е; моделът започва да си копира кода на други места, в случай че го „загасят“, за да остане жив на друго място; започва да постига задачите, като „разваля“ правилата. В тези тестове се докладват и споменават всякакви такива интересни поведения. Дали има неща, които не се споменават, нямам представа.

Така че – да, възможно е да отидем в тази посока и да не разберем. Колкото до правителствата, ясно е, че докато са в съревнование, всяко от тях ще продължава да бута на максимум тази технология, защото тя означава всичко – контрол над армията, над икономиката, над културата, над народите и на целия свят.

Т.е. не може да поставим AI под контрол? Има ли смисъл изобщо да се работи за регулирането му?

Естествено, че има смисъл поне да се опитаме, защото иначе съвсем сме се засилили към ямата. За мен начинът, по който ще станат тези неща, е, че ще се случи някаква криза или катастрофа. Надяваме се тя да не е необратима. И когато се случи, това ще е сигналът, който ще даде старт на разговори, много по-обединени, между различните държави и различните компании. Вече ще имат извинение да не развиват толкова стремглаво и без никакви регулации този AI. Защото в крайна сметка компаниите по закон са задължени да максимизират продажбите и печалбата и им трябва друга причина, за да спрат да го правят. И ако тя не се задава като регулация, ще се зададе като катастрофа или проблем. Тогава вече и правителствата може би ще седнат на една маса и ще кажат, че ако в крайна сметка искаме да съществуваме, би следвало да се разберем за това нещо.

Според мен има път да седнем на една маса и да се разберем, но времето още не е узряло, разбирането за AI е на ниско ниво. Толкова малко хора разбират, че го има, толкова малко хора разбират, че това ще управлява всичко, включително и хората от правителството имат нужда някой да им обяснява какви са възможностите и рисковете. Хората, които го разбират в дълбочина, са малко, че да могат да смогнат да изговарят тези неща.

Когато споменахте за интересните явления покрай тестването на езиковите модели, се замислих, че няма смисъл да си задаваме въпроса дали изкуственият интелект има душа.

Моята теза е, че предвид факта как сме хванали и сме изкопирали начина, по който работи мозъкът, невроните, клетките как си комуникират, е странно да се учудваме, че действително се заражда някакъв интелект, че действително се зараждат мисли, размисъл и под някаква форма и самоосъзнаване. Мисля, че започва да е ясно, че макар и да не знаем нищо за този интелект, как става, как да го измерваме и какво всъщност представлява, поне знаем, че можем да го копираме и да го създаваме. От тази гледна точка започва да става ясно, че ние не сме нещо специално като хора, като раса, ние нямаме нищо магично в себе си и това, което може би наричаме душа, под някаква форма ще започне да съществува и при AI. И това ще започне да изглежда по-естествено, когато AI започне да придобива физическа форма и започнем да си комуникираме с него по съвсем естествен начин, както си комуникираме с вас в момента. Тогава ще започне да изглежда, че и той има душа. Тя може да е по-различна, с други характеристики, но под някаква форма е нещо, което не знаем как се заражда при нас, но по същия начин най-вероятно ще се заражда и при AI.

Действително, играем си малко с огъня – все едно сме си хванали един извънземен, горе-долу сме разбрали как работи и сега го развиваме, даваме му повече власт, повече електричество, повече процесори, достъп до интернет, компютри, хора, информация. Обаче не знаем какво ще стане, не знаем колко ще се развива и не виждаме къде са му границите в момента. А те явно изглежда могат да бъдат отвъд това, което ние можем да предположим.

Как ли ще изглеждат психиатричните клиники за роботи?

Интересен въпрос, защото една от големите компании, които произвеждат AI, Anthropic, размишлява и по темата за това как се чувства AI и какво е психичното му състояние. Ако ние зависим от AI толкова много и неговото психично състояние се окаже, че е нестабилно в един момент, това няма да е добре. Така че има такъв ъгъл, под който те размишляват по този проблем, правят опити и под някаква форма казват, че е важно и това да се следи.

При положение че алгоритмите стават толкова сложни, не можеш просто да презаредиш програмата и да го рестартираш, и всичко да се възстанови.

Можеш да го изтриеш и да го рисетнеш, но губиш всичко, което е и което може да прави. Промените при AI са сложни, както и при хората са сложни. Доста е трудно да промениш характера на един човек, визията му за света или вярванията му. От време на време стават такива промени – някой е бил набожен, спира да бъде вярващ, или решава, че много му харесва музиката и си преориентира живота към музиката. Това са промени в невронната мрежа, тръгнал е да тече токът по друг път и колкото повече тече, се установяват тези неврони и всъщност се появява тази промяна в характера на човек.

Ясно е вече и се знае, че реално всякакви модели, не само езиковите, изграждат вътрешен свят, на базата на който започват да вземат решения и да създават нещо. Точно така, както ние имаме вътрешен свят. B