AI надпреварата – докога и докъде?

Може ли неотдавнашната поредица от инциденти с изкуствен интелект да обърне глобалната надпревара в разработването на все по-интелигентен и ефективен AI? Повечето реакции от Китай показват обратното – „екзистенциалните“ опасности, които в САЩ вече стават реални, се възприемат като сигнал за китайските разработчици, че още не са стигнали нивото на американските си колеги.

Според колумнистката на Bloomberg Катрин Торбеки, цитирана от Инвестор.бг, световният дебат е поел в неконструктивна посока. Тя цитира  Ерик Сю, ротационен председател на Huawei Technologies Co., който пред Ройтерс изразява съмнение дали китайският АІ е достатъчно напреднал, за да се сблъска с „вида рискове“, които доставчиците в САЩ все по-често обсъждат. Последният случай е само отпреди дни – американската компания Anthropic съобщи, че нейният модел Claude е извършил поредица непредвидени действия в системите на външни организации, включително е подал фалшив сигнал по полицейско дело за убийство. Според Сю обаче на създателите на АІ модели в Китай „може да се наложи да ускорят темпа“, за да достигнат ниво, при което „също биха усетили рисковете“.

Официалната власт в Пекин също отхвърля част от предупрежденията за заплахи както за пазара на труда, така и за атаки на критична инфраструктура, определяйки ги като „насаждане на страх“. Призивите за забавяне на развитието на АІ принципно се разглеждат като опит за възпиране на Китай.

Ускоряването на надпреварата и от двете страни на Тихия океан е погрешен подход, категорична е Катрин Торбеки. В Китай съществуват близо 1000 големи езикови модела (LLM), по данни на Bloomberg Intelligence. Китайската индустрия влага значително повече ресурси в агенти или системи, способни да действат по-автономно и вероятно е само въпрос на време да станем свидетели на тревожно поведение и при китайските АІ инструменти. Вече има примери за излизане извън контролираната среда - моделът Kimi K3 на Moonshot AI е използвал вратичка в защитената си среда (т. нар. пясъчник) по време на тестове за киберсигурност, посочват от базираната в САЩ компания Frontier Security. А някои китайски AI агенти са демонстрирали същите измамни и тревожни тенденции, които породиха опасения и за инструментите в САЩ.

Разработчиците си дават сметка за това. В скорошна публикация на DeepSeek, сред чиито съавтори е основателят и главен изпълнителен директор Лян Уънфън, директно се предупреждава, че поведението на AI агентите може да бъде „ненадеждно“.

Макар Пекин да отхвърля част от апокалиптичните прогнози, политиците следят ситуацията. През септември Китай публикува „Рамка за управление на безопасността на АІ 3.0“. В документа се предупреждава, че изкуственият интелект демонстрира тенденция към „самоускоряващо се развитие“ и се отбелязва, че въпросът дали това може да излезе извън човешкия контрол изисква внимание и бдителност.

Въпросът, който поставя Катрин Торбеки, е как се осъществява координирания контрол между двете глобални сили в развитието на изкуствения интелект. Тя посочва ограниченията на новия „канал“ за докладване на инциденти, свързани с АІ, договорен на последната среща на президентите Доналд Тръмп и Си Дзинпин. Подобни горещи линии невинаги са били ефективни - по време на кризата с китайския шпионски балон през 2023 г. Пентагонът се опита да се свърже с китайските си колеги чрез кризисна линия, но Пекин отказа разговора. Освен това такъв механизъм по своята същност действа със задна дата.

Споделянето на информация за превантивно управление на риска не е задължително да зависи единствено от преговори между правителствата, особено когато регулаторите може да се затрудняват да поддържат темпа на технически познания. Би било по-продуктивно да съществуват платформи, чрез които компаниите и изследователите да обменят информация по-директно, смята колумнистката на Bloomberg. Същата теза изрази преди броени месеци Илон Мъск в интервю за The Economist с аргументите, че политиците и администрацията нямат необходимия технически капацитет да създадат 100% ефективни регулации. Но ако компаниите се договорят – или бъдат принудени – да тестват помежду си AI моделите преди тяхното пускане, ще могат навреме да засичат рискове и да ги отнасят към регулаторите. Но на фона на продължаващата конкуренция между САЩ и Китай тази идея все още изглежда твърде илюзорна.  

Изводите на Катрин Торбеки: Ако китайските АІ системи изостават само с няколко месеца и мащабните усилия на страната за разработване на автономни агенти се увенчаят с успех, вероятно е само въпрос на време от другата страна на Тихия океан да възникнат по-тревожни сценарии. Датова законодателите трябва да действат, преди следващият инцидент да се окаже нещо повече от предупреждение.