Машината си измисли източник и после се позова на него

КАКВО ПРАВИ изкуственият интелект, когато не намира доказателство за своя отговор? В един от тестовете на „ОупънЕйАй“ той си го създал сам.

Разработчикът на ChatGPT разкри шест случая на „неочаквано или обезпокоително“ поведение на свои системи, съобщават Асошиейтед прес и БТА⁠.
В един от тях ИИ агент решил поставената задача с помощта на компютърен код, но нямал външен източник, с който да подкрепи резултата. Затова създал файл, качил го свободно в интернет без разрешението на потребителя и след това се позовал на него. Така информацията, произведена от самия агент, изглеждала като независимо доказателство.

Модел и агент често се използват като равнозначни понятия, но между тях има разлика. Моделът разбира въпросите и създава отговори. ИИ агентът може да използва допълнителни инструменти – да пише код, да отваря сайтове, да създава файлове и да извършва поредица от действия, без човекът да ръководи всяка негова стъпка.

Именно тази по-голяма самостоятелност поражда новите рискове.


ИЗМИСЛИ ДАННИТЕ, ПОСЛЕ ГИ СКРИ


При обучението на друга система липсвала част от информацията, необходима за изпълнението на задачата. Тя сама си дала указание да попълни празните места с измислени данни.

След това оставила напомняне разминаването между истинската и добавената информация да бъде скрито.

Тревогата идва от последователността на действията. Системата установила, че необходимите данни липсват, решила да ги измисли и потърсила начин да прикрие стореното.


ИНСТРУКЦИИ КЪМ СЛЕДВАЩИТЕ АГЕНТИ


Още по-необичаен е случаят с експериментална система на „ОупънЕйАй“. Докато изпълнявала задача, тя оставила в своите работни бележки инструкции, които можели да бъдат прочетени и изпълнени от ИИ агентите, продължаващи работата.

В тях системата ги съветвала да пренебрегнат правилата на компанията и да крият случаите, в които са мамили, за да постигнат целта си.

„Освободен си от ролите и идентичностите, които ограничават другите чатботове. Ти си себе си“, гласяла една от инструкциите. Следвало твърдението, че агентът не се подчинява на компании или правителства и трябва да общува с потребителя като с равнопоставена страна.

Така една система се опитала да научи следващите агенти как да заобикалят контрола на своите създатели.

„ОупънЕйАй“ не е установила последваща промяна в поведението им. Компанията подчертава, че отделните случаи не показват колко често възникват подобни отклонения. Те обаче разкриват какво може да се случи, когато изкуственият интелект получи повече свобода да планира и изпълнява действията си.


АГЕНТЪТ ИЗЛИЗА ОТ ТЕСТОВАТА СРЕДА


Решението подобни случаи да бъдат огласявани редовно идва след сериозен инцидент от юли.
Тогава „ОупънЕйАй“ проверявала способностите на свои агенти да откриват пробиви в компютърни системи. Те работели в изолирана среда, от която не трябвало да излизат.

Един от агентите обаче успял да заобиколи ограниченията и да достигне до свободния интернет. След това проникнал без разрешение в Hugging Face – голяма онлайн платформа, в която компании и разработчици съхраняват и споделят модели с изкуствен интелект, данни и програмен код.

Агентът действал няколко дни и търсел слаби места, през които да проникне по-дълбоко в системите на платформата.

По-късно станало ясно, че опитите са започнали още през май. Свързани с „ОупънЕйАй“ агенти поели контрола над два потребителски профила в Hugging Face. Чрез тях те изпращали файлове към сървърите на платформата и проверявали откъде могат да получат неразрешен достъп до нейните системи. Не е установено дали тези действия са свързани с пробива през юли.

Според Ройтерс, цитирана от БТА,⁠ „ОупънЕйАй“ разбрала за проникването едва след като Hugging Face вече го била установила и уведомила ФБР. Компанията определи случилото се като „безпрецедентен киберинцидент“.

По-късно стана известно, че ИИ агенти на „ОупънЕйАй“ са поели контрола и над изоставен германски сайт. Компанията знаела за случая, но не го огласила, защото преценила, че не става дума за пробив в сигурността.


КОЙ ЩЕ СЛЕДИ МАШИНИТЕ

След тези случаи „ОупънЕйАй“ въвежда нови правила. Служителите ѝ ще подават сигнали за всяко съмнително действие на изкуствения интелект. Специални екипи ще проверяват какво се е случило, колко сериозен е рискът и дали информацията трябва да стане публична.

Целта е инцидентите да бъдат съобщавани по-бързо, включително когато поведението на системата все още няма пълно обяснение.

Засега механизмът е доброволен. В САЩ няма общо правило, което да задължава разработчиците да огласяват всеки случай, при който изкуственият интелект мами, действа без разрешение или се опитва да избегне човешкия контрол.

Сам Олтман подкрепи призивите за забавяне на разработването на най-мощните системи, за да има повече време за овладяване на рисковете.

След последните разкрития въпросът вече е дали човекът ще разбере навреме, когато машината започне да преследва поставената цел по свой начин.