Българка ще проверява дали AI заобикаля правилата

КАКВО се случва, когато поставим задача на изкуствения интелект, но ограничим действията му? Ще спази ли правилата, или ще потърси начин да ги заобиколи, за да постигне целта си?

Точно това ще изследва българската студентка Мария Дренчева в ETH Цюрих. Тя е избрана за лятната изследователска програма на швейцарския университет в конкуренция с 2500 млади таланти от цял свят, съобщи Министерството на образованието и науката.

В продължение на два месеца Мария Дренчева ще работи по един от важните въпроси за безопасността на съвременния изкуствен интелект. Изследването ѝ ще провери дали AI агент може да наруши ясно поставени граници в стремежа си да изпълни възложената задача.

Работата ѝ е част от Secure and Private AI Lab на ETH Цюрих. Лабораторията проучва сигурността, поверителността и надеждността на системите с изкуствен интелект. Учените целенасочено търсят слабостите им и начини те да бъдат преодолени.

Ментори на българската студентка са д-р Авитал Шафран и проф. Флориан Трамер. Той ръководи лабораторията и е сред утвърдените изследователи в областта на сигурността на машинното обучение.

Мария Дренчева учи в Софийския университет „Св. Климент Охридски“ и е стипендиант на програмата Explorer на Института за компютърни науки, изкуствен интелект и технологии INSAIT. Още като ученичка тя печели отличия от математически олимпиади и международни състезания.

Мария Дренчева вече има сериозно научно постижение. Тя е водещ автор на статия, разработена съвместно с нейни ментори от INSAIT и ще я  представи на ICLR в Сингапур - една от най-авторитетните световни конференции в областта на изкуствения интелект.