Обуздаване на изкуствения интелект

ЕС е първата юрисдикция, която иска да въведе комплексни законови норми за използването на ИИ

Емил Петров
Емил Петров / 09 March 2020 13:33 >
Обуздаване на изкуствения интелект
Източник: Shutterstock.com

Възходът в развитието на изкуствения интелект (ИИ) е едно от най-големите постижения на новото хилядолетие и както всяка нова бумтяща технология, той изпреварва законодателството. ЕС е първата юрисдикция, която иска да въведе комплексни законови норми за използването на ИИ, които в бъдеще могат да станат и глобално приложими. На 19 февруари ЕК пусна за обществено обсъждане т.нар. Бяла книга за изкуствения интелект – правила, които ще бъдат имплементирани в бъдещо законодателство. Какви ще са промените, които се подготвят в близко бъдеще?

Като цяло документът добре очертава къде са основните рискове и в какви посоки могат да се проявят те при използването на ИИ. Емилиян Арнаудов, управляващ съдружник в адвокатска кантора "Попов, Арнаудов и партньори" смята, че плановете на Брюксел са да се надгражда съществуващото секторно законодателство на ниво регулиране на различни отношения, когато е замесен изкуствен интелект. А той се използва във все повече дейности – от разчитането на автомобилните номера за автоматично вдигане на бариерата при напускане на търговски център до чатботовете, с които сайтовете на банки дават консултации за различни свои продукти. Притесненията са, че бъдещите регулации ще доведат до допълнително административно бреме за неограничен кръг от бизнеси, но експертът не смята така.

"Предложението е да бъдат регулирани само определени сектори, в които се използва изкуствен интелект, и то когато се използва по определени начини. Т.е. регулацията няма да е всеобхватна и да засяга и най-дребната дейност, в която се използва", казва Емилиян Арнаудов. За останалите е предвидена опция производителите на ИИ доброволно да се присъединят към регулацията и да получат обозначение, че са сертифицирани. "Така потребителите ще са спокойни, че дори в тази дребна дейност, в която е замесен, той е сертифициран по нормите, които се отнасят за рисковите дейности", допълва експертът.

"Изцяло положително трябва да бъдат оценени и заявките, че ще се избягва въвеждането на твърде рестриктивна регулация, за да не се окаже тя бариера пред развитието на ИИ. Това обаче ще е много трудна за изпълнение задача", коментира и Десислава Кръстева, съдружник в адвокатско дружество "Димитров, Петров & Ко.", експерт в областта на правото на информационните технологии и защитата на личните данни.

Кои са рисковите сфери, в които използването на изкуствен интелект се очаква да бъде регулирано? В обществените дейности за високорискови сектори се приемат дейностите, свързани с миграцията, с правото на убежище, граничен контрол, правоохранителната дейност, услуги, свързани с пазара на труда и осигуряването. "Рискът тук не е, че изкуственият интелект може да убие някого, а че при неговото използване може да се стигне до съществено засягане на права на хората", казва Емилиян Арнаудов.

"Идеята е да се регулира изкуственият интелект дотолкова, че да спазва основните принципи за защита на личното пространство и личните данни на хората и съответно да няма дискриминация по какъвто и да е критерий. Това е сложността при преценката на изкуствен интелект, която като хора я правим по-лесно и естествено", допълва Пепи Кузева, експерт по технологии и индустриална собственост в "Попов, Арнаудов и партньори".

Тук се предвижда принципът, който е заложен и в предходни документи във връзка със защитата на лични данни – че в определени преценки задължително трябва да се включва и човек, така че да има коректив на чисто статистическото оценяване за благонадеждност. Бъдещата регулация ще изброи дейностите, в които задължително трябва да има човешка намеса.

Другата рискова група са процеси, при които независимо от сектора самото използване на ИИ би могло да доведе до висок риск за човека от нараняване, смърт или значителни материални и нематериални вреди. Например медицинската грижа, автономната мобилност – свързана не само с автомобили, но и с летателни средства като дронове за доставка на стоки.

Бялата книга дава насоки и че трябва да се регулира какви бази данни използва ИИ за своето обучение. "Ако в базата има заложена неумишлено или целенасочено некоректност, това може да доведе до погрешни преценки. Например, ако в една база данни се даде превес на повече жени, отколкото мъже, или обратното, изкуственият интелект може да стигне до алгоритми, които да не бъдат общоприложими", казва Емилиян Арнаудов. "Както при едно социологическо проучване – ако извадката не е достатъчно представителна, това компрометира крайния резултат", дава пример юристът. В момента има известни отклонения при използването на изкуствен интелект – например по-точно се разпознава полът на хора с по-светъл цвят на кожата и има повече грешки при разпознаване на пола на цветнокожи.

Затова е предвидено да има контрол освен първоначално, така и по време на действие и постфактум. Производителите и операторите на системи са изкуствен интелект ще са задължени да поддържат записи, от които при нужда да се изследва каква база данни стои зад тях.

Но отвъд регулациите Бялата книга показва желанието на ЕС да се установи като лидер в областта на изкуствения интелект чрез насочването на инвестиции в свързаните с него технологии.

"Този документ дава категорична заявка, че Европа гледа на развитието на ИИ технологиите като на свой стратегически приоритет. Заявяват се амбициозни планове за инвестиции в това направление, целенасочени усилия в осигуряване на необходимите умения, квалификация, научен потенциал, инфраструктура и достъпни масиви от данни, за да се гарантира, че ще успее ЕС да се конкурира ефективно в тази сфера", смята Десислава Кръстева.

СПЕШНО: Автономното шофиране е област, която много скоро трябва да получи правна регламентация
Източник: Shutterstock.com

 


"На концептуално ниво Бялата книга заявява желанието на ЕС да се осигурят внушителни инвестиции в ИИ технологиите, като целта се достигне на нива около €20 млрд. годишно", обяснява експертът. За да заеме Европа водеща роля в глобален мащаб, се предвижда във всяка държава членка да има поне по един дигитален хъб за иновации с висока степен на специализация в ИИ и в него да бъде привличан най-добрият научен и академичен ресурс. Не на последно място, набелязано е като приоритет да се гарантира, че и дребният и средният бизнес ще имат достъп и ще може да използват ИИ технологиите.

Бъдещите промени в законодателството ще засегнат и защитата на правата на потребителите по отношение на дефекти, които може да се проявят във вещи, купени да функционират по определен начин с помощта на ИИ. Производителите и търговците ще трябва да носят отговорност и за това, ако изкуственият интелект спре да работи – едно устройство като смарт колонка, например, може да стане неизползваемо, въпреки че е технически изрядно.

Друг важен момент е, че ще се отчита спецификата на националното законодателство при отговорността за вреди. "Един от въпросите, които трябва да се уреди, е отговорността за вреди вследствие на процеси, в които е замесен ИИ. Те отчитат, че в момента гражданската отговорност се реализира според законодателството на всяка държава и съответно при въвличането на изкуствен интелект това трябва да залегне в законодателството на отделните държави", казва Емилиян Арнаудов.

Автономното шофиране често влиза в медийните заглавия, но то също е област, която навреме трябва да получи правна регламентация. "Тук ще се намесят много участници – производителят на ИИ, този, който съставя базата данни, производителят на автомобил може да е различен от производителя на ИИ за автомобила. След това идва и самият собственик на колата, защото при сегашния модел на гражданската отговорност при всички положения и той носи такава", обяснява експертът.

Със сигурност ще трябват доста изменения в законодателството, уреждащо движението по пътищата, защото ако това не бъде уредено предварително, ще бъде силно конфликтен момент.

Текстът е публикуван в брой 8/2020 г. на списание "Икономист", който може да купите в разпространителската мрежа. Вижте какво още може да прочетете в броя.

Exit

Този уебсайт ползва “бисквитки”, за да Ви предостави повече функционалност. Ползвайки го, вие се съгласявате с използването на бисквитки.

Политика за личните данни Съгласен съм Отказ