Европарламентът смята, че е нужен човешки надзор при използването на изкуствен интелект
През 2017 г. в Република Ирландия избухва скандал, след като 70-годишна пенсионерка е лишена от 13 000 евро - полагащо ѝ се обезщетение за възрастни, тъй като е отказала да си извади карта за обществени услуги. Става въпрос за документ, който улеснява държавните органи да проверяват самоличността на гражданите и да контролират отпусканите им социални плащания чрез използването на изкуствен интелект, а не на служители. Картата съдържа име, снимка, подпис на притежателя и магнитна лента, която позволява и получаването на пари от държавата като пенсии от пощенските станции, без да е необходима намесата на служител. Върху нея може да има и знак, че човекът има право на безплатно пътуване.
Документът
много прилича
на българските
лични карти,
но е част от по-голям проект на ирландските власти да дигитализират съществена част от обществените услуги в страната и да повишат сигурността при установяване на самоличността на лицата, които ги получават, както и да направят по-надеждни проверките дали те имат право на тях. Освен за отпускане на държавна пенсия и помощи се използва за кандидатстване за паспорт за първи път и за шофьорска книжка.
Пенсионерката обаче отказва да си издаде въпросната карта, защото смята, че няма нужда от нея, тъй като повечето услуги не я вълнуват. Тя пише до службата, която я изисква, с молба да ѝ докажат, че е задължителна. Но вместо исканата информация са ѝ изпратени още няколко писма от социалното министерство с напомняне да се регистрира в правителствената електронна система и в крайна сметка тя не получава полагащата ѝ се държавна пенсия от 166 евро на седмица в продължение на 18 месеца. След като пострадалата жена се оплаква пред медиите, се разбира, че и стотици други хора са лишени от услуги, тъй като са отказали да си издадат от новите карти за достъп до електронното обслужване или пък са били в невъзможност да го направят, като учителка със счупен глезен, която остава 7 седмици без обезщетения за временна нетрудоспособност, защото не може да стигне до офис за издаване на документа.
Подобни случаи, а и пандемията, която принуди редица държави и бизнеси буквално да пришпорят проектите си за електронни услуги, накара Европейската комисия да се опита да регламентира изчерпателно използването на изкуствен интелект, за да гарантира, че няма да има злоупотреба със социални и икономически права при използването му от обществени органи и фирми. Тя публикува през април 108 страници с предложения и препоръки по въпроса, но предстои приемането и на специално законодателство. Основните намерения са всяка една система, която е свързана по някакъв начин с изкуствен интелект и която може да повлияе на гражданин на ЕС, независимо дали е клиент, или служител, да подлежи на регулации.
Представители на бизнеса предупредиха, че това ще доведе до трудности за прилагане на нови технологии и ще ги оскъпи, което ще засили изоставането на Европа от Китай и САЩ в този сектор. От ЕК предлагат да има претегляне на риска, за
да се
разграничат
вредните от
обикновените
приложения за
изкуствен
интелект
Има обаче опасения, че около една трета от всички сектори в ЕС ще попаднат в категорията на висок риск и ще подлежат на най-строги регулации. Вероятно ще им се наложи да наемат експерти, които да им помагат за прилагане на новите законови изисквания, като се цитират суми от около 400 хил. евро за проучване на високорисков продукт с изкуствен интелект.
Според експерти по дигитална сигурност регламентът е стъпка в правилната посока, но в крайна сметка няма да успее да защити основни човешки права и да смекчи най-тежките злоупотреби с технологии, тъй като не се занимава с основния дисбаланс на властта между технологичните фирми и тези, които използват техните системи. Затова 114 неправителствени организации изпратиха отворено писмо с призив към европейските институции да променят подготвения регламент за прилагане на изкуствен интелект, така че наистина да гарантира, че няма да има злоупотреби. В него се посочва, че въвеждането на информационни технологии изостря структурните дисбаланси на властта, като най-потърпевши обикновено са най-маргинализираните части в обществото. Те се обявяват за пълна
забрана на
биометричната
идентификация
на обществени
места
и задължителни обезщетения за пострадали. Препоръчват преди внедряването на всяка система да бъдат посочени категориите лица и групи, които е вероятно да бъдат засегнати от нея. Да се прави оценка как тя ще въздейства върху основните им права и по-широкия обществен интерес.
Според тях някои от възможностите на изкуствен интелект са абсолютно несъвместими с човешките права и трябва да бъдат забранени. Сред тях са употребата му за разпознаване на емоции, биометрична категоризация, предвиждане на поведение и контрол на имиграцията. Правозащитниците са загрижени за използването на такива технологии от полицията и разузнавателните служби, на първо място, заради неприкосновеността на личния живот и на второ – заради грешките, допускани от тях.
Анализ на “Хюман райтс уоч” на съществуващите до момента практики е показал, че в стремежа си да модернизират застаряващите си системи за социално подпомагане все по-голям брой правителства изграждат или набавят алгоритми, които да им помогнат да проверят дали хората отговарят на условията за обезщетения, да извършват оценка на имуществено състояние и да откриват измами. Но някои неправилно създадени програми са лишили хора от права и са довели до неправомерни обвинения в измама. От правозащитната организация припомнят, че миналата година съд в Нидерландия е разпоредил на правителството да спре използването на автоматизиран инструмент за оценка на риска, за да предвиди колко вероятно е хората да извършат данъчни или социални измами заради липсата на прозрачност и опасения за поверителност на използваната в него информация. Френската агенция, която администрира даването на обезщетения, също признава, че заради грешки на използваната автоматизирана система за оценка на кандидатстващите
между 60 000 и
120 000 души са
имали забавени
плащания
или откази през миналата година. И макар да е било ясно, че става въпрос за софтуерен проблем, много хора е трябвало да преминат през обжалвания и допълнителни проверки, след като са получили погрешни съобщения, че са надвзели обезщетения.
Европейският парламент пък прие резолюция, в която изтъква, че е необходим човешки надзор и силни правни правомощия, за да се предотврати дискриминация от страна на изкуствен интелект, особено в контекста на правоприлагането и граничния контрол. Човешки оператори винаги трябва да вземат окончателните решения, а субектите, наблюдавани от информационни системи, да имат достъп до средства за правна защита, смятат евродепутатите. Те настояват за постоянна забрана на автоматизираното разпознаване на обществени места, като отбелязват, че гражданите трябва да бъдат наблюдавани само при подозрение за престъпление.
“За първи път призоваваме за мораториум върху внедряването на системи за лицево разпознаване в котекста на правоприлагането, тъй като технологията е доказано неефективна и често води до дискриминационни резултати. Категорично се противопоставяме на прогнози за полицейска дейност, основана на използването на изкуствен интелект, както и на всяка обработка на биометрични данни,
която води
до масово
наблюдение”,
коментира пред колегите си евродепутати българският представител Петър Витанов, който бе докладчик по резолюцията. Той цитира американски доклад, според който най-често обект на такъв вид дискриминация са хора от по-бедните прослойки, такива с чужди имена, източноевропейски граждани и цветнокожи. Витанов обясни, че целта на европейските депутати, подкрепили резолюцията, не е да спират технологичния процес, а по-скоро да рамкират неговата употреба, особено в сферата на правоприлагането, тъй като съществуват редица случаи, които доказват, че използването на различни приложения и апликации на изкуствен интелект от полицейските служби води до дискриминация и нарушаване на основни човешки права.
Колегата му Аксел Фос от Германия обаче предупреди, че ако Европа иска да се конкурира по света, без да работи с данни, няма голям шанс.
“Трябва да се съсредоточим върху това как да осигурим необходимата ни информация, включително лични данни. Тези, които събират много данни, са в САЩ и в Китай, необходимо е да действаме много бързо”, подчерта той. В противен случай Европа може да се окаже “цифрова колония” на други държави.
