В този блог нашето тристранно партньорско проучване изследва етичните, правни и обществени аспекти на инструментите за управление на данни и очертава интегрираната защита на данните на COPKIT и оценка на етичното въздействие (E + PIA), за да се постигне отговорно използване на иновациите и технологиите на проекта.
Тероризмът и организираната престъпност са развиващи се явления с високо обществено въздействие. Все по-често престъпните организации използват нови технологии, за да засилят възможностите си, за да подкрепят своята дейност, например, като използват онлайн услуги (пазари) за придобиване или разпространение на стоки и услуги.
Както подчерта Европол, за почти всички видове организирана престъпност престъпниците прилагат и адаптират технологиите с все по-голямо умение и с все по-голям ефект. Това е може би най-голямото предизвикателство пред органите на реда по света, включително в ЕС (Европол 2017)
Правоприлагащите органи трябва да са с една крачка напред в използването на нови технологии от организираната престъпност и терористичните групи.
Проектът COPKIT разработва решения за управление на данни, за да обясни как се развива престъплението, да идентифицира „слаби сигнали“ или тенденции и да изпраща сигнали за потенциални рискове. Следователно подходът COPKIT се фокусира върху политиките за подготовка, ограничение, предотвратяване и сигурност.
Независимо от това използването на технологии от правоприлагащите органи повдига няколко етични, правни и обществени въпроси със сериозни последици за връзката между правоприлагащите органи и гражданите.
Екипът на COPKIT по етични, правни и лични данни (ELP) (с участието на Фондация Право и Интернет от България, Университета в Гранада от Испания и ръководен от Trilateral Research от Ирландия) работи по справяне с различни етични, правни и обществени предизвикателства, свързани с предвиденото използване на COPKIT като технологии за разследване на правоприлагането, а именно:
1. Данни
Какви видове данни и как трябва да се използват данните, предоставени на полицията? Кой има достъп до тези данни в и извън полицията? Кои източници на данни се използват? До каква степен нашият дигитален отпечатък, като нашата дейност в социалните медии, е частен и може ли да се използва безусловно? Какви са законовите граници на профилирането на гражданите?
2. Прозрачност
Как алгоритмите за прогнозиране могат да достигнат до своите заключения? Как работят анализите? Как се използват? Доколко те са ефективни в допринасянето за несигурността?
3. Неточност, пристрастие, автоматизация и дискриминационни резултати
До каква степен средствата за управление на данни могат да допринесат за стигматизацията на хората (уязвими и малцинствени групи и индивиди) и места (горещи точки)? Може ли такава информация като нашите пощенски кодове, възраст, пол, раса, статус на заетост, социално и семейно положение да се използва? Как да проектираме такива инструменти, за да сведем до минимум виктимизацията? Как да намалим пристрастията и автоматизацията, когато хората, които вземат решения, се отклоняват към компютрите и приемат препоръки, които може да са неправилни или предубедени?
4. Злоупотреба с изследвания
Въпреки че изследванията обикновено се извършват с доброкачествени намерения, те имат потенциал да навредят на хората или обществото. По този начин ние проучваме как да избегнем злоупотреба с управлението на данни от инструментите за полиция, т.е. как те биха могли да бъдат използвани за неетични цели.
Нашата интегрирана защита на данните и оценка на етичното въздействие
Потенциалът за огромни ползи от управляващите данни полицейски инструменти е съчетан със значителни рискове.
Подобно на всички инструменти, които събират и обработват потенциално лични данни, COPKIT технологиите могат да взаимодействат с правата и свободите на хората - в този случай жертвите на киберпрестъпления, извършителите или други потребители на Интернет.
Нашият екип на ELP предлага интегрирана защита на данните и оценка на етичното въздействие (E + PIA) на COPKIT технологии за постигане на отговорно използване и иновации. Нещо повече, технологиите COPKIT изискват подход за конфиденциалност по дизайн по време на разработването на технологиите и съобразяване с етиката на данните, за да се създадат пропорционални инструменти за свързаните с правоприлагането дейности.
Интегрираната E + PIA обхваща целия жизнен цикъл на проекта от ранния етап на проектиране до внедряването на продукта или услугата. Чрез интегриран и интердисциплинарен подход към E + PIA в проекта COPKIT, екипът на ELP предоставя своя опит и подкрепа на всеки етап от проекта, спазвайки принципите на етиката по проект.
Потенциалните етични, правни и обществени съображения са разгледани, като се започне от дейностите по проектиране и разработка, и ние ще продължим по време на пилотирането на инструментите на COPKIT. Работим в тясно сътрудничество с партньорите на COPKIT и други заинтересовани страни, за да разберем и отговорим на техните нужди.
В тази степен екипът на ELP предлага прогнозата да се проведе на две нива:
(1) E + PIA, проведена от експерти в областта на правото, етиката и обществото, за да се гарантира висок стандарт на анализа
(2) инструмент за самооценка за правоприлагащите органи и разработчиците на технологии
Предварителни резултати
Досега като част от Е + PIA анализирахме етични, правни и обществени изисквания, за да гарантираме, че развитата екосистема спазва етичните принципи, включително неприкосновеността на личния живот, както и правните и социалните изисквания на ЕС.
Ние идентифицирахме три основни европейски акта, които излагат множество разпоредби, които трябва да се спазват, като основните права на човека, включително достойнство, недискриминация, неприкосновеност на личния живот и защита на данните; и следователно те трябва да ръководят развитието на инструментите на COPKIT:
(1) Хартата на основните права на ЕС,
(2) Общият регламент за защита на данните (GDPR),
(3) Директивата за прилагане на закона,
Освен това проектът COPKIT следва да следва шест принципа за поверителност, установени от GDPR и Директивата за правоприлагане, а именно: законосъобразност, справедливост и прозрачност (обработка на лични данни); ограничение на целта; минимизиране на данни; точност; ограничение на съхранението; почтеност и конфиденциалност.
Тъй като инструментите за управление на данни все повече използват изкуствен интелект (AI), те също трябва да вземат предвид етични насоки относно използването му. Към днешна дата няма конкретни принципи за използване на AI в полицейската дейност. Независимо от това, тези инструменти могат да следват принципите, разработени от Групата на експерти на изкуствен интелект на високо ниво (HLEG AI), създадена от Европейската комисия.
За повече информация и актуализации, следвайте ни в Twitter, LinkedIn и Facebook и не се колебайте да се свържете с нашия екип на copkit@copkit.eu.
Повече информация тук: https://copkit.eu/staying-ahead-of-the-curve-data-...
