Этические аспекты электронного мониторинга
Электронное устройство мониторинга также включает в себя автоматизированную обработку данных осужденных преступников. Это инновационный способ исполнения наказания с помощью электронного устройства, который также можно классифицировать с использованием искусственного интеллекта.
В настоящее время, особенно в эпоху четвертой промышленной революции, искусственный интеллект внедряется во всех сферах деятельности, включая исполнение наказаний осужденных преступников. Именно из-за внедрения искусственного интеллекта в исполнение наказаний необходимо изучить природу искусственного интеллекта и его правовые и этические аспекты.
Можно сказать, что искусственный интеллект -- это научная дисциплина, которая занимается разработкой алгоритмов и машин, демонстрирующих признаки интеллектуального поведения. Учитывая непрекращающееся развитие искусственного интеллекта, необходимо нормативно решить связанные с ним вопросы и принять меры предосторожности для предотвращения злоупотреблений им.
В июне 2018 г. Европейская комиссия создала группу экспертов -- AI HLEG, в которую вошли общественные, отраслевые и академические деятели. Эта группа подготовила документ в поддержку стратегии Европейской комиссии по искусственному интеллекту и робототехнике. Однако документ является результатом работы группы и не может рассматриваться как официальная позиция Комиссии. Документ фокусируется в основном на этических ценностях и устойчивости как с технической, так и с социальной стороны. Развитие и интеграция искусственного интеллекта в жизнь должны основываться на четырех этических принципах, основанных на Хартии основных прав Европейского Союза, а именно:
предотвращение вреда. Принцип основан на статье о неприкосновенности человека как в физической, так и в психической форме, особенно с точки зрения медицины и биологии (например, запрет на репродуктивное клонирование человека, полный текст которого можно найти в ст. 3 Устава);
уважение к человеческой автономии. Система искусственного интеллекта не может ослабить или иным образом негативно повлиять на нее. Человек обладает способностью контролировать систему и вмешиваться в процесс;
справедливость. Принимает разные формы, но развитие системы должно быть справедливым с точки зрения двух измерений. Основное измерение включает равное распределение затрат и выгод, а также обеспечение того, чтобы человек не подвергался дискриминации или предвзятому отношению. Процедурное измерение включает в себя возможность отклонить решения системы искусственного интеллекта и людей и настаивать на исправлении. Для этой цели должна быть возможность определить орган, ответственный за принятие решения, и объяснить процесс принятия решения;
ясность. Это необходимо для обеспечения того, чтобы система искусственного интеллекта всегда была прозрачной, чтобы процедуры можно было идентифицировать и открыто сообщать о целях системы.
Эти этические принципы привели к этическим требованиям, которые должны соблюдаться при реализации так называемого «заслуживающего доверия искусственного интеллекта»Klatik J. Ср. oit..
7 декабря 2018 г. Европейская комиссия представила Европейскому Парламенту, Европейскому Совету, Европейскому экономическому и социальному комитету и Комитету регионов сообщение о Скоординированном плане искусственного интеллекта, сопровождающем Скоординированный план развития и использования искусственного интеллекта, разработанного государствами- членами (в составе Европейской группы по промышленности и искусственному интеллекту), Норвегией, Швейцарией и КомиссиейCoordinated Artificial Intelligence Plan // URL: https://data.consilium.europa.eu/doc/document/ ST-6177-2019-INIT/sk/pdf..
Скоординированный план охватывает четыре ключевые области, а именно:
а) увеличение инвестиций;
б) рассекречивание и накопление большего количества данных (что является
«сырьем» для искусственного интеллекта);
в) поддержка таланта;
г) обеспечение доверия.
Они определили приоритетные области общественного интереса, такие как здравоохранение, транспорт и мобильность, безопасность, безопасность и энергетика, а также важные экономические сектора, такие как производство и финансовые услуги.
Поэтому вопросы, которые нужно задать о развертывании искусственного интеллекта, имеют не только техническое, но и этическое измерение. Первой из этических проблем является прозрачность и ясность решений по искусственному интеллекту, что связано с проблемой отслеживания возможных ошибок при автоматическом принятии решений машиной. Программы, которые предсказывают преступное поведение, являются примерами того, насколько малопрозрачным является решение, основанное на искусственном интеллекте, и как оно может оказать серьезное влияние на людей. Это могут быть, например, алгоритмы, которые оценивают, какие лица наиболее вероятно вовлечены в незаконную деятельность, или оценивают вероятность повторения осужденных преступников. Упомянутые инструменты включают в себя систему, которая рассчитывает степень опасности осужденных для общества. В этом случае было показано, что некоторые решения об искусственном интеллекте носят дискриминационный и расовый характер. Одной из причин может быть то, что искусственный интеллект приобретает свои возможности из реальной действительности URL: https://vedanadosah.cvtisr.sk/etika-a-umela-inteligencia..
Защита персональных данных и электронный мониторинг
Быстрые технологические разработки и глобализация поставили новые задачи по защите персональных данных. Масштабы сбора и обмена персональными данными значительно возросли. Технология позволяет обрабатывать личные данные в беспрецедентных масштабах для осуществления таких действий, как предотвращение, расследование, выявление или преследование за совершение уголовных преступлений или исполнение уголовных наказаний.
В соответствии с пар. 26 Директивы (ЕС) 2016/680 Европейского Парламента и Совета от 27 апреля 2016 г. о защите физических лиц в отношении обработки персональных данных компетентными органами в целях предотвращения, расследования, обнаружения или судебного преследования уголовных преступлений или исполнения уголовных наказаний, а также о свободном перемещении таких данных и отмене Рамочного решения Совета 2008/977/JHA любая обработка персональных данных должна быть законной, справедливой и прозрачной по отношению к соответствующим физическим лицам и только для определенных целей, предусмотренных законом. Это не мешает правоохранительным органам проводить такие действия, как тайные расследования или видеонаблюдение.
Такие действия могут осуществляться в целях предотвращения, расследования, выявления или судебного преследования за совершение уголовных преступлений или исполнения уголовных наказаний, включая защиту и предотвращение угроз общественной безопасности, если они установлены законом и представляют собой необходимую и соразмерную меру в демократическом обществе с должным учетом законных интересов соответствующего физического лица.
Физические лица должны быть осведомлены о рисках, правилах, гарантиях и правах в отношении обработки их персональных данных и о том, как осуществлять эти права. В частности, конкретные цели, для которых обрабатываются персональные данные, должны быть явными, законными и определенными во время сбора персональных данных. Персональные данные должны быть адекватными и соответствующими целям, для которых они обрабатываются. В частности, следует обеспечить, чтобы собранные персональные данные не были чрезмерными и не хранились дольше, чем это необходимо для цели, для которой они обрабатываются. Персональные данные должны обрабатываться только в том случае, если цель обработки не может быть разумно выполнена другими способами. Чтобы гарантировать, что данные не хранятся дольше, чем необходимо, контроллер должен установить временные рамки для стирания или для периодического просмотра. Эти принципы также должны применяться к электронному мониторингу осужденных преступников.
Электронный мониторинг осужденных преступников основан на использовании искусственного интеллекта и автоматизированной обработке этих данных. Данные, полученные в результате этой автоматической обработки, представляют собой личные данные осужденных и других лиц, с которыми они вступают в контакт. Это также может быть конфиденциальная информация о конфиденциальности, связано с проблемой больших данных и профилирования субъектов данных. Большие данные и профилирование субъекта данных могут пониматься как обработка больших объемов информации (не только личных данных) разных лиц, которая в основном состоит из анализа и объединения этих данных с помощью комплекса алгоритмов для нахождения точно определенных отношений, в результате чего в профилях, применимых к группам лиц, которые подразделяются на предварительно определенные категории лиц или группы лиц в соответствии с ожидаемым будущим поведением этих групп Huckova R., Sokol P., Rozenfeldova L. 4th industrial revolution and challenges for european law (with special attention to the concept of digital single market) // EU and comparative law issues and challenges series: Eu law in context -- adjustment to membership and challenges of the enlargement : International Scientific Conference.Osijek : Sveuciliste Josipa Jurja Strossmayera u Osijeku, 2018. S. 201--215 //URL: https://hrcak.srce.hr/ojs/index.php/eclic/ issue/view/313/Vol2..
Профилирование субъектов данных определяется также в Общем регламенте Европейского Парламента и Совета (ЕС) от 27 апреля 2016 г. о защите физических лиц при обработке персональных данных и о свободном перемещении таких данных и отмене Директивы 95/46/EC (Общие положения о защите данных) (далее -- GDPR). В соответствии со ст. 4 пар. 4 профилирование означает «любую форму автоматизированной обработки персональных данных, состоящую из использования персональных данных для оценки определенных личных аспектов, относящихся к физическому лицу, в частности для анализа или прогнозирования аспектов, касающихся работы этого физического лица, экономической ситуации, здоровья, личных предпочтений, интересов, надежности, поведения, местоположения или движения.
В соответствии с GDPR субъект данных должен иметь право не подчиняться решению, которое может включать в себя оценку личных аспектов, касающихся его или ее, которая основана исключительно на автоматизированной обработке и имеет правовые последствия без какого-либо вмешательства человека. Автоматическое принятие решений и профилирование на основе специальных категорий персональных данных должно быть разрешено только при определенных условиях (например, расовая, этническая или религиозная информация). Исключение составляют общественные интересы и согласие субъекта данных.
Как упоминалось выше, защита физических лиц в отношении обработки персональных данных компетентными органами в целях предотвращения, расследования, выявления или судебного преследования за совершение уголовных преступлений или исполнения уголовных наказаний, а также от свободного перемещения таких данных изменено указанным актом ЕС, который также касается автоматической обработки персональных данных. Это регулируется Директивой (ЕС) 2016/680 Европейского Парламента и Совета от 27 апреля 2016 г о защите физических лиц в отношении обработки персональных данных компетентнымиорганами в целях предотвращения, расследования и обнаружения, или судебное преследование за совершение уголовных преступлений или исполнение уголовных наказаний, а также за свободное перемещение таких данных и отмене Ра-мочного решения Совета 2008/977/JHA (далее -- направление) в связи с GDPR.
Как отмечает Михок, важным вопросом является изучение возможности использования искусственного интеллекта в электронном мониторинге в уголовном правосудии в соответствии со ст. 22 пар. 1. Правонарушители с электронным мониторингом GDPR имеют право не подвергаться решению, основанному исключительно на автоматизированной обработке, включая профилированиеZul'ova J.Profilovanie a automatizovane rozhodovanie (nielen) v pracovnopravnych vzt'ahoch // Svec M.,Bulla M. (eds.) Praca 4.0, digitalna spolocnost a pracovne pravo [online]. [citovane 06.09.2019] Bratislava: Friedrich Ebert Stiftung (zastupenie v SR).2018.S. 49--60 //URL: http:// www.fes.sk/fileadmin/user_upload/aktuality/2018/Praca_4.0.pdf ;Mihok P Vybrane pravne a eticke aspekty umelej inteligencie pri elektronickom monitoringu obvinenych a odsudenych osob //Suchoza J., Husar J., Huckova R. (eds.) Pravo, obchod, ekonomika. IX.Kosice : Univerzita P. J. Safarika v Kosiciach, 2019..
Решение, основанное на автоматизированной обработке данных, полученных с помощью электронного мониторинга, что также соответствует требованиям GDPR и Директивы, должно быть принято лицом или органом, назначенным для этой цели, после проверки и оценки информации. Конечно, будет целесообразно, чтобы при оценке осужденного лица не учитывались данные, которые дискриминируют осужденного преступника, а также данные и информация, не относящиеся к нему, но касающиеся, например, членов семьи.
В соответствии с пар. 37, 38 Директивы субъект данных должен иметь право не подчиняться решению, оценивающему личные аспекты, которое основано исключительно на автоматизированной обработке и создает неблагоприятные правовые последствия или имеет существенное воздействие. В любом случае на такую обработку должны распространяться надлежащие меры предосторожности, включая предоставление конкретной информации субъекту данных и право на вмешательство человека, в частности, для выражения своей точки зрения, для получения разъяснений, возможности оспорить решение.