Дроны стали применяться для слежки за агентами и сотрудниками правоохранительных органов, за свидетелями преступлений и членами конкурирующих преступных группировок, а также в поисках объектов для краж и ограблений, с целью слежения за контейнерами с контрабандным товаром и съемок интимных встреч для дальнейшего шантажа.
Прогресс в области искусственного интеллекта и новейшие технологии порождают новые угрозы, к примеру хакерские атаки, которыми будет управлять не человек, а искусственный интеллект, распространение дезинформации и фейков [25; 26].
Элементы искусственного интеллекта используются в качестве способа компенсации низкой квалификации людей: так, активное применение наводящихся с использованием искусственного интеллекта снайперских винтовок дальнего действия, имеющих джойстики для управления, заметно снижает требования к профессиональной подготовке боевиков [4, с. 45].
Наблюдается процесс автоматизации социальной инженерииСоциальная инженерия - совокупность психологических методов и технологий воздействия на со-беседника, максимально эффективно приводящих к необходимому результату [27; 28]., примером чего являются так называемые боты. Бот (сокр. от «робот») - это программа, способная по определенному алгоритму выполнять какие-либо действия через интерфейсы, предназначенные для людей, например вести диалог с посетителями форума либо в соцсети.
Беспрецедентная атака ботов, зазывающих пользователей в печально известные «группы смерти», была отмечена в 2017 г. в социальной сети «ВКонтакте». В марте 2017 г. руководитель отдела модерации «ВКонтакте» И. Коренев сообщил, что с начала января на сайте этой соцсети было сгенерировано около 3 млн сообщений с хештегами и стишками, возможно, призывающими к суициду. Подобные сообщения при этом постоянно менялись, размывались какими-либо символами. Руководство «ВКонтакте» увидело за таким всплеском «целенаправленную атаку ботов», что было очевидно, так как «в этот период появилось несколько тысяч страниц, созданных исключительно для того, чтобы публиковать такие хештеги» [29].
Специалисты Центра исследований легитимности и политического протеста провели анализ страниц, с которых пошла новая волна стихотворений с хештегом, выяснили время запуска стихов, а также использованные для этого аккаунты. Анализ аккаунтов позволил сделать вывод, что имела место автоматизированная рассылка стихов по страницам «ВКонтакте». Большинство рассылок выявлено на устройствах, работающих под операционной системой Android, программой рассылки оказалась VK iHA bot. Этот робот появился в Сети в 2014 г., его следы привели к жителю Киева, известному под ником Dr. Failov. Так как его программа написана для Android-устройств, то она была и на Google Play, где указаны почта и сайт разработчика, а также страна регистрации - Украина.
Dr. Failov известен как создатель вредоносных программ, к примеру программы вируса-вымогателя «Файло4кА». В зависимости от версии «Файло4кА» создает разное количество файлов, их типов и разрешений, захламляет операционную систему и вызывает неисправности компьютера. Потребителю предлагается использовать «Файло-4кУ» как, скажем, розыгрыш. В последних версиях программы все настолько автоматизировано, что при желании ее можно моментально удалить с компьютера, но только с помощью секретного кода, получить который можно за деньги.
Раскрытая схема ботов показала, что вовлечение подростков в «игру» производилось в автоматическом режиме программными средствами. Робот сам мог вести диалог с пользователями, отвечая на стандартные вопросы и распознавая сленг молодежной аудитории. Машина предлагала написавшему подростку сделать выбор («Если да, напишите 1, если нет, напишите 0»), таким образом отсеивая других ботов и допуская несовершеннолетнего на следующий уровень в «игре». В результате сначала один робот делал посев стиха, сам фильтровал его и находил посты реальных подростков. Все эти действия робот совершал через так называемое API VK (англ. application programming interface). Внутри API есть функция автоматического размещения записей, которую и использовал данный бот. Человек-куратор, купивший бота, подключался к работе с уже готовыми к серьезной «игре» подростками [30].
Продвинутым вариантом социальной инженерии является ситуация, когда человек, участвующий в диалоге с ботом, уверен, что общается с человеком, поскольку программа способна обратиться к пользователю-человеку и поддерживать с ним беседу, оперируя такими репликами, которые человек-собеседник сочтет естественными. То есть эта программа способна оправдать ожидания человека-собеседника, она «социализирована», ведет диалог в рамках, принятых в данном обществе, ориентирована разработчиками на побуждение человека к выполнению определенных действий, что и является критерием ее успешности. Так, на одном из закрытых форумов программисты поделились опытом создания двух ботов, один из которых должен был провоцировать женщин делиться с мнимым собеседником интимными фотографиями, а второй должен был убедить собеседника пожертвовать некую сумму (до 5 дол.), переведя ее на счет через систему PayPal. Целевой аудиторией первого бота выступили англоязычные белые жительницы Восточного побережья США в возрасте от 20 до 30 лет, из которых поделились с ботом интимными снимками 4%. В среднем уговоры занимали 16 тыс. знаков со стороны бота, причем уже после 5 тыс. знаков становилось понятно, будет ли достигнута цель, и заведомо неуспешные диалоги обрывались для экономии ресурсов. Программу обучили на выборке из 200 живых диалогов с реальными людьми, после чего она самообучилась еще на 2 тыс. диалогов и вышла на стабильный 4-процентный результат, что считается достаточно высоким достижением для программы-бота.
Бот, подготовленный для сбора «пожертвований», после запуска в Сеть собрал за сутки 15 тыс. дол. Создатели бота заявили, что сделали его не с целью наживы, а для проверки возможностей социального хакинга (перен. «взлом»), потому что, по сути, это и есть хакинг человеческого сознания, проводимый социальными методами [31].
Впрочем, человек, участвующий в диалоге с ботом, может и осознавать, что он общается с программой. Чаще всего боты используются при покупке-продаже наркотиков бесконтактным способом: бот отвечает, какие наркотики имеются в интернет-магазине, по какой стоимости реализуются, как произвести оплату и где можно «поднять закладку». В последнее время популярной площадкой для такого рода распространения становится Telegram.
Рассмотренные примеры свидетельствуют о том, что преступления, совершенные с использованием технологий искусственного интеллекта, отличает высокая степень анонимности, а иногда, как в случае с ботами, практически выводит личность правонарушителя из процесса преступных взаимодействий, что не может не порождать ощущения безнаказанности. К. Н. Евдокимов выделяет также такую характеристику технотронной преступности, как неконтролируемость, и выдвигает научную (частную) теорию «анекселенктотичной технотронной преступности» (avE-EAcyKioq, anexelenktos, в переводе с гр. - неконтролируемый, неуправляемый; технотронный в переводе с англ. - связанный с технотроникой, т. е. техникой с использованием электроники, оказывающей влияние на развитие общества), иначе говоря, возникновения «преступности нового поколения, основанной на использовании IT-технологий, пришедшей на смену традиционной компьютерной преступности и вышедшей из-под контроля личности, общества и государства в силу своей социальной латентности, технической сложности и многогранности» [32, с. 39].
В то же время нельзя говорить о том, что только преступность берет на вооружение современные программно-технологические достижения. Имеется немало примеров различных программных решений с использованием искусственного интеллекта, направленных на противодействие преступности и ее профилактику (табл. 2).
Таблица 2 / Table 2
Искусственный интеллект в противодействии преступности / Artificial intelligence in counteracting crime
|
Наименование программы (эксперимента), дата и место разработки и применения / Name of program (experiment), date and place of development and use |
Цели и результаты / Goals and results |
|
|
Аналитические средства для правоохранительных органов (США, IBM, 2001 г. - н. в.) |
Цель: получение быстрого доступа к информации, накопленной правоохранительными органами США, для выявления в ней скрытых связей между людьми, местами, автомобилями, мобильными телефонами и т. д. Результат: с 2007 по 2011 г. полиции Северной Каролины удалось снизить количество совершаемых преступлений на 50 % [19, с. 44] |
|
|
Окончание табл. 2 / End of the table 2 |
||
|
Наименование программы (эксперимента), дата и место разработки и применения / Name of program (experiment), date and place of development and use |
Цели и результаты / Goals and results |
|
|
Межведомственная экспериментальная программа «Искусственный интеллект в расследовании и оперативно-розыскной деятельности при совершении уголовных преступлений» (США, 2013-2016 гг.) |
Цель: освобождение полицейских от рутинной работы, связанной с заполнением объемной документации по делу. Вместо этого полицейские диктовали все необходимое электронному помощнику, после чего программа Watson формировала стандартные отчеты и создавала условно структурированные базы. Результат: программа закрыта из-за неудовлетворительных результатов (Watson не справилась с оценкой качества отчетов, исключение интерактивности при составлении отчетов привело к существенному ухудшению качества работы) [4, с. 105-107] |
|
|
Эксперимент, связанный с обработкой суперкомпьютером потокового видео, поступающего от всей системы видеокамер (США, 2014-2015 гг.) |
Цель: уменьшение потребности в патрулировании городов полицейскими экипажами за счет повышения ситуационной осведомленности о месте нахождения нарушителей. Результат: увеличение числа задержаний нарушителей в течение первого полугодия эксперимента, но ухудшение показателей по истечении года с момента его начала вследствие того, что преступники при совершении преступлений стали принимать во внимание возможность ухода от видеонаблюдения [там же, с. 107-108] |
|
|
Программа распознавания по фрагментам татуировок (США, 2014 г. - н. в., разработчики - ФБР, Cyrcadia и CureMetrix) |
Цель: использование вариантной графической базы в качестве фильтра при автоматическом распознавании образов в потоковом видео, поступающем с городских камер видеонаблюдения Результат: задержание 17 лиц, находившихся в розыске [там же, с. 109-110] |
|
|
Программа распознавания по фотографиям и потоковому видео людей, осуществивших пластические операции, и выдачи вариантов их первоначальной внешности (США, DOIL COGNITIVE COMPUTING, 2015 г. - н. в.) |
Цель: выявление находящихся в розыске лиц, изменивших внешность. Результат: в ходе испытаний программа успешно распознала по фотографиям факт пластической операции в 97 % случаев, в потоковом видео - в 90 %, в более чем 80 % случаев успешного распознавания позволяла восстановить первоначальную внешность [там же, с. 111] |
|
|
Платформа контекстного интеллекта Nigel (США, 2017 г. - н. в.) |
Цель: контекстное распознавание ситуации (например, родитель ведет собственного упирающегося ребенка или похититель украл ребенка). Результат: экспертные советы правоохранителям, привязанные к уникальной конкретной обстановке [там же, с. 112-113] |
|
|
Система Mayhem (США, ФБР совместно с компанией ForAllSecure и университетом штата Пенсильвания, 2017 г. - н. в.) |
Цель: распознавание индивидуального почерка хакеров и хакерских группировок, обнаружение атак, активное тестирование и преследование хакеров вплоть до установления их локации. Результат: на конференции по кибербезопасности Blac Hat в 2016 г. в состязании между хакерами и Mayhem система успешно распознала четырех хакеров из пяти [там же, с. 113-114] |
В.С. Овчинский и Е.С. Ларина приводят данные Интерпола и Европола, согласно которым более чем в 70 странах мира полицейские на практике используют те или иные данные предиктивной аналитики, опираясь на программные средства более чем 25 корпораций-производи телей [4, с. 114]. Предиктивная, или предсказательная, аналитика представляет собой совокупность методов анализа данных, направленных на прогнозирование поведения людей (табл. 3). Принятие серьезных, нередко судьбоносных для человека решений в результате алгоритмических вычислений искусственного интеллекта вызывает немалые опасения.
Таблица 3 / Table 3
Искусственный интеллект в прогнозировании преступности Artificial intelligence in predicting crime
|
Наименование программы, разработчики, страна, годы внедрения и использования / Name of the program, developers, country, years of installment and use |
Область применения / Sphere of use |
|
|
Программа COMPAS (Массачусетский технологический институт, США, 2014 г.) |
Рекомендации по выбору для обвиняемых, ожидающих суда, залога или заключения под стражу; решение вопросов об условно-досрочном освобождении [4, с. 70] |
|
|
Система прогнозной психометрики преступного сообщества (планируется внедрить с 2019 г. в Лионе, Франция) |
Моделирование конкретных профилей преступников и прогнозирование динамики их психического состояния [там же, с. 116-117] |
|
|
Программа Harm Assessment Risk Tool (2017 г., Дарем, Англия) |
Выбор между содержанием под стражей или применением альтернативных мер пресечения, основанный на алгоритме искусственного интеллекта. Тестирование показало: алгоритм мог предсказать, что задержанный не представляет опасности, в 98% случаев и верно определял находившихся в группе высокого риска в 88% случаев [19, с. 48-49] |
|
|
Аналитический программный комплекс CEG (Джексонсвилл, Александрия, Мемфис и Детройт, США, 2016 г. - н. в.) |
Использование элементов искусственного интеллекта для прогнозирования скачкообразного увеличения числа возможных правонарушений в масштабах вплоть до квартала конкретного города. Для каждой локации устанавливается 45-50 параметров риска, каждый из которых имеет количественную меру. При определенных изменениях системы параметров в тех или иных кварталах или районах города резко возрастает вероятность скачкообразного увеличения количества преступлений. Параметры рассчитываются на основе первичной информации, в том числе данных с видеокамер, сообщений в социальных сетях, прогнозах погоды и т.п. В первом полугодии 2016 г. в городах, где была внедрена система, по сравнению с контрольными городами, т.е. примерно аналогичными по численности и криминогенной обстановке, удалось снизить число преступлений на 14 %, что считается большим достижением, поскольку снижение преступности на 3-4% в год для городов с тяжелой криминогенной обстановкой считается несомненным успехом [4, с. 108-109] |
|
|
Система прогнозирования преступлений PredPol (Калифорнийский университет, США, с 2014 г. применятся в США и Великобритании) |
Система оснащает полицейские патрули электронными картами с мигающими красными квадратами, обозначающими места возможной противоправной активности. Специальные испытания, проводившиеся в течение почти двух лет в трех территориальных подразделениях полиции Лос-Анджелеса, доказали, что PredPol верно предугадывает в два раза больше мест преступлений, чем позволяют лучшие из существующих методик [19, с. 45-47] |
|
|
Система ePOOLICE ((early Pursuit against Organized crime using environmental scanning, the Law and IntelligenCE systems), Евросоюз, 2013 г. - н. в.) |
Система сканирования данных, изучающая страницы сайтов, электронную переписку, полицейскую информацию в поисках свидетельств деятельности организованной преступности и для оценки риска проявления нелегальной активности. Для формального анализа организованной преступности используется видео-, текстовый контент и финансовые данные [4, с. 244-291] |
|
|
Программные продукты Palantir Technologies, Inc. (США, 2003 г. - н. в.) |
Аккумуляция данных ДНК, записей систем видеонаблюдения, телефонных переговоров, радиоперехватов, данных о передвижениях, сообщений в СМИ, информации из соцсетей, сведений от информаторов, транзакциях, сопровождающих преступления, прежде всего террористического характера. Программное обеспечение Palantir доказало свою результативность в раскрытии преступных сетей по подготовке терактов, в розыске педофилов и т. д. [19, с. 57-58] |
|
|
Система «Искусственный интеллект» («Объединенная приборостроительная корпорация», Россия, тестируется с 2016 г.) |
Фиксация нарушений на границах России с помощью инфракрасных датчиков, сейсмосенсоров, радиолокационных устройств с целью наработки базы данных для дальнейшего компьютерного анализа информации о нарушении границ, дистанционного контроля ситуации и прогнозирования опасностей [там же, с. 74-76] |
Так, В.С. Овчинский и Е.С. Ларина описали этическую проблему, связанную с внедрением в США программы с элементами искусственного интеллекта COMPAS. Она применяется во многих судах штатов для принятия решения, рекомендовать ли ожидающим суда присяжных тюремное заключение или освобождение под залог. Программа положительно зарекомендовала себя, и ее стали использовать также при решении вопросов об условно-досрочном освобождении. Однако, когда портал Propublica.org, который является площадкой сообщества ученых, негативно относящихся к искусственному интеллекту, расшифровал черный ящик системы COMPAS, выяснилось следующее. Оказалось, что система априори уменьшает шансы на освобождение под залог и условно-досрочное освобождение для лиц латиноамериканского происхождения, не имеющих легального статуса на территории США, а также для афроамериканцев с доходом выше прожиточного минимума, но ниже, чем у среднего класса. Если первый вывод был интуитивно понятен, то второй породил всеобщее недоумение, и эксплуатация системы после широкого общественного резонанса была приостановлена.
Создатели программы COMPAS предложили проекту Propublica создать независимую группу - своего рода первый в истории Америки алгоритмическо-статистический суд, которым руководил математический директор Google Абэ Гонга. В течение нескольких месяцев группа анализировала алгоритмы, выработанные нейронными сетями, и сравнивала их с массивами статистических данных о преступности. В сентябре 2016 г. группа вынесла решение, с которым согласились и создатели COMPAS, и экспертное сообщество Propublica. Абэ Гонг подтвердил, что алгоритмы COMPAS по построению нейронных сетей и глубокому обучению математически безупречны, как и сама программа в статистическом смысле. Статистическая безупречность означает, что нейронным сетям удалось установить наиболее точную зависимость между выходными данными и входными, т. е. между данными, представляющими профиль того или иного индивида, и критериями риска.
Все рекомендации COMPAS были верны в инженерном смысле этого слова: программа действительно минимизировала число условно-досрочных освобождений, после которых нарушители закона вновь совершали преступления, а также правильно определяла, в каких случаях перспективнее было бы отпустить человека под залог.
Таким образом, общество, правоохранительная и судебная система поставлены искусственным интеллектом перед серьезной морально-этической дилеммой, пути выхода из которой пока не обозначены. Не менее важные задачи ставятся в поисках возможностей искусственного интеллекта в предупреждении преступности (табл. 4).