Анализ тенденций использования искусственного интеллекта в преступной деятельности
Н.И. Старостенко
Аннотация
Усилия профильных ведомств и регуляторов финансово рынка не всегда позволяют в полной мере успешно снижать массив преступлений, связанных с применением информационно-телекоммуникационных технологий. Риски совершения подобных деяний напрямую сопряжены с дистанционным характером осуществления противоправных действий, а также с фактами утечки конфиденциальных данных граждан. Дистанционные хищения, составляющие около 70% от общего числа преступлений указанного вида, имеют особую специфику, выраженную в применении в ходе реализации корыстного умысла определенных психологических приемов, которые в специальной литературе называют методами социальной инженерии, а также различных программных средств и технологий, в том числе технологий искусственного интеллекта. Внедрение в противоправную деятельность указанных инструментов изменило характер данной преступности, открыло новые криминальные возможности для преступников, упростило достижение ими корыстных целей, а также усовершенствовало существующие способы подготовки, совершения, а также сокрытия данных преступлений. В статье сделан вывод о том, что прогнозирование подобной преступности позволит своевременно предпринять меры по предупреждению преступлений анализируемого вида, выработать приемы и средства обнаружения цифровых следов противоправной деятельности и современные подходы к производству отдельных следственных действий. Полученные результаты исследования могут использоваться для дальнейшего изучения вопросов, связанных с использованием искусственного интеллекта в преступной деятельности. психологический программный преступный
Ключевые слова: криминалистика, преступления, мошенничество, расследование преступлений, социальная инженерия, методы социальной инженерии, информационно-телекоммуникационные технологии, искусственный интеллект.
Abstract
N.I. Starostenko
ANALYSIS OF TRENDS IN THE USE OF ARTIFICIAL INTELLIGENCE IN CRIMINAL ACTIVITIES
The efforts of relevant agencies and financial market regulators do not always make it possible to fully successfully reduce the array of crimes related to the use of information and telecommunication technologies. The risks of committing such acts are directly related to the remote nature of the illegal actions, as well as the facts of leakage of confidential data of citizens. Remote theft, which makes up about 70% of the total number of crimes of this type, has a special specificity, expressed in the use of certain psychological techniques during the implementation of mercenary intent, which in the specialized literature are called methods of social engineering, as well as various software tools and technologies, including artificial intelligence technologies. The introduction of these tools into illegal activities has changed the nature of this crime, opened up new criminal opportunities for criminals, simplified their achievement of selfish goals, and improved existing methods of preparing, committing, and concealing these crimes. The article concludes that forecasting such crime will allow timely measures to be taken to prevent crimes of the analyzed type, to develop techniques and means for detecting digital traces of illegal activity and modern approaches to the production of individual investigative actions. The obtained research results can be used for further study of issues related to the use of artificial intelligence in criminal activities.
Keywords: criminology, crime, fraud, crime investigation, social engineering, social engineering methods, information and telecommunication technologies, artificial intelligence.
В настоящее время современное состояние преступности в Российской Федерации характеризуется устойчивым ростом преступных проявлений, связанных с использованием в противоправной деятельности информационно-телекоммуникационных технологий. Так, по данным официальной статистики МВД России, число зарегистрированных преступлений указанного вида за период с января по ноябрь 2023 г. по сравнению с аналогичным периодом 2022 года возросло на 30,8 %. Вместе с тем около 70 % от общего числа противоправных деяний, совершенных с применением информационно-телекоммуникационных технологий, составляют хищения [1]. Как видим, виртуальный мир меняет уклад механизмов совершения преступлений различного вида, способствует переходу от традиционных, простых способов их совершения к более сложным дистанционным формам. На расширенном заседании коллегии МВД России, состоявшемся в марте 2023 г., Президент Российской Федерации В.В. Путин обратил особое внимание на то, что одним из безусловных приоритетов работы сотрудников правоохранительных органов остается борьба с преступлениями, совершаемыми с использованием информационных технологий [2].
Несмотря на усилия профильных ведомств и регуляторов финансового рынка, появление новых методов защиты от дистанционных действий злоумышленников, а также формирование усовершенствованных подходов к раскрытию и расследованию преступных схем в информационном пространстве, все же постоянное развитие информационных технологий, а также внедрение новых программных средств в повседневную деятельность общества не позволяют в полной мере успешно снижать массив подобных противоправных проявлений.
Нельзя не согласиться с В.С. Овчинским, который отмечает, что преступность необратимо уходит и действует через киберпространство, а новые технологии меняют мир. При этом главным фактором изменений становится научно-техническая революция и внедрение искусственного интеллекта (ИИ) во все сферы деятельности человека. Кроме того, в большей части изменению подвергнута организованная преступность. Эксперты прогнозируют, что в ближайшее время организованная преступность превратится в глобальную криминальную многопрофильную корпорацию, использующую все новейшие достижения науки и техники, включая ИИ, дроны, социальный инжиниринг [3].
Действительно, способы совершения подобных преступлений имеют тенденции к дальнейшей трансформации, вызванной применением в преступной деятельности искусственного интеллекта (ИИ) - технологий, свойство которых ориентировано на выполнение автоматизированных интеллектуальных задач, которые традиционно считаются прерогативой человека [4]. Например, расширяется генерирование фальсифицированного контента, когда программа синтезирует изображение лица конкретного человека и заменяет им указанное лицо в обрабатываемом видеофрагменте [5; 6]. Применяются технологии синтеза, способные произносить заданные фразы голосом конкретного человека после обработки его индивидуального речевого образца. Прогнозируется, что в ближайшее время поддельные аудио- и видеозаписи, создаваемые с применением ИИ, станут неотличимы от реальных [7].
Безусловно, внедрение в противоправную деятельность указанных инструментов может менять характер преступности, открывать новые криминальные возможности, облегчать достижение целей, совершенствовать способы подготовки, совершения и сокрытия преступных действий, реализуемых в сфере информационно-телекоммуникационных технологий.
Необходимо подчеркнуть, что развитие искусственного интеллекта уже сегодня требует адекватного правового регулирования, способного спрогнозировать риски его применения и предусмотреть ответственность в случае причинения вреда общественным отношениям [8]. Важно и то, что прогнозирование подобной преступности позволит своевременно предпринять меры по предупреждению преступлений анализируемого вида, выработать приемы и средства обнаружения цифровых следов противоправной деятельности и современные подходы к производству отдельных следственных действий.
На данный момент значительное внимание общественности привлекает выпуск и широкое использование технологий ChatGPT - большой языковой модели (LLM), разработанной OpenAI [9]. Одно из самых существенных преимуществ технологий обозначенного вида связано с возможностью получать ответ на любой поставленный чат-боту вопрос, быстро собирать и интерпретировать искомую информацию в сети Интернет без необходимости ручного поиска и обобщения огромного объема сведений, задаваемых в поисковых системах. В этой связи стоит отметить положительное значение ChatGPT, поскольку его использование позволит глубже погружаться в интересующую тему, может значительно ускорить процесс обучения, помочь гораздо быстрее освоиться в новой области знаний.
В то же время распространение технологий анализируемого вида вызывает обеспокоенность у учёных и правоприменителей относительно внедрения и применения их в процессе совершения преступлений. Так, по данным Европола, всего через несколько недель после публичного выпуска ChatGPT преступники адаптировали новые технологии в своей деятельности, продумывая конкретные криминальные способы их использования. Также в отчете «ChatGPT The impact of Large Language Models on Law Enforcement» детально рассматривается данная проблематика, уделяется внимание некоторым аспектам влияния больших языковых моделей на совершенствование преступной деятельности, а также последствиям их использования злоумышленниками [10].
Согласно указанному отчету, можно выделить следующие направления криминального использования ChatGPT: при хищениях с применением методов социальной инженерии, в террористической деятельности, в области криминальной пропаганды и дезинформации в сети Интернет.
Рассмотрим применение ChatGPT при совершении хищений с применением методов социальной инженерии. Прежде всего стоит указать, что методы социальной инженерии - это совокупность психологических приемов, технических действий по применению программных средств, технологий в процессе подготовки, непосредственного совершения и сокрытия преступления, направленных на оказание психологического воздействия на сознание и поведение людей, создание условий, необходимых для дистанционного хищения чужого имущества [11].
Использование указанных методов социальной инженерии позволяет преступнику создать такие условия, при которых жертва самостоятельно выполняет перевод денежных средств на определенный банковский счет, принадлежащий третьим лицам, либо под контролем преступников совершает иные финансовые операции; добровольно предоставляет преступникам удаленный доступ или управление электронным устройством либо передает код из SMS-сообщений от банка, подтверждающий финансовую операцию, реквизиты банковской карты, в том числе код, логины и пароли от сервиса дистанционного банковского обслуживания, а также иную информацию, необходимую для хищения чужого имущества.
К методам социальной инженерии относятся психологические приемы манипуляции, связанные с использованием специально подготовленного сценария или текста, предусматривающего исполнение определенной роли при осуществлении преступных действий в целях оказания воздействия на психоэмоциональное состояние жертвы для изменения ее восприятия и убеждения в необходимости срочного принятия решения в ограниченный период времени; а также технологические приемы манипуляции, направленные на создание поддельного интернет-сайта, фишинговой ссылки и (или) использование определенных программных средств для дистанционного воздействия на жертву, обеспечивающих сокрытие преступных действий.
Изучение судебной и следственной практики подтвердило, что одновременное применение преступниками в ходе достижения корыстных целей методов социальной инженерии и информационно-телекоммуникационных технологий препятствует своевременному установлению данных о личности преступника и способе совершения преступления, что зачастую приводит к трудностям при собирании следов, проведении отдельных следственных действий, а также при организации криминалистического взаимодействия на первоначальном этапе расследования данных хищений.
Высокая степень общественной опасности указанных противоправных деяний подтверждается их спецификой, поскольку совершить их могут лица, обладающие знаниями в области психологии, а также умениями собирать необходимую информацию о жертвах для реализации корыстных целей. Вместе с тем особенности способа совершения преступлений данной категории обусловлены созданием злоумышленниками специально разработанных алгоритмов и сценариев обмана, рассчитанных на их многократное применение в отношении граждан.
Следует подчеркнуть, что в рассматриваемом аспекте технологии нейросети ChatGPT могут применяться ими при создании текстов, обращений к жертвам, сценариев взаимодействия для введения их в заблуждение относительно преступных намерений. Так, в руках преступника ChatGPT может создавать текст для сообщений, направленный на манипулирование людьми с целью разглашения ими конфиденциальной информации или выполнения определенных действий с использованием банковского счета (карты).
Можно отметить, что в целом ChatGPT может представлять угрозу для информационной безопасности общества. По мнению специалистов защиты информации компании «Газинформсервис», с помощью чат-ботов злоумышленники могут получить персональную и коммерческую тайну от пользователей двумя способами: 1) когда пользователь самостоятельно проявит неосторожность и сообщит данные чат-боту; 2) при получении чат-ботом информации о пользователе при аутентификации через социальные сети [12].
Вместе с тем большую опасность названные технологии представляют при использовании их преступниками в сочетании с Osint (Open Source Intelligence) при сборе информации из открытых (общедоступных) источников. В отчете международной аналитической компании по страхованию от киберпреступлений специалистами выделяются тенденции преступности, связанной с применением при совершении хищений методов социальной инженерии, а также приема «масштабного социального профилирования» (Social profiling at scale) [13]. Иными словами, возможности ИИ могут способствовать собиранию злоумышленниками данных о жертвах при помощи OSINT-технологий (автоматизированных технологий для получения информации о людях из профилей в социальных сетях, исходя из активности в Интернете, из общедоступных документов и других источников), то есть создавать исчерпывающий профиль потенциальной жертвы, включающий в себя сведения о ее интересах, увлечениях, информацию о родственниках и друзьях и др. [14]. Знание такой информации позволяет создать перечень вопросов для ChatGPT, а полученные при этом ответы - разработать алгоритмы, предусматривающие оказание психологического воздействия на конкретного человека.
Более того, преступники используют ChatGPT при осуществлении рассылок фишинговых ссылок. Опасность применения нейросети при генерировании текстов для рассылок по определенному заданию заключается в том, что ее использование может сделать содержание обращений к жертвам убедительным, создать более персонализированный текст, учитывающий особенности личности адресата. В то же время рассматриваемые технологии могут способствовать преступным действиям злоумышленника не только при вступлении во взаимодействие с жертвами, но и при дальнейшем общении, поскольку возможности ChatGPT позволяют за считанные секунды сгенерировать ответ на поставленный вопрос.