Подходы, связанные с созданием инструментов для выявления экстремистских сообществ в социальных медиа, мы классифицировали по следующим категориям: автономный, аддитивный, гибридный, многоуровневый (табл. 2). Ключевые характеристики технологий: информация из открытых источников, применение группы методов Web-mining (извлечение и уточнение знаний о людях, сообществах, структурах, системах, организациях, событиях, их взаимосвязях и взаимном влиянии), автоматический и полуавтоматический сбор данных, модели машинного обучения (ML), установленные правила кодирования, формализованные переменные «фоновых характеристик» и «фоновой аналитики».
Таблица 2. Классификация подходов по созданию инструментов для выявления экстремистских сообществ в социальных медиа
|
Категория |
Описание |
Слабые стороны |
Сильные стороны |
|
|
Автономный |
Лингвистические маркеры для автоматизированного анализа текста: словари триггерных слов, имеющих отношение к пропаганде / продвижению / оправданию насильственных действий; речевые клише для выявления социальных, психологических и личностных процессов |
Сложность однозначной интерпретации триггерных слов, вероятностный набор языковых маркеров для определения речевых шаблонов, «информационный шум» |
При постоянном совершенствовании вычислительной лингвистики данный подход может использоваться для идентификации авторов анонимных блогов, сообщений и в качестве подтверждающих доказательств радикализации |
|
|
Аддитивный |
Поведенческие траектории, ролевые модели, контрафактное отклонение, психологические и биологические механизмы насильственного экстремизма и психологии предубеждения |
Дефицит данных, либо они слабы или их нет совсем, строгие методы отсутствуют, зачастую невозможно подобрать критерии для измерений, опора на нейронаучные исследования |
Основательная теоретическая база, успешные попытки типологизации и классификации моделей поведения, траекторий; доказанная эффективность использования метода case study для формализации качественных данных |
|
|
Гибридный |
Типология социальных связей, поведенческие, эмоциональные, операциональные и личностные механизмы радикализации, выявление внешних факторов влияния в онлайн-радикализации |
Вероятностный характер выявленных причинноследственных механизмов вследствие пробелов в исходных данных; требуется многократное эмпирическое тестирование |
Возможность определять важные структурные и реляционные изменения и тенденции внутри и между сетями, образованными ультрарадикальными сообществами, в перспективе прогнозировать терминальную стадию планирования инцидента, выбор цели, соответственно, скоординировать усилия по его пресечению |
|
|
Многоуровне-вый |
Комплексная оценка рисков роста насильственного экстремизма; корреляция переменных микро-, макро- и мезоуровня; построение структуры сетевых кластеров для атрибутов (организационная иерархия, сетевая сплоченность, идеологическая платформа и др.; прогнозирование поведенческих траекторий; геопространственные, временные компоненты и др.) |
Возможность реализации только при наличии постоянно обновляемых баз данных; ограничения доступа к полным данным для академических исследователей |
Перспектива преодолеть проблему «объяснительной пропасти» в части радикализации: почему только некоторые люди из числа тех, кто находится в одинаковых условиях, переходят к насильственным действиям. Социально-топологическая картина структурной, реляционной, социальной индивидуальной и групповой динамики мобилизации на насилие; проследить изменения масштаба и характера социальных и вспомогательных связей радикалов; понимание уязвимостей индивидуальных акторов, структуры и моделей отношений, которые они формируют в онлайн-среде |
Реализуемые на сегодняшний момент подходы зачастую обладают низкой селективностью и для решения узкоспециализированных задач не дают эффективных результатов. Альтернативой является способ обнаружения целевой группы по характерному изменению активности группы в «окрестности» ключевых событий. Например, активность сторонников ультраправых движений в социальной сети ВКонтакте значительно увеличивается в окрестности «29.04», которая означает «день рождения 29.04.1999» - день, знаковый для такого рода сообществ, поскольку связан с конкретным персонажем, неонацистом, совершившим инцидент в Хабаровске. В качестве базовых характеристик мы рассматриваем меру активности пользователей, т.е. совокупность таких показателей, как количество постов на стене сообщества, комментариев, лайков, просмотров и других показателей в единицу времени. Таким образом, по изменению активности группы в «окрестности» ключевых событий можно судить о принадлежности этой группы к тому или иному ультрарадикальному сообществу. Очевидно, что для надежной идентификации группы необходимо зафиксировать подъем, высокий уровень и спад активности в группе, причем в разные даты (представляющие календарь ключевых событий). В настоящее время коллектив авторов проводит тестирование инструмента, разработанного на основе предлагаемого метода, обозначенного как календарно-корреляционный анализ (ККА).
В завершение подчеркнем, что создание эффективных технологий выявления экстремистских сообществ в социальных медиа для сдерживания онлайн-радикализации, прогнозирования инцидентов возможно. Основа - адаптация прошлых статических типологий, корреляция с использованием методов социальной науки, предназначенных для решения сложных процессов (социальной топологии) и компьютерных наук. Это задача с вызовом, но растущие мощности вычислительной техники и изобретательность ученых в области computer science делают эту задачу решаемой.
Литература
1. Карпова А.Ю. Механизмы индивидуальной радикализации в процессе самоорганизации молодежи // Молодежь и молодежная политика: новые смыслы и практики: сб. / под ред. С.В. Рязанцева, Т.К. Ростовской. М., 2019. С. 69-81. (Демография. Социология. Экономика).
2. О противодействии экстремистской деятельности: Федеральный закон Российской Федерации от 25.07.2002 № 114-ФЗ (ред. от 23.11.2015). URL: http://www.consultant.ru/docu- ment/cons_doc_LAW_37867/ (дата обращения: 15.07.2019).
3. О противодействии терроризму: Федеральный закон от 6 марта 2006 г. № 35-ФЗ (ред. от 31.12.2014). URL: http://nac.gov.ru/zakonodatelstvo/zakony/federalnyy-zakon-ot-6-marta-2006-g-n- 35-fz-o.html (дата обращения: 15.07.2019).
4. Комплексный план противодействия идеологии терроризма в Российской Федерации на 2019-2023 годы. URL: blob:http://nac.gov.ru/ead1093d-f2e1-46c5-b059-0b9cc15645a9 (дата обращения: 15.07.2019).
5. Borum R. Radicalization into Violent Extremism I: A Review of Social Science Theories // Journal of Strategic Security. 2011. Vol. 4, № 4. Р. 7-36.
6. Lewis R. Alternative ENDNOTES Influence: Broadcasting the Reactionary Right on YouTube: Report // Data & Society's Media Manipulation research initiative. 2018. URL: https://datasociety.net/research/media-manipulation (accessed: 16.07.2019).
7. Fact Sheet. START. Far Right Fatal Ideological Violence Against Religious Targets 19902018. URL: https://www.start.umd.edu/pubs/START_ECDB_FarRightFatalIdeologicalViolenceAga-instReligiousT argets 1990-2018_Oct2018 .pdf (accessed: 16.07.2019).
8. Антидиффамационная лига. White Supremacists Step Up Off-Campus Propaganda Efforts in 2018. URL: https://www.adl.org/resources/reports/white-supremacists-step-up-off-campus-propaganda-efforts-in-2018 (accessed: 11.06.2019).
9. ICSR. The Cost of Crying Victory: Policy Implications of the Islamic State's Territorial Collapse. 2018. URL: https://icsr.info/wp-content/uploads/2019/01/ICSR-ICCT-Feature_The-Cost-of- Crying-Victory-Policy-Implications-of-the-Islamic-State%E2%80%99s-Territorial-Collapse.pdf (accessed: 19.06.2019).
10. Stochastic Terrorism: Part 1, triggering the shooters. 2011. Jan. 26. URL: http://stochas- ticterrorism.blogspot.com/ (accessed: 25.06.2019).
11. BruiniusH., O'Carroll E. `Lone wolves' and the rhetoric that fuels them // The Christian Science Monitor. 2018. Oct. 29. URL: https://www.csmonitor.com/USA/Society/2018/1029/Lone-wolves-and-the-rhetoric-that-fuels-them (accessed: 18.06.2019).
12. Beutel A. The New Zealand Terrorist's Manifesto: a look at some of the key narratives, beliefs and tropes. 2019. Apr. 30. URL: https://www.start.umd.edu/news/new-zealand-terrorists-manifesto-look-some-key-narratives-beliefs-and-tropes (accessed: 16.07.2019).
13. Zeng D., Chen H., Lusch R. Social Media Analytics and Intelligence // Intelligent Systems, IEEE. 2011. Vol. 25 (6). P. 13-16. DOI: 10.1109/MIS.2010.151.
References
1. Karpova, A.Yu. (2019) Mekhanizmy individual'noy radikalizatsii v protsesse samoorganizatsii molodezhi [The mechanisms of individual radicalization in the process of youth self-organization]. In: Ryazantsev, S.V. & Rostovskaya, T.K. (eds) Molodezh' i molodezhnayapolitika: novye smysly iprak- tiki [Youth and youth policy: new meanings and practices]. Moscow: RAS. pp. 69-81.
2. The Russian Federation. (2002) Federal Law No. 114-FZ of the Russian Federation of July 25, 2002, (as amended on November 23, 2015) “On counteraction to extremism”. [Online] Available from: http://www.consultant.ru/document/cons_doc_LAW_37867/ (Accessed: 15th July 2019).
3. The Russian Federation. (2006) Federal Law N 35-FZ of March 6, 2006 (as amended on December 31, 2014) “On Countering Terrorism”. [Online] Available from: http://nac.gov.ru/zakonodatelstvo/zakony/federalnyy-zakon-ot-6-marta-2006-g-n-35-fz-o.html (Accessed: 15th July 2019). (In Russian).
4. The Russian Federation. (n.d.) Kompleksnyy planprotivodeystviya ideologii terrorizma vRos- siyskoy Federatsii na 2019-2023 gody [A comprehensive plan to counter the ideology of terrorism in the Russian Federation for 2019-2023]. [Online] Available from: blob:http://nac.gov.ru/ead1093d- f2e1-46c5-b059-0b9cc15645a9 (Accessed: 15th July 2019).
5. Borum, R. (2011) Radicalization into Violent Extremism I: A Review of Social Science Theories. Journal of Strategic Security. 4(4). pp. 7-36. DOI: 10.5038/1944-0472.4.4.1.
6. Lewis, R. (n.d.) Alternative ENDNOTES Influence: Broadcasting the Reactionary Right on YouTube. Report. Data & Society's Media Manipulation research initiative. Published September 18, 2018. [Online] Available from: https://datasociety.net/research/media-manipulation (Accessed: 16th July 2019).
7. National Consortium of the Study of Terrorism and Responses to Terrorism. (n.d.) Fact Sheet. START. Far Right Fatal Ideological Violence Against Religious Targets 1990-2018. [Online] Availa-ble from: https://www.start.umd.edu/pubs/START_ECDB_FarRightFatalIdeologicalViolenceAga-instReligiousTargets1990-2018_Oct2018.pdf (Accessed: 16th July 2019).
8. Anti-Defamation League. (2018) White Supremacists Step Up Off-Campus Propaganda Efforts in 2018. [Online] Available from: https://www.adl.org/resources/reports/white-supremacists-step-up-off-campus-propaganda-efforts-in-2018 (Accessed: 11th June 2019).
9. ICSR. (2018) The Cost of Crying Victory: Policy Implications of the Islamic State's Territorial Collapse. [Online] Available from: https://icsr.info/wp-content/uploads/2019/01/ICSR-ICCT-Feature_The-Cost-of-Crying-Victory-Policy-Implications-of-the-Islamic-State%E2%80%99s- Territorial-Collapse.pdf (Accessed: 19th June 2019).
10. Stochastic Terrorism. (2011) Stochastic Terrorism: Part 1, triggering the shooters. January 26, 2011. [Online] Available from: http://stochasticterrorism.blogspot.com/ (Accessed: 25th June 2019).
11. Bruinius, H. & O'Carroll, E. (2018) `Lone wolves' and the rhetoric that fuels them. The Christian Science Monitor. 29th October. [Online] Available from: https://www.csmo-nitor.com/USA/Society/2018/1029/Lone-wolves-and-the-rhetoric-that-fuels-them (Accessed: 18th June 2019).
12. Beutel, A. (2019) The New Zealand Terrorist's Manifesto: A look at some of the key narratives, beliefs and tropes. 30th April. [Online] Available from: https://www.start.umd.edu/news/new- zealand-terrorists-manifesto-look-some-key-narratives-beliefs-and-tropes (Accessed: 16th July 2019).
13. Zeng, D., Chen, H. & Lusch, R. (2011) Social Media Analytics and Intelligence. Intelligent Systems, IEEE. 25(6). pp. 13-16. DOI: 10.1109/MIS.2010.151.