Интеллектуальный алгоритм идентификации деструктивной информации в тексте

В контексте обеспечения информационно-психологической безопасности общества в Российской Федерации рассматривается проблема неконтролируемого роста деструктивного контента в сети Интернет. Решение задачи поиска и идентификации деструктивной информации требует минимальной доли субъективизма и максимальной автоматизации, поскольку в настоящее время она решается в основном экспертными методами с составлением реестров запрещенных источников. Рассмотрены существующие поисковые методы (экспертной обработки, тематического поиска, интеллектуальные методы обработки данных), применяемые для нахождения конкретных слов в тексте, отмечены преимущества и недостатки этих методов. Для решения поставленной задачи предлагается разработанный интеллектуальный алгоритм модифицированного поиска деструктивного контента на примере ненормативной лексики в текстовой информации. Предлагаемый подход отличается возможностью самопополнения словаря системой на основе суждения об идентификации незнакомого слова, отнесенного к классу ненормативных. Корректность пополнения словаря контролируется экспертом. Представлено подробное описание разработанного алгоритма. Приводится пример работы алгоритма и первоначальные результаты его апробации.