Соцсеть «ВКонтакте» запустила тестирование нейросети для удаления враждебных комментариев

Социальная сеть «ВКонтакте» начала тестировать нейросеть для борьбы с языком вражды. Об этом сообщает блог разработчиков социальной сети. Искусственный интеллект будет автоматически распознавать материалы с враждебными высказываниями — хейтспичем.

Технология ускорит время обработки жалоб и поможет пользователям реже сталкиваться с проявлениями нетерпимости. Нейросеть будет находить публикации, которые провоцируют аудиторию проявлять агрессию. Она учится определять такие категории оскорблений и угроз, как проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков.

Также она будет распознавать оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний. Отметим, что команда «ВКонтакте» за первую половину 2020 года удалила больше 500 тыс. материалов «по теме разжигания вражды и ненависти». Специалисты заблокировали 1 340 профилей и 2 470 сообществ.