Представители соцсети «ВКонтакте» сообщили о начале тестирования системы на базе искусственного интеллекта, которая сможет автоматически распознавать текст с враждебным посылом.
Согласно их словам, с помощью нейросети система сможет быстрее обнаруживать публикации, провоцирующие людей на проявление агрессии. ИИ научится находить разнообразные виды угроз и оскорблений, включая расизм, сексизм, ксенофобию, гомофобию и прочие виды предрассудков.
Специально для улучшения модерации и обучения своей нейросети социальная сеть внедрила дополнительную группу жалоб, получившую название «Враждебные высказывания». Модераторы также занимаются постоянным мониторингом сайта, используя автоматический поиск, цифровые отпечатки и другие механизмы.