В последние годы из-за возможности анонимных публикаций проявление ненависти в интернете стало глобальной проблемой. Больше всего от негативных комментаторов страдают новостные сайты.

Израильский стартап Spot.IM, который сотрудничает с Forbes, Time и другими крупными изданиями, разработал систему, которая автоматически модерирует комментарии.

«Мы заметили, что в последнее время вопрос борьбы с насилием и оскорбительными комментариями во всем мире стал актуальнее. В социальных медиа людям приходится идентифицировать свою личность, но когда у них появляется возможность писать анонимно (в комментариях), пользователи сайтов позволяют себе быть особенно жестокими, поэтому комментарии приходится фильтровать», — объяснил Надав Шоваль, генеральный директор и соучредитель Spot.IM.

Клиент-менеджер компании Рой Лаор, который занимается сотрудничеством с интернет-изданиями отметил, что оскорбительные и ненавистнические комментарии отбивают желание у адекватных пользователей обсуждать новость, а также портят репутацию самого издания. Поэтому сайтам приходится модерировать комментарии, однако вручную это делать затратно по времени. Именно поэтому компания решила создать автоматический модератор.

Разработчики проанализировали работу своей платформы и пришли к такой статистике: на израильских сайтах пришлось удалить 6,5% комментариев из-за их негативности, на российских — 5,5%, на американских — 5%, на сайтах всей Европы в целом — 4%.

Лаор объяснил, что это не точная картина по уровню агрессии в интернете. В Израиле, например, из-за цензуры армии обороны иногда приходится удалять комментарии, которые не несут в себе ненависть, а в США согласно Первой поправки к Конституции получается удалять не все негативные комментарии.