Сотни аккаунтов в социальной сети TikTok открыто продвигают контент откровенно нацистского характера, ненавистнические высказывания и антисемитские теории. Как выяснили исследователи, эта сеть не только не справляется с удалением подстрекательских видео, ее алгоритмы даже увеличивают их распространение и охват аудитории. Об этом свидетельствует обширный отчет Международного института стратегического диалога (ISD), опубликованный 29 июля.

Согласно отчету ISD, в социальной сети TikTok есть сотни аккаунтов, открыто поддерживающих нацизм и использующих платформу для продвижения своей идеологии и пропаганды. Пронацистский контент, создаваемый ими, набирает десятки миллионов просмотров.

Среди прочего, это посты с отрицанием Холокоста, восхвалением Гитлера, нацистской Германии и нацизма в целом — как современное решение существующих в западном обществе проблем.

Исследователи сообщили администрации соцсети о 50 аккаунтах, нарушающих руководящие принципы сообщества TikTok в отношении идеологии ненависти, продвижения насилия, отрицания Холокоста и других правил. Тем не менее все они остались активными после жалобы, а заявители получили ответ от компании с пометкой «нарушений не обнаружено». Эти аккаунты в совокупности набрали более 6,2 миллиона просмотров.

Через две недели после подачи заявления 15 из них были заблокированы, а через месяц — почти половина. Это означает, что TikTok не может немедленно удалить аккаунты, продвигающие межрасовую и межэтническую ненависть и пронацистскую пропаганду.

Согласно отчету, распространение аккаунтов, продвигающих нацизм, автоматически усиливается благодаря алгоритмам сети TikTok. Пользователям, которые часто просматривают праворадикальные ролики с ненавистническими нарративами, сеть предоставляет рекомендации с подобными видео.

Исследование показало, что создатели такого рода контента зачастую действуют одновременно в нескольких социальных сетях и координируют свои действия путем обмена видео, изображениями и звуковыми роликами.

В TikTok исследователи ISD выявили как минимум 200 таких аккаунтов или сеток, а в Telegram им удалось составить список из более чем 100 пронацистских каналов. Чтобы отслеживать деятельность аккаунтов нацистского характера, исследователи ISD использовали регистрационные записи фиктивных пользователей.

Наиболее серьезное распространение в последнее время, согласно отчету, получило использование генеративного искусственного интеллекта. Часто он применяется для создания карикатур и дегуманизации этнических групп. Их представителей изображают как угрозу для «белого сообщества».

Еще один метод — публикация переводов речей Гитлера, фашистские песни и мелодии, которые могут служить зашифрованными ссылками для обхода алгоритмов фильтрации контента TikTok. Музыка обычно не нарушает правила сети, но она часто сочетается с мемами и изображениями, продвигающими нацизм и фашизм. Кроме того широко используются изображения с намеками или несущие скрытый подтекст. Речь идет об эмодзи, аббревиатурах, числах и закодированных изображениях, что действительно затрудняет обнаружение таких экстремистских аккаунтов для фильтров TikTok.