ООН наконец-то озаботилась распространением «языка вражды» в социальных сетях, включая Twitter и другие площадки, в том числе принадлежащие гиганту Meta.

Язык вражды

Больше всего претензий у группы независимых экспертов ООН к новому хозяину Twitter Илону Маску. По их мнению, с тех пор как он вступил в свои законные права, в этой социальной сети резко участилась расистская риторика, в частности использование неприемлемых слов в отношении людей африканского происхождения. Мол, пользователи не стесняются в выражениях, а руководители медиакорпораций бездействуют.

Развязанный «язык вражды» выступает проявлением ненависти на почве национальной, расовой или религиозной принадлежности и ведет к дискриминации и насилию, а также провоцирует всплеск расизма в социальных сетях, поясняют авторы заявления. Это, по их словам, касается не только Twitter, но и других сетей, в том числе принадлежащих гиганту Meta.

Верховный комиссар ООН по правам человека Фолькер Тюрк недавно направил Илону Маску письмо, в котором предупредил о том, что принцип свободы прессы не должен служить индульгенцией для распространения опасной дезинформации.

«Мы слишком часто видим, как распространение ненавис­ти и языка вражды в отношении людей африканского происхождения и других не только подрывает их права, но и создает большие проблемы для общества в целом, – говорится в заявлении экспертов ООН. – Преодолеть трудности, которые приводят к различного рода дестабилизирующим процессам внутри стран, становится все сложнее».

Спецдокладчики ООН предупреждают, что призывы к ненависти в отношении какой-либо группы людей провоцируют опасные действия и являются для многих пользователей сетей постоянным источником стресса и травмы. «Кумулятивный эффект расизма может оказывать воздействие на психическое и физическое здоровье», – отмечают авторы заявления.

По их словам, такие нападки подрывают доверие среди представителей уязвимых групп населения, в результате чего люди не хотят пользоваться соцсетями и отказываются обращаться к правосудию. «Такое положение вещей вызывает особое беспокойство, учитывая, что молодежь проводит в киберпространстве значительную часть своего времени, – подчеркивают авторы заявления. – Полученный там опыт зачастую формирует их систему ценностей и влияет на позицию и поведение».

Мало модерировать онлайн-контент, необходимо учитывать также намеренное и ненамеренное воздействие языка вражды на общество в целом, считают авторы документа. По их словам, расизм, ненависть, безнаказанность за такие нарушения и отсутствие толерантности оставляют глубокие шрамы.

Эксперты призывают бороться с этими проявлениями, чтобы обеспечить более благополучное будущее как в виртуальном пространстве, так и в обычной жизни.

Следите за словами

Хотя никакого международно-правового определения ненавистнической риторики нет, Организация Объединенных Наций подразумевает под этим термином любого рода коммуникацию в устной, письменной или поведенческой форме, которая носит враждебный характер или использует уничижительные или дискриминационные формулировки по признаку религии, этнического происхождения, национальности, расы, цвета кожи, социального происхождения, пола и других факторов идентичности. Разрушительный эффект таких высказываний не является чем-то новым, однако сегодня его масштабы и воздействие усиливаются цифровыми технологиями настолько, что они стали одним из самых распространенных методов идеологии раскола в глобальном масштабе.

Принцип разрушительной работы языка вражды казахстанские эксперты международного центра журналистики MediaNet Серик Бейсембаев и Дамеш Сатова поясняют на примере анализа высказываний пользователей социальных сетей о кордайских событиях февраля 2020 года. Тогда, напомним, произошел массовый конфликт между представителями титульной нации и дунганского этноса, компактно проживающими в Кордайском районе Жамбылской области.

Официальной причиной назывался элементарный бытовой конфликт, однако за считанные часы в его воронку было вовлечено население нескольких сельских округов. В результате беспорядков 11 человек погибли, 185 получили травмы. Были сож­жены 39 жилых домов, 20 коммерческих объектов и 47 машин.

«Для анализа структуры языка вражды все сообщения, опубли­кованные в эти дни в социальных сетях, были разделены на три типа. Первый – относительно «мягкий», через который комментаторы выражали негативное отношение к представителям этнической группы, часто навешивая оскорбительные ярлыки и подчеркивая их «чуждость» по отношению к «своей» группе, – делятся эксперты. – Второй, «средний» тип языка вражды, содержит в себе высказывания с призывом дискриминировать этническую группу и отказать им в равенстве социальных, политических и иных прав. Такая лексика часто сопровождается подчеркиванием со стороны комментаторов превосходства «своей» группы. Третий, «жесткий», связан с поддержкой или призывами совершить насилие в отношении этнической группы или попыткой оправдать их совершение в прошлом».

Согласно результатам проведенного анализа, 37% всех сообщений относятся к первому типу языка вражды. Он относительно чаще был характерен для Facebook, нежели для Instagram (39% и 30% соответственно). Сообщения в этой группе воспроиз­водят широкий спектр мифов и предрассудков в отношении конкретного этноса.

«Например, некоторые комментаторы указывали на моральные, нравственные и иные недостатки этнической группы, – пишут авторы аналитической работы. – Наиболее популярный призыв среди комментаторов – насильственная депортация дунганской общины из Казахстана либо расселение в другие регионы. В основе таких сообщений – представления об угрозах компакт­ного проживания общины в приграничном регионе».

Исследователи в разных странах отмечают наличие взаимо­связи между враждебной риторикой в онлайн-пространстве и насилием, совершаемым в реальной жизни на почве ненависти к определенным группам людей. Одна из причин такой связи – формирование информационной среды, поддерживающей и тиражирующей оскорбительные высказывания в адрес конкретных групп. Из этого можно сделать вывод, что если бы конфликт не подогревался в социальных сетях, акцентируя внимание пользователей на критике определенной национальной или социальной категории, последствия беспорядков не были бы столь масштабными и трагическими.

«Опасность заключается в том, что люди не всегда признают сильную связь между языком вражды и преступлением на почве ненависти, что сегодня нетерпимость готовит почву для агрессивных действий завтра», – считает кандидат филологичес­ких наук, лингвист Рахиля Карымсакова, специализирующаяся на теме языка вражды, и автор пособия для журналистов «Освещай, но не разжигай».

Эти преступления совершаются вербальным путем, путем распространения письменных, устных текстов и публичных выступлений. Когда лингвист исследует такие тексты, у него должны быть четкие дефиниции: что такое «возбуждение вражды» и из каких этапов оно складывается.

Опасные выражения

В основе проблем с определением термина «язык вражды» лежит еще одна дилемма: конституции практически всех стран в качест­ве базовой свободы гарантируют возможность выражения мнения. Это фундаментальное право, и оно трактуется достаточно широко, включая в себя в том числе и право критики.

С другой стороны, принцип недопустимости дискриминации тоже никто не отменял. А язык вражды основан именно на этом понятии. В данной дефиниции дискриминация понимается как эмоционально окрашенное высказывание о любом отличии, которое имеет своей целью уничтожение равноправия как такового. Речь может идти о национальности, поле, вероис­поведании, цвете кожи, уровне образования и так далее.

Модераторы и алгоритмы крупных соцсетей ежесекундно борются с оскорблениями в Сети, но полностью решить проблему пока никому не удалось. У Facebook и Instagram примерно одинаковые установки. Платформы стараются оградить пользователей от неприемлемого контента – проще всего удалить пост или «забанить» аккаунт пользователя, который разжигает ненависть, нарушает закон или призывает к этому.

В 2021 году у Twitter появилась новая функция – пользователь может скрыть себя из поисковика платформы и самостоятельно решить, кто может отвечать на его посты, а кто – нет.

В Twitter и раньше можно было заблокировать агрессивного пользователя: абьюзер не сможет посмотреть ваши твиты, оставить комментарий или отправить сообщение.

Методы выявления нежелательного контента можно условно разделить на две категории: комплексные, то есть изначально предполагающие фильтрацию по ключевым словам-маячкам, которые разрабатываются специальными группами лингвистов и психологов. И методы, основывающиеся на использовании людей – модераторов контента, которые оценивают материалы, помеченные пользователями как «язык ненависти».

Несмотря на то что ручной метод имеет явное преимущество, позволяя принимать во внимание контекст высказывания и быстро реагировать на меняющуюся ситуацию, этот подход является более трудоемким, затратным по времени и дорогостоящим.

Автоматическое выявление ненавистнического контента гораздо проще и позволяет использовать его в гораздо больших масштабах. Однако данный метод неизбежно сопряжен со случаями ошибочного удаления материалов. И опять же, блокирование пользователей при малейшем подозрении на некорректность имеет демотивирующий эффект и подрывает свободу слова.

Поэтому в целях повышения эффективности отслеживания языка ненависти ведется постоян­ная работа по совершенствованию инструментов выявления соответствующего контента. Так, например, интерфейс прикладного программирования Perspective 4, разработанный командой Google по методам противодействия нарушениям и широко используемый новостными агентствами, применяет технологию машинного обучения для оценки фраз на предмет потенциальной токсичности. Этот инструмент работает на семи языках: английском, французском, немецком, итальянском, португальском, испанском и русском.

По заявлению Facebook, последняя версия его инструмента мониторинга и выявления ненавистнического контента на собственных платформах обеспечивает улучшенный семантический анализ и понимание содержания, включая анализ изображений, комментариев и других элементов.

В 2017 году был разработан инструмент Hate Sonar, в котором использована модель логистической регрессии, обучаемая на данных веб-форумов и социальной сети Twitter.

В рамках проектов ADL и
D-Lab, осуществляемых на базе Калифорнийского университета в Беркли, разработан индекс онлайн-ненависти (ИОН), предназначенный для преобразования человеческого понимания языка вражды при помощи самообучающейся интеллектуальной системы в гибко настраиваемый инструмент. Команда проекта Measures & Counter-measures из Института Алана Тьюринга (Великобритания) пошла дальше и создала инструмент на основе технологии глубокого обучения для выявления в социальных сетях предубеждений в отношении представителей восточноазиатских стран.

В 2020 году появился такой алгоритм для выявления ненавистнического контента на корейском языке. Этот инструмент был обучен распознавать не только ненависть, но и предвзятое отношение.

Hate Meter – самообучающаяся интеллектуальная система, позволяющая путем обработки естественного языка отслеживать антимусульманские ненавистнические высказывания в Интернете. Платформа функ­ционирует на английском, итальянском и французском языках. Кенийская интернет-платформа Umati стала одной из первых, обеспечивших ручной мониторинг в Сети постов, написанных на распространенных в Кении языках.

В 2021 году YouTube и Facebook сообщили об увеличении объе­мов выявленного и помеченного ими ненавистнического контента. Это свидетельствует о расширении применения автоматизированных систем выяв­ления языка ненависти.

Другие, неюридические, меры реагирования касаются проведения исследований и информационно-разъяснительных кампаний с участием гражданского общест­ва. Они носят профилактичес­кий характер, то есть формируют у интернет-пользователей неприятие к ненавистнической риторике.

Основное внимание при этом уделяется образовательным и просветительским инициативам, которые помогают повысить осведомленность широкой общественности о пагубных последствиях языка ненавис­ти, бороться с глубинными причинами этого явления и эффективно распознавать технологии манипулирования и риторику, используемую для распространения языка ненависти в Интернете и вне Сети.

В июле 2021 года Генеральная Ассамблея ООН, отмечая глобальную обеспокоенность экспоненциальным распространением языка ненависти по всему миру, приняла резолюцию о поощрении межрелигиозного и межкультурного диалога и терпимости в контексте борьбы с языком ненависти.

Этот документ призывает противодействовать дискриминации, ксенофобии и разжиганию ненависти, а также активизировать усилия в соответствии с международными стандартами в области прав человека. Как напоминание о важности этой работы Генеральная Ассамблея постановила провозгласить 18 июня Международным днем борьбы с языком ненависти.

ООН предлагает правительствам, международным организациям, группам гражданского общества и частным лицам проводить в этот день мероприятия и инициативы, направленные на продвижение стратегий по объединению всех жителей планеты вне зависимости от расы, цвета кожи, пола и веро­исповедания.