Хейтерство в сети: нужны ли репрессивные меры?

Очередная волна терактов, первым из которых стала трагедия в Конфлан-Сент-Онорин, с новой силой возобновила оживлённые дебаты о необходимости модерировать информацию в сети: правительство хочет покончить с «кибер-исламизмом», а с правого фланга раздаются многочисленные голоса тех, кто возлагает ответственность за происходящее на социальные сети. И хотя все эти трагические события организовывались не через соцсети, количество комментариев и публикаций в защиту терроризма бьёт все рекорды. За последние дни было начато предварительное расследование нескольких сотен подобных фактов.
Очередная волна терактов, первым из которых стала трагедия в Конфлан-Сент-Онорин, с новой силой возобновила оживлённые дебаты о необходимости модерировать информацию в сети: правительство хочет покончить с «кибер-исламизмом», а с правого фланга раздаются многочисленные голоса тех, кто возлагает ответственность за происходящее на социальные сети. И хотя все эти трагические события организовывались не через соцсети, количество комментариев и публикаций в защиту терроризма бьёт все рекорды. За последние дни было начато предварительное расследование нескольких сотен подобных фактов.

Разжигание ненависти в сети всё больше интересует правоохранительные органы разных стран. В статье Пьерика Марисаля рассматривается опыт Франции. Главный упор здесь делается на борьбе с «кибер-исламизмом» и пропагандой терроризма, однако дело затрудняется тем, что правовая база противодействия терроризму исторически складывалась на почве противостояния левым.

Как отличить опасный контент от неопасного? Как обеспечить безопасность граждан и при этом не нарушить их право на свободу высказывания? Пока нельзя сказать, что французская полиция справляется с этой задачей удовлетворительно.

Дело осложняется ещё и тем, что сами социальные сети хотя и стремятся вычищать наиболее одиозный контент, но при этом с одной стороны постоянно блокируют законопорядочных пользователей, а с другой – провоцирование конфликтов приносит им прибыль, которую они не намерены терять.

Желание любой ценой убрать «разжигающий ненависть» контент с интернет-платформ не учитывает суть проблемы: экономическая модель крупнейших социальных сетей строится на продвижении всего, что может шокировать пользователя.

Очередная волна терактов, первым из которых стала трагедия в Конфлан-Сент-Онорин, с новой силой возобновила оживлённые дебаты о необходимости модерировать информацию в сети: правительство хочет покончить с «кибер-исламизмом», а с правого фланга раздаются многочисленные голоса тех, кто возлагает ответственность за происходящее на социальные сети. И хотя все эти трагические события организовывались не через соцсети, количество комментариев и публикаций в защиту терроризма бьёт все рекорды. За последние дни было начато предварительное расследование нескольких сотен подобных фактов.

В этом смысле правительство интересует исключительно репрессивная сторона дела. Уголовная полиция вправе действовать быстро, без согласования с судебными органами, и принимать решения о введении радикальной цензуры. Подобные полномочия в целом не одобряются государством, ведь оно называет себя себя правовым. Поэтому они применяются только в борьбе с терроризмом. «Но его определение на деле оказывается шире, чем мы привыкли себе представлять, – говорит юрист организации Quadrature du Net Артюр Мессо. – Терроризмом считается не только массовое убийство, но и некоторые виды компьютерного пиратства, и порча имущества для провоцирования политических волнений. Не следует забывать, что во Франции, как и в Европе, борьба с терроризмом исторически строилась на практике противодействии левым».

В других случаях для искоренения так называемого хейтерства, определение, которым квалифицируются и оскорблений, и киберпреследования, Франция из-за нехватки ресурсов выбрала форму присвоения права на репрессии. В законе 2004 года о доверии к цифровой экономике сказано, что хостинг-провайдеры, в первую очередь социальные сети, не несут ответственности за явно противоречащий закону о языке ненависти контент, если удаляют его в кратчайшие сроки. Особую значимость этому документу придал закон Авиа, носящий имя депутата от движения «Вперёд, Республика!», который инициировал его рассмотрение. Речь шла о том, чтобы поручать хостер-провайдерам удалять, теперь уже в течение суток, «разжигающий ненависть» контент, независимо от того, насколько незаконным он выглядит. Конституционный совет отверг это предложение на том основании, что в случае введения ограниченного срока возрастёт риск ненужной цензуры. Что же касается содержимого террористической направленности, то разработчики закона Авиа хотели принять поправку, согласно которой хостер-провайдеры обязаны устранять его в течение часа, в противном случае их сайт будет заблокирован у всех операторов. Несмотря на ясно выраженное несогласие Конституционного совета, правительство намерено обойти все преграды и добиться принятия закона Авиа на европейском уровне.

Один из ведущих элементов этой системы – платформа Pharos, существование которой служит ещё одним признаком концентрации внимания государства в интернет-пространстве, – является средством общения между жертвами и полицией. Около тридцати работающих на ней экспертов (шестеро из которых занимаются сообщениями агрессивного и дискриминационного содержания, и ещё шестеро – педофильской порнографией и террористическим контентом) за 2019 год получили 228 545 обращений, чаще всего связанных с мошенничеством. Большинство таких сообщений Pharos передаёт в службы безопасности Facebook, Twitter и Google, а те должны удалить соответствующий контент. «Чтобы представить себе динамику, достаточно знать, что в 2018-м году Pharos получил 5 000 сообщений о размещённых в Интернете призывах к разжиганию розни, а за первое полугодие 2020 года специалисты Facebook, по их собственным подсчётам, уже удалили свыше 32 миллионов подобных сообщений», – рассказывает Софи Жеэль, преподаватель университета Париж-VIII, автор книги «Подростки и провокационные изображения в Интернете» («Adolescents face aux images trash sur Internet»). Некоторая информация передаётся в уголовную полицию для принятия необходимых мер. Система правосудия самоустраняется от этой политики. Ввиду недостатка кадров и возможностей, она не в состоянии ежедневно расследовать дела о хейтерстве в сети, и, похоже, политики не стремятся изменить эту ситуацию.

Особые правила модерации, действующие в Facebook (например, запрет на изображение обнажённого тела и цензура в отношении групп «жёлтых жилетов»), в сочетании с очевидной толерантностью к ультраправым накладываются на юридические нормы. «Это вносит неясность и влияет на отношение к закону, – с сожалением отмечает Софи Жеэль. – Изображение обнажённого человека немедленно подвергается цензуре, но, вместе с тем, администраторы платформы не спешат убирать сообщения откровенно антисемитского содержания только лишь потому, что слово «еврей» в них заменено на «е…». Из этого можно заключить, что Интернет – пространство вне зоны действия закона, что неправильно с правовой точки зрения и только вредит людям. У одних пользователей подобное представление накладывается на уже имеющиеся страхи и порождает новые, у других – закрепляются авторитарные тенденции». Софи Жеэль призывает активизировать работу по профилактике и взаимодействию полиции с жертвами. «Огромную работу предстоит также проделать и национальной системе образования, в которой принято считать, что всё происходящее в социальных сетях к образованию не относится», – рассуждает преподаватель.

Ещё одна серьёзная проблема этой политики модерации состоит в том, что мы фактически поручаем пироману тушить пожар. «Что касается Facebook и Twitter, написание алгоритмов регулируется их экономической моделью. Здесь мы сталкиваемся с тем, что нас побуждают оставаться на сайте как можно дольше, а потом вновь возвращаться, и всё это за счёт вызывания эмоций, а главное – при помощи конкретизации противоречий, – поясняет Жоэль Толедано, автор книги «Компании группы Gafam. Вернём себе власть!» (Gafa. Reprenons le pouvoir!), преподаватель экономики университета Paris-Dauphine. – Это то, что называется экономикой внимания».

Шокирующие, разобщающие, жестокие сообщения вызывают сильные эмоции и заставляют пользователя проводить на портале больше времени и делиться увиденным, чтобы таким образом придать новый импульс своим отношениям. Это культура хайпа и движущая сила развития социальных сетей. «Минувшим летом The Wall Street Journal рассказал, как команда Facebook работала над тем, чтобы сделать поведение пользователей в социальной сети менее агрессивным, уменьшить конфликт алгоритма. Но следствием этого стало бы снижение посещаемости, и потому идея была отвергнута», – продолжает Жоэль Толедано. По его мнению, необходимо иметь все средства для понимания этих алгоритмов, чтобы пересмотреть вопрос об их экономической модели. «Если мы не понимаем, что происходит, то и регулировать это мы не в состоянии. Именно поэтому разные компании делают выбор в пользу различных решений, в зависимости от своей экономической модели», – подчеркнула она.

Структурное решение, предлагаемое экспертами Quadrature du Net, состоит в том, чтобы дать людям возможность уходить из Facebook. Этот процесс называется замысловатым термином «интероперабельность». «Хорошим примером служит электронная почта. Мы можем общаться, независимо от того, каким почтовым сервисом пользуемся: La Poste, Orange или Gmail, – объясняет Артюр Мессо. – Если вернуться к вопросу о социальных сетях, это означает, что Twitter, Facebook или Linkedin позволяют размещать сообщения на других сервисах и при этом не терять список контактов. Это несложно с технической точки зрения, и таким образом можно было бы решить одну из основных проблем: люди не хотят уходить с Facebook, потому что все их знакомые здесь». Такое техническое решение не вызывает разногласий. Специалисты Quadrature du Net выдвигают это предложение на европейском уровне, добиваясь его включения в Digital Services Act – разрабатываемый в настоящее время пакет правоустанавливающих документов. «Интероперабельность позволяет заодно покончить с злоупотреблением доминирующей позицией, поэтому даже либералы, свято почитающие конкуренцию, в ней заинтересованы», – считает Мессо.

Опубликовано 06/11/2020

На ту же тему

Рабочее время и сверхурочные часы: в Великобритании...
Показательный процесс над организаторами потока мигрантов
Протесты против принятия закона о «глобальной безопасности»
Скандал с нехваткой вакцин или что могла...