1. Соответствующие нормы с участием многих заинтересованных сторон по вопросам кибербезопасности, свободы Интернета и управления

Многие нормативные рамки были разработаны для управления онлайн-пространством, решая вопросы, связанные с традиционными концепциями прав человека, такими как свобода выражения мнений, конфиденциальность и надлежащее управление. Некоторые из них связаны с созданием нормативных стандартов для онлайн-пространства вокруг дезинформации, чтобы способствовать целостности информации, но затрагивают различные аспекты Интернета, технологий и управления сетью. Глобальная сетевая инициатива (ГСИ) является более старым примером: инициатива сформировалась в 2008 году после двух лет разработки в попытке побудить технологические компании соблюдать свободу выражения мнений и права пользователей на неприкосновенность частной жизни. Участники связаны с принципами целостности информации, во-первых, гарантируя, что публичная сфера открыта для свободы выражения мнений, во-вторых, гарантируя, что пользовательские данные защищены и не будут использоваться злоумышленниками злонамеренно, потенциально для их дезинформации, компьютерной пропаганды или других форм вредоносный контент.

Paragraphs

Highlight


Принципы GNI, сосредоточенные вокруг таких понятий, как свобода выражения, неприкосновенность частной жизни, управление, подотчетность и прозрачность, обеспечивают основу для применения компаниями принципов прав человека в своей практике, в то время как Руководство по реализации служит механизмом их применения в ответ на требования правительства о цензуре и слежке.

GNI также служит механизмом для коллективных действий организаций гражданского общества и других заинтересованных сторон, выступающих за более информированное регулирование информационно-коммуникационных технологий (ИКТ), включая социальные сети, для продвижения принципов свободы выражения мнений и конфиденциальности. Это включает в себя консультативные сети, такие как Christchurch Call Network и Freedom Online Coalition, а также участие в многосекторальных международных организациях, занимающихся проблемами, связанными с онлайн-экстремизмом и цифровыми правами, например, спонсируемых Организацией Объединенных Наций и Советом Европы.

РегионОбщая информация
Весь мир

Глобальная сетевая инициатива — международная коалиция, которая стремится использовать сотрудничество с технологическими компаниями для поддержки Принципов GNI («Принципы») и Руководства по внедрению, которые обеспечивают развивающуюся основу для ответственного принятия решений компаниями в поддержку свободы выражения мнений и прав на неприкосновенность частной жизни. По мере расширения участия нашей компании Принципы становятся мировым стандартом прав человека в секторе ИКТ. GNI также коллективно защищает правительства и международные учреждения за законы и политику, которые поощряют и защищают свободу выражения мнений и неприкосновенность частной жизни, например, с помощью таких инструментов, как Международный пакт о гражданских и политических правах, а затем и Руководящие принципы бизнеса в аспекте прав человека Организации Объединенных Наций. GNI оценивает компании, включая Facebook, Google, LinkedIn и Microsoft.

Принципы GNI: 

  • Свобода выражения
  • Конфиденциальность
  • Ответственное принятие решений компанией
  • Многостороннее сотрудничество
  • Управление, подотчетность и прозрачность

В октябре 2008 года представители технологических компаний, гражданского общества, социально ответственных инвесторов и академических кругов объявили о Глобальной сетевой инициативе. После двух лет обсуждений был выпущен набор принципов, в которых основное внимание уделяется тому, как компании, управляющие Интернет-технологиями, могут обеспечить свободу выражения мнений и конфиденциальность в своих сетях. Инициатива также разработала методические рекомендации для реализации этих принципов. Технологические компании, обладающие активами, связанными с дезинформацией, социальными сетями и общим информационным пространством, включают Facebook, Google и Microsoft. К представителям гражданского общества относятся Центр демократии и технологий, Internews и Human Rights Watch, а также представители глобального Юга, такие как колумбийский фонд Karisma и Центр за Интернет и общество в Индии.

Каждые два года GNI публикует оценку компаний, участвующих в этой инициативе, оценивая их приверженность принципам и успехи в их реализации. Последняя версия была опубликована в апреле 2020 года и охватывает 2018 и 2019 годы. Принципы, связанные со свободой выражения мнения, связаны с проблемами дезинформации, но в большей степени ориентированы на компании, допускающие свободу выражения мнений, а не предотвращающие потенциальный вред от злонамеренных форм контента, таких как дезинформация и язык ненависти.

Эти стандарты и GNI способствуют более тесному взаимодействию между технологическими компаниями и представителями академических кругов, средств массовой информации и гражданского общества, а также более широким консультациям по вопросам, связанным с целостностью информации, особенно в связи с цензурой и модерацией контента. Например, закон о фейковых новостях в Бразилии потребует «отслеживания» пользователей или регистрации с помощью государственных документов в Facebook и других социальных сетях, желающих работать в стране, чтобы их можно было идентифицировать для применения санкций в случае распространения дезинформации. Это противоречило бы положениям GNI о конфиденциальности, которые гарантируют пользователям анонимный доступ к сетям. GNI выпустила заявление, в котором говорится об этих проблемах и выступила против предложенного закона. Это показывает, как эту структуру можно использовать для совместной пропаганды через усилия многих заинтересованных сторон, хотя ее эффективность менее очевидна.  Тем не менее, ВНД помог сформировать основу для других усилий, которые были предприняты впоследствии, включая Принципы модерации контента, сформулированные Санта-Кларе и Кодексы ЕС по дезинформации и ненавистническим высказываниям, которые более конкретно сфокусированы на проблемах социальных сетей.

Другие группы сосредоточились на разработке стандартов, связывающих права человека и другие онлайн-нормы с демократическими принципами. Хартия цифровой демократии (DDC) группы Luminate, например, провозглашает список прав и обязанностей для цифровой медиа-среды и политики. DDC «стремится к построению более сильного общества посредством программы реформ, призванных удалять, сокращать, сигнализировать, проверять, конфиденциальность, конкурировать, обеспечивать безопасность, обучать и информировать». Аналогичным образом, Национальный демократический институт при частичной поддержке партнеров CEPPS разработал Демократические принципы для информационного пространства, которые частично направлены на решение вопросов цифровых прав и противодействие вредным высказываниям в сети посредством демократических стандартов для политики платформ, модерации контента и продуктов.

РегионОбщая информация
Весь мир

Манильские принципы ответственности посредников 

  • Определяют различные принципы, которым должны следовать компании-посредники при работе в демократических и авторитарных условиях, в том числе следующие: Посредников следует оградить от ответственности за сторонний контент; запрещается требовать ограничения содержания без постановления судебного органа; запросы на ограничение контента должны быть четкими, недвусмысленными и соблюдаться надлежащим образом; законы и приказы и практика ограничения контента должны соответствовать критериям необходимости и соразмерности
  • Законы, а также политика и практика ограничения контента должны обеспечивать соблюдение надлежащей правовой процедуры; прозрачность и подотчетность должны быть встроены в законы, а также в политику и практику ограничения контента.

Манильские принципы ответственности посредников были разработаны в 2014 году группой организаций и экспертов, занимающихся технологической политикой и законодательством со всего мира. В число разработчиков принципов входят Фонд Electronic Frontier, Центр Интернета и общества из Индии, KICTANET (Кения), Derechos Digitales (Чили) и Open Net (Южная Корея), представляющие широкий спектр технологических перспектив и регионов. Принципы касаются вопросов ответственности за контент в сетях, которые возникли в США и Европе в связи с разделом 230 Закона о приличии в коммуникациях 1996 года или Закона Германии о защите сети (NetzDG) 2017 года. 

Принципы Манильской ответственности посредников

1. Посредников следует оградить от ответственности за сторонний контент.

2. Запрещается требовать ограничения содержания без постановления судебного органа.

3. Запросы об ограничении контента должны быть четкими, недвусмысленными и соответствовать установленным процедурам.

4. Законы, а также ограничивающие правила и практика ограничения контента должны соответствовать критериям необходимости и соразмерности.

5. Законы и политика и практика ограничения контента должны обеспечивать соблюдение надлежащей правовой процедуры.

6. Прозрачность и подотчетность должны быть встроены в законы, а также в политику и практику ограничения контента.

Они согласились с основными стандартами, согласно которым посредники, такие как Facebook, Google и Twitter, которые размещают контент или каким-либо образом управляют им, должны соблюдать основные демократические стандарты, в то время как правительства также должны соблюдать определенные нормы, касающиеся правил и других форм контроля над контентом и сети. В манифесте говорится:

«Все коммуникации через Интернет осуществляются посредниками, такими как провайдеры доступа в Интернет, социальные сети и поисковые системы. Политика, регулирующая юридическую ответственность посредников за содержание этих сообщений, влияет на права пользователей, включая свободу выражения мнений, свободу объединений и право на неприкосновенность частной жизни. С целью защиты свободы выражения мнений и создания благоприятной среды для инноваций, которая уравновешивает потребности правительств и других заинтересованных сторон, группы гражданского общества со всего мира собрались вместе, чтобы предложить эту структуру базовых гарантий и передовых методов. Они основаны на международных документах по правам человека и других международно-правовых системах.

Их принципы заключаются в следующем: посредники должны иметь правовые механизмы, защищающие их от ответственности за контент, который они размещают на своих серверах. Этот принцип служит для обеспечения открытого разговора и управляемых систем модерации. Во-вторых, в этом ключе принципы утверждают, что контент не должен легко ограничиваться без судебных приказов, которые должны быть четкими и соответствовать надлежащей правовой процедуре. В-третьих, эти приказы и связанные с ними практики должны соответствовать критериям необходимости и соразмерности, или они должны быть разумно необходимыми и пропорциональными тяжести преступления или ошибки. Наконец, прозрачность и подотчетность этих законов должны быть встроены в любую из этих правовых систем, чтобы все могли видеть, как они действуют и применяются. 

Эти системы и принципы позволили подписавшим сторонам и другим организациям гражданского общества оценить, как страны управляют онлайн-системами, и как платформы могут управлять своим контентом и применять демократические нормы к своей собственной практике. К участию присоединились различные организации, начиная от медиа-НПО и организаций, правозащитных и политических групп, а также гражданских технологов. Это техническое и географическое разнообразие дает этим принципам поддержку и ссылки для создателей контента, политиков, поставщиков и менеджеров инфраструктуры со всего мира. Они предоставляют организациям одно практическое средство для совместной работы по мониторингу и управлению этими политиками и системами, связанными с информационным пространством, и в некоторых случаях лоббируют их изменения.

«Эти принципы были разработаны после конференции в Университете Санта-Клары в 2018 году. В 2018 году в Санта-Кларе мы провели первую в своем роде конференцию по масштабной модерации контента. Большинство [компаний] вообще не раскрывают, что они делают. Их политика касалась модерации контента и того, как они ее применяли. Таким образом, мы были соорганизаторами однодневной конференции, и перед этой конференцией небольшая подгруппа ученых и активистов, организованная Electronic Frontier Foundation (Фонд электронных рубежей), встретилась отдельно и провела целую беседу. Это был целый разговор, и именно из такого рода побочных встреч возникли принципы Санта-Клары», — Ирина Раку, директор программы Интернет-этики Центра прикладной этики Санта-Клары1.

РегионОбщая информация
Весь мир

Принципы Санта-Клары относительно прозрачности и подотчетности модерации контента охватывают различные аспекты модерации контента, разработанные учеными-юристами и технологами, базирующимися в основном в Соединенных Штатах, для операторов социальных сетей с большой базой пользователей. Принципы включают следующее:

  • Компании должны публиковать количество удаленных сообщений и учетных записей, временно или навсегда заблокированных из-за нарушения их правил в отношении контента.
  • Компании должны уведомлять каждого пользователя, чей контент был удален или аккаунт заблокирован, о причине удаления или приостановки.
  • Компаниям следует предоставлять реальную возможность для своевременного обжалования любого удаления контента или приостановки аккаунта.

Принципы Санта-Клары относительно прозрачности и подотчетности модерации контента разработаны как средство оценки работы компании над разработкой политик и систем, управляющих системами, которые отслеживают и систематизируют передаваемый по ним контент. Как правило, они сосредоточены на обеспечении наличия у компаний политик, которые публикуют количество удаленных сообщений и заблокированных аккаунтов, уведомляют пользователей, когда это будет сделано, и предоставляют системы для апелляции. Ирина Раку, директор программы Интернет-этики Центра прикладной этики Санта-Клары, была одним из основателей проекта и его постоянным участником. Она описывает, как это началось:

«После того, как проект был составлен, различные компании подписались в его поддержку, в том числе такие гиганты социальных сетей, как Facebook, Instagram, Reddit и Twitter».

Принципы организовывались вокруг трех всеобъемлющих тем: Номера, уведомление и апелляция . Под номерами платформы соглашаются с тем, что компании должны отслеживать и информировать общественность о количестве сообщений, о которых сообщается, и аккаунтов, которые приостановлены, заблокированы или помечены в регулярном машиночитаемом отчете. Во-вторых, с точки зрения уведомлений, пользователи и другие лица, на которых распространяется действие этих политик, должны получать уведомления об этих удалениях или других формах модерации контента открытым и прозрачным образом. Эти правила должны быть опубликованы и понятны всем пользователям, независимо от их происхождения. Если правительства вовлечены в участие в запросах на удаление, пользователи также должны получить информацию, но, как правило, необходимо сохранять анонимность тех, кто сообщает и управляет этими системами. В-третьих, должны быть четко определены процессы апелляции для этих решений на месте. Апелляции должны рассматриваться и обрабатываться людьми, а не машинами и иметь механизмы, которые группы, подобные Наблюдательному совету Facebook, попытаются создать. Тем не менее, согласно принципам, эти методы должны быть встроены во всю модерацию контента, а не только в системы высокого уровня. 

Эти принципы применялись различными способами с целью привлечения внимания к тому, как компании разрабатывают системы модерации контента. Одним из примечательных приложений было приложение Electronic Frontier Foundation « Кто прикрывает твою спину». В этих отчетах, публикуемых ежегодно, компании оцениваются на основе их приверженности Принципам Санта-Клары, а также непосредственно по другим показателям, таким как прозрачность и уведомление пользователей. В своем отчете EFF отмечает, что 12 из 16 компаний, получивших рейтинг в 2019 г. одобрили принципы, предполагающие некоторую поддержку концепции. Такие компании, как Reddit, придерживаются всех принципов, в то время как другие, такие как Facebook или Twitter, достигают только двух или трех. Поскольку многие компании, занимающиеся социальными медиа, по-прежнему терпят неудачу, а на рынок выходят международные или другие новые игроки, глобальное применение будет сложной задачей.

Footnotes

1ИнтервьюДаниэля Арнаудо, Национальный демократический институт, с Ириной Раку, 11 сентября 2020 года.