Élaboration de normes et de standards sur la désinformation

1. Normes multipartites connexes pour les questions de cybersécurité, de liberté d’Internet et de gouvernance

De nombreux cadres normatifs se sont développés pour régir l’espace en ligne, abordant les questions liées aux concepts traditionnels des droits humains tels que la liberté d’expression, le respect de la vie privée et la bonne gouvernance. Certains d’entre eux sont liés à l’élaboration de règles normatives pour l’espace en ligne autour de la désinformation afin d’aider à promouvoir l’intégrité de l’information, mais abordent différents aspects d’Internet, de la technologie et de la gouvernance des réseaux. La Global Network Initiative (GNI) est un exemple plus ancien, qui s’est formé en 2008 après deux ans de développement, dans le but d’encourager les entreprises technologiques à respecter la liberté d’expression et le droit à la vie privée des utilisateurs. Les composants sont liés aux principes d’intégrité de l’information, premièrement en garantissant que la sphère publique est ouverte à la liberté d’expression, deuxièmement en garantissant que les données des utilisateurs sont protégées et ne sont pas utilisées à mauvais escient par des acteurs malveillants pouvant potentiellement les cibler avec de la désinformation, de la propagande informatique ou d’autres formes de contenu nuisible.

Highlight


Les principes du GNI, centrés sur des concepts tels que la liberté d'expression, le respect de la vie privée, la gouvernance, la responsabilité et la transparence, fournissent un cadre permettant aux entreprises d'appliquer les principes des droits de l'homme à leurs pratiques, tandis que les lignes directrices de mise en œuvre servent de mécanisme permettant de les appliquer pour répondre aux demandes de censure et de surveillance des gouvernements.

Le GNI sert également de mécanisme d’action collective entre les organisations de la société civile et d’autres parties prenantes pour plaider en faveur d’une réglementation mieux informée des technologies de l’information et de la communication (TIC), y compris les réseaux sociaux, afin de promouvoir les principes de liberté d’expression et de protection de la vie privée. Cela comprend des réseaux consultatifs tels que Christchurch Call Network et Freedom Online Coalition, ainsi que la participation à des organismes internationaux multisectoriels, axés sur les questions liées à l’extrémisme en ligne et aux droits numériques, tels que ceux parrainés par les Nations Unies et le Conseil de l’Europe .

Région Contexte
Global

The Global Network Initiative est une coalition internationale qui cherche à exploiter la collaboration avec les entreprises technologiques pour soutenir les principes GNI (« les Principes ») et les directives de mise en œuvre qui fournissent un cadre évolutif pour une prise de décision responsable des entreprises en faveur de la liberté d’expression et du droit à la vie privée. Au fur et à mesure que la participation de notre entreprise s’étend, les Principes prennent racine en tant que norme mondiale pour les droits humains dans le secteur des TIC. Le GNI plaide également collectivement en faveur des gouvernements et des institutions internationales pour des lois et des politiques qui promeuvent et protègent la liberté d’expression et la vie privée, par exemple par le biais d’instruments tels que le Pacte international relatif aux droits civils et politiques, et par la suite, les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits humains. Il a évalué des entreprises telles que Facebook, Google, LinkedIn et Microsoft.

Les principes du GNI : 

  • Liberté d’expression
  • Protection de la privée
  • Prise de décision responsable de l’entreprise
  • Collaboration multipartite
  • Gouvernance, responsabilité et transparence

En octobre 2008, des représentants d’entreprises technologiques, de la société civile, d’investisseurs socialement responsables et d’universités ont publié la Global Network Initiative. Après deux ans de discussions, ils ont publié un ensemble de principes axé principalement sur la façon dont les entreprises qui gèrent les technologies Internet pourraient garantir la liberté d’expression et la protection de la vie privée sur leurs réseaux. Ils ont également établi des lignes directrices pour la mise en œuvre de ces principes. Les entreprises technologiques possédant des actifs liés à la désinformation, aux médias sociaux et à l’espace d’information global incluent Facebook, Google et Microsoft. Les représentants de la société civile comprennent le Center for Democracy and Technology, Internews et Human Rights Watch, ainsi que des représentants des pays du Sud tels que la Fondation colombienne Karisma et le Center for Internet and Society en Inde.

Tous les deux ans, le GNI publie une évaluation des entreprises engagées dans l’initiative, mesurant leur adhésion aux principes et leur succès dans la mise en œuvre de certains aspects de ceux-ci. La dernière version a été publiée en avril 2020 , et couvre 2018 et 2019. Les principes liés à la liberté d’expression sont liés aux problèmes de désinformation mais se concentrent davantage sur les entreprises permettant la liberté d’expression plutôt que sur la prévention des dommages potentiels résultant de formes de contenu malveillantes telles que la désinformation et les discours de haine.

Ces normes et le GNI ont encouragé une plus grande interaction entre les entreprises technologiques et les représentants du monde universitaire, des médias et de la société civile, ainsi qu’une plus grande consultation sur les questions liées à l’intégrité de l’information, en particulier la censure et la modération du contenu. Par exemple, une loi sur les fausses nouvelles au Brésil exigerait la « traçabilité » des utilisateurs, ou l’enregistrement avec des documents gouvernementaux au sein de Facebook et d’autres réseaux sociaux souhaitant opérer dans le pays, afin qu’ils puissent être identifiés pour sanction en cas de propagation de désinformation. Cela entrerait en conflit avec les dispositions de confidentialité du GNI qui garantissent que les utilisateurs sont autorisés à accéder anonymement aux réseaux. Le GNI a publié une déclaration dénonçant ces problèmes et a plaidé contre le projet de loi. Cela montre comment ce cadre peut être utilisé pour un plaidoyer conjoint au moyen d’un effort multipartite, bien que son efficacité soit moins claire.  Néanmoins, le GNI a contribué à jeter les bases d’autres efforts qui se sont développés depuis, notamment les Principes de Santa Clara sur la modération de contenu et les codes de l’UE sur la désinformation et les discours de haine qui se sont concentrés plus spécifiquement sur les problèmes des réseaux sociaux.

D’autres groupes se sont concentrés sur l’élaboration de normes liant les droits humains et d’autres normes en ligne aux principes démocratiques. La Charte de la Démocratie Numérique du Luminate Group, par exemple, a créé une liste de droits et de responsabilités pour l’environnement et la politique des médias numériques. La charte « vise à construire des sociétés plus fortes grâce à un programme de réformes – supprimer, réduire, signaler, auditer, protéger la vie privée, concurrencer, sécuriser, éduquer et informer ». Dans le même ordre d’idées, le National Democratic Institute, soutenu en partie par les partenaires du CEPPS, a élaboré les Principes démocratiques pour l’espace d’information, qui visent en partie à résoudre les problèmes de droits numériques et à lutter contre les discours nuisibles en ligne grâce à des normes démocratiques pour les politiques des plateformes, la modération de contenu , et les produits.

Région Contexte
Global

Les Principes de Manille sur la responsabilité des intermédiaires 

  • Définissent divers principes que les entreprises intermédiaires doivent suivre lorsqu’elles opèrent dans des environnements démocratiques et autoritaires, notamment : Les intermédiaires doivent être exonérés de toute responsabilité pour le contenu de tiers ; le contenu ne doit pas être soumis à restriction sans ordre d’une autorité judiciaire ; les demandes de restrictions de contenu doivent être claires, sans ambiguïté et suivre une procédure régulière ; les lois et les ordonnances et pratiques de restriction de contenu doivent être conformes aux critères de nécessité et de proportionnalité
  • Les lois et les politiques et pratiques de restriction de contenu doivent respecter une procédure régulière ; la transparence et la responsabilité doivent être intégrées dans les lois et les politiques et pratiques de restriction de contenu.

Les Principes de Manille sur la responsabilité des intermédiaires ont été développés en 2014 par un groupe d’organisations et d’experts axés sur la politique et le droit de la technologie du monde entier. Les principaux rédacteurs comprennent Electronic Frontier Foundation, le Center for Internet and Society d’Inde, KICTANET (Kenya), Derechos Digitales (Chili) et Open Net (Corée du Sud) représentant un large éventail de perspectives technologiques et de régions. Ils concernent des questions de responsabilité pour le contenu sur les réseaux qui ont surgi aux États-Unis et en Europe autour de l’article 230 de la Communications Decency Act de 1996 ou de la Network Enforcement Act (NetzDG) de 2017. 

 

Principes de Manille sur la responsabilité des intermédiaires

1 Les intermédiaires doivent être exonérés de toute responsabilité pour le contenu de tiers

2 Le contenu ne doit pas être soumis à restriction sans ordre d’une autorité judiciaire

3 Les demandes de restrictions de contenu doivent être claires, sans ambiguïté et suivre une procédure régulière

4 Les lois et les ordonnances et pratiques de restriction de contenu doivent respecter les critères de nécessité et de proportionnalité

5 Les lois et les politiques et pratiques de restriction de contenu doivent respecter une procédure régulière

6 La transparence et la responsabilité doivent être intégrées dans les lois et les politiques et pratiques de restriction de contenu

Ils se sont mis d’accord sur des normes de base stipulant que les intermédiaires comme Facebook, Google et Twitter, qui hébergent du contenu ou le gèrent d’une manière ou d’une autre, doivent respecter les normes démocratiques de base, tandis que les gouvernements doivent également respecter certaines normes concernant les réglementations et autres formes de contrôle du contenu et réseaux. Leurmanifeste déclarait ce qui suit :

« Toutes les communications sur Internet sont facilitées par des intermédiaires tels que les fournisseurs d’accès Internet, les réseaux sociaux et les moteurs de recherche. Les politiques régissant la responsabilité légale des intermédiaires pour le contenu de ces communications ont un impact sur les droits des utilisateurs, y compris la liberté d’expression, la liberté d’association et le droit à la vie privée. Dans le but de protéger la liberté d’expression et de créer un environnement propice à l’innovation, qui équilibre les besoins des gouvernements et des autres parties prenantes, des groupes de la société civile du monde entier se sont réunis pour proposer ce cadre de garanties de base et de meilleures pratiques. Ceux-ci sont basés sur des instruments internationaux relatifs aux droits humains et d’autres cadres juridiques internationaux.

Leurs principes en découlent, considérant que les intermédiaires doivent avoir des mécanismes juridiques qui les protègent de toute responsabilité pour le contenu qu’ils hébergent sur leurs serveurs. Ce principe sert à assurer une conversation ouverte et des systèmes de modération gérables. Deuxièmement, dans cette optique, les principes établissent que le contenu ne doit pas être facilement restreint sans décisions judiciaires, et celles-ci doivent être claires et suivre une procédure officielle. Troisièmement, ces décisions et pratiques connexes doivent être conformes aux critères de nécessité et de proportionnalité, ou être raisonnablement nécessaires et proportionnelles à la gravité du crime ou de l’erreur. Enfin, la transparence et la responsabilité du fait de ces lois doivent être intégrées dans chacun de ces systèmes juridiques, afin que tous puissent voir comment elles fonctionnent et sont appliquées. 

Ces systèmes et principes ont permis aux signataires et à d’autres organisations de la société civile d’évaluer la façon dont les pays gèrent les systèmes en ligne et la façon dont les plateformes peuvent gérer leur contenu et appliquer les normes démocratiques à leurs propres pratiques. Plusieurs organisations ont signé, allant des ONG et organisations de médias, des groupes de défense des droits humains et des politiques, ainsi que des technologues civiques. Cette diversité technique et géographique donne à ces principes le soutien des créateurs de contenu, des décideurs, des fournisseurs et des gestionnaires d’infrastructure et permet de tisser des liens avec eux partout dans le monde. Ils fournissent aux organisations un moyen pratique de travailler ensemble pour surveiller et gérer ces politiques et systèmes liés à l’espace des informations et, dans certains cas, faire pression pour qu’ils soient modifiés.

« Ces principes ont été élaborés à la suite d’une conférence à l’Université de Santa Clara en 2018. À Santa Clara en 2018, nous avons organisé la première conférence du genre sur la modération de contenu à grande échelle. La plupart des [entreprises] n’avaient pas du tout divulgué ce qu’elles faisaient. Leurs politiques concernaient la modération du contenu et la façon dont elles les appliquaient. Nous avons donc co-organisé la conférence d’une journée et avant cette conférence, un petit sous-groupe d’universitaires et d’activistes créé par l’Electronic Frontier Foundation s’est réuni séparément et a eu une longue conversation. C’est suite à ce genre de réunion parallèle que les principes de Santa Clara ont été énoncés. » - Irina Racu, directrice d’Internet Ethics Program (programme d’éthique sur Internet) au Centre d’Éthique Appliquée de Santa Clara 1

Région Contexte
Global

Les principes de Santa Clara sur la transparence et la responsabilité dans la modération de contenu couvrent divers aspects de la modération de contenu, élaborés par des juristes et des technologues basés principalement aux États-Unis, ciblant les réseaux sociaux avec de grandes bases d’utilisateurs. Les principes exigent que :

  • Les entreprises doivent publier le nombre de messages supprimés et de comptes suspendus de manière permanente ou temporaire en raison de violations de leurs règles en matière de contenu
  • Les entreprises doivent informer chaque utilisateur dont le contenu est supprimé ou dont le compte est suspendu du motif de la suppression ou de la suspension.
  • Les entreprises doivent donner l’occasion de faire appel en temps opportun de toute suppression de contenu ou suspension de compte.

Les Principes de Santa Clara sur la transparence et la responsabilité dans la modération de contenu ont été développés comme un moyen d’évaluer la façon dont les entreprises travaillent pour élaborer des politiques et des systèmes régissant les systèmes qui gardent une trace et organisent le contenu qui y circule. En règle générale, ils veillent à ce que les entreprises aient des politiques qui rendent publics le nombre de messages supprimés et de comptes interdits, avertissent les utilisateurs lorsque cela est fait et fournissent des systèmes d’appel. Irina Racu, Directrice du Programme d’Éthique sur Internet au Centre d’éthique appliquée de Santa Clara, a été l’une des fondatrices du projet et en est un membre permanent. Elle décrit la façon dont ce programme a commencé :

« Dès que ces principes ont été rédigés, plusieurs entreprises ont signé pour les soutenir, y compris des géants des réseaux sociaux tels que Facebook, Instagram, Reddit et Twitter. »

Les principes sont organisés autour de trois grands thèmes : Chiffres, notifications et appels . Sous la rubrique chiffres , les plateformes conviennent que les entreprises doivent suivre et informer le public du nombre de publications signalées et de comptes suspendus, bloqués ou signalés dans un rapport régulier lisible par machine. Deuxièmement, en ce qui concerne les notifications, les utilisateurs et autres personnes concernées par ces politiques doivent être informés de ces retraits ou d’autres formes de modération de contenu de manière ouverte et transparente. Ces règles doivent être publiées et comprises publiquement par tous les utilisateurs, quelle que soit leurs expériences. Si des gouvernements sont impliqués, si par exemple ils demandent le retrait d’un contenu, les utilisateurs doivent également en être informés, mais en général, ceux qui signalent et gèrent ces systèmes doivent conserver leur anonymat. Troisièmement, il doit y avoir des processus d’appel clairement définis pour ces décisions en place. Les appels doivent être examinés et gérés par des humains, et non par des machines, suggérant des mécanismes que des groupes tels que le conseil de surveillance de Facebook tenteront ensuite de mettre en place. Cependant, les principes stipulent que ces pratiques doivent être intégrées à tous les contenus de modération, et pas seulement aux systèmes de haut niveau. 

Ces principes ont été appliqués de diverses manières pour attirer l’attention sur la façon dont les entreprises ont développé des systèmes de modération de contenu. Une application notable a été les rapports « Who Has Your Back » de la Electronic Frontier Foundation. Ces rapports, publiés chaque année, évaluent les entreprises sur la base de leur adhésion aux principes de Santa Clara tout en les notant directement sur d’autres paramètres, tels que la transparence et la notification aux utilisateurs. Dans son rapport, l’EFF note que 12 des 16 entreprises notées en 2019 ont approuvé les principes , ce qui suggère qu’il y a une certaine adhésion au concept. Des entreprises comme Reddit adhèrent à tous les principes, tandis que d’autres comme Facebook ou Twitter n’en respectent que deux ou trois. Avec de nombreux réseaux sociaux qui ne les respectent pas encore et de nouveaux acteurs internationaux qui font leur entrée sur le marché, il sera toujours difficile d’appliquer ces principes à l’échelle mondiale.

Footnotes

1Interview deDaniel Arnaudo, National Democratic Institute, avec Irina Racu, 11 septembre 2020.