1. Normas relacionadas de múltiples partes interesadas para la ciberseguridad, la libertad en internet y los problemas de gobernanza

Updated On
Abr 05, 2021

Se han desarrollado muchos marcos normativos para gobernar el espacio en línea, abordando cuestiones relacionadas con conceptos tradicionales de derechos humanos, como la libertad de expresión, la privacidad y la buena gobernanza. Algunos de estos se conectan con la construcción de estándares normativos para el espacio en línea en torno a la desinformación para ayudar a promover la integridad de la información, pero abordan diferentes aspectos de internet, la tecnología y la gobernanza de la red. La Global Network Initiative (GNI) es un ejemplo más antiguo, que se formó en 2008 después de dos años de desarrollo, en un esfuerzo por alentar a las empresas de tecnología a respetar la libertad de expresión y los derechos de privacidad de los usuarios. Los componentes se vinculan con los principios de integridad de la información, primero asegurando que la esfera pública esté abierta a la libertad de expresión, segundo asegurando que los datos de los usuarios estén protegidos y no sean mal utilizados por actores malintencionados potencialmente para atacarlos con desinformación, propaganda computacional u otras formas de contenido nocivo.

Paragraphs

Highlight


Los Principios de la GNIcentrados en conceptos como la libertad de expresión, la privacidad, la gobernanza, la responsabilidad y la transparencia, proporcionan un marco para que las empresas apliquen los principios de derechos humanos a sus prácticas, mientras que las Pautas de aplicación sirven como un mecanismo para que se apliquen en respuesta a las demandas de censura y vigilancia de los gobiernos.

La GNI también sirve como un mecanismo de acción colectiva entre las organizaciones de la sociedad civil y otras partes interesadas en la promoción de una regulación mejor informada en torno a las tecnologías de la información y la comunicación (ICT, por sus siglas en inglés), incluidas las redes sociales, para promover los principios de libertad de expresión y privacidad. Esto incluye redes de asesoramiento, como Christchurch Call Network y Freedom Online Coalition, así como la participación en organismos internacionales multisectoriales, centrados en temas relacionados con el extremismo en línea y los derechos digitales, como los patrocinados por las Naciones Unidas y el Consejo de Europa.

RegiónAntecedentes
Global

La Global Network Initiative es una coalición internacional que busca aprovechar la colaboración con las empresas de tecnología para respaldar los Principios de la GNI ("los Principios") y las Pautas de Implementación, que proporcionan un marco en evolución para la toma de decisiones empresariales responsable en apoyo de la libertad de expresión y los derechos de privacidad. A medida que se expande la participación de nuestra empresa, los Principios se están afianzando como el estándar global para los derechos humanos en el sector de las tecnologías de la información y comunicación. La GNI también apoya colectivamente a los gobiernos y las instituciones internacionales por leyes y políticas que promuevan y protejan la libertad de expresión y la privacidad, por ejemplo, a través de instrumentos como el Pacto internacional de derechos civiles y políticos y, posteriormente, los Principios rectores de las Naciones Unidas sobre las empresas y los derechos humanos. Ha evaluado empresas como Facebook, Google, LinkedIn y Microsoft.

Principios de la GNI: 

  • Libertad de expresión
  • Privacidad
  • Toma de decisiones responsable de la empresa
  • Colaboración de múltiples partes interesadas
  • Gobernanza, responsabilidad y transparencia

En octubre de 2008, representantes de empresas de tecnología, la sociedad civil, inversores socialmente responsables y el mundo académico lanzaron la Global Network Initiative. Después de dos años de discusiones, lanzaron un conjunto de principios enfocados principalmente en cómo las empresas que administran tecnologías de internet podrían garantizar la libertad de expresión y la privacidad en sus redes. También establecieron pautas para la implementación de estos principios. Entre las empresas de tecnología con activos relacionados con la desinformación, las redes sociales y el espacio de información general se encuentran Facebook, Google y Microsoft. Los representantes de la sociedad civil incluyen Center for Democracy and Technology, Internews y Human Rights Watch, así como representantes del Sur Global, como la Fundación Karisma de Colombia y el Center for Internet and Society en India.

Cada dos años, la GNI publica una evaluación de las empresas involucradas en la iniciativa, midiendo su cumplimiento de los principios y su éxito en la implementación de aspectos de los mismos. La última versión se publicó en abril de 2020 y abarca 2018 y 2019. Los principios relacionados con la libertad de expresión están relacionados con cuestiones de desinformación, pero se centran más en las empresas que permiten la libertad de expresión en lugar de prevenir los daños potenciales que provienen de formas maliciosas de contenido, como la desinformación y el discurso de odio.

Estos estándares y la GNI han fomentado una mayor interacción entre las empresas de tecnología y los representantes del ámbito académico, los medios de comunicación y la sociedad civil, y una mayor consulta sobre temas relacionados con la integridad de la información, en particular la censura y la moderación de contenido. Por ejemplo, una ley de noticias falsas en Brasil requeriría la "trazabilidad" de los usuarios, o el registro con documentos gubernamentales dentro de Facebook y otras redes sociales que deseen operar en el país, para que puedan ser identificados para la aplicación de una sanción en el caso de que estén difundiendo desinformación. Esto entraría en conflicto con las disposiciones de privacidad de la GNI que garantizan que los usuarios tengan acceso anónimo a las redes. La GNI emitió una declaración en la que menciona estos problemas y se ha manifestado en contra de la ley propuesta. Esto muestra de qué manera se puede utilizar este marco para la promoción conjunta a través de un esfuerzo de múltiples partes interesadas, aunque su eficacia es menos clara.  No obstante, la GNI ha ayudado a formar una base para otros esfuerzos que se han desarrollado desde entonces, incluidos los Principios de Santa Clara sobre la moderación de contenido y los Códigos de la UE sobre desinformación y discurso de odio, que se han centrado más específicamente en cuestiones de redes sociales.

Otros grupos se han enfocado en desarrollar estándares que vinculen los derechos humanos y otras normas en línea con los principios democráticos. La Carta de Democracia Digital del Luminate Group, por ejemplo, creó una lista de derechos y responsabilidades para el entorno y la política de los medios digitales. La Carta de Democracia Digital (DDC, por sus siglas en inglés) "busca construir sociedades más fuertes a través de una agenda de reformas: eliminar, reducir, señalar, auditar, privacidad, competir, proteger, educar e informar". De manera similar, el Instituto Nacional Demócrata, apoyado en parte por los socios de CEPPS, ha desarrollado los Principios democráticos para el espacio de la información, que apuntan en parte a abordar los problemas de derechos digitales y a contrarrestar el discurso nocivo en línea a través de estándares democráticos para políticas de plataforma, moderación de contenido y productos.

RegiónAntecedentes
Global

Principios de Manila sobre responsabilidad de intermediarios 

  • Definir varios principios que deben seguir las empresas intermediarias cuando operan en entornos democráticos y autoritarios, incluidos los siguientes: Los intermediarios deben estar protegidos de toda responsabilidad por el contenido de terceros; no se debe exigir la restricción del contenido sin la orden de una autoridad judicial; las solicitudes de restricciones de contenido deben ser claras, inequívocas y seguir el debido proceso; las leyes y las órdenes y prácticas de restricción de contenido deben cumplir las pruebas de necesidad y proporcionalidad.
  • Las leyes y las políticas y prácticas de restricción de contenido deben respetar el debido proceso; la transparencia y la responsabilidad deben integrarse en las leyes y las políticas y prácticas de restricción de contenido.

Los Principios de Manila sobre la responsabilidad de los intermediarios fueron desarrollados en 2014 por un grupo de organizaciones y expertos enfocados en políticas y leyes tecnológicas de todo el mundo. Los redactores de los principios incluyen a la Electronic Frontier Foundation, el Center for Internet and Society de India, KICTANET (Kenia), Derechos Digitales (Chile) y Open Net (Corea del Sur) que representan una amplia gama de regiones y perspectivas tecnológicas. Se relacionan con cuestiones de responsabilidad por el contenido en las redes que han surgido en los EE. UU. y Europa en torno a la sección 230 de la Ley de decencia en las comunicaciones de 1996 o la Ley de aplicación de la red de Alemania (NetzDG) de 2017. 

Principios de Manila sobre la responsabilidad de los intermediarios

1 Los intermediarios deben estar protegidos de la responsabilidad por el contenido de terceros.

2 No se debe exigir la restricción del contenido sin la orden de una autoridad judicial.

3 Las solicitudes de restricciones de contenido deben ser claras, inequívocas y seguir el debido proceso.

4 Las leyes y las órdenes y prácticas de restricción de contenido deben cumplir las pruebas de necesidad y proporcionalidad.

5 Las leyes y las políticas y prácticas de restricción de contenido deben respetar el debido proceso.

6 La transparencia y la responsabilidad deben integrarse en las leyes y las políticas y prácticas de restricción de contenido.

Acordaron estándares básicos que sostienen que los intermediarios como Facebook, Google y Twitter, que alojan contenido o lo administran de alguna manera, deben cumplir los estándares democráticos básicos, mientras que los gobiernos también deben respetar ciertas normas con respecto a las regulaciones y otras formas de control de contenido y las redes. Su manifiesto expresaba:

Toda comunicación a través de internet es facilitada por intermediarios, como proveedores de acceso a internet, redes sociales y motores de búsqueda. Las políticas que rigen la responsabilidad legal de los intermediarios por el contenido de estas comunicaciones tienen un impacto en los derechos de los usuarios, incluida la libertad de expresión, la libertad de asociación y el derecho a la privacidad. Con el objetivo de proteger la libertad de expresión y crear un entorno propicio para la innovación, que mantenga un equilibrio de las necesidades de los gobiernos y otras partes interesadas, grupos de la sociedad civil de todo el mundo se han unido para proponer este marco de salvaguardas y mejores prácticas de referencia. Estas salvaguardas y prácticas se basan en instrumentos internacionales de derechos humanos y otros marcos legales internacionales.

Sus principios se detallan a continuación, y sostienen que los intermediarios deben tener mecanismos legales que los protejan de la responsabilidad por el contenido que alojan en sus servidores. Este principio sirve para mantener una conversación abierta y sistemas de moderación manejables. En segundo lugar, en este sentido, los principios afirman que el contenido no debe restringirse fácilmente sin órdenes judiciales, que deben ser claras y seguir el debido proceso. En tercer lugar, estas órdenes y prácticas relacionadas deben cumplir las pruebas de necesidad y proporcionalidad, o deben ser razonablemente necesarias y proporcionales a la gravedad del delito o error. Por último, la transparencia y la responsabilidad por estas leyes deben integrarse en cualquiera de estos sistemas legales para que todos puedan ver cómo operan y se están aplicando. 

Estos sistemas y principios han proporcionado una forma para que los firmantes y otras organizaciones de la sociedad civil evalúen cómo los países están administrando los sistemas en línea y cómo las plataformas pueden administrar su contenido y aplicar las normas democráticas a sus propias prácticas. Varias organizaciones se han adherido, desde ONG y organizaciones de medios de comunicación, grupos de derechos humanos y políticos, hasta tecnólogos cívicos. Esta diversidad técnica y geográfica le da a estos principios el respaldo y los vínculos con los creadores de contenido, los encargados de formular políticas, los proveedores y los administradores de infraestructura de todo el mundo. Proporcionan un medio práctico para que las organizaciones trabajen en conjunto para monitorear y administrar estas políticas y sistemas relacionados con el espacio de información y, en ciertos casos, presionar por cambios en ellos.

"Estos principios se desarrollaron tras una conferencia en la Universidad de Santa Clara en 2018. En 2018, celebramos en Santa Clara la primera conferencia de su tipo sobre moderación de contenido a escala. La mayoría [de las empresas] no habían revelado lo que estaban haciendo. Sus políticas tenían que ver con la moderación del contenido y cómo las estaban aplicando. Así que coorganizamos la conferencia de un día y antes de esta conferencia un pequeño subgrupo de académicos y activistas organizados por la Electronic Frontier Foundation se reunieron por separado y tuvieron una conversación completa, y fue a partir de ese tipo de reunión paralela que surgieron los principios de Santa Clara". — Irina Racu, directora del Programa de Ética en Internet del Centro de Ética Aplicada de Santa Clara1

RegiónAntecedentes
Global

Los Principios de Santa Clara sobre transparencia y responsabilidad en la moderación de contenido cubren varios aspectos de la moderación de contenido, fueron desarrollados por juristas y tecnólogos en su mayoría de los Estados Unidos y están dirigidos a empresas de redes sociales con una vasta base de usuarios. Los principios incluyen lo siguiente:

  • Las empresas deben publicar la cantidad de posteos eliminados y cuentas suspendidas de forma permanente o temporal debido a incumplimientos de sus pautas de contenido.
  • Las empresas deben notificar a cada usuario cuyo contenido sea eliminado o cuya cuenta sea suspendida sobre el motivo de la eliminación o suspensión.
  • Las empresas deben brindar una oportunidad significativa para apelar oportunamente cualquier eliminación de contenido o suspensión de cuenta.

Los Principios de Santa Clara sobre transparencia y responsabilidad en la moderación de contenido se desarrollaron como un medio para evaluar de qué manera las empresas están trabajando para desarrollar políticas y sistemas que rijan los mecanismos que realizan un seguimiento y organizan el contenido en ellos. Por lo general, se centran en garantizar que las empresas tengan políticas que publiquen la cantidad de posteos eliminados y cuentas prohibidas, notifiquen a los usuarios cuando se haga y proporcionen sistemas de apelación. Irina Racu, directora del Programa de Ética en Internet del Centro de Ética Aplicada de Santa Clara, fue una de las fundadoras del proyecto y es miembro permanente. Ella describe cómo comenzó:

"Una vez redactados los principios, varias empresas firmaron en apoyo a ellos, incluidos los gigantes de las redes sociales, como Facebook, Instagram, Reddit y Twitter".

Los principios se organizan en torno a tres temas generales: Números, notificación y apelación. Bajo números, las plataformas acuerdan que las empresas deben realizar un seguimiento e informar al público la cantidad de publicaciones denunciadas y cuentas suspendidas, bloqueadas o marcadas en un informe regular que sea legible por máquina. En segundo lugar, en términos de la notificación, los usuarios y otras personas que se ven afectados por estas políticas deben ser notificados de estas eliminaciones u otras formas de moderación de contenido de manera abierta y transparente. Estas reglas deben ser publicadas y entendidas públicamente por todos los usuarios, independientemente de sus antecedentes. Si los gobiernos están involucrados, digamos para solicitar una eliminación, los usuarios también deben ser informados, pero en general, aquellos que informan y administran estos sistemas deben mantener su anonimato. En tercer lugar, deberían existir procesos de apelación para estas decisiones. Las apelaciones deben ser revisadas y administradas por humanos, no por máquinas, lo que sugiere mecanismos que grupos como la junta de supervisión de Facebook intentarán construir. Sin embargo, los principios sostienen que estas prácticas deben integrarse en toda la moderación de contenido, no solo en los sistemas de alto nivel. 

Estos principios se han aplicado de diversas formas para llamar la atención sobre cómo las empresas han desarrollado sistemas de moderación de contenido. Una aplicación notable han sido los informes "Who Has Your Back?" (¿Quién defiende tus datos?) de la Electronic Frontier Foundation. Estos informes, que se publican anualmente, califican a las empresas según su adherencia a los Principios de Santa Clara, mientras que también las califican directamente en otras métricas, como la transparencia y la notificación a los usuarios. En su informe, EFF señala que 12 de las 16 empresas calificadas en 2019 avalaron los principios, lo que sugiere que existe cierta aceptación del concepto. Empresas como Reddit cumplen todos los principios, mientras que otras como Facebook o Twitter logran hacerlo con solo dos o tres. Con muchas empresas de redes sociales que aún no cumplen los principios y con la entrada en el mercado de nuevos actores internacionales o de otro tipo, seguirá siendo un esfuerzo desafiante aplicarlos a nivel mundial.

Footnotes

1Entrevista de Daniel Arnaudo, National Democratic Institute, con Irina Racu, 11 de septiembre de 2020.