2. وضع قوانين بشأن مسائل المعلومات المضللة وخطاب الكراهية والدعاية الحاسوبية للقطاع الخاص

كما يتضح من هذه الأمثلة الموجودة مسبقًا، فإن القطاع الخاص هو أحد المكونات الرئيسية لنظام المعلومات الإيكولوجي وله بعض الإرشادات والمعايير الداخلية التي تنظم كيفية إدارته. ومع ذلك، هناك أطر معيارية مهمة حرضت وشجعت على الامتثال لحقوق الإنسان العالمية والأطر الديمقراطية على حد سواء، وعلى وجه التحديد المدونة التي تركز على المعلومات المضللة وخطاب الكراهية والمسائل ذات الصلة.

تتحمل الشركات التي تدير منصات كبيرة في النظام البيئي للمعلومات، مثل 'فيسبوك' و 'جوجل' و 'تويتر'، مسؤولية خاصة عن إدارة الإنترنت وتنظيمه. هناك بعض الأطر المعيارية، وخاصة داخل الاتحاد الأوروبي، التي وضعتها الحكومات والمجتمع المدني لرصد شركات التكنولوجيا والتعامل معها وربما فرض عقوبات عليها. وتعتمد فعاليتها على عدد من العوامل، بما في ذلك آليات الإنفاذ والرقابة بالإضافة إلى التهديدات الأكثر عمومية من وسائط الإعلام الضارة أو الامتثال العام لمعايير حقوق الإنسان العالمية. 

يعتبر الاتحاد الأوروبي عاملًا مهمًا لأنه هيئة عبر وطنية لديها سلطة تحديد شروط العمل في سوقها. وهذا ينشئ حافزًا أكبر للشركات على المشاركة في أطر تعاونية مع القطاعات الخاصة والعامة الأخرى وكذلك مع الجهات الفاعلة في المجتمع المدني في التفاوض بشأن حقوقهم في العمل في القارة. وهناك تهديد ضمني بالتنظيم، على سبيل المثال، توفر اللائحة العامة لحماية البيانات حماية قوية للبيانات لا تشمل المواطنين الأوروبيين فقط بل تشمل أيضًا الأجانب الذين يعملون في البلد أو يشاركون في الأنظمة القائمة داخلها. توفر هذه السلطة الضمنية للتنظيم في النهاية قدرًا كبيرًا من الضغوط المعيارية والتنظيمية على الشركات للامتثال إذا كانت تريد المشاركة في السوق الأوروبية المشتركة.

يضع هذا النظام حوافز وآليات قوية للتوافق مع القانون الوطني والمعايير عبر الوطنية. وتُنشئ هذه القواعد بعضًا من أقوى الأنظمة المعيارية للإنفاذ فيما يتعلق بمحتوى المعلومات المضللة والجهات الفاعلة والموضوعات في أي مكان في العالم، ولكنها واجهت تحديات بسبب الصعوبات في الإشراف والتنفيذ، في حين أن العديد من المبادئ لن يكون مسموحًا بها في الولايات المتحدة، ولا سيما فيما يتعلق بانتهاكات التعديل الأولى المحتملة. يُعد تنسيق هذه النُهج على الصعيد الدولي تحديًا رئيسيًا في السنوات القادمة، حيث تفرض مختلف البلدان قواعدها الخاصة على الشبكات والمنصات والأنظمة، مما يؤثر على بعضها البعض ويتعارض معها.

 

Paragraphs
المنطقةالخلفية
الاتحاد الأوروبي

وضع الاتحاد الأوروبي مدونة الممارسات بشأن المعلومات المضللة استنادًا إلى النتائج التي توصل إليها فريق العمل رفيع المستوى المعني بهذه المسألة. وشمل ذلك توصيات للشركات العاملة في الاتحاد الأوروبي، واقتراحات لوضع برامج التثقيف الإعلامي للأعضاء الذين يستجيبون للمسائل، وتطوير التكنولوجيا التي تدعم مدونة القواعد.

الأركان الخمسة الأساسية لمدونة القواعد:

  • تعزيز شفافية الأخبار على الإنترنت، بما في ذلك مشاركة البيانات حول الأنظمة التي يمكن تداولها على الإنترنت على نحو ملائم وممتثل للخصوصية؛
  • تعزيز التثقيف الإعلامي والمعلوماتي لمواجهة المعلومات المضللة ومساعدة المستخدمين على التنقل في بيئة وسائط الإعلام الرقمية؛
  • وضع الأدوات اللازمة لتمكين المستخدمين والصحفيين من معالجة المعلومات المضللة وتعزيز المشاركة الإيجابية في مجالات تكنولوجيا المعلومات سريعة التطور؛
  • حماية تنوع واستدامة النظام البيئي لوسائل الإعلام الأوروبية، و
  • تعزيز البحث المستمر حول تأثير المعلومات المضللة في أوروبا لتقييم التدابير التي تتخذها مختلف الجهات الفاعلة وتعديل الاستجابات اللازمة باستمرار.

مدونة ممارسات الاتحاد الأوروبي بشأن المعلومات المضللة هي واحدة من أكثر المبادرات متعددة الجنسيات وذات الموارد الجيدة في الممارسة العملية حاليًا، حيث أنها تحظى بدعم الكتلة بأكملها والحكومات الأعضاء وراء إطارها. وقد وضع المدونة فريق عامل مكلف من المفوضية الأوروبية بشأن المعلومات المضللة ويتضمن توصيات للشركات والمنظمات الأخرى التي ترغب في العمل في الاتحاد الأوروبي. بالإضافة إلى المدونة، يزود الاتحاد الأوروبي الحكومات الأعضاء والبلدان التي ترغب في التجارة والعمل مع الكتلة بإرشادات حول كيفية تنظيم شركاتها على الإنترنت ، فضلا عن التخطيط للاستجابة للمعلومات المضللة من خلال التثقيف الرقمي، وتقصي الحقائق، والوسائط الإعلامية، ودعم المجتمع المدني، من بين تدخلات أخرى.

وقد صاغ المدونة وأطلع عليها بشكل رئيسي فريق الخبراء الأوروبي رفيع المستوى المعني بالأخبار المزيفة والمعلومات المضللة على الإنترنت في مارس 2018.  تتألف المجموعة من ممثلين من الأوساط الأكاديمية والمجتمع المدني ووسائط الإعلام وقطاعات التكنولوجيا، وقد أعدت تقريرًا تضمن خمس توصيات مركزية أصبحت فيما بعد الأركان الخمسة التي تُنظم المدونة في إطارها. وهي :

  1. تعزيز شفافية الأخبار على الإنترنت، بما في ذلك مشاركة البيانات حول الأنظمة التي يمكن تداولها على الإنترنت على نحو ملائم وممتثل للخصوصية؛
  2. تعزيز التثقيف الإعلامي والمعلوماتي لمواجهة المعلومات المضللة ومساعدة المستخدمين على التنقل في بيئة وسائط الإعلام الرقمية؛
  3. وضع الأدوات اللازمة لتمكين المستخدمين والصحفيين من معالجة المعلومات المضللة وتعزيز المشاركة الإيجابية في مجالات تكنولوجيا المعلومات سريعة التطور؛
  4. حماية تنوع واستدامة النظام البيئي لوسائل الإعلام الأوروبية، و
  5. تعزيز البحث المستمر حول تأثير المعلومات المضللة في أوروبا لتقييم التدابير التي تتخذها مختلف الجهات الفاعلة وتعديل الاستجابات اللازمة باستمرار.

تم دمج هذه المبادئ في المدونة التي نُشرت في أكتوبر 2018، بعد ستة أشهر تقريبًا من نشر تقرير فريق الخبراء. ودعا الاتحاد الأوروبي شركات التكنولوجيا للتوقيع على المدونة وشارك العديد منها، إلى جانب أصحاب المصلحة الآخرين في المجتمع المدني ومؤسسات الاتحاد الأوروبي التي عملت على تنفيذ عناصر هذه المبادئ. ومن بين الموقعين 'فيسبوك'، و'جوجل'، و'مايكروسوفت'، و'موزيلا'، و'تويتر'، وكذلك الرابطة الأوروبية لوكالات الاتصال، ووكالات الاتصالات والإعلانات المتنوعة. ولم تلتزم هذه المجموعات بالمبادئ فحسب، بل التزمت أيضًا بسلسلة من التقارير السنوية عن التقدم المحرز في تطبيقها، سواء كمتخصصين في مجال الاتصالات، أو شركات الإعلان، أو شركات التكنولوجيا.

وتوافق الشركات، بوصفها مشاركًا في المبادرة، على مجموعة من المعايير الطوعية التي تهدف إلى مكافحة انتشار المنتجات المزيفة والأكاذيب الضارة على الإنترنت وتقديم تقارير سنوية عن سياساتها ومنتجاتها ومبادراتها الأخرى لتتوافق مع إرشاداتها. وحققت المبادرة نجاحًا متواضعًا في إشراك المنصات في الحوار مع الاتحاد الأوروبي حول هذه المسائل ومعالجتها مع الحكومات الأعضاء والجهات الفاعلة الأخرى في القطاع الخاص والمواطنين.

تستعرض التقارير السنوية لهذه الشركات والتقييم الشامل لتنفيذ مدونة الممارسات المتعلقة بالمعلومات المضللة التقدم الذي أحرزته المدونة في العام الأول من وجودها، اعتبارًا من أكتوبر 2018-2019. ووجدت التقارير أنه على الرغم من أن المدونة قد أحرزت عمومًا تقدمًا في إضفاء جوانب معينة من مبادئها المركزية الخمسة في الجهات الموقّعة من القطاع الخاص، فقد كانت محدودة بسبب "طبيعتها الذاتية للتنظيم، وعدم اتساق التنفيذ، وعدم الوضوح حول نطاقها وبعض المفاهيم الأساسية". 

وتبين من تقييم أجري في سبتمبر 2020 أن المدونة قد أحرزت تقدمًا متواضعًا ولكنها قصرت بعدة طرق وقدمت توصيات للتحسين. ويشير إلى أن "المعلومات والاستنتاجات الواردة في هذا التقييم ستدعم أفكار اللجنة بشأن مبادرات السياسة العامة ذات الصلة، بما في ذلك العمل الديمقراطي الأوروبي، وكذلك قانون الخدمات الرقمية الذي يهدف إلى وضع قواعد شاملة تنطبق على جميع. خدمات مجتمع المعلومات". ويساعد هذا في وصف كيفية تناسب مدونة المعلومات المضللة مع برنامج أكبر من المبادرات الأوروبية، والتي ترتبط بمدونات مماثلة بشأن الإشراف على خطاب الكراهية، والجهود ذات الصلة لضمان خصوصية المستخدمين، وحماية حقوق النشر، والأمن السيبراني، والجهود الأوسع لتعزيز المبادئ الديمقراطية في المجال الإلكتروني.

وأجرت منظمات أخرى تقييمات مستقلة تقدم وجهة نظرها الخاصة حول مشروع المفوضية الأوروبية. وكلف المشروع الشركة الاستشارية 'فالداني وفيكاري وشركاؤه' (VVA)، لاستعراض المشروع أيضًا، ووجد أن: 

  • "لا ينبغي التخلي عن مدونة الممارسات. لقد وضعت إطارًا مشتركًا لمعالجة المعلومات المضللة، وأهدافها وأنشطتها وثيقة الصلة بالموضوع وقد أسفرت عن نتائج إيجابية. مما يشكل خطوة أولى وحاسمة في مكافحة المعلومات المضللة ويظهر القيادة الأوروبية في مسألة ذات طبيعة دولية.
  • وتتعلق بعض العيوب بطبيعة التنظيم الذاتي، وعدم اتساق التنفيذ، وعدم الوضوح حول نطاقه وبعض المفاهيم الأساسية.
  • وينبغي مواصلة تنفيذ المدونة وتعزيز فعاليتها بالاتفاق على المصطلحات والتعريفات".

وأنجزت مؤسسة 'كارنيجي للسلام الدولي' تقييمًا في فترة مماثلة بعد انتهاء السنة الأولى من تنفيذه، نُشر في مارس 2020.. ووجد المؤلف أن الاتحاد الأوروبي قد أحرز بالفعل تقدمًا في مجالات مثل التثقيف الإعلامي والمعلوماتي، حيث أنشأ العديد من الموقّعين على التكنولوجيا برامج للمستخدمين حول هذه المفاهيم، مثل 'فيسبوك' و 'جوجل' و 'تويتر'.

يتبع الإطار المعياري لمدونة ممارسات الاتحاد الأوروبي بشأن للمعلومات المضللة أمثلة مماثلة ذات صلة تصف وتستحدث عنصرًا من عناصر موقف الاتحاد الأوروبي، وهو مدونة قواعد السلوك للاتحاد الأوروبي بشأن مكافحة خطاب الكراهية غير المشروعة لعام 2016. ترتبط مدونة قواعد السلوك الخاصة بالاتحاد الأوروبي لعام 2016 بما سبق "الإطار القراري 2008/913/JHA بتاريخ 28 نوفمبر 2008 بشأن مكافحة بعض أشكال وتعبيرات العنصرية وكره الأجانب عن طريق القانون الجنائي "والقوانين الوطنية التي تنقلها، تعني جميع التصرفات التي تحرض علنا على العنف أو الكراهية الموجهة ضد مجموعة من الأشخاص أو أحد أفراد هذه المجموعة، والتي تُعرّف بالإشارة إلى العرق أو اللون أو الدين أو النسب أو الأصل القومي أو العرقي". بدلًا من ذلك، انتقدت منظمات مثل مركز الديمقراطية والتكنولوجيا نهج الاتحاد الأوروبي وإمكانية الاستعمال التعسفي والسيء، ولا سيما فيما يتعلق بمدونة خطاب الكراهية. 

بوجه عام، وجد كل من تقرير المفوضية الأوروبية وتقارير كارنيجي أنه لا يزال هناك الكثير مما يتعين القيام به وأن مدونة المعلومات المضللة ستستفيد من المصطلحات والهيكل المشترك بشكل أفضل. تحقيقا لهذه الغاية، اعتمد الاتحاد الأوروبي مؤخرًا خطة عمل الديمقراطية. تعد مكافحة المعلومات المضللة إحدى أركانها الأساسية، مع الجهود الرامية لتحسين أدوات الاتحاد الأوروبي الحالية وفرض تكاليف على الجناة، وخاصة على التدخل في الإنتخابات؛ والانتقال من مدونة الممارسات إلى إطار تنظيمي مشترك للالتزامات والمساءلة للمنصات الإلكترونية بما يتفق مع قانون الخدمات الرقمية؛ ووضع إطار لرصد تنفيذ مدونة الممارسات. 

وكما يتضح، بينما وقعت الشركات على قوانين الاتحاد الأوروبي بشأن المعلومات المضللة وخطاب الكراهية، وتعهدت الحكومات الأعضاء باتباع مبادئها، فإن الرقابة والتنفيذ هي آليات منفصلة وأكثر صعوبة في تطبيقها.  ومع ذلك، مع قوة البلدان الأخرى في مناطق أخرى، يمكن لهذه المدونات أو الأنواع المماثلة من الاتفاقات أن توفر إطارًا للتعاون حول مختلف المسائل المتعلقة بالمعلومات المضللة وخطاب الكراهية والتطرف العنيف على الإنترنت ومجموعة من الأشكال الضارة الأخرى للمحتوى.

المنطقةالخلفية
عالمي

ترتيب الأطر المعيارية للحقوق الرقمية

يُصنف مشروع الحقوق الرقمية للتصنيف (RDR) أقوى المنصات الرقمية وشركات الاتصالات في العالم وفقًا للالتزامات والسياسات ذات الصلة، استنادًا إلى المعايير الدولية لحقوق الإنسان.

تركز مبادئ الحقوق الرقمية للتصنيف على ثلاثة أركان رئيسية: الحوكمة وحرية التعبير والخصوصية.

وعلى مدى سنوات عديدة، عمل علماء التكنولوجيا والأكاديميون وممثلو المجتمع المدني الآخرون معًا لدفع القطاع الخاص لمعالجة مسائل الحقوق الرقمية. ومثال على ذلك مبادرة الحقوق الرقمية للتصنيف، وهي مبادرة ترعاها مؤسسة أمريكا الجديدة وتركز على إنشاء إطارًا ملموسًا لإشراك الشركات في المسائل المعيارية المتصلة بالمجال المعلوماتي. بدءًا من عام 2015، نشرت منظمة الحقوق الرقمية للتصنيف "مؤشر مساءلة الشركات" التي تصنف شركات التكنولوجيا والاتصالات والإنترنت وفقًا لالتزاماتها بحقوق الإنسان. ويترسخ هذا الإطار في المبادئ الدولية لحقوق الإنسان مثل الإعلان العالمي لحقوق الإنسان (UDHR) و مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان .

تتضمن المؤشرات المبادئ المتعلقة بالحوكمة وحرية التعبير والخصوصية وتمنح الشركات درجة على أساس امتثالها لمختلف جوانب المؤشر. وتشمل الشركات المصنفة حسب المؤشر اللاعبين الرئيسيين في وسائل الإعلام الاجتماعي والبحث وغيرها من المسائل المتعلقة بالمجال المعلوماتي بما في ذلك 'فيسبوك' و 'جوجل' و 'مايكروسوفت' و 'تويتر'. وتوفر استجابتهم لهذه المبادئ مؤشرات على الكيف التي يمكن بها للمبادرات المستوحاة من الحقوق الرقمية للتصنيف أو المشابهة لها أن تتعامل مع وسائل الإعلام الاجتماعية وخطاب الكراهية والمسائل المتعلقة بالمعلومات المضللة، بينما ترتبط بالمبادرات الأقدم حول مساءلة الشركات التي سبقتها، مثل مبادرة الشبكة العالمية. 

أنشأت ريبيكا ماكينون، صحفية سابقة وباحثة في الحقوق الرقمية وعضو مجلس إدارة لجنة حماية الصحفيين وعضو مؤسس في مبادرة الشبكة العالمية، مشروع الحقوق الرقمية للتصنيف (RDR) عام 2013 استنادًا جزئيًا إلى كتابها "موافقة الشبكة". توضح ناتالي ماريشال، كبيرة محللي السياسات في المشروع، بالتفصيل كيف كان الكتاب "من أوائل الأبحاث التي تناولت الدور الذي يلعبه القطاع الخاص وشركات التكنولوجيا على وجه التحديد في انتهاكات حقوق الإنسان، سواء عندما يقومون بدور الوكلاء للحكومات نتيجة لمطالب الحكومة بالبيانات أو مطالب الرقابة، ونتيجة سعي الشركات إلى تحقيق مصالحها التجارية الخاصة. وانتهى الكتاب بالدعوة إلى اتخاذ إجراءات لدفع الشركات إلى تحقيق الشفافية وزيادة المساءلة عن دورها في تمكين انتهاكات حقوق الإنسان أو ارتكابها".

تركز مبادئ الحقوق الرقمية للتصنيف على ثلاثة أركان رئيسية: الحوكمة وحرية التعبير والخصوصية. واستنادًا إلى هذه المبادئ المركزية، وضع المشروع مؤشرات تعمل على قياس وتقييم التزام الشركة بهذه المبادئ الأساسية. قد وُضعت هذه النظم لتطبق ليس فقط على ما يسمونه شركات "الأنظمة البيئية للجوال والإنترنت"، بل أيضًا على شركات الاتصالات السلكية واللاسلكية مثل 'فيريزون' أو 'تي-موبيل'. وهي تقسم استطلاعاتها إلى هاتين الفئتين وتحدد الشركات من بين 100 شركة بناءً على امتثالها والتزامها بالمؤشرات بموجب هذه المبادئ. يتم جدولة هذه الدرجات ودمجها في النتيجة النهائية التي يتم استكشافها في المؤشرات ، التي تدعمها البيانات وسبق نشرها بشكل نصف سنوي من عام 2015 حتى عام 2019، مع إصدار طبعة جديدة في عام 2021.

تعتبر المؤشرات ديناميكية إلى حد ما لأنها تتطور بناءً على التقنيات أو التطورات الجديدة في هذا المجال، فضلًا عن المنح الدراسية الجديدة التي غيرت الفئات التي تحدد المنهجية والمؤشرات والشركات المستعرضة. على سبيل المثال، عُرف النظام البيئي للجوال والإنترنت ببساطة باسم الإنترنت عام 2015 وأعيد تسميته الإنترنت والجوال عام 2017. ينشر مشروع الحقوق الرقمية للتصنيف المنهجية بشكل علني ويسمح للآخرين بتكييفه بموجب رخصة المشاع الإبداعي لإصدار تقييماتهم الخاصة، مثلًأ للشركات المحلية أو الوطنية. نتيجة لذلك، تم تكرار نظام الحقوق الرقمية للتصنيف في سياقات مثل الهند، والشرق الأوسط، وأفريقيا

وهذا جزء من عملية طورتها المنظمة للحفاظ على المبادئ ذات الصلة مع الاستقرار أيضًا بما يكفي لتوفير بيانات حول كيفية تحسن الشركات أو تراجعها من حيث المؤشر. وقد ساعد هذا في وضع وتوسيع المؤشر للتركيز على 24 شركة بما في ذلك شركات الاتصالات مثل شركة 'AT&T' و 'تليفونيكا' بالإضافة إلى منصات الوسائط الاجتماعية وشركات التكنولوجيا مثل 'فيسبوك' و 'جوجل' و 'مايكروسوفت' و 'تويتر'. يقدم هذا الملخص نظرة عامة على نظام الحقوق الرقمية للتصنيف والمجالات والمؤشرات التي يغطيها. ويتطرق إلى المسائل المتعلقة بالمجال المعلوماتي بطرق مختلفة ويشمل شركات التكنولوجيا الكبرى ذات الاختصاص على نطاق واسع وشبكات التواصل الاجتماعي العالمية، مثل 'فيسبوك' و 'جوجل' و 'مايكروسوفت' و 'تويتر'. وفي إطار هذا النظام، فإنهم يعتبرون أيضًا الخصائص التي تتحكم فيها هذه الشركات، مثل 'واتساب' ('فيسبوك') أو ‘سكايب’ ('مايكروسوفت'). تسجل هذه الشركات عمومًا نتائج مماثلة في المؤشرات، حيث حصلت على تقييم 62 ('مايكروسوفت') و 61 ('جوجل') و 57 ('فيسبوك') و 55 ('تويتر'). وعلى النقيض من ذلك، سجلت شركات الاتصالات الصينية والروسية معدلات أقل بكثير، مثل عملاق التكنولوجيا الصيني شركة 'تينسنت' (الصفحة الرئيسية لبرنامج 'وي تشات'، و 'كيو كيو'، و 'كيو زون') تقييم 26، ومحرك البحث والخدمات التقنية 'جالوت بيدو' 23، أو الشركة الروسية 'ياندكس ' 32 درجة. ومن المؤكد أن هذا يتناقض مع نُهج الشركات في مجالي النفوذ الاستبدادي والديمقراطي على حد سواء، ويبدو التناقض على أسس حقوق الإنسان التي يمكن أن يكون من المفيد التأكيد عليها، لا سيما فيما يتعلق بمسائل سلامة المعلومات والاخبار المضللة السائدة على نحو متزايد.

مؤشرات حوكمة الحقوق الرقمية للتصنيف

G1. الالتزام بالسياسة 

G2. الحوكمة والرقابة الإدارية

G3. التنفيذ الداخلي

G4. تقييم الاثر

G5. مشاركة أصحاب المصلحة 

G6. سبل الانتصاف

في ظل الحوكمة، تبحث المبادئ عن الطرق التي تحكم بها شركة التكنولوجيا نفسها ومنتجاتها. ويرتبط هذا بالطريقة التي يديرون بها منصاتهم، ونوع الرقابة التي لديهم، وخاصة كيفية تقييمهم للتأثير الذي تحدثه هذه المنصات. كما لاحظوا في تقرير المؤشر لعام 2019: "المؤشر G4 يقيّم ما إذا كانت الشركات تجري تقييمات للمخاطر لتقييم ومعالجة التأثير السلبي المحتمل لعملياتها التجارية على حقوق الإنسان للمستخدمين. ونتوقع من الشركات أن تبذل العناية الواجبة الموثوقة والشاملة لتقييم وإدارة المخاطر المتعلقة بكيفية تأثير منتجاتها أو خدماتها على حرية المستخدمين في التعبير والخصوصية". وأصبح ذلك عنصرًا رئيسيًا على نحو متزايد في سياسات الشركات المتعلقة بمسائل المعلومات المضللة، وفي الكيفية التي يمكنها بها أن تحكم نفسها بفعالية فيما يتعلق بمخاوف حقوق الإنسان بشأن مسائل حرية التعبير والخصوصية على وجه التحديد. 


يلاحظ المؤشر عدم قيام أي شركة، بما في ذلك منصات مثل 'فيسبوك' و 'جوجل' و 'تويتر'، بإجراء تقييمات حول تأثير الذكاء الاصطناعي أو طرق "تحديد وإدارة الآثار السلبية المحتملة لتنفيذ القواعد على حرية المستخدمين في التعبير وحقوق الخصوصية"، ولا تقييم مخاطر الآثار المترتبة على حقوق الإنسان لتصميم وتنفيذ شروط الخدمة أو أنظمة الإعلان المستهدفة. وتترتب على هذه السياسات العامة الداخلية للشركة تأثيرات هائلة على بيئة المعلومات، ويوفر برنامج الحقوق الرقمية للتصنيف وسيلة واحدة لتقييمها.

مؤشرات حرية التعبير الحقوق الرقمية للتصنيف

F1. الوصول إلى شروط الخدمة 

F2. التغييرات على شروط الخدمة

F3. عملية إنفاذ شروط الخدمة

F4. بيانات عن شروط إنفاذ الخدمة

F5. عملية الاستجابة لطلبات الجهات الخارجية المتعلقة بالمحتوى أو تقييد الحساب

F6. بيانات عن الطلبات الحكومية المتعلقة بالمحتوى أو تقييد الحساب

F7. بيانات عن الطلبات الخاصة بالمحتوى أو تقييد الحساب

F8. إشعار المستخدم حول المحتوى وتقييد الحساب

F9. إدارة الشبكة (شركات الاتصالات)

F10. إغلاق الشبكة (شركات الاتصالات)

F11. سياسة الهوية


ترتبط مؤشرات حرية التعبير بشكل أكثر تحديدًا بإدارة المحتوى في المنصات الإلكترونية التي يجري تقييمها. تساعد شروط الخدمة في تحديد الطريقة التي تحدد بها الشركات حقوق المستخدمين في عمليات الوصول والشكاوى والتعليق والإزالة.


يقيّم برنامج الحقوق الرقمية للتصنيف كيفية إتاحة المعلومات المتعلقة بهذه الشروط والتغييرات للمستخدمين، ثم يقدم للجمهور بشكل ثانوي المعلومات المتاحة حول العملية التي يتم من خلالها عمليات الإزالة أو فرض قيود على المحتوى، بالإضافة إلى البيانات العامة حول أنواع عمليات إنهاء الخدمة الموجودة هناك. ويتعلق هذا أيضًا بالطرق التي تتبعها الحكومات في تقديم طلبات الإزالة وتدوين أن 'فيسبوك' ، و 'جوجل' ، و 'تويتر' كانوا جميعًا يوفرون المزيد من البيانات حول عمليات الإزالة من خلال تقارير الشفافية، باستثناء البيانات المتعلقة بالطلبات الحكومية، والتي أصبحت أكثر محدودية. كان 'فيسبوك' و 'تويتر' يصدران بيانات أقل تتعلق بالطلبات الحكومية للحصول على البيانات، وخاصة في حالة الطلبات على منصات مغلقة مثل 'فيسبوك ماسنجر' و 'واتساب' ومنصة فيديو 'تويتر باراسكوب'.


كما أنه يبحث في سياسات الشركة حول الهوية، إذا كانت الشركة تطلب من المستخدمين تقديم الهوية الصادرة عن جهة حكومية أو أي شكل آخر من أشكال تحديد الهوية الذي يمكن ربطه بهويتهم في العالم الحقيقي. وهذا من شأنه أن يسمح بتحديد مصادر المعلومات المضللة وخطاب الكراهية أو غيرهم من المستخدمين الشائنين على نحو أفضل، ولكنه ينشئ أيضًا سبل محتملة لاستهداف المستخدمين المستضعفين من قبل الحكومات والمتصيدون وغيرهم. وأشاروا إلى أن 'جوجل' و'انستجرام' و'واتساب' و'تويتر' يسمحون للمستخدمين المجهولين عبر منصاتهم، لكن 'فيسبوك' يتطلب تحديد الهوية، وهو أمر يمكن أن يثير مشاكل متضاربة، وخاصة للمستخدمين المستضعفين.

مؤشرات خصوصية الحقوق الرقمية للتصنيف

P1. الوصول إلى سياسات الخصوصية

P2. التغييرات في سياسات الخصوصية

P3. جمع معلومات المستخدمين

P4. تبادل معلومات المستخدمين

P5. الغرض من جمع معلومات المستخدمين ومشاركتها

P6. الاحتفاظ بمعلومات المستخدمين

P7. تحكم المستخدمين في معلومات المستخدمين الخاصة بهم

P8. وصول المستخدمين إلى معلومات المستخدمين الخاصة بهم

P9. جمع معلومات المستخدمين من أطراف ثالثة (شركات الإنترنت)

P10. عملية الاستجابة لطلبات الجهات الخارجية للحصول على معلومات المستخدمين

P11. البيانات الخاصة بطلبات الجهات الخارجية للحصول على معلومات المستخدمين

P12. إشعار المستخدم بشأن طلبات الجهات الخارجية للحصول على معلومات المستخدمين

P13. الرقابة الأمنية

P14. معالجة الثغرات الأمنية

P15. اختراقات البيانات

P16. تشفير اتصالات المستخدمين والمحتوى الخاص (شركات الإنترنت والبرامج والأجهزة)

P17. أمن الحسابات (شركات الإنترنت والبرامج والأجهزة)

P18. إعلام وتثقيف المستخدمين بالمخاطر المحتملة

أخيرًا، فيما يتعلق بمسائل الخصوصية، يغطي برنامج الحقوق الرقمية للتصنيف كيفية ارتباط السياسات المختلفة ببيانات المستخدمين والمعلومات المتعلقة بكيفية التعامل معها، وكيفية ضمان أمنها، وكيفية معالجة أوجه الضعف، وكيفية تناول الرقابة والإشعارات الخاصة بعمليات الخرق. في حين أن هذه المسائل قد تبدو مسائل عرضية بالنسبة لحملات المعلومات المضللة، فإنها يمكن أن يكون لها في الواقع تأثيرات كبيرة، حيث يمكن غالبًا استخدام البيانات المأخوذة من هذه الشركات في حملات المعلومات المضللة، ويمكن للحكومات وغيرها من الجهات الفاعلة الشائنة أن تتجسس على المستخدمين الذين يصلون إلى المحتوى من خلال أنظمة الأمان الضعيفة، وقد تكون أهداف حملات المعلومات المضللة أو الهجمات الإلكترونية غير مدركة حتى أنها تتعرض للهجوم بدون الأنظمة المناسبة لرصد أن وصولهم آمن أو أن يتم إخطارهم في حالات الخرق. كما يقومون بفحص ما إذا كانت الشركات تبلغ المستخدمين عن "المخاطر الإلكترونية" المحتملة، والتي يعرفونها بأنها "مواقف قد يتعرض فيها أمن المستخدم أو خصوصيته أو حقوقه الأخرى ذات الصلة للتهديد من قِبل جهة فاعلة ضارة (بما في ذلك على سبيل المثال لا الحصر المجرمين أو المطلعين أو الدول القومية) الذين قد يحصلون على وصول غير مصرح به إلى بيانات المستخدم باستخدام القرصنة أو التصيد الاحتيالي أو غيرها من التقنيات المخادعة". يمكن أن يشمل ذلك المخاطر الناجمة عن حملات المعلومات المضللة أو المضايقات الموجهة على الإنترنت، وخاصة بالنسبة للمستخدمين المستضعفين أو المهمشين.

كمكون من عناصر استعراضها المستمرة للممارسات والسياسات التكنولوجية، يتطور برنامج الحقوق الرقمية للتصنيف لفحص المسائل المتعلقة بالاستخدام الأخلاقي للبيانات والخوارزميات الخاصة لتوفير المحتوى. وسيشمل مؤشر 2020 النظر في هذه المسائل بناءً على مراجعته. وقد تمت مراجعته بالفعل على مدى عدة سنوات لتغطية أنظمة المعلومات المتطورة، مثل الهواتف المحمولة ووسائل الإعلام الاجتماعية وغيرها من التقنيات. 

كما تقول ماريشال: "لقد حافظنا على ثبات المنهجية بين عامي 2017-2018 وبالنسبة لعام 2019، كان هناك بعض التعديلات وقمنا بإضافة شركات كل عام، ولكننا حافظنا على قابليتها للمقارنة بشكل عام في الدورات البحثية الثلاث وكان هناك تقدم ملموس لمعظم الشركات على مدى السنوات في منتصف عام 2018. وبدأنا مشروعًا لمراجعة منهجية الحقوق الرقمية للتصنيف وتوسيعها، وكان هذا مشروعًا قمت بقيادته، لحساب الأضرار على حقوق الإنسان المرتبطة بمسألتين مترابطتين، نماذج الأعمال التجارية القائمة على الإعلانات المستهدفة واستخدام الخوارزميات. استخدام ما يسميه ممولنا الذكاء الاصطناعي والذي أطلقناه على الأنظمة الخوارزمية في المنتجات التي تواجه المتصفح والتي تركز بشكل خاص على استخدامها في الإشراف على المحتوى وإدارة المحتوى ". كما ترجموا أيضًا المنهجية إلى لغات أخرى، بما في ذلك العربية والفرنسية والإسبانية. مما يوفر أساسًا إضافيًا لتدويل الإطار وإضفاء الطابع المحلي عليه لمختلف السياقات على الصعيد العالمي. 

المنطقةالخلفية
عالمييعمل منتدى الإنترنت العالمي لمكافحة الإرهاب (منتدى الإنترنت العالمي لمكافحة الإرهاب) على تعزيز التعاون وتبادل المعلومات بين صناعة التكنولوجيا والحكومة والمجتمع المدني والأوساط الأكاديمية لمكافحة الأنشطة الإرهابية والمتطرفة العنيفة على الإنترنت.

فقد نفذت المنظمات الإرهابية والجهات الفاعلة الفردية هجمات ضد المدنيين والبنية التحتية الحيوية لبث الخوف والفوضى والتقليل من التماسك الجغرافي السياسي والداخلي للمجتمعات لفترة طويلة. ومنذ ظهور شبكة الإنترنت، وخاصة وسائل الإعلام الاجتماعي، استخدمت المنظمات الإرهابية الشبكة لتجنيد أشخاص وحملهم على التطرف، وكسب المؤيدين، و "الدراية" التقنية حول بناء القنابل والأجهزة المتفجرة المرتجلة، ونشر المعلومات المضللة والدعاية للسكان. والجدير بالذكر بشكل خاص في السنوات الأخيرة هو قوة منصات التواصل الاجتماعي واستخدامها من قبل المنظمات الإرهابية. تقدم حادثة إطلاق النار في كريستشيرش في نيوزيلندا عام 2019، حيث تم نشر مقطع فيديو مطلق النار في البداية على تويتش ولكن أُعيد مشاركته على 'يوتيوب' و 'فيسبوك' و 'تويتر'، مثالًا رئيسيًا على استخدام الإرهابيين للتكنولوجيا والإنترنت لنشر رواياتهم ومعلوماتهم المضللة.

وردًا على النشاط الإرهابي المتزايد في بيئة المعلومات، تأسس منتدى الإنترنت العالمي لمكافحة الإرهاب (GIFCT) رسميًا عام 2017 من قبل 4 شركات أساسية: 'تويتر' و 'مايكروسوفت' و 'فيسبوك' و 'يوتيوب'، بالإضافة إلى العديد من الشركات الموقعة الأصغر حجمًا والتي زادت من وصولها عبر المنصات. تم تصميم منتدى الإنترنت العالمي لمكافحة الإرهاب لتعزيز التعاون وتبادل المعلومات بين شركاء الصناعة لإحباط قدرة الجهات الإرهابية الفاعلة على استخدام بيئة المعلومات للتلاعب بالسكان المستهدفين وجعلهم راديكاليين واستغلالهم. وتولت الشركات الأربع التي يتألف منها المنتدى رئاسة أعمال منتدى الإنترنت العالمي لمكافحة الإرهاب بالتناوب. وبعد دعوة كرايستشيرش لتعزيز الاستجابة المنسقة للإرهاب في الفضاء الإلكتروني من خلال عملية أصحاب المصلحة المتعددين، أصبح منتدى الإنترنت العالمي لمكافحة الإرهاب منظمة خاصة غير ربحية ويديرها حاليًا أول مدير تنفيذي لها، نيكولاس راسموسن، المدير السابق للمركز الوطني لمكافحة الإرهاب. تتمثل أهداف منتدى الإنترنت العالمي لمكافحة الإرهاب في:

  • تحسين قدرة مجموعة كبيرة من شركات لتكنولوجيا، بشكل مستقل وجماعي، على منع إساءة استخدام الإرهابيين والمتطرفين العنيفين لمنصاتهم الرقمية والتصدي لهم.
  • تمكين مشاركة أصحاب المصلحة المتعددين حول إساءة استخدام الإرهابيين والمتطرفين العنيفين للإنترنت وتشجيع أصحاب المصلحة على الوفاء بالالتزامات الرئيسية المتوافقة مع مهمة منتدى الإنترنت العالمي لمكافحة الإرهاب.
  • تشجيع تلك الجهات المكرسة للحوار المدني على الإنترنت وتمكين الجهود لتوجيه بدائل إيجابية لرسائل الإرهابيين والمتطرفين العنيفين.
  • تعزيز الفهم واسع النطاق للعمليات الإرهابية والمتطرفة العنيفة وتطورها، بما في ذلك تقاطع الأنشطة المتصلة بالإنترنت وغير المتصلة بالإنترنت.

ويتمثل أحد الجوانب الأساسية لمنتدى الإنترنت العالمي لمكافحة الإرهاب في مشاركة المعرفة والتعاون، ليس فقط مع المنصات التكنولوجية الرئيسية ولكن مع المنصات الأصغر أيضًا. وعلى هذا النحو، يعمل منتدى الإنترنت العالمي لمكافحة الإرهاب مع منظمة تكنولوجيا مكافحة الإرهاب، وهي شراكة بين القطاعين العام والخاص أطلقتها المديرية التنفيذية لمكافحة الإرهاب التابعة للأمم المتحدة. ويتلخص أهداف هذا الجهد في توفير الموارد والإرشادات اللازمة لزيادة مشاركة المعرفة داخل صناعة التكنولوجيا؛ وتشجيع التعلم من الأقران والدعم بين الأعضاء؛ وتعزيز التعاون وتبادل المعلومات بين قطاع التكنولوجيا والحكومة والمجتمع المدني والأوساط الأكاديمية؛ وتعزيز فهم أكبر للطرق التي يستغل بها الإرهابيون الإنترنت لتحقيق أهدافهم.

باريس تدعو إلى الثقة والأمن في الفضاء الإلكتروني

مع ظهور كل من حملات المعلومات المضللة والهجمات الإلكترونية في الفضاء الإلكتروني، والفهم المشترك للحاجة إلى زيادة التعاون والتنسيق لتعزيز الابتكار التكنولوجي مع منع الهجمات في الفضاء الإلكتروني، اجتمعت مجموعة مؤلفة من 78 بلدًا، و 29 سلطة عامة، و 349 منظمة، و 648 شركة للتوافق حول مجموعة من تسعة مبادئ لإنشاء فضاء إلكتروني مفتوح وآمن ومستدام وسلمي. ويؤكد نداء باريس من جديد على التزام هذه البلدان بالقانون الدولي الإنساني والقانون الدولي العرفي الذي يوفر نفس أوجه الحماية للمواطنين على الإنترنت بالطريقة التي تُطبق بها هذه القوانين خارج شبكة الإنترنت. عند إنشاء هذه الدعوة، تلتزم الحكومات والمجتمع المدني والصناعة، بما في ذلك شركات وسائل الإعلام الاجتماعي، بتوفير الأمان والاستقرار والأمن في الفضاء الإلكتروني، فضلًا عن زيادة الثقة والشفافية للمواطنين. وقد أنشأت هذه الدعوة عملية منتدى لأصحاب المصلحة المتعددين لكي تجتمع المنظمات والبلدان معًا لزيادة تبادل المعلومات والتعاون. ووقع المشاركون في نداء باريس على المبادئ التسعة التالية:

  1. منع الأنشطة السيبرانية الضارة التي تهدد أو تسبب ضررًا جسيمًا أو عشوائيًا أو منهجيًا للأفراد والبنية التحتية الحيوية ومعالجتها.
  2. منع النشاط الذي يتسبب عن قصد وبشكل جوهري في الإضرار بالتوافر العام أو سلامة النواة العامة للإنترنت.
  3. تعزيز قدرتنا على منع التدخل الخبيث من جانب الجهات الأجنبية الفاعلة التي تهدف إلى تقويض العمليات الانتخابية من خلال الأنشطة السيبرانية الضارة.
  4. منع سرقة الملكية الفكرية باستخدام تكنولوجيا المعلومات والاتصالات، بما في ذلك الأسرار التجارية أو غيرها من المعلومات التجارية السرية، بقصد توفير مزايا تنافسية للشركات أو للقطاع التجاري.
  5. وضع طرق لمنع انتشار البرامج والممارسات الضارة التي تهدف إلى التسبب في ضرر.
  6. تعزيز أمن العمليات والمنتجات والخدمات الرقمية طوال دورة حياتها وسلسلة التوريد.
  7. دعم الجهود الرامية إلى تعزيز النظافة الصحية الإلكترونية المتقدمة لجميع الجهات الفاعلة.
  8. اتخاذ خطوات لمنع الجهات الفاعلة من غير الدول، بما في ذلك القطاع الخاص، من الاختراق لأغراضها الخاصة أو لأغراض الجهات الفاعلة الأخرى من غير الدول.
  9. تعزيز القبول والتنفيذ واسع النطاق للمعايير الدولية للسلوك المسؤول وكذلك تدابير بناء الثقة في الفضاء السيبراني.

وقد تم التوقيع على هذه المبادئ من قبل دول مثل كولومبيا وكوريا الجنوبية والمملكة المتحدة، وإن لم تكن الولايات المتحدة في البداية، ومنظمات المجتمع المدني بما في ذلك المعهد الجمهوري الدولي والمؤسسة الدولية للأنظمة الانتخابية والمعهد الديمقراطي الوطني؛ القطاعات الخاصة مثل قطاع الاتصالات السلكية واللاسلكية ووسائل الإعلام الاجتماعي ('فيسبوك') وتكنولوجيا المعلومات ('سيسكو' و 'مايكروسوفت')؛ بالإضافة إلى مجموعة من الشركات الأخرى. ويوفر نداء باريس إطارًا للمقاييس المعيارية المتعلقة بالأمن السيبراني والمعلومات المضللة عبر القطاعات، ولا سيما في إطار المبدأ الثالث الذي يركز على بناء القدرات لمقاومة التأثير الخبيث في الانتخابات.

Footnotes

1. وتشمل هذه توجيه التجارة الإلكترونية ، وتوجيه خدمات الوسائط السمعية والبصرية ، وتوجيهات حقوق الطبع والنشر ، واللائحة العامة لحماية البيانات ، والتوجيه الخاص بأمان خدمات الشبكة والمعلومات ، ومدونة قواعد السلوك بشأن خطاب الكراهية غير القانوني عبر الإنترنت ، ولوائح الاتحاد الأوروبي الأخرى عبر الإنترنت.

2. مدونة الاتحاد الأوروبي لقواعد السلوك بشأن مكافحة خطاب الكراهية غير القانوني على الإنترنت (2016). https://ec.europa.eu/info/policies/justice-and-fundamental-rights/combatting-discrim/racism-and-xenophobia/eu-code-conduct-countering-illegal-hate-speech-online_en .

3. https://rankingdigitalrights.org/index2019/report/governance/

4. https://rankingdigitalrights.org/index2019/report/governance/