(أ). سياسات المنصة بشأن المعلومات المضللة والمعلومات الخاطئة

وقد وضعت مجموعة من أكبر وأشهر شركات الإعلام الاجتماعي في العالم سياسات لمعالجة المعلومات المضللة والمعلومات الخاطئة.  يفحص هذا القسم بعضًا من أهم ردود سياسة القطاع الخاص على المعلومات المضللة، بما في ذلك ردود من 'فيسبوك' و 'تويتر' و 'يوتيوب'، فضلًا عن الشركات النامية مثل 'تيك توك' وغيرها.

1. سياسات 'فيسبوك'

تخضع أنشطة المستخدمين في 'فيسبوك'، لمجموعة من السياسات المعروفة باسم معايير المجتمع. ولا تحظر هذه المجموعة من القواعد حاليًا المعلومات المضللة أو المعلومات الخاطئة بشكل عام؛ ولكنها تحتوي على العديد من المحظورات التي قد تنطبق على مكافحة المعلومات المضللة والمعلومات الخاطئة في سياقات محددة. فعلى سبيل المثال، تحظر معايير المجتمع المحتوى الذي يشوه المعلومات المتعلقة بالتصويت أو الانتخابات، أو يحرض على العنف ، أو يروج لخطاب الكراهية ، أو يتضمن معلومات خاطئة تتعلق بجائحة كوفيد -19. كما تحظر معايير المجتمع "السلوك الزائف المنسق"، الذي يُعرف عمومًا بأنه يحظر الأنشطة التي تتسم بها العمليات المعلوماتية واسعة النطاق على المنصة. وبمجرد اكتشافها، يتم إزالة الشبكات المشاركة في السلوك الزائف المنسق. كما بدأ 'فيسبوك' في تطوير السياسات والعمل مع الخبراء وتطوير التكنولوجيا لزيادة سلامة المرأة على منصته وعائلة التطبيقات الخاصة بهن. القواعد ضد المضايقات، والرسائل غير المرغوب فيها، والصور الحميمة غير التوافقية التي تستهدف المرأة بشكل غير متناسب، تشكل جميعها جزء من جهود 'فيسبوك' لجعل المرأة تشعر بالأمان.

وخارج هذه السياقات المحددة، تتضمن معايير مجتمع 'فيسبوك' إقرارًا بأنه في حين أن المعلومات المضللة ليست محظورة بطبيعتها، فإن الشركة تتحمل مسؤولية الحد من انتشار "الأخبار الكاذبة". وعند تفعيل هذه المسؤولية، يلتزم 'فيسبوك' بتخفيض توزيع مثل هذا المحتوى (أو تدنيه) بشكل خوارزمي، فضلًا عن اتخاذ خطوات أخرى لتخفيف تأثيره وتثبيط انتشاره. كما طورت الشركة سياسة لإزالة فئات معينة من وسائط الإعلام المتلاعب بها التي قد تضلل المستخدمين؛ ومع ذلك فإن نطاق هذه السياسة محدود. فهي لا تمتد إلا إلى وسائط الإعلام التي هي نتاج الذكاء الاصطناعي أو التعلم الآلي وتشمل بدل لأي وسائط إعلامية تعتبر ساخرة أو محتوى يحرر أو يحذف أو يغير ترتيب الكلمات التي قيلت بالفعل.

تجدر الإشارة إلى أنه على الرغم من أن سياسات 'فيسبوك' تنطبق بشكل عام على جميع المستخدمين، تشير الشركة إلى أنه "في بعض الحالات، نسمح بالمحتوى الذي يتعارض مع معايير المجتمع - إذا كان يستحق النشر ويخدم المصلحة العامة". وأشارت الشركة كذلك إلى أن خطاب السياسيين سيُعامل عمومًا على أن يندرج في نطاق استثناء الجدارة الإخبارية، وبالتالي فهو غير قابل للإزالة. غير أن مثل هذه المنشورات تخضع للتسمية التي تشير إلى أن هذه المنشورات تنتهك معايير المجتمع.  اتخذ 'فيسبوك' في السنوات الأخيرة خطوات لإزالة الخطاب السياسي وإسقاط السياسيين، بما في ذلك الرئيس السابق دونالد ترامب في أعقاب هجوم 6 يناير على الكابيتول الأمريكي. في عام 2018، ألغى 'فيسبوك' أيضًا منصة "مين أونغ هلاينغ" وكبار القادة العسكريين في ميانمار لشنهم حملات معلومات مضللة وتحريضهم على العنف العرقي. 

2. سياسات 'تويتر'

تحكم قواعد 'تويتر' المحتوى المسموح به على 'تويتر'، وبينما لا توجد سياسة عامة بشأن المعلومات الخاطئة، تتضمن القواعد العديد من الأحكام لمعالجة المحتوى والسلوك الخاطئ أو المضلل في سياقات محددة. وتحظر سياسات 'تويتر' المعلومات المضللة والمحتويات الأخرى التي قد تمنع المشاركة أو تضلل الناس بشأن متى أو أين أو كيف يشاركون في عملية مدنية؛ أو المحتوى الذي يتضمن خطاب كراهية أو يحرض على العنف أو المضايقة؛ أو المحتوى الذي يتعارض بشكل مباشر مع إرشادات المصادر الموثوقة للمعلومات المتعلقة بالصحة العامة على الصعيدين العالمي والمحلي. يحظر 'تويتر' أيضًا السلوك الزائف والبريد العشوائي ، وهو عنصر من عناصر عمليات المعلومات التي تستخدم المعلومات المضللة وغيرها من أشكال المحتوى المتلاعب. وفيما يتعلق بالمعلومات المضللة، قام 'تويتر' بتحديث سياسته السلوكية البغيضة لحظر اللغة التي تجرد الناس من إنسانيتهم على أساس العرق والأصل العرقي والأصل القومي.

بعد التشاور العام ، اعتمد 'تويتر' أيضًا سياسة تتعلق بمشاركة وسائط الإعلام الاصطناعية أو المتلاعب بها التي قد تضلل المستخدمين. وتتطلب السياسة تقييم ثلاثة عناصر، بما في ذلك (1) وسائط الإعلام نفسها تم التلاعب بها (أو اصطناعية)؛ و (2) يتم مشاركة وسائط الإعلام بطريقة خادعة أو مضللة؛ و (3) مخاطر المحتوى التي قد تسبب ضررًا جسيمًا (بما في ذلك السلامة المادية للمستخدمين، وخطر العنف الجماعي أو الاضطرابات المدنية، وأي تهديدات للخصوصية أو قدرة شخص أو مجموعة على التعبير عن أنفسهم بحرية أو المشاركة في الأحداث المدنية). إذا استوفى المحتوى العناصر الثلاثة للسياسة، بما في ذلك تحديد أن المحتوى من المرجح أن يسبب ضررًا جسيمًا، فسيقوم 'تويتر' بإزالة المحتوى. إذا تم استيفاء بعض العناصر فقط، فقد يقوم 'تويتر' بتسمية المحتوى المتلاعب به، وتحذير المستخدمين الذين يحاولون مشاركته أو إرفاق روابط بمحتوى تقصي صحة الأخبار الموثوق بها لتوفير سياق إضافي.

وفي سياق المعلومات الانتخابية والسياسية المضللة، فإن سياسات 'تويتر' بشأن الانتخابات تحظر صراحة المعلومات المضللة حول عملية التصويت. وتشير قواعدها إلى أنه "لا يجوز لك استخدام خدمات 'تويتر' لغرض التلاعب أو التدخل في الانتخابات أو العمليات المدنية الأخرى. ويشمل ذلك نشر أو مشاركة محتوى قد يؤدي إلى قمع المشاركة أو يضلل الناس بشأن متى أو أين أو كيف يشاركون في عملية مدنية". ومع ذلك، يتم استبعاد البيانات غير الدقيقة حول مسؤول أو مرشح أو حزب سياسي منتخب أو معين من هذه السياسة. بموجب هذه القواعد، أزال 'تويتر' المنشورات التي تتضمن معلومات مضللة عن العمليات الانتخابية، مثل الترويج ليوم التصويت الخاطئ أو معلومات كاذبة عن أماكن الاقتراع - معالجة المحتوى الذي يعمل مراقبو الانتخابات وغيرهم بهيئة إدارة الانتخابات على رصده بصورة متزايدة والإبلاغ عنه. من الملاحظ أن تغريدات المسؤولين والسياسيين المنتخبين قد تخضع لمصلحة 'تويتر' العامة متعددة الجوانب. 

في ظل استثناء المصلحة العامة، أشار 'تويتر' إلى أنه "قد يختار ترك تغريدة من مسؤول منتخب أو حكومي سيتم حذفها بطريقة أخرى" ويستشهد بمصلحة الجمهور في معرفة تصرفات المسؤولين وتصريحاتهم. عندما ينطبق هذا الاستثناء، بدلًا من إزالة المحتوى المسيء، فإن 'تويتر' "سيضعه خلف إشعار يوفر سياقًا حول انتهاك القاعدة التي تسمح للناس بالنقر عليها لمشاهدة التغريدة". حددت الشركة معايير لتحديد متى قد يمكن أن تخضع التغريدة التي تنتهك سياساتها لهذا الاستثناء الخاص بالمصلحة العامة، والذي يتضمن:

1. أن تنتهك التغريدة قاعدة أو أكثر من قواعد المنصة 
2. أن تُنشر التغريدة من حساب تم التحقق منه 
3. أن يكون الحساب لديه أكثر من 100000 متابع
4. أن يمثل الحساب عضوًا حاليًا أو محتملًا في هيئة حكومية أو تشريعية. 

وعند النظر في كيفية تطبيق هذا الاستثناء، قامت الشركة أيضًا بوضع ونشر مجموعة من البروتوكولات لموازنة المخاطر المحتملة وشدة الضرر مقابل قيمة المصلحة العامة للتغريدة. خلال دورة الانتخابات الرئاسية الأمريكية لعام 2020 طبق 'تويتر' إشعار المصلحة العامة متعدد الجوانب على العديد من تغريدات الرئيس السابق دونالد ترامب. تعرض التغريدات التي تندرج تحت هذه التسمية التحذير التالي كما هو موضح أدناه:

في أعقاب هجوم السادس من يناير على مبنى الكابيتول الأمريكي والتغريدات التي أظهرت تحريضًا على العنف، قام موقع 'تويتر' بإلغاء منصة الرئيس السابق ترامب. ونشرت الشركة مدونة مع ذكر مبرراتها.

وأخيرًا، تجدر الإشارة أيضا إلى أن 'تويتر' أظهر استعدادًا لوضع سياسات استجابة لموضوعات محددة تشكل خطرًا من تلويث بيئة المعلومات في المنصة. على سبيل المثال، نفذت الشركة مجموعة خاصة من السياسات لإزالة المحتوى المتعلق بنظرية المؤامرة "كيو أنون" والحسابات التي تصدرها. منذ بداية جائحة كوفيد-19، وضع 'تويتر' أيضًا سياسات لمواجهة المعلومات المضللة والمعلومات الخاطئة المتعلقة بفيروس كورونا، بما في ذلك سياسة المعلومات المضللة الخاصة بكوفيد-19 التي تؤثر على الصحة والسلامة العامة.

3. سياسات 'يوتيوب'

يتبع 'يوتيوب' سياسة صارمة لثلاثة تعديات تؤدي إلى تعليق أو إنهاء الحسابات المخالفة المتصلة بالمعلومات المضللة. تتضمن سياسات 'يوتيوب' العديد من الأحكام ذات الصلة بالمعلومات المضللة في سياقات معينة، بما في ذلك المحتوى الذي يهدف إلى تضليل الناخبين بشأن الوقت أو المكان أو الوسائل أو شروط الأهلية للتصويت أو المشاركة في التعداد؛ والتي تقدم ادعاءات كاذبة تتعلق بشروط الأهلية للمرشحين السياسيين للترشح للمناصب والمسؤولين الحكوميين المنتخبين للعمل في مناصبهم؛ أو تشجع على العنف أو الكراهية ضد الأفراد أو الجماعات أو تضايقها على أساس السمات الجوهرية. بالإضافة إلى ذلك، وسع موقع 'يوتيوب' أيضًا سياسته المناهضة للمضايقات التي تحظر على منشئي الفيديو استخدام خطاب يحض على الكراهية والإهانات على أساس الجنس أو التوجه الجنسي أو العرق.

وتشمل القواعد كذلك، تمامًا مثل المنصات الأخرى، سياسة محددة لمكافحة المعلومات المضللة المتعلقة بالصحة العامة أو المعلومات الطبية في سياق جائحة كوفيد-19. كما حصلت مقاطع الفيديو المضللة على يوتيوب حول فيروس كورونا 62 مليون مشاهدة في الأشهر القليلة الأولى من الوباء، وأشار 'يوتيوب' إلى أنه أزال "آلاف وآلاف" من مقاطع الفيديو التي تنشر معلومات خاطئة في انتهاك لسياسات المنصة. وجددت المنصة التزامها بوقف انتشار مثل هذا المحتوى الضار. 

كما طور موقع 'يوتيوب' أيضًا سياسة تتعلق بوسائط الإعلام المتلاعب بها، وهي السياسة التي تحظر المحتوى الذي تم التلاعب به تقنيًا أو التلاعب به على نحو يضلل المستخدمين (بما يتجاوز المقاطع المأخوذة من سياقها) وقد يشكل خطرًا جسيمًا بالتعرض لأضرار فادحة. ولزيادة التخفيف من مخاطر حملات التلاعب أو المعلومات المضللة، فإن 'يوتيوب' لديه أيضًا سياسات تحظر انتحال هوية الحساب أو تحريف معلومات البلد الأصلي أو إخفاء الارتباط بجهة حكومية فاعلة. وهذه السياسات تحظر أيضًا زيادة مقاييس التفاعل بشكل مصطنع ، إما من خلال استخدام النظم الآلية أو عن طريق تقديم مقاطع الفيديو إلى المشاهدين غير المرتابين.

4. سياسات 'تيك توك'

في يناير 2020، زود 'تيك توك' المستخدمين بالقدرة على وضع علامة على المحتوى بأنه معلومات خاطئة من خلال اختيار ' فئة المعلومات الخاطئة' الجديدة الخاصة بهم؛ ونظرًا لأن 'تيك توك' مملوك لشركة "بايت دانس" الصينية، فقد طغت عليه المخاوف المتعلقة بالخصوصية ، حيث تتطلب اللوائح الصينية من الشركات الامتثال لطلبات الحكومة بتسليم البيانات. في أبريل 2020، أصدر 'تيك توك' بيانًا يتعلق بمعالجة الشركة للمعلومات الشخصية ، مشيرة إلى "التزامها بمعايير الرقابة الأمنية المعترف بها عالميًا مثل NIST CSF و ISO 27001 و SOC2"، والأهداف نحو مزيد من الشفافية والقيود المفروضة على "عدد الموظفين الذين يمكنهم الوصول إلى بيانات المستخدم".

ورغم أن هذه المخاوف المتعلقة بالخصوصية تلوح في الأفق بشكل كبير في النقاشات العامة المتعلقة بالمنصة، فإن المعلومات المضللة تشكل أيضًا تحديًا كانت الشركة تتنقل معه. واستجابة لهذه المسائل، نفذ 'تيك توك' سياسات حظر المعلومات الخاطئة التي يمكن أن تسبب ضررًا للمستخدمين، "بما في ذلك المحتوى الذي يضلل الناس بشأن الانتخابات أو العمليات المدنية الأخرى، والمحتوى الذي توزعه حملات المعلومات المضللة، والمعلومات الصحية الخاطئة". تُطبق هذه السياسات على جميع مستخدمي 'تيك توك' (بغض النظر عما إذا كانوا من الشخصيات العامة)، ويتم فرضها من خلال مجموعة من عمليات إزالة المحتوى وحظر الحسابات بحيث تجعل من الصعب العثور على محتوى ضار، مثل المعلومات الخاطئة ونظريات المؤامرة، في توصيات المنصة أو ميزات البحث. وضع 'تيك توك' سياسة إشراف "تحظر المحتوى الاصطناعي أو المتلاعب به الذي يضلل المستخدمين من خلال تشويه حقيقة الأحداث بطريقة يمكن أن تسبب ضررًا". ويشمل ذلك حظر التزييف العميق لمنع انتشار المعلومات المضللة.

5. سياسات 'سناب شات'

في يناير 2017، وضع 'سناب شات' سياسات لمكافحة انتشار المعلومات المضللة لأول مرة. ونفذ 'سناب شات' سياسات لمقدمي الأخبار على صفحة "ديسكفر" بالمنصة من أجل مكافحة المعلومات المضللة، فضلا عن تنظيم المعلومات التي تعتبر غير ملائمة للقاصرين. تتطلب هذه الإرشادات الجديدة من المنافذ الأخبارية تقصي حقائق مقالاتها قبل عرضها على صفحة "ديسكفر" بالمنصة لمنع انتشار المعلومات المضللة.

وصف الرئيس التنفيذي لشركة 'سناب شات' إيفان شبيجل، في المقال الافتتاحي، المنصة بأنها مختلفة عن الأنواع الأخرى من وسائل الإعلام الاجتماعي والعديد من المنصات الأخرى، قائلًا أن "المحتوى المصمم ليشاركه الأصدقاء ليس بالضرورة محتوى مصمم لتقديم معلومات دقيقة". يسمح الاختلاف المتأصل بين 'سناب شات' والمنصات الأخرى بمكافحة المعلومات المضللة بطريقة فريدة. لا يوجد موجز للمعلومات من المستخدمين على 'سناب شات' كما هو الحال مع العديد من منصات الوسائط الاجتماعية الأخرى - وهو تمييز يجعل 'سناب شات' أكثر قابلية للمقارنة مع تطبيق المراسلة. مع تحديثات 'سناب شات'، تستفيد المنصة من المحررين البشريين الذين يرصدون وينظمون ما يتم الترويج له على صفحة "ديسكفر"، ويمنعون انتشار المعلومات الكاذبة.

في يونيو 2020، أصدر 'سناب شات' بيانًا أعرب فيه عن تضامنه مع مجتمع السود وسط احتجاجات حركة "حياة السود مهمة" بعد وفاة جورج فلويد. وقالت المنصة إنه "قد يستمر في السماح للأشخاص المثيرين للخلاف بالاحتفاظ بحساب على 'سناب شات'، طالما أن المحتوى المنشور على 'سناب شات' يتوافق مع إرشادات مجتمع ['سناب شات']، لكننا ['سناب شات'] لن نروج لهذا الحساب أو المحتوى بأي شكل من الأشكال". كما أعلن 'سناب شات' أنه لن يروج بعد الآن لتغريدات الرئيس ترامب على صفحته الرئيسية "ديسكفر"، مشيرًا إلى أن "تعليقاته العامة على الموقع يمكن أن تحرض على العنف".

6. 'فكونتاكتي'

في حين أن العديد من أكبر المنصات قد اعتمدت سياسات تهدف إلى معالجة المعلومات المضللة، إلا أن هناك استثناءات ملحوظة لهذا الاتجاه. على سبيل المثال، موقع 'فكونتاكتي' الذي يُعد واحدًا من أشهر منصات الإعلام الاجتماعي في روسيا وقد تم الاستشهاد به لاستخدامه في نشر معلومات مضللة، وخاصة في الانتخابات الروسية. كما استشهدت مجموعات مدعومة من الكرملين بالمنصة لاستخدامها لنشر معلومات مضللة خارج حدود روسيا، مما يؤثر على انتخابات البلدان الأخرى، كما حدث في أوكرانيا. في حين أن المنصة تُستخدم في كثير من الأحيان كوسيلة لنشر المعلومات المضللة، لا يبدو أن موقع 'فكونتاكتي' يفرض أي سياسات لوقف انتشار الأخبار المزيفة. 

7. 'بارلر'

تم إنشاء تطبيق 'بارلر' عام 2018 وكان يطلق عليه في كثير من الأحيان على أنه "البديل" "لتطبيق" 'تويتر' للأصوات المحافظة، ويرجع ذلك إلى حد كبير إلى تركيزه على حرية التعبير مع سياسات الإشراف على المحتوى إلى الحد الأدنى فقط. أدى هذا الخطاب غير المقيد والذي لا يخضع للإشراف إلى زيادة معاداة السامية والكراهية والمعلومات المضللة والدعاية والتطرف. تم ربط 'بارلر' بالتخطيط المنسق لانتفاضة 6 يناير في مبنى الكابيتول الأمريكي. في أعقاب هذا الحدث، قامت العديد من الخدمات بما في ذلك 'أمازون' و 'آبل' و 'جوجل' بطرد 'بارلر' من منصاتها بسبب عدم الإشراف على المحتوى والمخاطر الكبيرة على السلامة العامة. توضح هذه الخطوة الطرق التي يمكن للسوق الأوسع من خلالها ممارسة الضغط على منصات معينة لتنفيذ سياسات مكافحة المعلومات المضللة والمحتويات الضارة الأخرى. 

(ب). التدخلات الفنية وتدخلات المنتجات للحد من المعلومات المضللة

وضعت منصات القطاع الخاص عددًا من ميزات المنتجات والتدخلات الفنية التي تهدف إلى المساعدة في الحد من انتشار المعلومات المضللة، مع تحقيق التوازن بين مصالح حرية التعبير. ويتوقف تصميم وتنفيذ هذه الآليات إلى حد كبير على طبيعة ووظائف منصات محددة. يبحث هذا القسم الاستجابات عبر هذه المنصات، بما في ذلك خدمات وسائل الإعلام الاجتماعي التقليدية، ومنصات مشاركة الصور ومقاطع الفيديو، وتطبيقات المراسلة. وتجدر الإشارة إلى أن أحد أكبر المشكلات التي حاولت هذه المنصات وما زالت تعالجها على نطاق واسع في جميع المجالات هي الانتشار - السرعة التي تنتقل بها المعلومات على هذه المنصات. عند الجمع بين التفاعلية والتحيز الخوارزمي، فإنها قد تؤدي إطلاق إلى حملات منسقة بالمعلومات المضللة واضطرابات مدنية وإيذاء عنيف.

1. خدمات وسائل الإعلام الاجتماعي التقليدية

قامت شركتان من أكبر شركات الوسائط الاجتماعية في العالم، وهما 'فيسبوك' و 'تويتر'، بتنفيذ تدخلات ومميزات تعمل إما على قمع انتشار المعلومات المضللة وتنبيه المستخدمين إلى وجودها أو تهيئة احتكاك يؤثر على سلوك المستخدمين لإبطاء انتشار المعلومات الكاذبة داخل الشبكات وعبرها.

في 'تويتر'، بدأت فرق المنتجات عام 2020 في طرح المطالبات الآلية التي تحذر المستخدمين من مشاركة الروابط التي لم يفتحوها بأنفسهم؛ يهدف هذا الإجراء إلى "تعزيز المناقشة المستنيرة" وتشجيع المستخدمين على تقييم المعلومات قبل مشاركتها. وهذا يأتي بعد إدخال تسميات المحتوى والتحذيرات، التي ألصقتها المنصة على التغريدات التي لا تخضع للإزالة بموجب سياسات المنصة (أو بموجب استثناء "المصلحة العامة" للشركة، كما هو موضح أعلاه) ولكنها قد تتضمن رغم ذلك معلومات خاطئة أو وسائط إعلام مُتلاعب بها. بينما توفر هذه التسميات للمستخدمين سياقًا إضافيًا (ويتم فحصها بشكل أكثر شمولًا في القسم المخصص لهذه الميزات)، فإن التسميات نفسها تقدم إشارة واحتكاكًا محتملًا قد يؤثر على قرار المستخدم بمشاركة المعلومات الخاطئة أو توزيعها. 

تشمل الجهود التقنية التي يبذلها 'فيسبوك' للحد من المعلومات المضللة استخدام استراتيجيات خوارزمية "لخفض مرتبة" المعلومات الخاطئة أو المتنازع عليها، وتقليل ظهور المحتوى في موجز الأخبار وتقليل مدى إمكانية مواجهة المنشور بشكل طبيعي. كما تطبق الشركة أيضًا حدود التوزيع هذه على الصفحات ومواقع الويب التي تشارك الأخبار الكاذبة بشكل متكرر. وبدأت الشركة أيضًا في استخدام إشعارات للمستخدمين الذين تفاعلوا مع بعض المعلومات الخاطئة والمعلومات المضللة في سياقات محدودة، مثل ما يتعلق بانتخابات معينة أو فيما يتعلق بالمعلومات الخاطئة الصحية المتعلقة بوباء كوفيد-19. وعلى الرغم من أن هذا التدخل محدود الاستخدام، تقول الشركة أن هذه الإشعارات هي جزء من محاولة "لمساعدة الأصدقاء والأسرة على تجنب المعلومات الكاذبة".

يستخدم كل من 'تويتر' و 'فيسبوك' التشغيل التلقائي للكشف عن أنواع معينة من المعلومات الخاطئة والمعلومات المضللة وفرض سياسات المحتوى. وقد أدت هذه الأنظمة دورًا أكثر انتشارًا خلال الجائحة حيث أن مسائل الصحة العامة تطلبت من المشرفين على المحتوى من البشر الانصراف من المكاتب. وتستخدم الشركات بالمثل أدوات تقنية للمساعدة في الكشف عن النشاط الزائف على منصاتها. وفي حين أن هذه الجهود غير مرئية للمستخدمين، فإن الشركات تفصح علنًا عن ثمار هذه الأعمال في تقارير الشفافية الدورية التي تتضمن بيانات عن عمليات إزالة الحسابات. وقد تم نشر ميزات المنتج هذه على مستوى العالم، بما في ذلك في سريلانكا وميانمار ونيجيريا وبلدان أخرى. 

قامت المنصات التي تشارك مقاطع الفيديو والصور أيضًا بدمج ميزات في منتجاتها للحد من انتشار المعلومات الكاذبة. وعلى موقع 'انستجرام'، وهو إحدى شركات 'فيسبوك'، تقوم المنصة بإزالة المحتوى الذي تم تحديده على أنه معلومات خاطئة من صفحة الاستكشاف الخاصة بها ومن علامات الكلمات الرئيسية؛ كما أن المنصة تجعل من الصعب العثور على الحسابات التي تنشر معلومات مضللة بشكل متكرر من خلال تصفية المحتوى من هذا الحساب من الصفحات القابلة للبحث. فيما يلي أمثلة على الطرق التي دمج بها 'انستجرام' كبح المعلومات المضللة والمعلومات الخاطئة في تطوير منتجاته:

يستخدم 'تيك توك' التكنولوجيا لزيادة ممارسات الإشراف على المحتوى، ولا سيما للمساعدة في تحديد السلوك والأنماط والحسابات الزائفة المخصصة لنشر محتوى مضلل أو عشوائي.  وتلاحظ الشركة أن أدواتها تفرض قواعدها وتجعل من الصعب العثور على المحتوى الضار، مثل المعلومات الخاطئة ونظريات المؤامرة، في توصيات المنصة أو ميزات البحث.

لدعم إنفاذ سياساتها، يستخدم 'يوتيوب' أيضًا التكنولوجيا، وخاصة التعلم الآلي، لزيادة جهوده. كما تلاحظ الشركة ضمن سياساتها، "التعلم الآلي مناسب تمامًا لاكتشاف الأنماط، مما يساعدنا في العثور على محتوى مشابه لمحتوى آخر أزلناه بالفعل، حتى قبل عرضه".

2. تطبيقات المراسلة

أثبتت منصات المراسلة أنها متجهات مهمة لانتشار المعلومات المضللة. وتتضح المخاطر بشكل خاص بين المنصات المغلقة والمشفرة، حيث لا تستطيع الشركات رصد المحتوى أو استعراضه. 

على الرغم من تعقيد تحدي المعلومات المضللة على المنصات المغلقة، يعمل 'واتساب' على وجه الخصوص على وضع نُهج تقنية للتخفيف من المخاطر. في أعقاب حلقة عنف في الهند مرتبطة بالرسائل الفيروسية على المنصة التي يتم إرسالها إلى مجموعات كبيرة تصل إلى 256 مستخدم في وقت واحد، أدخل 'واتساب' قيودًا على إعادة توجيه الرسائل في 2018 –– والتي تمنع المستخدمين من إعادة توجيه الرسالة إلى أكثر من خمسة أشخاص –– بالإضافة إلى المؤشرات المرئية لضمان تمكن المستخدمين من التمييز بين الرسائل المعاد توجيهها والمحتوى الأصلي. في الآونة الأخيرة، في سياق جائحة كوفيد-19، زاد 'واتساب' من الحد من إعادة توجيه الرسائل بإعلانها أن الرسائل التي تمت إعادة توجيهها أكثر من خمس مرات لا يمكن مشاركتها لاحقًا إلا مع مستخدم واحد في كل مرة. ورغم أن الطبيعة المشفرة للمنصة تجعل من الصعب تقييم تأثير هذه القيود على المعلومات المضللة على وجه التحديد، فإن الشركة تُفيد بأن القيود أدت إلى تقليل انتشار الرسائل المعاد توجيهها بنسبة 70%.

بالإضافة إلى تقييد سلوك إعادة التوجيه على المنصة، طور 'واتساب' أيضًا أنظمة لتحديد وإلغاء الحسابات الآلية التي ترسل كميات كبيرة من الرسائل. تقوم المنصة بتجربة أساليب لاكتشاف الأنماط في الرسائل من خلال ممارسات تقييم التشفير متماثل الشكل. وقد تساعد هذه الاستراتيجيات في تقديم المعلومات التحليلية والتدخلات الفنية المتعلقة بحملات المعلومات المضللة في المستقبل. 

يسعى تطبيق 'واتساب'، المملوك لشركة 'فيسبوك'، بشكل خاص إلى مكافحة المعلومات الخاطئة حول كوفيد-19 حيث يستمر هذا المحتوى في الانتشار. وقد ساعدت الجهود التي تبذلها الشركة في إيقاف انتشار المعلومات المضللة والمعلومات الخاطئة المتعلقة بفيروس كورونا. أنشأ 'واتساب' روبوتات دردشة تفاعلية للتنبيه الصحي لمنظمة الصحة العالمية لتقديم معلومات دقيقة عن كوفيد-19. يمكن للمستخدمين إرسال رسالة نصية إلى رقم هاتف للوصول إلى روبوتات الدردشة التفاعلية. توفر روبوتات الدردشة التفاعلية معلومات أساسية في البداية وتتيح للمستخدمين طرح أسئلة حول الموضوعات، بما في ذلك أحدث الأرقام والحماية وصائدي الأساطير ونصائح السفر والأخبار الحالية. وهذا يتيح للمستخدمين الحصول على معلومات دقيقة والحصول على إجابات مباشرة لأسئلتهم. قدمت 'واتساب' معلومات من خلال هذه الخدمة لأكثر من مليون مستخدم.

3. محركات البحث

بذلت 'جوجل' جهودًا فنية لتعزيز سلامة المعلومات في البحث. ولذا، قامت 'جوجل' بتغيير خوارزمية البحث الخاصة به لمكافحة نشر الأخبار المزيفة ونظريات المؤامرة. في منشور المدونة، كتب نائب رئيس شركة 'جوجل' للهندسة، بن جوميز، أن الشركة "ستساعد في إظهار المزيد من الصفحات الموثوقة وتخفيض المحتوى منخفض الجودة" في عمليات البحث . وفي محاولة لتوفير إرشادات بحث محسّنة، تضيف 'جوجل' أشخاصًا حقيقيين للعمل كمقيّمين "لتقييم جودة نتائج بحث 'جوجل'—وإعطائنا تعليقات على التجارب". ستوفر 'جوجل' أيضًا "أدوات التعليقات المباشرة" للسماح للمستخدمين بوضع علامة على المحتوى غير المفيد أو الحساس أو غير المناسب الذي يظهر في عمليات البحث التي يقومون بها.