شهد محمد - ابوظبي في السبت 11 نوفمبر 2023 09:24 مساءً - اشتكى مستخدمون لمواقع التواصل الاجتماعي من حذف منشوراتهم التي تحدثوا بها عن حرب إسرائيل في قطاع غزة، وسط تساؤلات عن طرق هذه المنصات في إدارة ومراقبة المحتوى المنشور، وسبل التعاطي معها، وقدرة المستخدمين على التحايل عليها، خاصة مع انتشار سيل من المنشورات ومقاطع الفيديو المضللة.

الملاحظات الأبرز كانت متعلقة بشركة ميتا المالكة لفيسبوك وإنستغرام، وبدرجة أقل منصة إكس (تويتر سابقا)، بعد أن أقدمت هذه المنصات على حذف ملايين المنشورات الخاصة بما يجري في قطاع غزة، مرجعة ذلك لقوانين تتعلق بالمحتوى، وقدمت تحذيرات من نشر مواد تعتبرها تحرض على الكراهية أو العنف، مستخدمة ما يعرف بالخوارزميات لتنفيذ هذه السياسة.

 وبحسب وليد حجاج خبير أمن معلومات عضو اللجنة الرقمية والبنية المعلوماتية بالمجلس الأعلى للثقافة في مصر، فإن التحكم في المحتوى يتم من خلال مجموعة من البرمجيات تحتوي على معادلات رياضية تقوم بوظائف معينة سواء للمنصة أو المستخدم، بحسب المجال المستخدمة فيه وهي ما تعرف بالخوارزميات.

وأضاف حجاج في حديث لسكاي نيوز عربية أن هذه الوظائف تتغير من وقت لآخر بحسب تطوير الخوارزميات والأدوات المستخدمة والتي منها مسألة التعرف على المحتوى.

 خبير أمن المعلومات أوضح طرق عمل الخوارزميات:

• عند تنصيب أي برنامج يعرض عليك شروطا للاستخدام وفق آلية تخضع لاتفاقية الأحكام والشروط التي يوافق عليها المستخدم قبل إنشاء الحساب عادة، وغالبا ما يضغط عليها المستخدمون دون قراءتها.
• يغذى الذكاء الاصطناعي بالخوارزميات التي تعطيه القدرة على التعرف على المحتوى.
• تستخدم إدارة المنصة آليات الخوارزميات للتحكم في المنشورات بحذفها أو حذف الصور، وفق ما يلائم سياساتها.
• يمكن التحايل على الخوارزميات من خلال إضافة نوع من التشويش على الصور حتى يفشل برنامج الذكاء الاصطناعي في التعرف عليها.
• التحايل على المنشورات يجري من خلال كتابة الأسماء مجزأة، أو إضافة علامات ترقيم لها مثل علامة النجمة أو غيرها.
• بعض وسائل التحايل تنجح وبعضها لا تنجح لكن مع مرور الوقت يتم اكتشاف هذه الوسائل والتعامل معها.
• عند فشل الذكاء الاصطناعي في التعرف على المنشور غير الملائم لسياسات المنصة، يستطيع الموظفون المختصون بتلقي البلاغات كشفها والتعامل معها.
• التيارات المرتبطة بإسرائيل قدمت آلاف البلاغات ضد المنشورات المؤيدة لحركة حماس والمناهضة لإسرائيل.
• الذكاء الاصطناعي يتعلم مع مرور الوقت ويستطيع التعرف وتطوير نفسه، وقد تجد منشورات لم يتم حذفها لكن المنصة تعود بعد مدة لحذفها مرة أخرى.

 وأكد حجاج أن مصطلح حرب الخوارزميات يقصد به حرب المنشورات على مواقع التواصل الاجتماعي، فالمنصة لديها أدوات لحذف المنشورات والمستخدمون لديهم وسائل للهروب من هذه الأدوات وهكذا.

من جانبه، يؤكد استشاري تقنية المعلومات والتحول الرقمي، إسلام غانم، أن منصات التواصل تنفذ سياساتها من خلال قائمة لديها توضع بها كلمات معينة، وحال ظهور منشورات تحتوي على هذه الكلمات فإنها تتخذ إجراءات معها.

 وأوضح غانم لسكاي نيوز عربية أن آلية المراقبة لدى هذه المنصات تقوم على الآتي:

• الخوارزميات عبارة عن أكواد تتحكم في قوة ظهور المنشور أو إخفائه نهائيا.
• عند اهتمامك بمجال معين من خلال التفاعل مع منشوراته ترصد الأكواد هذا التفاعل، وتُظهر لك منشورات مرتبطة بهذا المجال.
• تعمل هذه الخوارزميات من خلال كلمات مفتاحية وصور يتعرف عليها الذكاء الاصطناعي وتحتوي على كلمات مثل (غزة، فلسطين، إسرائيل، داعش) وغيرها.
• حال ظهور هذه الكلمات المفتاحية بما يخالف سياسة المنصة تتخذ إجراءات آلية، تبدأ بتقليل التفاعل مع المنشورات، مرورا بإيقاف الحساب المؤقت، وانتهاء بإيقاف الحساب نهائيا.
• مع اشتعال الحرب في قطاع غزة أضيفت كلمات متعلقة بهذا الصراع لتزيد حصيلة قائمة الكلمات المفتاحية.
• أحيانا لا يتم حذف المنشور ولكن يمنع نشره.
• ظهرت نماذج للتحايل على طرق عمل الخوارزميات الآلية، ومن أجل ذلك أفادت شركة ميتا بأنها تعتمد على موظفين يراجعون المحتويات العربية والعبرية الخاصة بتطورات الحرب في غزة.
• في حال نجاح التحايل على الخوارزميات من خلال منشورات تخالف سياسة المنصة يحذف فريق الموظفين هذه المنشورات خاصة عندما تكون نسبة انتشارها عالية.
• عند حذف المنشور يمكن لصاحبه الاعتراض من خلال مراسلة الشركة، لكن حال ثبوت تعارض المنشور مع سياسة المنصة أو الشركة يتم إيقاف الحساب جزئيا أو كليا.