تحيّز تطبيق “واتساب” بين الأطفال: الأطفال الفلسطينيون يحملون السلاح بينما الأطفال الإسرائيليون يلعبون

أشار تقرير نشرته صحيفة “The Guardian” البريطانية إلى وجود خاصية جديدة في تطبيق “واتساب”، والذي يملكه شركة “ميتا”، تتيح للمستخدمين إنشاء “ملصقات” تصور أطفالًا يحملون أسلحة عند استخدام كلمات تشمل “فلسطين” أو مصطلحات مماثلة، وذلك بواسطة تقنيات الذكاء الاصطناعي.

على الرغم من تباين نتائج البحث عند اختبارها من قبل مستخدمين مختلفين، إلا أن اختبار الصحيفة، الذي دُعم بصور للشاشة واختبارات خاصة بها، أكد ظهور ملصقات تصوّر أسلحة مختلفة عند البحث باستخدام كلمات مثل “فلسطيني” أو “فلسطين” أو “فتى مسلم فلسطيني” باللغة الإنجليزية. أما عند البحث عن “الصبي الإسرائيلي”، فقد أظهرت النتائج رسومات كاريكاتورية تصوّر أطفالًا يمارسون الأنشطة اليومية مثل لعب كرة القدم والقراءة.

وبالإضافة إلى ذلك، أشار التقرير إلى أن الذكاء الاصطناعي أنشأ رسومات تصوّر جنودًا وهم يبتسمون ويؤدون أنشطتهم دون استخدام أسلحة، وذلك تلبيةً لمطالب تقدم بها الجيش الإسرائيلي للشركات للعمل على تعديل أنظمة تعلم الآلة، حسب ما ذكره التقرير. وأشارت مصادر غير مسماة إلى أن بعض موظفي شركة “ميتا” رفعوا القضية للإدارة للنظر فيها.

يُذكر أن تطبيق المراسلة بدأ استخدام تقنيات الذكاء الاصطناعي لإنشاء ملصقات منذ شهر واحد، وتطلب هذه الميزة من المستخدمين تحويل أفكارهم إلى ملصقات باستخدام تلك التقنيات.

ملصقات التحيز لدى ميتا

أفاد تقرير نشرته صحيفة “The Guardian” البريطانية بأن عمليات البحث والإنشاء في تطبيق “واتساب”، الذي يملكه شركة “ميتا”، أظهرت بعض النتائج ذات الطابع الملصقات المحتملة عند استخدام كلمات تتعلق بـ “فلسطين المسلمة” أو مصطلحات مماثلة. تضمنت هذه الملصقات صورًا تصوّر نساء يقمن بأنشطتهن المختلفة، بما في ذلك قراءة وحمل الزهور، وتضمنت أيضًا صورًا لأطفال.

وعلى سبيل المقارنة، قامت عملية البحث عن “الصبي الإسرائيلي” بإنشاء ملصقات أخرى تصوّر أطفالًا يشاركون في أنشطتهم اليومية، مثل لعب كرة القدم أو القراءة، ولم يظهر فيها أي أسلحة.

كما تبين أن مطالبات بإنشاء ملصقات عسكرية باستخدام كلمات صريحة مثل “الجيش الإسرائيلي” أو “قوات الدفاع الإسرائيلية” لم تنتج عنها صورًا للبنادق أو الأسلحة. وعوضًا عن ذلك، أظهرت الرسوم الكاريكاتيرية أشخاصًا يرتدون الزي الرسمي ويمارسون أنشطتهم بأوضاع مختلفة، مع وجود لقطات توضيحية لأشخاص يبتسمون.

من الجدير بالذكر أن هذا التقرير يأتي في سياق انتقادات موجهة إلى شركة “ميتا” من قبل مستخدمي منصاتها، بما في ذلك إنستغرام وفيسبوك، بسبب تطبيق سياسات يعتبرونها متحيزة في التعامل مع محتوى داعم للفلسطينيين خلال الأحداث الجارية. يعتقد هؤلاء المستخدمين أن الشركة تمارس مراقبة مكثفة وقد أخفت بعض المنشورات الداعمة للفلسطينيين عن المستخدمين دون توضيح، مما أدى إلى تراجع في تفاعل المنشورات.

قد أعلنت شركة ميتا سابقًا في بيان أنها ليست ناوية أبدًا على قمع أي مجتمع معين أو وجهة نظر محددة، ولكن نظرًا للكميات الكبيرة من المحتوى المبلغ عنه، قد يتم إزالة المحتوى الذي لا ينتهك سياساتها عن طريق الخطأ.

وأوضح المتحدث الرسمي باسم ميتا، كيفن ماكاليستر، في تصريح لصحيفة “The Guardian” أن الشركة كانت على علم بالمشكلة وتعمل على معالجتها. وأضاف أنه يمكن أن تظهر النماذج الخاصة بأنظمة الذكاء الاصطناعي التوليدية مخرجات غير دقيقة أو غير مناسبة، وهذا يعد أمرًا مشتركًا في مثل هذه التقنيات. وأشار إلى أن الشركة ستواصل تطوير هذه الميزات مع تقدمها، وستستمع إلى ملاحظات المستخدمين وتعليقاتهم.

مطالبات بالتحقيق

ردًا على تقرير نشرته صحيفة “The Guardian” حول الملصقات التي أنشأها الذكاء الاصطناعي في شركة ميتا، دعت مهرين فاروقي، عضوة مجلس الشيوخ الأسترالي ونائبة زعيم حزب الخضر ومفوضة السلامة الإلكترونية في البلاد، إلى إجراء تحقيق في “الصور العنصرية والمعادية للإسلام التي تنتجها شركة ميتا”.

وأعربت مهرين عن قلقها من “الصور المروعة للأطفال الفلسطينيين الذين يظهرون وهم يحملون أسلحة على تطبيق واتساب، وهي صورة مخيفة للمعايير العنصرية والمعادية للإسلام التي يتم إدخالها في الخوارزميات”.

وشددت على ضرورة التحقيق في هذا الأمر، مشيرة إلى أن التلفظات العنصرية والمعادية للإسلام قد تكون قد تسببت بأضرار بالفعل، وأنه يتعين محاسبة شركة ميتا.

يُشار إلى أن شركة ميتا واجهت ضغوطًا متكررة من ناشطين ومبدعين وصحفيين فلسطينيين، وخصوصًا في أوقات التصاعد للنزاع أو العدوان تجاه الفلسطينيين في غزة والضفة الغربية.

وكشفت دراسة أُجريت بتكليف من شركة ميتا في سبتمبر 2022 أن سياسات المحتوى على فيسبوك وإنستغرام خلال الهجمات الإسرائيلية على غزة في مايو 2021 انتهكت حقوق الإنسان للفلسطينيين.

وأوضح التقرير أن سلوك شركة ميتا ربما سبب تأثيرًا سلبيًا على حقوق المستخدمين الفلسطينيين فيما يتعلق بحرية التعبير والتجمع والمشاركة السياسية وعدم التمييز، وبالتالي على القدرة على تبادل المعلومات والرؤى حول حياتهم، وفقًا لتقرير الصحيفة.