News1- شرطة المحتوى وظيفة تكنولوجية لا يهددها الذكاء الاصطناعي

معلومات الكاتب

الكاتب : Aya Hassan

• أثارت تقنيات الذكاء الاصطناعي ضجة - fuss - - sensati - كبيرة مؤخرا - lately - حول اكتساحها كل المجالات، إلا أنه وعلى غير المتوقع لم تستطع القيام - doing - بمهمة مراقبة - monitor - - monitor - المحتوى غير الملائم في قلب شركات التكنولوجية - te - المروّجة لها، ما جعل هذه الشركات تستعين بجيوش بشرية - mankind - للقيام بوظيفة “شرطي - cop - المحتوى”.

نيوز وان  [نُشر في 2018/01/20، .، .)]

خطاب الكراهية وجد بيئة خصبة في مواقع التواصل

#لندن - تناوبت شركات الإنترنت الكبرى مؤخرا - lately - على الإعلان عن توظيف - recruit - مراقبي محتوى - content - بعد الضغوط المتزايدة عليها من حكومات سئمت وقوف هذه الشركات عاجزة أو غير عابئة بوقف مدّ المحتوى المتطرف وخطاب الكراهية والفيديوهات الإباحية للأطفال على منصاتها.

ورغم تصاعد الحديث عن استحواذ الروبوتات والذكاء الاصطناعي على الوظائف وتهديدها لعشرات الآلاف من العمال بفقدان وظائفهم، إلى أن “شرطة المحتوى” تبدو بمنأى عن هذا التهديد، حتى الآن على أقل تقدير.

وأعلنت شركتا غوغل وفيسبوك، هذا الأسبوع عن نيتهما إنشاء وظيفة جديدة، وتعيين مسؤول سيحمل مسمى وظيفي - functional - “شرطي - cop - محتوى - content -”. وتستهدف facebook وغوغل من هذه الوظيفة التعامل مع أكثر القوانين المرهقة، التي تجبر - compel - - oblige - facebook وتويتر ويوتيوب على ضرورة - necessity - الامتثال إلى قوانينها.

وسيكون من مسؤوليات “شرطي - cop - المحتوى” مراقبة - monitor - - monitor - كل المحتوى المنشور على النسخ الألمانية من منصات التواصل، وتحديد “المحتوى غير القانوني” وتنبيه الإدارة الرئيسية لحظره. ومن المتوقع أن تعيّن facebook، وحدها أكثر من 1200 “شرطي - cop - محتوى - content -” لمراقبة المحتوى “غير القانوني” على النسخة الألمانية من موقعها.

وهي الخطوة الثانية لفيسبوك بعد أن أعلنت عن خطة لتعيين أكثر من ألف موظف، لمراقبة المحتوى على الشبكة، في إطار جهود لردع روسيا وغيرها من الدول، عن استخدام شبكة التواصل الاجتماعي للتدخل في انتخابات الدول الأخرى. حيث قالت إنها تعتقد أن مقاتلي في روسيا اشترت نحو 3 آلاف إعلان مثير للانقسام على شبكتها بالولايات المتحدة، في الشهور الفائتة لانتخابات الرئاسة الأميركية في شهرنوفمبر، وما بعدها.

ومنذ الكشف عن ذلك، واجهت facebook تساؤلات ودعوات لوضع الجهات المعنية في الولايات المتحدة قواعد منظمة. وحدد الرئيس التنفيذي للشركة، مارك زوكربيرغ، الخطوات التي تقرر اتخاذها لردع الحكومات عن إساءة استخدام أكبر موقع للتواصل الاجتماعي في العالم.

يوتيوب طور برنامجا آليا يرصد مقاطع الفيديو المتصلة بالتطرف ويسعى الآن لعمل الأمر نفسه مع المقاطع التي تجسّد خطاب كراهية - hatred - أو لا تلائم الأطفال

وتواجه شركات التقنية الكبرى غرامات كبرى، منذ - since - تاريخ بداية - outset - شهريناير وصلت إلى أكثر من 60 مليون دولار أميركي، لأنها أخفقت من حذف - delete - - omit - محتوى - content - “غير قانوني” فسر منصاتها، أولًا من القذف والتشهير، إلى الدعاية - propaganda - لـ”النازيين الجدد”، والي الدعوة - advo - - advocat - إلى العنف والإرهاب.

ويحمّل القانون الألماني منصات التواصل الاجتماعي، المسؤلية عن تنظيف مواقعها من أي محتوى - content - “غير قانوني” أكثر من الصحف ووسائل الإعلام، التي نشرت ذلك المحتوى، بعكس القانون الأميركي، الذي لا يحمل - bear - مواقع التواصل هذه المسؤولية.

ولا يمكن لهذه الشركات الآن التعويل على تقنيات الذكاء الاصطناعي لمراقبة المحتوى، إذ سبق لخبراء اتصال - liaison - أن أعربوا عن استيائهم من حذف - delete - - omit - المحتوى فسر هذه التقنيات، إذ لا تستطيع تحديد طبيعة المحتوى بدقة - accurately - وقد إمتد الحذف محتوى - content - مفيدا،

حيث قام موقع يوتيوب، على سبيل المثال، بحذف الآلاف lk الفيديوهات التي كان بالإمكان استخدامها لتوثيق الفظائع التي ارتُكبت - inhibition - في #سوريا.

وذكرت صحيفة نيويورك تايمز الأميركية أن من شأن حذف - delete - - omit - هذه الفيديوهات أن يعيق محاكمة مرتكبي الفظائع بجرائم حرب في المستقبل. وذلك بعد أن أدخلت الشركة تقنية للتعرف على المحتوى والتبليغ عنه وإزالته آليا إذا كان ينطوي على انتهاك - vio - للإرشادات. وقد أُعيدت بعض مقاطع الفيديو بعد أن أبلغ منتجوها الموقع.

وكانت شركة يوتيوب تعتمد في السابق على مستخدمي موقعها وشبكة من المراقبين الموثوق بهم للإبلاغ عن أي مادة - material - غير لائقة، ثم تُرتب بطريقة حسابية خوارزمية حسب - depending - الأفضلية قبل إخضاعها لمراجعة بشرية - mankind -، وتطبق هذه التقنية الجديدة نظام “التعلم الآلي” الذي يحدد مقاطع الفيديو التي تحتوي على “مواد متطرفة” ويتولى ترتيبها حسب - depending - الأفضلية لمراجعتها.

ورغم أن معظم المقاطع تخضع للمراجعة البشرية قبل إزالتها، فإن متحدثة باسم يوتيوب قالت إن التقنية قد تحذف فيديوهات بطريقة آلية - machinery - وترسل تحذيرات لمنتجي المحتوى.

وبعد انتقادات كثيرة، اتخذت شركة يوتيوب قرارا بزيادة عدد الموظفين لمراقبة المحتوى غير الملائم.

وقالت سوزان وجسيكي الرئيسة التنفيذية ليوتيوب في منشور - leaflet - على مدوّنة - forth -، إن الهدف هو رفع عدد العاملين في غوغل لفحص المحتوى الذي قد ينتهك سياساتها إلى “جيش” يتألف من أكثر من 10 آلاف شخص في 2018.

التهديدات التي تقابل - correspond - برنامجنا ستتطور وتتغير، لذلك فإن أساليب الإنفاذ لدينا يجب أن تتطور - evolve - وستستجيب للرد عليها

وأضافت وجسيكي “نحتاج أسلوبا أفضل لتحديد الفضائيات ومقاطع الفيديو المؤهلة للإعلان. استمعنا بوضوح - articulate - لصانعي المحتوى وينبغي أن نكون أكثر دقة - precision - - accuracy - عندما يتعلق الأمر بمراجعته بحيث لا نلغي مقاطع فيديو بطريق الخطأ”.

وأشارت إلى أن الشركة ستتخذ “إجراءً حاسما بشأن التعليقات وستطلق أدوات جديدة لتعديل التعليقات وفي بعض الحالات ستغلق التعليقات تماما - thoroughly -”. وأضافت “بما أن التهديدات التي تقابل - correspond - برنامجنا ستتطور وتتغير، فإن أساليب الإنفاذ لدينا يجب أن تتطور - evolve - وستستجيب للرد عليها”.

وطوّر يوتيوب برنامجا آليا يرصد مقاطع الفيديو المتصلة بالتطرف ويسعى الآن لعمل الأمر نفسه مع المقاطع التي تجسّد خطاب كراهية - hatred - أو لا تلائم الأطفال. وقد يُحرم أصحاب المقاطع التي يصنّفها البرنامج - program - غير ملائمة من إيرادات الإعلانات.

وإلى جانب الكثير إلى الآلاف من مراجعي المحتوى سيكون عند يوتيوب الكثير من البيانات لإمداد وربما تحسين - improved - برنامجه.

وتأتي سياسة يوتيوب الجديدة بعد أشهر من الاتهامات المستمرة بأن الأطفال يشاهدون بشكل غير منتظم ومحتوى لم يكن مناسبا تماما - thoroughly - لفئتهم العمرية.

ومن الأمثلة الأخيرة على أشرطة الفيديو هذه شخصيات ديزني يطلقون رشاشات نارية على شخصيات شعبية - popularity -، وفيديوهات التعذيب والفيديوهات القوبة والإباحية.

وقالت وجسيكي “لا يزال المراجعون البشريون ضروريين في إزالة - removal - المحتوى وتدريب أنظمة التعلم الآلي لأن الحكم - referee - البشري أمر - warrant - بالغ - adult - الأهمية لاتخاذ قرارات حول المحتوى”.

وكان القائمون على الشؤون الإنسانية في موقع يوتيوب، مسؤولين عن مراجعة ما يقرب من مليوني مقطع فيديو لمحتوى متطرف عنيف - fierce - في الأشهر الستة الماضية وحدها. وقالت وجسيكي أن 180 ألف شخص كان عليهم أن يعملوا 40 أسبوعا لتقييم نفس الكمية من المحتوى.

وتابعت “في يوم من الأيام، ربما تكون الآلات قادرة على تصفية - clearing - كل المحتويات غير اللائقة، ولكن حتى ذلك الحين، فإن جيش يوتيوب الجديد من المشرفين نأمل - hopefully - أن يكون قادرا على المراقبة والإدارة المشددة”.