المواقف العامة نحو خوارزميات الكمبيوتر

معلومات الكاتب

الكاتب : Aya Hassan

[ad_1]

يعرب الأميركيون عن مخاوف واسعة بشأن عدالة وفاعلية برامج الكمبيوتر التي تتخذ قرارات مهمة في حياة الناس

أمثلة واقعية من السيناريوهات في هذا المسح

تستند جميع المفاهيم الأربعة التي نوقشت في الاستطلاع إلى حقيقة - تطبيقات الحياة في اتخاذ القرارات الخوارزمية والذكاء الاصطناعي (AI):

تقدم العديد من الشركات الآن درجات ائتمانية غير تقليدية تبني تقييماتها باستخدام الآلاف من نقاط البيانات حول أنشطة العملاء وسلوكياتهم ، تحت فرضية أن "جميع البيانات هي رصيدًا

تستخدم الدول في جميع أنحاء البلاد تقييمات المخاطر الجنائية لتقدير احتمالية أن شخصًا مدانًا بجريمة ستنتقم في المستقبل.

العديد من الشركات متعددة الجنسيات تستخدم حاليًا أنظمة منظمة العفو الدولية أثناء المقابلات الوظيفية لتقييم الأمانة والحالة العاطفية والشخصية الشاملة للمتقدمين.

الخوارزميات كلها موجودة حولنا ، باستخدام مخازن ضخمة من البيانات والشركات lex analytics لاتخاذ قرارات ذات تأثيرات كبيرة في كثير من الأحيان على البشر. إنهم يوصون الكتب والأفلام لنا بقراءة ومشاهدة القصص الإخبارية السطحية التي يعتقدون أنها قد تجدها ذات صلة ، وتقدير احتمالية وجود ورم سرطاني والتنبؤ بما إذا كان شخص ما يمثل خطرًا ائتمانيًا جنائيًا أو جديرًا بالاهتمام. لكن على الرغم من الوجود المتزايد للخوارزميات في العديد من جوانب الحياة اليومية ، إلا أن دراسة أجراها مركز بيو للأبحاث على البالغين في الولايات المتحدة توصلت إلى أن الجمهور كثيرًا ما يشككون في هذه الأدوات عند استخدامها في مواقف الحياة الحقيقية المختلفة

هذا التشكيك يمتد عدة أبعاد. على مستوى واسع ، يشعر 58٪ من الأمريكيين أن برامج الكمبيوتر ستعكس دائمًا مستوى معين من التحيز البشري - رغم أن 40٪ يعتقدون أن هذه البرامج يمكن تصميمها بطريقة خالية من التحيز. وفي سياقات مختلفة ، يخشى الجمهور من أن هذه الأدوات قد تنتهك الخصوصية ، وفشل في فهم حالات معقدة ، أو ببساطة وضع الأشخاص الذين يقومون بتقييمهم في وضع غير عادل. التصورات العامة لاتخاذ القرارات الخوارزمية غالباً ما تكون ذات سياق سياقي. يُظهر الاستطلاع أنه يمكن النظر إلى التقنيات المماثلة مع الدعم أو الشك بناءً على الظروف أو المهام التي تم تعيينها للقيام بها.

لقياس آراء الأمريكيين اليوميين حول هذا الموضوع المعقد والتقني نسبيًا ، عرض الاستطلاع على المشاركين مع أربعة سيناريوهات مختلفة تتخذ فيها الحواسيب القرارات عن طريق جمع وتحليل كميات كبيرة من البيانات العامة والخاصة. استندت كل من هذه السيناريوهات إلى أمثلة واقعية من صنع القرار الخوارزمي (انظر المصاحبة للشريط الجانبي) وتضمنت: درجة مالية شخصية تستخدم لتقديم عروض أو خصومات للمستهلكين ؛ تقييم المخاطر الجنائية من الناس حتى الإفراج المشروط ؛ برنامج فحص تلقائي للسائقين المتقدمين للوظائف ؛ وتحليل حاسوبي لمقابلات العمل. كما شمل الاستطلاع أسئلة حول المحتوى الذي يتعرض له المستخدمون على منصات وسائل الإعلام الاجتماعية كوسيلة لقياس الآراء حول المزيد من خوارزميات مواجهة المستهلك.

وفيما يلي بعض النتائج الرئيسية.

يعبر الجمهور عن مخاوف واسعة حول إنصاف ومقبولية استخدام أجهزة الكمبيوتر في اتخاذ القرارات في مواقف ذات عواقب مهمة في العالم الحقيقي

بوجه عام ، الجمهور وجهات النظر هذه الأمثلة من عملية صنع القرار الخوارزمية بأنها غير عادلة للأشخاص الذين يتم تقييم الأنظمة القائمة على الكمبيوتر. أكثر ما يلفت الانتباه هو أن ثلث الأمريكيين فقط يعتقدون أن المقابلة الشخصية للفيديو وخوارزميات نقاط التمويل الشخصية ستكون منصفة للمتقدمين للوظائف والمستهلكين. عندما يتم سؤالهم مباشرة عما إذا كانوا يعتقدون أن استخدام هذه الخوارزميات مقبول أم لا ، فإن غالبية الجمهور تقول إنه غير مقبول. يرى ثلثا الأمريكيين (68٪) أن خوارزمية درجة التمويل الشخصي غير مقبولة ، ويقول 67٪ إن خوارزمية تحليل وظيفة الفيديو بمساعدة الكمبيوتر غير مقبولة.

هناك العديد من المواضيع التي تثير القلق بين أولئك الذين يجدون أن هذه البرامج غير مقبولة . تتضمن بعض المشكلات الأكثر وضوحًا المذكورة ردًا على الأسئلة المفتوحة ما يلي:

• إنها تنتهك الخصوصية. هذا هو الشاغل الرئيسي لأولئك الذين يجدون درجة التمويل الشخصي غير مقبولة ، وذكرها 26 ٪ من هؤلاء المجيبين.


• أنها غير عادلة. أولئك الذين يقلقون من سيناريو درجة التمويل الشخصي ، والمقابلة الشخصية للمقابلة الوظيفية والفحص الآلي للمتقدمين للوظائف غالباً ما يستشهدون بالقلق بشأن نزاهة تلك العمليات في التعبير عن همومهم.


• يزيلون العنصر البشري من القرارات المهمة. هذا هو الشاغل الرئيسي لأولئك الذين يجدون مفهوم فحص السيرة الذاتية الآلي غير مقبول (36٪ ذكروا ذلك) ، وهو مصدر قلق بارز بين أولئك الذين يشعرون بالقلق من استخدام تحليل المقابلة لمقابلة الفيديو (16٪).


• البشر معقدة ، وهذه الأنظمة غير قادرة على التقاط الفوارق الدقيقة. هذا هو موضوع ثابت نسبيا ، وذكر عبر العديد من هذه المفاهيم كشيء حول التي تقلق الناس عند النظر في هذه السيناريوهات. هذا القلق واضح بشكل خاص بين أولئك الذين يجدون استخدام درجات المخاطر الجنائية غير مقبول. يشير نصف هؤلاء تقريباً إلى مخاوف تتعلق بحقيقة أن جميع الأفراد مختلفون ، أو أن نظامًا كهذا لا يترك مجالًا للنمو أو التطور الشخصي.

يمكن أن تعتمد المواقف تجاه اتخاذ القرار الخوارزمي بشكل كبير على السياق

على الرغم من الاتساق في بعض هذه الردود ، فإن الاستطلاع يسلط الضوء أيضًا على الطرق التي تعتمد بها مواقف الأمريكيين تجاه اتخاذ القرارات الخوارزمية اعتمادًا كبيرًا على سياق تلك القرارات وخصائص الأشخاص الذين قد يتأثرون.

الاعتماد هو ملحوظ بشكل خاص في المواقف العامة المتناقضة نحو درجة المخاطر الجنائية ومفاهيم درجة التمويل الشخصي. تعتقد مجموعات مماثلة من السكان أن هذه البرامج ستكون فعالة في القيام بالمهمة التي يفترض أن يقوموا بها ، فيما يعتقد 54٪ أن خوارزمية درجة التمويل الشخصي ستقوم بعمل جيد في تحديد الأشخاص الذين سيكونون عملاء جيدين و 49٪ يعتقدون أن الخطر الإجرامي ستكون النتيجة فعالة في تحديد الأشخاص الذين يستحقون الإفراج المشروط. لكن نسبة أكبر من الأمريكيين يعتقدون أن درجة الخطر الجنائي ستكون عادلة لأولئك الذين يقومون بتحليلها. يعتقد نصفهم (50٪) أن هذا النوع من الخوارزمية سيكون عادلاً بالنسبة للأشخاص المكلفين بالإفراج المشروط ، لكن 32٪ فقط يعتقدون أن مفهوم درجة التمويل الشخصي سيكون عادلاً بالنسبة للمستهلكين.

عندما يتعلق الأمر بالخوارزميات التي تقوم على أساس الاجتماعي بيئة وسائل الإعلام ، ومستوى الراحة للمستخدمين مع مشاركة معلوماتهم الشخصية يعتمد أيضا بشكل كبير على كيفية ولماذا يتم استخدام البيانات الخاصة بهم. تقول 75٪ من مستخدمي وسائل التواصل الاجتماعي إنهم سيكونون مرتاحين لمشاركة بياناتهم مع تلك المواقع إذا كانت تستخدم للتوصية بأحداث قد يرغبون في حضورها. لكن هذه النسبة لا تتعدى 37٪ فقط إذا تم استخدام بياناتها لتوصيل الرسائل من الحملات السياسية.

في حالات أخرى ، تقدم أنواع مختلفة من المستخدمين وجهات نظر مختلفة حول جمع واستخدام بياناتهم الشخصية. على سبيل المثال ، فإن حوالي ثلثي مستخدمي شبكات التواصل الاجتماعي الذين تقل أعمارهم عن 50 عامًا يجدون أنه من المقبول بالنسبة لمنصات الشبكات الاجتماعية استخدام بياناتهم الشخصية للتوصية بأشخاص قد يرغبون في معرفتهم. ولكن وجهة النظر هذه مشتركة بين أقل من نصف المستخدمين الذين يبلغون 65 عامًا فأكثر.

يتعرض مستخدمو الوسائط الاجتماعية لمزيج من المحتوى الإيجابي والسلبي على هذه المواقع

تشكل الخوارزميات المشهد الحديث لوسائل الإعلام الاجتماعية بطرق عميقة وواسعة الانتشار. . من خلال تحديد أنواع معينة من المحتوى الذي قد يكون أكثر جاذبية لأي مستخدم على أساس سلوكه أو سلوكها ، فإنه يؤثر على الأنظمة الغذائية الإعلامية لملايين الأمريكيين. وقد أدى هذا إلى مخاوف من أن هذه المواقع توجه أعدادًا هائلة من الناس نحو المحتوى "الذي ينخرط فيه" ببساطة لأنه يجعلهم غاضبين ، أو يشعلون انفعالاتهم أو يخدمون كغذاء فكري خرافي.

على هذا الصعيد ، يوفر المسح مساحة وافرة دليل على أن مستخدمي وسائل الإعلام الاجتماعية يتعرضون بشكل منتظم لمحتوى يحتمل أن يكون مثيراً للمشاكل أو مثير للقلق على هذه المواقع. وتجدر الإشارة إلى أن 71٪ من مستخدمي وسائل التواصل الاجتماعي يقولون إنهم يرون محتوى هناك مما يجعلهم غاضبين - حيث يقول 25٪ إنهم يرون هذا النوع من المحتوى بشكل متكرر. وعلى نفس المنوال ، يقول ستة بالمائة من المستخدمين تقريبًا إنهم يصادفون في كثير من الأحيان مشاركات مبالغ فيها بشكل مفرط (58٪) أو وظائف يكون فيها الأشخاص يوجهون اتهامات أو يبدؤون الحجج دون انتظار حتى يحصلوا على جميع الحقائق (59٪).

] ولكن كما هو الحال في كثير من الأحيان تجارب المستخدمين على وسائل الإعلام الاجتماعية على نطاق أوسع ، تصاحب هذه اللقاءات السلبية المزيد من التفاعلات الإيجابية. على الرغم من أن 25٪ من هؤلاء المستخدمين يقولون إنهم غالباً ما يواجهون المحتوى الذي يجعلهم يشعرون بالغضب ، إلا أن نسبة مماثلة (21٪) تقول بأنهم غالباً ما يواجهون محتوى يجعلهم يشعرون بالارتباط بالآخرين. كما أن حصة أكبر (44٪) تشير في كثير من الأحيان إلى المحتوى الذي يجعلها مسلية.

وبالمثل ، يميل مستخدمو وسائل الإعلام الاجتماعية إلى يتعرض لمزيج من السلوكيات الإيجابية والسلبية من المستخدمين الآخرين على هذه المواقع. يقول حوالي نصف المستخدمين (54٪) إنهم يرون أن هناك خليطًا متساوًا من الأشخاص الذين يتعاملون مع الآخرين أو يتسلطون عليه ، وأن الناس يكونون لطفاء وداعمين. يتم تقسيم المستخدمين المتبقين بين أولئك الذين يرون أكثر منطقية (21٪) واللطف (24٪) على هذه المواقع. ويقول غالبية المستخدمين (63٪) إنهم يرون مزيجًا متساوًا من الأشخاص الذين يحاولون الخداع ويحاول الأشخاص الإشارة إلى معلومات غير دقيقة - مع تقسيم الباقي بالتساوي بين أولئك الذين يرون المزيد من الأشخاص الذين ينشرون معلومات غير دقيقة (18٪) وأكثر الأشخاص الذين يحاولون تصحيح هذا السلوك (17٪).

النتائج الرئيسية الأخرى من هذا الاستطلاع لـ 5959 بالغًا أمريكيًا أجريت في الفترة من 29 مايو إلى 11 يونيو عام 2018 ، تشمل:

• قد تختلف المواقف العامة تجاه اتخاذ القرار الخوارزمي باختلاف العوامل للعرق والعرق. يعتقد 25٪ فقط من البيض أن مفهوم درجة التمويل الشخصي سيكون عادلاً بالنسبة للمستهلكين ، لكن هذه النسبة ترتفع إلى 45٪ بين السود. وعلى نفس المنوال ، يعتقد 61٪ من السود أن مفهوم درجة المجازفة الجنائية هو وليس عادلًا بالنسبة للأشخاص المؤهلين للحصول على الإفراج المشروط ، ولكن هذه النسبة تتراجع إلى 49٪ بين البيض.


• ما يقرب من ثلاثة أرباع الجمهور يعتقد (74٪) أن المحتوى الذي ينشره الأشخاص على وسائل التواصل الاجتماعي لا يعكس الطريقة التي يشعر بها المجتمع على نطاق أوسع بشأن القضايا المهمة - على الرغم من أن 25٪ يعتقدون أن وسائل الإعلام الاجتماعية ترسم صورة دقيقة للمجتمع (19659032). يقولون إنهم يرون المحتوى على وسائل التواصل الاجتماعي بشكل متكرر مما يجعلهم يشعرون بالبهجة (54٪) لأنهم يشعرون بأنهم غاضبون (27٪). ولكن المستخدمين الذين يبلغون من العمر 65 عامًا فأكثر يواجهون هذين النوعين من المحتوى بتردد أكثر مقارنة. وجد الاستبيان أن 30٪ من المستخدمين الأكبر سنًا يشاهدون المحتوى على الشبكات الاجتماعية بشكل متكرر مما يجعلهم يشعرون بالبهجة ، في حين يرى 24٪ كثيرًا المحتوى الذي يجعلهم يشعرون بالغضب.

[ad_2]