أخبار

المواقف تجاه اتخاذ القرارات الخوارزمية مركز بيو للأبحاث

[ad_1] اليوم ، يمكن الآن اتخاذ العديد من القرارات التي يمكن أن يتخذها البشر - من تفسير الصور الطبية إلى الكتب أو الأفلام المقترحة - عن ط...

معلومات الكاتب

[ad_1]


اليوم ، يمكن الآن اتخاذ العديد من القرارات التي يمكن أن يتخذها البشر - من تفسير الصور الطبية إلى الكتب أو الأفلام المقترحة - عن طريق خوارزميات الكمبيوتر مع قدرات تحليلية متقدمة والوصول إلى مخزونات ضخمة من البيانات. أدى تزايد انتشار هذه الخوارزميات إلى انتشار المخاوف بشأن تأثيرها على الأشخاص المتأثرين بالقرارات التي يتخذونها. بالنسبة للأنصار ، تعد هذه الأنظمة بزيادة الدقة وتقليل التحيز البشري في القرارات المهمة. لكن البعض الآخر يشعر بالقلق من أن العديد من هذه الأنظمة يرقى إلى "أسلحة تدمير العمليات الرياضية" التي تعمل ببساطة على تعزيز التحيزات والتفاوتات القائمة تحت ستار الحياد الحسابي.


 معظم الأمريكيين يقولون إن برامج الكمبيوتر ستعكس دائما التحيز البشري. الشباب أكثر انقسام

هذا الاستطلاع يجد أن الجمهور هو أكثر ميلا إلى مشاركة هذا الأخير ، وجهة نظر أكثر تشككًا. ويشعر حوالي ستة من بين كل عشرة أمريكيين (58٪) أن برامج الكمبيوتر ستعكس دائماً انحرافات الأشخاص الذين صمموها ، في حين يرى 40٪ أنه من الممكن أن تتخذ برامج الكمبيوتر قرارات خالية من التحيز البشري. ومن الجدير بالذكر أن الأمريكيين الأصغر سنا أكثر دعماً لفكرة أن برامج الكمبيوتر يمكن تطويرها خالية من التحيز. نصف هؤلاء الذين تتراوح أعمارهم بين 18 و 29 عامًا و 43٪ من هؤلاء الذين تتراوح أعمارهم بين 30 و 49 يحملون هذا الرأي ، ولكن هذه النسبة تتراجع إلى 34٪ بين أولئك الذين يبلغون من العمر 50 عامًا أو أكثر.


هذا القلق العام بشأن برامج الكمبيوتر التي تتخذ قرارات مهمة ينعكس ذلك أيضًا في المواقف العامة حول استخدام الخوارزميات والبيانات الضخمة في العديد من السياقات الواقعية.


للحصول على فهم أعمق لوجهات نظر الجمهور حول الخوارزميات ، طلب الاستطلاع من المشاركين آراءهم حول أربعة أمثلة تستخدم فيها أجهزة الكمبيوتر المختلفة البيانات الشخصية والعامة لاتخاذ قرارات ذات تأثير حقيقي للبشر. وتشمل أمثلة على القرارات التي تتخذها كل من الهيئات العامة والخاصة. كما أنها تشتمل على مزيج من المواقف الشخصية ذات الصلة المباشرة بنصيب كبير من الأمريكيين (مثل تقييمهم لوظيفة ما) وتلك التي قد تكون أبعد من تجارب العديد من الأشخاص (مثل تقييمهم للإفراج المشروط). وتستند هذه الأربعة إلى أمثلة من تقنيات الحياة الفعلية المستخدمة حاليًا في مختلف المجالات.


تتضمن السيناريوهات المحددة في الاستبيان ما يلي:



  • درجة مالية تلقائية تجمعها وتحلل البيانات من مصادر مختلفة حول سلوكيات الناس وخصائصهم الشخصية (وليس فقط سلوكياتهم المالية) لمساعدة الشركات على تحديد ما إذا كانت ستقدم لهم قروضًا أو عروضًا خاصة أو خدمات أخرى.

  • A تقييم المخاطر الجنائية يجمع البيانات حول الأشخاص الذين يطالبون بالإفراج المشروط ، ويقارن تلك البيانات مع الآخرين الذين أدينوا بجرائم ، ويحدد النتيجة التي تساعد على تحديد ما إذا كان ينبغي إطلاق سراحهم من السجن.

  • برنامج يحلل مقاطع الفيديو من المقابلات الوظيفية ، يقارن بين خصائص المقابلات الشخصية والسلوك والإجابات للموظفين الناجحين الآخرين ، ويمنحهم درجة يمكن أن تساعد الشركات على تحديد ما إذا كان المرشحون للوظائف

  • برنامج لفحص السيرة الذاتية المحوسبة الذي يقيّم محتويات السير الذاتية المرسلة ويعيد فقط تلك التي تستوفي درجة معينة من العتبة إلى مدير توظيف لمزيد من المراجعة حول الوصول إلى المرحلة التالية


لكل سيناريو ، طلب من المستجيبين توضيح ما إذا كانوا يعتقدون أن البرنامج سيكون عادلاً للأشخاص الذين يتم تقييمهم ؛ إذا كانت فعالة في القيام بالمهمة ، فإنها مصممة للقيام بها ؛ وما إذا كانوا يعتقدون أنه من المقبول عمومًا بالنسبة للشركات أو الكيانات الأخرى استخدام هذه الأدوات للأغراض الموضحة.


ينظر الكثير من الأمريكيين إلى كل من هذه السيناريوهات على أنها غير عادلة لتلك التي يتم تقييمها


 قلق عام واسع بشأن عدالة هذه الأمثلة على اتخاذ القرار الخوارزمي

الأمريكيين تشكّك إلى حد كبير في عدالة هذه البرامج: لا يعتبرها الأغلبية عادلة من الجمهور. وﺗﻌﺘﻘﺪ اﻷﺳﻬﻢ اﻟﺼﻐﻴﺮة ﺑﻮﺟﻪ ﺧﺎص أن ﻣﻔﺎهﻴﻢ "اﻟﺘﻤﻮﻳﻞ اﻟﺸﺨﺼﻲ" و "ﺗﺤﻠﻴﻞ ﻣﻘﺎﺑﻼت اﻟﻔﻴﺪﻳﻮ ﻟﻠﻮﻇﺎﺋﻒ" ﺳﺘﻜﻮن ﻣﻨﺼﻔﺔ ﻟﻠﻤﺴﺘﻬﻠﻜﻴﻦ أو ﻟﻤﻘﺪﻣﻲ اﻟﻄﻠﺒﺎت (32٪ و 33٪ ﻋﻠﻰ اﻟﺘﻮاﻟﻲ). وينظر إلى مفهوم درجة المخاطر الجنائية الآلي على أنه عادل من قبل أكبر حصة من الأمريكيين. ومع ذلك ، فإن حوالي نصف الجمهور فقط يرون أن هذا المفهوم عادل - وفقط واحد من كل عشرة يعتقد أن هذا النوع من البرامج سيكون عادلًا عادلاً للأشخاص في جلسات الإفراج المشروطة.


الفروق الديموغرافية متواضعة نسبياً مسألة ما إذا كانت هذه النظم عادلة ، على الرغم من وجود بعض الاختلافات في المواقف الملحوظة المتعلقة بالعرق والإثنية. من المرجح أكثر من البيض السود العثور على مفهوم درجة تمويل المستهلك العادلة للمستهلكين. يعتقد 25٪ فقط من البيض أن هذا النوع من البرامج سيكون عادلاً بالنسبة للمستهلكين ، ولكن هذه النسبة ترتفع إلى 45٪ بين السود و 47٪ بين ذوي الأصول الأسبانية. على النقيض من ذلك ، يعرب السود عن قلق أكثر بكثير حول خوارزمية التهديف المشروط من البيض أو ذوي الأصول الأسبانية. يعتقد حوالي ستة من أصل عشرة من السود (61٪) أن هذا النوع من البرامج لن يكون عادلاً بالنسبة للأشخاص المؤهلين للحصول على الإفراج المشروط ، وهو أعلى بكثير من حصة البيض (49٪) أو ذوي الأصول الأسبانية (38٪). الذين يقولون نفس الشيء.


الجمهور منقسم في الغالب حول ما إذا كانت هذه البرامج فعالة أم لا


 يعتقد 54٪ من الأمريكيين أن درجات التمويل الآلي ستكون فعالة - لكن 32٪ فقط يعتقدون أنها ستكون عادلة

الجمهور منقسم نسبيًا حول ما إذا كانت هذه البرامج فعالة في أداء المهمة التي تم تصميمها للقيام بها. يعتقد حوالي 54٪ أن برنامج النقاط المالية الشخصية سيكون فعالا في تحديد العملاء الجيدين ، في حين يعتقد حوالي نصفهم أن معدل الإفراج المشروط (49٪) وأن خوارزميات فحص السيرة الذاتية (47٪) ستكون فعالة. وفي الوقت نفسه ، يعتقد 39٪ أن مفهوم المقابلة لمقابلة الفيديو سيكون طريقة جيدة لتحديد الموظفين الناجحين.


بالنسبة للجزء الأكبر ، فإن وجهات نظر الناس حول عدالة وفعالية هذه البرامج تسير جنباً إلى جنب. وتشبه أسهم الجمهور المماثلة هذه المفاهيم على أنها عادلة لأولئك الذين يتم الحكم عليهم ، كما يقولون أنها ستكون فعالة في إنتاج قرارات جيدة. لكن مفهوم درجة التمويل الشخصي هو استثناء ملحوظ لهذا الاتجاه العام. يعتقد 54٪ من الأمريكيين أن هذا النوع من البرامج سيعمل بشكل جيد في مساعدة الشركات على إيجاد عملاء جدد ، لكن 32٪ فقط يعتقدون أنه من العدل أن يتم الحكم على المستهلكين بهذه الطريقة. هذا الاختلاف البالغ 22 نقطة هو الأكبر من بين السيناريوهات الأربعة المختلفة.


تعتقد أغلبية الأمريكيين أن استخدام هذه البرامج غير مقبول. مخاوف بشأن خصوصية البيانات والإنصاف والفعالية الشاملة تسليط الضوء على قائمة المخاوف


تعتقد أغلبية الجمهور أنه لا مقبول بالنسبة للشركات أو الكيانات الأخرى لاستخدام المفاهيم الموضحة في هذا الاستطلاع. أبرزها ، 68٪ من الأمريكيين يعتقدون أن استخدام مفهوم درجة التمويل الشخصي غير مقبول ، ويعتقد 67٪ أنه من غير المقبول أن تقوم الشركات بإجراء تحليل فيديو بمساعدة الكمبيوتر للمقابلات عند توظيف مرشحين للوظيفة.


طلب المسح من المجيبين أن يصفوا كلماتهم الخاصة لماذا يشعرون أن هذه البرامج مقبولة أم لا ، وظهرت بعض المواضيع في هذه الردود. غالباً ما يركز أولئك الذين يعتقدون أن هذه البرامج مقبولة على حقيقة أنهم سيكونون فعالين في القيام بالمهمة التي يزعمون أنها تقوم بها. بالإضافة إلى ذلك ، يجادل البعض في حالة أمثلة من القطاع الخاص بأن المفاهيم تمثل ببساطة امتياز الشركة أو السوق الحرة في العمل.


في الوقت نفسه ، فإن أولئك الذين يجدون استخدام هذه البرامج غير مقبولة غالباً ما يقلقون من أنهم لن يفعلوا وظيفة جيدة كما هو معلن. كما أنهم يعبرون عن مخاوفهم بشأن عدالة هذه البرامج ، وفي بعض الحالات ، يقلقون من الآثار المترتبة على خصوصية البيانات التي يتم جمعها ومشاركتها. تمت مناقشة رد الفعل العام لكل من هذه المفاهيم بمزيد من التفصيل أدناه.


نقاط التمويل الشخصي الآلي

من بين 31٪ من الأمريكيين الذين يعتقدون أنه سيكون من المقبول للشركات استخدام هذا النوع من البرامج ، فإن النسبة الأكبر يشعر المستجيبون (31 ٪) أنه سيكون فعالا في مساعدة الشركات على العثور على عملاء جيدين. تقول الشركات الأصغر إن العملاء ليس لديهم الحق في تقديم شكوى حول هذه الممارسة حيث أنهم يضعون بياناتهم بشكل علني عن طريف مع أنشطتهم على الإنترنت (12٪) ، أو أن الشركات تستطيع أن تفعل ما تريد و / أو أن هذا هو ببساطة السوق الحر في العمل (6 ٪).


 مخاوف بشأن درجات التمويل الشخصي الآلي تركز على الخصوصية والتمييز وعدم تمثيل الناس بدقة وفيما يلي بعض عينات من هذه الردود:



  • "أعتقد أن الشركات يجب أن تكون تمكنت من استخدام جهد حديث ومحدث للحكم على المسؤولية المالية لشخص ما بطرق أخرى بخلاف دفع فواتيرها في الوقت المحدد. " رجل ، 28

  • " المالية والحالات المالية معقدة للغاية الآن. قد يحصل الشخص على درجة ائتمانية سيئة نظرًا لوجود رقعة صلبة ولكنه لا ينفق بشكل فاضح ، يدفع الفواتير ، وما إلى ذلك. قد يستفيد هذا الشخص من نظرة عامة إلى اتجاهاته. بدلاً من ذلك ، قد لا يكون الشخص الذي يتخذ اتجاهات في الاتجاه المعاكس ولكن لديه رصيد ائتماني / جيد محدودًا خيارًا رائعًا للشركة نظرًا لأن اتجاهاتها قد تشير إلى أنها ستتخلف عن السداد في وقت لاحق ". Woman، 32 [19659008] "[It’s] الاقتصاد البسيط - إذا كان الناس يريدون وضع معلوماتهم هناك ... حسناً ، تمتصهم لتكونهم." رجل ، 29

  • "يبدو الأمر تمامًا مثل نقاط بطاقة الائتمان ، والتي ، على الرغم من أنها غير عادلة ، تعتبر مقبولة. " Woman، 25

  • " لأنها فعالة وفعالة في جلب معلومات الشركات التي يمكن استخدامها لتوصيل خدماتها ومنتجاتها (القروض) للعملاء. هذا أمر جيد. إن تبسيط العملية وجعلها أرخص وأكثر استهدافًا يعني أقل إهدار للموارد في الإعلان عن مثل هذه الأشياء ". مان ، 33


68٪ من الأمريكيين يعتقدون أنه من غير المقبول أن تستخدم الشركات هذا النوع من برنامج الاستشهاد ثلاث مخاوف رئيسية. يجادل حوالي الربع (26 ٪) أن جمع هذه البيانات ينتهك خصوصية الناس. يقول واحد من كل خمسة أشخاص أن بيانات شخص ما عبر الإنترنت لا تمثلها بشكل دقيق كشخص ، في حين أن 9٪ يبدون النقطة ذات الصلة بأن عادات وسلوكيات الأشخاص عبر الإنترنت لا علاقة لها بالجدارة الائتمانية العامة. ويشعر 15٪ أنه من المحتمل أن يكون من غير العدل أو التمييزي الاعتماد على هذا النوع من النتائج.


إليك بعض عينات من هذه الردود:




[ad_2]

مواضيع ذات صلة

Publications 7468643585623288541

إرسال تعليق

emo-but-icon

تابعونا

المشاركات الشائعة

إتصل بنا www.news1.news@gmail.com

الاسم

بريد إلكتروني *

رسالة *

إجمالي مرات مشاهدة الصفحة

item