إصلاح حفظ الأمن التنبئي

يرى آرون شابيرو أنه على أجهزة الشرطة، وشركات البرمجيات، والجمهور ضمان أن تحسِّن برامج التنبؤ بالجريمة الأمن العام ومساءلة ضباط الشرطة

Patrick T. Fallon

يمر حفظ الأمن حاليًّا بمرحلة حرجة، إذ تتصاعد الأصوات المطالبة بتطبيق القانون تطبيقًا يحقق العدالة بصورة أكبر. فقد أصبحت مسألة إصلاح الشرطة في الولايات المتحدة مسألة مشحونة من الناحية السياسية وخلافية في الوقت نفسه، لا سيما بعد تكرار الحالات التي نُشر عنها مؤخرًا حول العنف الذي تمارسه الشرطة ضد المواطنين غير المسلحين من الأمريكيين ذوي الأصول الأفريقية.

وفي الوقت نفسه فإن ميزانيات الأمن المحدودة تتسبب في ازدياد الحاجة إلى تكنولوجيا حديثة لإنفاذ القانون. فأجهزة الشرطة تتمنى أن “تفعل الكثير بتكاليف أقل”، من خلال تعهيد تقييمهم لبيانات الجريمة إلى محللين وشركات تكنولوجية تنتج “أنظمة تنبئية لحفظ الأمن”. هؤلاء المتخصصون يستخدمون خوارزميات للتنبؤ بالأماكن التي يمكن أن تقع فيها الجرائم، والأشخاص الذين يُحتمل ارتكابهم لها، كما أنها تقدم توصيات حول موارد الشرطة التي ينبغي تخصيصها. وبالرغم من استخدام نظام التنبؤ لحفظ الأمن على نطاق واسع، إلا أنه ما زال في بداياته، وهو عرضة لأن يعطي نتائج منحازة ويصعب تقييمه.

تربط النماذج التنبؤية الجرائم بالأشخاص أو بالأماكن. فالنمذجة المستندة إلى مرتكب الجريمة تكوِّن ملفات للشخصيات ذات الصفات الخطرة في نظام العدالة الجنائية، على أساس العمر، وسجل الحالة الجنائية والتاريخ المهني، والانتماءات الاجتماعية. وتستخدم أجهزة الشرطة أو القضاة أو مجالس إطلاق السراح المشروط هذه الملفات الشخصية -مثل التقديرات لمدى إمكانية تورُّط شخص ما في إطلاق النار- لتقرير ما إذا كان ينبغي احتجاز شخص ما أو إحالته إلى مؤسسة خدمات اجتماعية أو وضعه تحت المراقبة. وتشكل النمذجة الجيومكانية ملفات للمناطق بناء على المخاطر التي يمكن أن تحدث فيها، وتُقسم دوائر كل ولاية قضائية إلى شبكة من الخلايا (كلٌّ منها يغطي مساحة قدرها حوالي 50 مترًا مربعًا) وبناءً على ذلك تتنبأ الخوارزميات -التي جرى ترتيبها باستخدام البيانات الجنائية والبيئية- بالمكان والزمان الذي ينبغي فيه على ضباط الشرطة عمل دوريات لضبط الجريمة في أثناء وقوعها أو لمنع حدوثها.

إن الباحثين في علم الجريمة ومحللي الجرائم وقادة الشرطة متحمسون لاحتمالات الاختبارات الممكنة باستخدام التحليلات التنبئية، إذ يمكن لتقنيات المراقبة وللخوارزميات أن تختبر تكتيكات الشرطة وتحسِّن من أدائها، أو تحد من الانتهاكات التي يقوم بها ضباط الشرطة. ولكن الجماعات المهتمة بالحقوق المدنية وبالعدالة الاجتماعية تدين كلًّا من النموذجين. إذ يستشري التحيُّز ضد عرق معين في نظام العدالة الجنائية نتيجة للتنبؤات القائمة على هويات مرتكبي الجرائم، كما تُضعِف هذه التنبؤات في الوقت نفسه مبدأ افتراض البراءة  حتى ثبوت الإدانة. أما الربط بين الأماكن واحتمالات ارتكاب الجريمة فمن شأنه أن يتسبب في تفاقم أنماط خطأ من سلوك خطأ الشرطة.

إن الباحثين والمراقبين بحاجة للبقاء متيقظين مع اندماج هذه التكنولوجيا أكثر فأكثر في النظم الشرطية. ولكوني عالِمًا بوصف الأجناس البشرية فقد أجريت بحثًا مع (أزافيا Azavea) وهي شركة برمجيات في فيلاديلفيا، بنسيلفانيا تبيع حقيبة برمجيات لحفظ الأمن التنبئي تدعى (هانش لاب HunchLab). وقد كنت مهتمًّا بكيفية تقييم الشركة لمنتجها، ووجدت أنه يعمل بنية حسنة بهدف الاستفادة من التحليلات لتطوير عمل الشرطة، وتحسين الأمن العام، ومحاسبة الضباط. ولكن بطبيعة الحال لا ضمانات على أن هذا النموذج سيغلب، فهناك العديد من الجهات الأمنية البعيدة كل البُعد عن الشفافية، ولا تعي مخاوف مناصري الحقوق المدنية والعدالة الاجتماعية.

وأخشى ما أخشاه أنه حتى أعتى الأنظمة التنبئية لن يحقق إصلاح الشرطة من دون أن يترافق مع تغيرات تنظيمية ومؤسسية. فالضوابط والتوازنات الرقابية لازمة للحد من سلطات الشرطة وحريتها في التصرف، وينبغي علينا التنبه للاعتماد على المنتجات التجارية؛ لما يمكن أن يكون لها من آثار سلبية وغير متوقعة على الحقوق المدنية، والعدالة الاجتماعية.

الجريمة والمكان

نالت نظريات علم الجريمة عن العلاقة بين الجريمة ومكان وقوعها قبولًا واسعًا في سبعينيات القرن الماضي، فبدلًا من أن يدرس المتخصصون في علم الجريمة الخصائص المشتركة بين المجرمين بدأوا في طرح أسئلة عن دور البيئة في تشكيل الجريمة، وهل تتسبب السمات المعمارية أو مواصفات الحي في جعل بعض المناطق أكثر عرضة للسطو المنزلي؟ وهل يساعد وجود إنارة في الشوارع على منع الجريمة أم أنه يوفر مزيدًا من الظلال يختبئ فيها المجرمون؟ منذ ثمانينيات القرن العشرين حكم هذا المنطق ممارسات الشرطة. واختبرت العديد من القوات موضوع “حفظ الأمن في الأماكن الخطرة”؛ إذ كانوا يستهدفون الأحياء التي ترتفع فيها معدلات الجريمة، بإرسال دوريات الشرطة، بيد أن هذه الطريقة غالبًا ما تنطوي على توقيف أو تفتيش أو سؤال لأهالي المنطقة من دون إذن رسمي (وهو أمر غير دستوري).

في العام 1994 اعتمدت إدارة شرطة نيويورك النظام الإداري “كومب ستات” “الإحصائيات الإلكترونية” والذي جعل من استخدام خرائط الجريمة والتدخل الموجه أمرًا ممنهجًا. واليوم يُستخدم “كومب ستات” حول العالم للحد من الجرائم ذات مستوى الخطورة المنخفض أملًا في الحيلولة دون وقوع جرائم أشد خطورة. وينطوي هذا النظام على تقارير عن الجرائم، واجتماعات إدارية أسبوعية وشهرية وسنوية، إذ تضع الإدارات المعنية معايير قياسية للحد من الجريمة. فعلى سبيل المثال، إذا أظهر نظام “كومب ستات” ارتفاعًا في معدل السرقات من محلات التجزئة فإن على الضباط في مناطق حدوث تلك السرقات تطوير استراتيجيات خاصة للحد من هذه الظاهرة.

ويسبق حفظ الأمن التنبئي الجريمة بخطوة. فمع إحالة تحليل بيانات الجريمة إلى خوارزميات، يمكن لهذا التحليل أن يحتوي على الكثير من التفاصيل، كما يمكن إدارته. فالدوريات الشرطية تُرسَل حينها إلى شارع بعينه في المدينة بدلًا من أن تُرسَل إلى حيٍّ بأكمله. وتُضاف بيانات الجريمة يومًا بيوم حتى يتسنى للنظام إصدار تنبؤاته في كل مناوبة، ويمكن بهذه الطريقة استهداف أنواع مختلفة من الجرائم في أماكن مختلفة خلال اليوم باستخدام العديد من التكتيكات.

ويبدو أن هذه الأنظمة معقولة من الناحية العملية، فهي رخيصة بالمقارنة بتكاليف تعيين محللين أو متخصصين في علم الجريمة للعمل بدوام كامل؛ فهذا النظام لا يستلزم دفع مرتبات. بالنسبة إلى الدوائر الصغيرة في ولاية قضائية معينة (تلك التي يكون عدد سكانها حوالي 50.000 نسمة مثل ميلبيتاس في كاليفورنيا) فإن بعض موردي الأنظمة يتقاضون اشتراكًا سنويًّا قدره 20.000 دولار أمريكي؛ في المقابل فإن متوسط التكلفة للمدن الكبيرة مثل فيلاديلفيا يتراوح ما بين 50.000 دولار أمريكي و100000 دولار أمريكي سنويًّا1.

التقدم في عملية التنبؤ

تختلف أنظمة حفظ الأمن التنبئي في مدى تعقيدها، وهناك جدل دائر حول الدرجة المطلوبة من التعقيد. فعلى سبيل المثال طور كلٌّ من أخصائي علم الإنسان جيفري برانتينجهام وعالِمة الرياضيات أندريا بيرتوتزي برنامج (بريدبول PredPol) عن طريق تكييف خوارزميات للتنبؤ بالهزات الزلزالية اللاحقة، ويعتمد هذا البرنامج على ثلاثة متغيرات، ألا وهي: نوع الجريمة، وتاريخ ووقت حدوثها، وموقعها. جدير بالذكر أن العلماء الذين يعملون ببرنامج بريدبول يزعمون أن بساطة هذا النظام تقلل من مخاطر تكوين ملفات شخصية قائمة على التمييز2، ولكن ذلك يعني أيضًا أن النمذجة محدودة بأنواع الجرائم التي تتكرر في نفس الزمان والمكان.

هناك أنظمة أخرى تدمج مزيدًا من البيانات بهدف إنتاج أحكام أكثر دقة. فبرنامج “هانش لاب” يطبق خوارزميات تعلُّم الآلة والذكاء الاصطناعي للتنبؤ بانتشار أنواع الجرائم، وتشمل هذه البيانات سجلات للبلاغات العامة عن الجريمة وطلبات النجدة من الشرطة، بالإضافة إلى حالات الطقس، ومراحل القمر، والمواقع الجغرافية مثل الحانات أو مراكز النقل، وجداول الفعاليات المهمة أو الدورات المدرسية.

 من الناحية النظرية نجد أن “هانش لاب” لا يقوم على أسس يقينية، فهو يبدأ دون فرضية محددة. وتعتمد تقنية تعلُّم الآلة على مجموعات من المتغيرات التي من شأنها أن تتنبأ على وجه الدقة بمواقع وأوقات حدوث الجريمة. ويمنح هذا النظام ثقلًا لأثر وتكرار حدوث أنواع الجرائم ومدى فاعلية الدوريات الشرطية في منع حدوثها. فعلى سبيل المثال، للقتل تأثير شديد ولكنه لا يحدث كثيرًا ومن الصعب التنبؤ به، أما سرقة السيارات والسطو بالإكراه فجرائم لها أثر متوسط القوة ولكن هناك إمكانية أكبر للتنبؤ بحدوثها والتعامل معها (انظر: “دوريات تنبؤية”).


كبر الصورة
Source: Hunchlab

وتسمح أدوات (هانش لاب HunchLab) لقادة الشرطة بتعديل أولويات دوريات الشرطة، من خلال إضافة قيود معينة، مثل عدد الضباط المتاحين أو المدة التي يستغرقها الضباط في المواقع المتنبأ بها في مقابل المدة التي يستغرقونها في الاستجابة للبلاغات. كما يمكنهم أيضًا تشكيل نماذج الجريمة، ومثال ذلك أن يصمموا قوائم بكل جرائم الأسلحة النارية.

عقبات التقييم

يواجه حفظ الأمن التنبئي تحديات. فحاله كحال كل التقييمات الخاصة بالتكنولوجيات الأمنية، من المستحيل قياس مدى فاعليته في الحد من الجرائم3 بصورة مباشرة نتيجة اختلاط عوامل مختلفة. فهل سبب هبوط معدلات السطو على المنازل هو تحسُّن التنبؤ أم تحسُّن التكتيكات المتبعة؟ وهل حالت دوريات الشرطة دون وقوع الجريمة أم أن معدل هذه الجرائم انخفض بسبب الاستثمار في التعليم والتدريب؟ أم أنه نتيجة لسبب آخر غير معروف؟

وأجري حتى الآن عدد قليل من تجارب المناظرة المستقلة العشوائية. وتختبر بعض الإدارات المنتج قبل شرائه ولكن القليل منها يفرج عن نتائج هذه الاختبارات. فعلى سبيل المثال، بدأت شرطة نيويورك منذ عام 2015 في اختبار ميداني لمدة عامين لنظام “هانش لاب”. وتعرب الشركات -التي تُجري الاختبارات الميدانية بالتعاون مع أجهزة الشرطة في مقابل توفير المنتج بأسعار مخفضة- عن قلقها حيال تضارب المصالح.

حتى الآن تبدو التقييمات المستقلة فقيرةً. فعلى سبيل المثال ذكرت مؤسسة “راند” RAND غير الهادفة للربح في عام 2014 أن برنامج حفظ الأمن التنبئي الذي كان يُستخدم في شريفبورت، لويزيانا “لم يقدم أي دليل إحصائي على أن معدلات الجريمة انخفضت في المقاطعات الخاضعة للتجربة بالمقارنة مع المقاطعات المستخدَمة كعينات مناظرة”4.

لا إجماع على ما ينبغي على أنظمة التنبؤ تحقيقه، سواء كان الأمر يتعلق بقدرتها على الحيلولة دون وقوع الجريمة أو القبض على المجرمين، ولا على المعايير القياسية التي ينبغي اعتمادها. بالنسبة لبرنامج “بريدبول” فهو يقيِّم منتجه قياسًا على عمليات حفظ الأمن في الأماكن الخطرة وعلى التدخلات المستهدفة وهي أفضل الممارسات في الوقت الحالي، بيد أن هذه الممارسات ليست السبب وراء الأخطاء الناتجة عن الإيجابيات الزائفة (عدم حصول جريمة في منطقة بها نسبة خطورة عالية) والسلبيات الزائفة (حصول جرائم في أماكن ذات نسبة خطورة منخفضة).

“لا يوجد إجماع على ما ينبغي على أنظمة التنبؤ تحقيقه”

وهناك أيضًا مشكلة أخرى تدعو إلى القلق وهي التحيُّز العرقي في بيانات الجريمة5، إذ لم يركِّز أيٌّ من التقييمات الميدانية المنشورة على ما إذا كان حفظ الأمن التنبئي يحسِّن أو يزيد من الحضور الأمني المكثف في المجتمعات المحلية ذات الأغلبية من ذوي البشرة الملونة والدخل المنخفض في مدن الولايات المتحدة. ولأن العرق مرتبط في الولايات المتحدة ارتباطًا وثيقًا بالموقع الجغرافي والوضع الاجتماعي الاقتصادي، فمن المستحيل التحكُّم بشكل كامل في آثار المتغيرات التبعية في البيانات.

ومن الخطوات التي جرى اتخاذها ترتيب الخوارزميات بتلقيمها فقط بالجرائم التي يبلغ عنها الناس مثل السرقة بالإكراه، والسطو على المنازل، وسرقة الممتلكات الشخصية، وسرقة المركبات والقتل. أما بالنسبة للجرائم التي تهدد “نوعية الحياة” مثل تخريب الممتلكات، والسُّكر، والاتجار بالمخدرات فلا تُستخدم لأنها ترتبط بالفقر، وعادة ما لا يبلغ عنها الناس بل يبلغ عنها ضباط الشرطة فقط. ولتجنُّب زيادة الحضور الأمني في المناطق التي تبدو ذات خطورة عالية بسبب البيانات المتحيزة للجريمة، أضاف برنامج “هانش لاب” درجة من العشوائية إلى الخوارزميات الخاصة به بحيث يرسل الضباط أحيانًا إلى المناطق المعرضة بنسبة متوسطة للمخاطر.

ولكن بناء التحليلات على الجرائم المبلغ عنها يضعنا في شَرَك نوع آخر من الانحياز، فالمعايير التي تحكم الإبلاغ عن الجريمة تختلف بين الأصول العرقية والإثنية والفئات الاجتماعية المختلفة، فعلى سبيل المثال، نجد أن المواطنين المولودين في الخارج كما المواطنين غير الأمريكيين أقل ميلًا للإبلاغ عن الجرائم من المواطنين الأمريكيين المولودين في الولايات المتحدة6. ومن ثَم فيمكن بهذه الطريقة أن تستثني الخوارزميات الضواحي التي تكون نسبة عالية من سكانها من المهاجرين، وبذلك تحرمهم من الاستفادة من دوريات الشرطة التي تحافظ على السلامة العامة7. ويلقي المدافعون عن الحقوق المدنية والعدالة الاجتماعية الضوء على هذه المشكلات.

مستقبل عملية التنبؤ

تعمل معظم أنظمة حفظ الأمن التنبئي كخدمات تُقدم من قبل طرف ثالث، لكن ذلك قد ينتهي. فخوارزميات التنبؤ تُدمج في إدارة بيانات الشرطة -تطور بعض الإدارات أنظمتها الخاصة بالاستعانة بإشراف خارجي محدود أو من دون إشراف على الإطلاق. ونجد أن الشركات مثل “هانش لاب” تتخطى مسألة التنبؤ إلى التوصية بالتكتيكات الأمنية أو تقديم خدمات وأنظمة لقواعد بيانات الجريمة لوضع تصوُّرات حول أنواع الجريمة المنتظَر وقوعها.

قد تتضمن التطويرات نحو أنظمة أكثر تكاملًا دمج مواقع كل فرد من ضباط الشرطة من خلال بيانات النظام العالمي لتحديد المواقع GPS بالإضافة إلى تسجيلات الكاميرات المثبتة على سترات ضباط الشرطة، إذ يمكن لهذه التقنيات أن تحدد مكان ضابط الشرطة وقت وقوع سطو على أحد المباني، وكيف تحدَّث مع الشهود أو المشتبه فيهم، كما يمكنها أيضًا المساعدة على تحديد ضباط الشرطة الذين توحي سجلات التوقيف خاصتهم بانتهاجهم أنماطً تمييزمعينة. (انظر: go.nature.com/2jqyeoj)

يمكن تحسين إحصائيات الجريمة، وعلاقات المجتمع المحلي، وشرعية ضباط الشرطة، ولكن هناك حاجة إلى إقامة إصلاحات مؤسسية وتنظيمية أيضًا، وهناك ثلاثة أسباب تدعو إلى رفض هذا النوع من “غطرسة استخدام البيانات الضخمة” (go.nature.com/2jw4tne).

أول هذه الأسباب أنه إذا بقيت بيانات الشرطة خاصة أو سرية فلن يتمكن عامة الشعب من تفحص سلوك ضباط الشرطة والتكتيكات الأمنية ومن ثَم مساءلتهم عنها. ويمكن للإدارات أن تستخدم البيانات في شرعنة تدخلات مثيرة للجدل مثل المراقبة والتوقيف من دون إذن رسمي، وفي إسكات الجدل الدائر بين الناس حول أخلاقيات التكتيكات الأمنية.

ثانيًا، يشعر الضباط أن حفظ الأمن التنبئي ليس إلّا جزءًا من اتجاه لإضعاف مهارات أهل المهنة. فبهذه الطريقة يمكن للإدارات التي يمكنها مراقبة سلوكيات ضباط الشرطة أن تخفض تلقائيًّا من الشروط التعليمية التي تضعها للتعيين فيها، على الرغم من أن الدراسات تشير إلى أن ضباط الشرطة الحاصلين على التعليم الجامعي أقل ميلًا إلى استخدام العنف في أثناء قيامهم بالتوقيف8.

وثالثًا فالشركات التي تبيع برامج حفظ الأمن التنبئي تعمل طوعًا اليوم على إلغاء بعض أنواع الجرائم ومصادرة البيانات لترتيب الخوارزميات، ولكن مع انتشار مراقبة الضباط يمكن لمثل هذه الإلغاءات أن تشرعن تضمين بيانات الجرائم المعروف بأنها منحازة عرقيًّا، مثل إلقاء القبض لأسباب تتعلق بالمخدرات. ويمكن لذلك أن يرسخ التمييز العرقي في العدالة الجنائية. جدير بالذكر أن هناك تجربة أجرتها مجموعة تحليل بيانات حقوق الإنسان Human Rights Data Analysis Group تُظهر كيف يمكن لهذا الأمر أن يبدو، فبتطبيق محاكاة لخوارزمية برنامج “بريدبول” على الجرائم المتعلقة بالمخدرات في أوكلاند في كاليفورنيا، أوضحت الدراسة أن الخوارزمية غالبًا ما سترسل الضباط إلى أحياء الأمريكيين الأفارقة والأحياء اللاتينية، على الرغم من وجود أدلة بناءً على المسح الوطني لاستخدام العقاقير والصحة في أمريكا National Survey on Drug Use and Health– تشير إلى أن تعاطي المخدرات منتشر بين كل أحياء أوكلاند بالتساوي9.

خطوات نحو الإصلاح

الشفافية هي أهم نقطة في الإصلاح، إذ ينبغي على إدارات الشرطة أن تبلغ الشعب أيًّا من الأنظمة التنبئية تستخدم، وما المعايير التي اختارت على أساسها هذه الأنظمة، وكيف بإمكانهم تقييمها. كما أنه على الشركات التي تبيع هذه الأنظمة أن تنشر الخوارزميات في المجال العام، كأن تُمنح الصحافة القدرة على الوصول مجانًا إليها، وأن يكون جزء من الخوارزميات ذا مصدر مفتوح حتى يتسنى لمطوري البرامج ومحللي الجرائم اختبار البدائل المختلفة. كما أننا نحتاج إلى مناقشات عامة للوصول إلى أي من النظريات المتعلقة بعلم الجريمة يمكن اعتمادها نموذجًا وترسيم حدودها. جدير بالذكر أنه بالإضافة إلى اهتمام نظام “هانش لاب” بتوفير الكثير من المعلومات على موقعه الإلكتروني، فهو يهتم أيضًا بما يعتري عملاءه من قلق حيال الحقوق المدنية، فيتناول ذلك من خلال ندوات تُجرى على الإنترنت، كما يشارك في حلقات النقاش العامة التي تُعقد مع النقاد والنشطاء.

وينبغي أيضًا على الباحثين وصحفيي البيانات المستقلين تعيين حدود قدرات برامج حفظ الأمن التنبئي ولفت نظر العامة إليها، فعلى سبيل المثال- أوضح تحقيق أجرته غرفة الأخبار المستقلة غير الهادفة إلى الربح “بروبابليكا” في عام 2016 أن خوارزميات النماذج المستندة إلى الجناة كانت أكثر ميلًا إلى الخطأ في تعريف المتهمين من ذوي البشرة السوداء ذوي الخطورة المنخفضة باعتبارهم ذوي خطورة عالية، وبالعكس تعرف المتهمين من ذوي البشرة البيضاء ذوي الخطورة العالية على أنهم منخفضو الخطورة. (انظر: go.nature.com/29aznyw)

يأتي استخدام الكثير من إدارات الشرطة لأنظمة حفظ الأمن التنبئي بتمويل من منح تقدمها هيئات كبرى مثل مؤسسة الشرطة الأمريكية US Police Foundation، والمعهد الوطني للعدالة National Institute of Justice (ويقع كلاهما في واشنطن العاصمة)، الأمر الذي ينبغي فيه مراعاة وجهات نظر المنتقدين. وعلى هذه الهيئات تمويل دراسات حول الآثار الجائرة المحتمَلة لأنظمة حفظ الأمن التنبئي وليس فقط الاهتمام بمدى دقتها.

كما ينبغي عليهم نشر وتعميم المبادئ والسياسات المتعلقة بحفظ الأمن التنبئي التي تضع في اعتبارها مخاوف مناصري الحقوق المدنية. ومثل هذه المستندات مهم للغاية؛ لأنه في غياب التشريعات أو الأوامر القضائية أو الأحكام التوافقية، لن يكون هناك تفويض فيدرالي لشرطة البلدية أو شرطة الولاية في الولايات المتحدة. ومثال ذلك أنه في العام الماضي اجتمع كلٌّ من الاتحاد الأمريكي للحريات المدنية American Civil Liberties Union مع ست عشرة منظمة من المنظمات المعنية بالحقوق المدنية، وتلك المعنية بالخصوصية، والعدالة العرقية، وشركات التكنولوجيا، ونشروا بيانًا مشتركًا للإعراب عن قلقهم حيال حفظ الأمن التنبئي (انظر: go.nature. com/2ih4sko). وإذا نظرنا إلى ذلك كنموذج فينبغي أن تذكر التقارير تفصيلًا أنواع البيانات التي يمكن استخدامها في ترتيب الخوارزميات وتلك التي لا يمكن استخدامها في ذلك، وعيوب أنظمة حفظ الأمن التنبئي وقدرتها على إذكاء التحيز.

المصدر