إلى أين تأخذنا التكنولوجيا؟

الذكاء الصناعي: حياد أم تعزيز للفوارق الاجتماعية؟

الصورة: Getty/The Washington Post

تتعدد استعمالات الذكاء الصناعي لتشمل مجالات متنوعة، فمن سيارات ذاتية القيادة، مرورًا بخوارزميات تؤلف الموسيقى، وصولًا إلى روبوتات قادرة على تفسير المشاعر وإجراء محادثات كاملة مع البشر، وحتى يصل الأمر أخيرًا إلى منح الجنسية السعودية إلى واحدة من هذه الروبوتات، والسماح لأخرى بالإقامة الرسمية في طوكيو.

تتضارب الآراء حول تقنيات الذكاء الصناعي، بين مَن يعتبرها خطرًا يهدد مستقبل الجنس البشري، ومن يرى فيها الحل الأمثل للمشاكل المستعصية والمتفاقمة التي تواجهنا، مثل الأمراض والفقر والجريمة. ومع ذلك، يشهد مجال الذكاء الصناعي ثورة عالمية لا مثيل لها، دفعت كبرى الشركات إلى تخصيص رواتب ضخمة لتوظيف المتخصصين في المجال.

في مقال منشور على موقع «TED»، تشير عالمة الرياضيات المتخصصة في علم تحليل البيانات، «كاثي أونيل»، إلى أن بعض برامج الذكاء الصناعي التي نستخدمها للتنبؤ بالجريمة ليست محايدة كما يروَّج لها، نظرًا لأن طريقة برمجتها لا تخلو من تحيزات مسبقة واعتبارات مغلوطة، الشيء الذي يعيد إفراز الأفكار ذاتها التي تربط بين حالة الفقر والجريمة.

البرمجيات الذكية في مواجهة الجريمة

كيف تحولت برامج التنبؤ بالجريمة لأداة رئيسية لمكافحة الجريمة في أمريكا؟

في فيلادلفيا ونيويورك، تُستخدم برامج التنبؤ بالجريمة المتطورة لرصد الأماكن التي يُحتمل أن تقع فيها جرائم.

يعرض المقال تجربة مدينة ريدينغ في ولاية بنسلفانيا مع مكافحة الجريمة، وهي مدينة كان معدل الفقر فيها قد وصل إلى أعلى مستوى وطني في عام 2011. فباستخدام برنامج التنبؤ بالجريمة المطور من شركة «PREDPOL» في 2013، تمكنت المدينة من خفض عمليات السطو بنسبة 23% في عام واحد.

عمل البرنامج على معالجة البيانات السابقة المتعلقة بالجرائم في المدينة، ثم تحديد الأماكن التي من المرجح أن تقع فيها، وهو ما مكن رجال الشرطة من تمثيل هذه الاستنتاجات في شكل سلسلة من المساحات بحجم ملعبي كرة قدم، وكان إرسال الدوريات بانتظام إلى تلك المناطق كفيلًا بالحد من ارتكاب الجرائم.

ريدينغ واحدة من مدن عدة في الولايات المتحدة لجأت إلى التكنولوجيا الحديثة لإيقاف موجات الجريمة المتزايدة، ففي فيلادلفيا ونيويورك تُستخدم برامج مماثلة لرصد الأماكن التي يُحتمل أن تقع فيها جرائم، بناءً على معطيات مثل عدد أجهزة الصرف الآلية والمتاجر الموجودة في المنطقة، والتي قد تكون عامل جذب للمجرمين.

قد يهمك أيضًا: الكمبيوتر ينجح في توقع ميول البشر الانتحارية

يعتمد برنامج «PREDPOL» على برمجيات ثورية، إذ ينظر إلى الجريمة في منطقة ما ثم يدمجها في نمط يرصد تاريخ الجرائم في نفس المنطقة، ويتوقع بعدها تاريخ ومكان وقوعها مرة أخرى، وهي عملية يقول مطورو البرنامج إنها تخلو من التحيزات العِرقية والعنصرية، لأنها تستهدف المجال الجغرافي لوقوع الجريمة ونوعها، ولا تركز إلى أفراد أو فئات بعينهم.

لكن معظم الجرائم المسجلة لا تكون على نفس درجة الخطورة، فهناك نوعان من الجريمة يمكن للشرطة أن تركز عليها خلال استخدام البرنامج:

  1. الجرائم التي تشمل القتل والاعتداء المسلح والحرق العمد
  2. الجرائم التافهة مثل التسول واستهلاك كميات صغيرة من المخدرات، التي لا تسجَّل إذا لم تكن الشرطة حاضرة

النوع الأخير يمكن أن يحرِّف استنتاجات البرنامج إذا ما أُدخل في نفس الخانة مع الجرائم العنيفة.

حتى الذكاء الصناعي لا يفلت من التحيز

كيف تعمل برامج التنبؤ بالجريمة؟

الإنصاف مفهوم مجرد لا يمكن تحديده بالاعتماد على معادلات رياضية، ومبرمجو الذكاء الصناعي يعيدون إنتاج اللامساواة بهتمامهم بجمع البيانات.

يربك التحريف الذي يطول البيانات المجمعة، نتيجة إدراج الجرائم البسيطة في عداد الجرائم التي يحللها البرنامج، سَيْر عمل الشرطة، إذ ترسَل الدوريات إلى الأماكن التي يرتفع فيها احتمال وقوع الجرائم، والتي تكون في معظم الأحيان من الأحياء الفقيرة والمهمشة.

حتى إن كان هدف الشرطة إيقاف عمليات السطو والاغتصاب والقتل التي تحدث في مناطق متفرقة، سيرسل البرنامج الدوريات إلى المناطق نفسها التي يرجح أن تُرتكَب فيها الجريمة، وهو ما يخلق حلقة مفرغة من ردود فعل مغلوطة، بحيث يصبح الحيز الجغرافي الذي يشغله الفرد مرادفًا للطبقة الاجتماعية التي ينتمي إليها.

تركز الشرطة بصورة حصرية على الفقراء والمهمشين لأنهم، حسب رأيهم، أكثر عرضةً لارتكاب الجرائم، وهي الفكرة نفسها التي يدمجها علماء البيانات في برمجيات التنبؤ بالجريمة، إذ يبرمَج التحيز البشري وسوء الفهم داخل أنظمة هذه التطبيقات، الأمر الذي يعيد تكريس الوضع السائد وتجريم الفقر بحجة أن التكنولوجيا المستعملة منصفة ومحايدة.

الإنصاف مفهوم مجرد، لا يمكن تحديده بالاعتماد على معادلات رياضية وخوارزميات ذكية، على الأقل ليس الآن. ومبرمجو الذكاء الصناعي، الذين يركزون في عملهم على جمع وتحليل بيانات ضخمة بدل الاهتمام بالمفاهيم المجردة التي لا يمكن قياسها، يعيدون إنتاج الظلم واللامساواة، وإن بطريقة غير مباشرة.

قد يعجبك أيضًا: ماذا يخبئ المستقبل للمجتمعات البشرية؟

في المجتمعات التي تحفظ كرامة الإنسان، يُفترض أن يكون القانون سلطة فوق الجميع، وأن لا تحابي العدالة أحدًا، مهما كانت الطبقة التي ينتمي إليها، إلا أن مثل هذه البرامج، نظرًا لتركيزها على الكفاءة والفعالية، ترسِّخ الأوضاع الراهنة ولا تركز على تطويرها، وذلك انطلاقًا من بيانات متحيزة ومحرفة، فهل هناك حقًّا شيء اسمه تكنولوجيا محايدة؟