من نراقب؟ من يراقبنا؟

هندسة الإقناع: كيف جعلتنا الخوارزميات نثق فيها ونخافها

الصورة: Getty/izusek

هذا الموضوع ضمن هاجس «من نراقب؟ من يراقبنا؟». اقرأ موضوعات أخرى ضمن الهاجس من هنا، وشارك في الكتابة من هنا.


الخوارزميات هي مجموعة من الخطوات الرياضية والمنطقية، وكذلك المتسلسلة، التي نستخدمها لحل مشكلة ما، لبناء خوارزمية، فإننا نحتاج شيئين: البيانات، أي ما حدث في الماضي، وتعريف النجاح، أي الأمر الذي نبحث عنه ونأمل أن نجده.

كلنا نستخدم الخوارزميات، نحن فقط لا نستطيع صياغتها في شفرات مكتوبة. صنع وجبة غذائية مثال حي لاستخدام الخوارزميات، فالبيانات التي نستخدمها لصنع الوجبة: محتويات المطبخ والوقت وتخيلنا عن الطعم، وتنظيم هذه البيانات.

تعريفنا لنجاح الوجبة ربما يكون هو «الوجبة ناجحة إذا تناول الأطفال الخضروات». بالنسبة إلى الأطفال سيكون التعريف مختلفًا، سيسعدون أكثر بتناول أطنان من الشوكولاته، والأطعمة المليئة بالسكر، وغير المفيدة على الإطلاق. لكن يتوجب على الطاهي اختيار النجاح. هو المسؤول. لذا فرأيه فقط ما يهم. هذه أول قاعدة للخوارزميات.

لا تحقق الخوارزميات العدالة إن طبقناها دون تفكير، لأنها تقيم ممارساتنا الماضية، وأنماط تصرفاتنا، ثم تدير الوضع الراهن آليًّا.

الخوارزميات آراء موضوعة في شفرات. ولكنها مختلفة عما يعتقده معظمنا. بعضنا يظن أن الخوارزميات موضوعية وصحيحة وعلمية. لكن الواقع ربما يكون العكس. إنها خدعة تسويقية، وهي أيضًا خدعة تسويقية لتخويفنا بها، لجعلنا نثق في الخوارزميات ونخافها لأننا نثق في الرياضيات ونخافها. كثير من الأمور قد تسوء عندما نعطي ثقتنا العمياء للبيانات الضخمة.

ماذا لو كانت الخوارزميات خطأً؟ تطرح «كاثي أونيل»، عالمة البيانات، في كتابها «Weapons of Math Destruction» أمثلة مثيرة للقلق حدثت في الولايات المتحدة، منها: فصلت مدارس عامة في واشنطن، عام 2010، أكثر من مئتي معلم، منهم معلمون مشهود لهم بالكفاءة، استنادًا إلى درجات في معادلة حسابية قَيَّمَت أداءهم.

رُفِض رجل مصاب باضطراب ثنائي القطب للعمل في سبعة متاجر كبرى بعد أن رأى «اختبار شخصية» أنه يشكل خطرًا كبيرًا استنادًا إلى التصنيف الخوارزمي للاختبار، رغم أن كل الجوانب الأخرى من سيرته الذاتية تدل على أنه اختيار مثالي.

لا تحقق الخوارزميات العدالة إن طبقناها دون تفكير، لأنها تقيم ممارساتنا الماضية، وأنماط تصرفاتنا، ثم تدير الوضع الراهن آليًّا. سيكون ذلك عظيمًا إن كنا نعيش في عالم مثالي دون تحيزات، لكننا لدينا نزعات تحيزية، والتي تؤدي إلى تحيز الخوارزمية بالضرورة.

اقرأ أيضًا: ما يمكن أن تفعله «البيانات الوصفية» بعلاقاتك وحياتك

الإعلانات: خطر لا ندركه

تدعوك الكاتبة والمختصة في تكنولوجيا علم الاجتماع زينب توفيقجي، في محاضرة ألقتها على منصة «TED» لتلقي نظرة على جزء أساسي من حياتك الرقمية، ألا وهو الإعلانات عبر الإنترنت.

نحن في الغالب نتجاهل هذه الإعلانات، تبدو بالنسبة إلينا بدائية وغير فعالة بالمرة. جميعنا مر بتجربة تنبع من الإعلانات بناءً على شيء قرأه أو تحدث عنه أو كتبه. لو قررت مثلًا أن تشتري حذاءً، وبحثت عن نوع يناسبك واشترتيه، ستظل إعلانات الأحذية من كل الأشكال والأسعار والخامات تلاحقك بطريقة تظنها أبدية، حتى إن استسلمت واشتريت حذاءً آخر من المعلن عنهم، لن تكف هذه الإعلانات عن ملاحقتك.

نوع من التلاعب الرخيص بعقلك تحدثه هذه الإعلانات. لكنك في أعماق نفسك تقول: «هذه الأشياء لا تعمل أبدًا، مجرد إعلانات وأستطيع تجاهلها». لكن على الشبكة العنكبوتية تحديدًا، هذه التقنيات الرقمية ليست مجرد إعلانات.

لنفهم ذلك، دعنا نفكر في مثال من الواقع. في محلات السوبر ماركت، وأنت على وشك أن تغادر. أنت تنتظر مع طفلك عند طاولات الكاشير لتحاسب على مشترياتك وترحل بسلام، لكنك تجد أنواعًا وافرة من الحلوى والعلك موضوعة على مستوى منخفض، تحديدًا على مستوى رؤية الأطفال. وتنجح الخطة التي صُمِّمت لها هذا الطاولات: جعل الطفل يتذمر ويصر مُطالبًا بشرائها بينما أنت على وشك المغادرة، وبسرعة يُعطَى الطفل واحدة ليصمت وتغادر بسلام.

لم توضع عشوائيًّا، وليس لأنه لا مكان لها في المحل سوى هنا، إنها هندسة الإقناع. الآن، في الواقع المادي، هذه الهندسات الإقناعية محدودة نوعًا ما، لأنه لن يتمكن البائع من وضع أي شيء سوى القليل من المنتجات على طاولة الكاشير، ولا تنجح الخطة إلا إذا كان معك طفل صغير ينوح كلما لمح الحلوى.

في العالم الرقمي، على الرغم من ذلك، يُمكن تنفيذ هندسات الإقناع على نطاق أوسع يشمل المليارات منا، ويمكنها استهداف الأفراد وقراءتهم وفهمهم، بل وأن تنتشر على مستوى فردي، أي تستهدف كل واحد منا على حدة من خلال معرفة نقاط ضعفك، ويُمكن إرسالها إلى كل الهواتف النقالة، لذا، فهي ليست واضحة لنا. هذا فقط أحد الأشياء الأساسية التي يُمكن أن تقوم بها الخوارزميات.

تقدم زينب توفيقجي مثالًا أشمل يُبين لك المُفارقة. لنفترض أنك تريد بيع تذاكر طائرة إلى فيغاس. قديمًا، يُمكنك التفكير في بعض العوامل السكانية لتستهدف مجموعة بناءً على خبرتك وتخمينك. قد تعلن عنها للرجال الذين تتراوح أعمارهم بين 25 و35 سنة، أو الأشخاص الذين لديهم حد أقصى في بطاقتهم الائتمانية، أو الأزواج المتقاعدين. هذا ما كنت ستفعله في الماضي.

لكن مع البيانات الضخمة، وتعلم الآلة والخوارزميات، لم تعد تلك هي طريقة العمل. لذا تخيل ذلك، فكِّر في جميع البيانات التي يمتلكها فيسبوك: كل منشور كتبته وكل محادثة أجريتها وكل مكان سجلت الدخول منه وجميع الصور التي رفعتها على الموقع. إذا بدأت في كتابة منشور، ثم غيرت رأيك وحذفته، فإن فيسبوك يحتفظ به ويحلله أيضًا. باستمرار يحاول مطابقة بياناتك في وضع عدم الاتصال. ويشتري كثيرًا من البيانات من وسطاء البيانات، ابتداءً من سجلاتك المالية إلى تاريخ تصفحك.

إذًا ما يحدث هو، من خلال تجميع كل تلك البيانات، خوارزميات الآلة تتعلم أن تفهم خصائص الأشخاص الذين اشتروا تذاكر إلى فيغاس من قبل. عندما يتعلمون ذلك من البيانات الموجودة، يتعلمون أيضًا كيفية تطبيقها على أشخاص جدد. لذلك إذًا، حتى مع الشخص الجديد، يمكنهم تصنيفه ومعرفة إن كان من الوارد أن يشتريها أم لا. وتعريف النجاح هنا هو بيع التذاكر بأي ثمن.

أنت تفكر الآن في أن الأمر بسيط، يمكننا جميعنًا أن نتجاهل عرض لشراء تذاكر لفيغاس. لكن هذه ليست المشكلة، المشكلة أننا لم نعد نفهم حقًّا كيف تعمل هذه الخوارزميات المعقدة، نحن لا نفهم كيف يفعِّلون هذا التصنيف. إنها مصفوفات عملاقة، الآلاف من الصفوف والأعمدة، ربما ملايين، ولا يوجد مبرمجون ولا أي شخص ينظر إليها ويفهم كيف تعمل بالضبط، حتى لو كان لديه جميع البيانات عنها، فيبدو أن الأمر تحول من برجمة إلى تنمية ذكاء لا نفهمه.

لذلك دعونا نضع مثال فيغاس جانبًا. ماذا لو كان النظام الذي لا نفهمه، رأى أنه من الأسهل بيع تذاكر فيغاس لأشخاص يعانون من مرض ثنائي القطب، وعلى وشك الدخول إلى مرحلة الهوس. فهم يميلون إلى التبذير، ويصبحون مقامرين كعَرَض للمرض. يمكن أن يفعل ذلك، وليس لدينا أي فكرة على الأساس الذي اختير عليه.

قد يهمك أيضًا: أنت مخترَق: غوغل تعرف عنك أكثر مما تتخيل

طرحت زينب توفيقجي هذا التوقع على مجموعة من علماء الكمبيوتر في مؤتمر، وبعد انتهائه، جاء أحد العلماء وقال لها: «لهذا السبب لم أتمكن من نشره». سألته عما يتحدث، فأجاب بأنه حاول سابقًا معرفة ما إذا كان بإمكانه اكتشاف بداية الهوس من مواقع وسائل التواصل الاجتماعي قبل ظهور الأعراض السريرية لمرض ثنائي القطب، ونجح في ذلك فعلًا، لكن لم يكن لديه أي فكرة عن كيفية عمله أو كيف يختار ويشخِّص.

عندما تتصفح الويب، يجمع فيسبوك معلومات حول الصفحات التي تزورها، والتي تحتوي على أيقونات «المشاركة على فيسبوك».

هل سبق لك أن فتحت اليوتيوب لمشاهدة فيديو واحد، وبعد ساعة وجدت أنك شاهدت 20 مقطعًا؟

الإشارة الموجودة على اليوتيوب المعنونة بـ«التالي» التي تظهر ويبدأ مقطع فيديو جديد، ما هي إلا خوارزمية تنتقي ما تظن أنك مهتم به، لكنك لن تجده بمفردك. هذا ما تفعله الخوارزميات، تلتقط ما شاهدته وما شاهده أشخاص مثلك، وتخمن المقطع الذي قد يُثير اهتمامك، وتعرض لك مزيدًا من المقاطع. تبدو ميزة مفيدة ولطيفة، إلا عندما لا تكون كذلك.

السؤال هو: ما الذي يحدث؟ ما تظنه زينب أن الخوارزمية في اليوتيوب اكتشفت أنه إن كان بإمكانها جذب انتباه شخص ما بأن تُظهر له مقاطع مُتخصصة أكثر، فالراجح أنه سيظل على الموقع، ويستمر في مشاهدة سلسلة لا نهائية من المقاطع المقترحة عليه، بينما يستمر أيضًا غوغل في عرض الإعلانات.

الآن، وبوضع الأخلاقيات جانبًا، يمكن لهذه المواقع تحديد الأشخاص المعادين للسامية، ويسمحون للمُعلنين باستهدافهم بالإعلانات. ويمكنهم أيضًا تعبئة الخوارزميات للعثور على جمهور يشبهك، أشخاص مسالمون ولا يعادون السامية في ملفاتهم الشخصية. قد يبدو هذا مثالًا غير ممكن، لكنه حقيقي. حققت مؤسسة «ProPublica» غير الربحية في هذا الأمر، ووجدت أنه يمكنك فعل ذلك على فيسبوك؛ حيث يمتلك الموقع مجموعة شاملة من الملفات الخاصة لأكثر من ملياري مُستخدِم.

في كل مرة يضغط المستخدم على علامة الإعجاب أو مشاركة منشور أو يُشار إليه في صورة أو يحدِّث قائمة أفلامه المفضلة في حسابه الشخصي أو ينشر تعليقًا عن أحد السياسيين أو يغير حالته الاجتماعية، فيسبوك يُسجل كل هذا وأكثر.

عندما تتصفح الويب، يجمع فيسبوك معلومات حول الصفحات التي تزورها، والتي تحتوي على أيقونات «المشاركة على فيسبوك»، وعندما تستخدم تطبيقات واتساب أو انستغرام التي يملكها فيسبوك، فأنت تُسهم بمزيد من بياناتك في ملفك. ما اكتشفته المؤسسة أن فيسبوك يوفر للمعلنين أكثر من ألف و300 فئة دقيقة للاستهداف بالإعلانات. والأمر ليس مُكلفًا، فمراسل «ProPublica» أنفق ما يقرب من 30 دولارًا لاستهداف جزء من هذه الفئة.

من يُراقب من؟

الآن، نحن بدأنا حديثنا من مكانٍ يبدو غير ضار (تتبع الإعلانات لنا) ووصلنا إلى مكان مغاير تمامًا. كشعب ومواطنين، لم نعد نعرف ما إذا كنا نستقبل نفس المعلومات التي يتلقاها أي شخص آخر. ودون قاعدة مشتركة من المعلومات، أصبح النقاش العام مستحيلًا تدريجيًّا، وها نحن في المراحل الأولى من هذا.

المأساة أننا نبني البنية التحتية للمراقبة الاستبدادية لمجرد جعل الناس يضغطون على الإعلانات.

يمكن لهذه الخوارزميات بسهولة أن تستنتج أشياء عدة مثل العِرق ووجهات النظر الدينية والسياسية والسمات الشخصية والذكاء والسعادة وتعاطي المواد المخدرة والطلاق والعمر والجنس، فقط من خلال ضغطات «الإعجاب» على فيسبوك. يمكن لهذه الخوارزميات تحديد متظاهرين حتى لو كانت وجوههم مُغطاة جزئيًّا. وقد تكون هذه الخوارزميات قادرة على معرفة التوجه الجنسي للأشخاص من خلال صورهم الشخصية.

قد يعجبك أيضًا: عيون إلكترونية في كل مكان: كيف تراقبنا التكنولوجيا؟

تقدم زينب توفيقجي بعض التخمينات الاحتمالية، فهي لا ترى أنها على حق بنسبة 100%، لكنها أيضًا لا تجد القوة التي تقاوم إغراء استخدام هذه التقنيات لمجرد وجود بعض الإيجابيات الوهميّة، والتي بالطبع ستخلق طبقة من المشكلات.

تخيل ما يمكن أن تفعله الدولة بهذه الكمية الهائلة من البيانات عن مواطنيها. تستخدم الصين بالفعل تقنية اكتشاف الوجه المبنية على الخوارزميات للتعرف إلى الأشخاص واعتقالهم. والمأساة أننا نبني هذه البنية التحتية للمراقبة الاستبدادية لمجرد جعل الناس يضغطون على الإعلانات. ولن يكون هذا كالاستبداد الذي وصفه أورويل في «1984». الآن، إن كان الحكم الاستبدادي يستخدم التخويف الصريح لترهيبنا، فسنخاف فعلًا، لكننا سندرك ذلك ونكرهه ونقاومه.

لكن إذا استخدم الناس في السلطة هذه الخوارزميات لمراقبتنا بهدوء، والحكم علينا ودفعنا والتنبؤ بمثيري الشغب والمتمردين وتحديدهم، ولنشر هندسات الإقناع على نطاق واسع والتلاعب بالأفراد واحدًا تلو الآخر، باستخدام نقاط ضعفهم الشخصية والفردية، وإن كانوا يفعلون ذلك عبر شاشات هواتفنا الخاصة، حتى لا نعرف ما يراه الآخرون، فإن هذا الاستبداد سيغلفنا مثل شبكة العنكبوت، وربما لا نعرف حتى أننا فيها.