إلى أين تأخذنا التكنولوجيا؟

فلسفة الذكاء الاصطناعي: «جون سيرل» في الحجرة الصينية

الصورة: Getty/China News Service

في سبعينيات القرن العشرين، طوَّر اثنان من علماء جامعة ييل، هما «روجر شانك» و«روبرت أبيلسون»، برنامجًا استطاع معالجة مجموعة من القصص القصيرة المكتوبة باللغة الإنجليزية، ونجح البرنامج في الإجابة عن عدة أسئلة غامضة تتعلق بأحداث وشخصيات وبيئات مكتملة داخلة في سياق القصص القصيرة المدخلة مسبقًا في قاعدة بياناته، ما فتح مجالًا للزعم والاستنتاج بأن الكمبيوتر قد استطاع أن «يفهم» القصص القصيرة، وأن هذه العملية تمثل محاكاة فعلية للطريقة التي يتبعها العقل البشري في الفهم. أدى هذا إلى تقوية الطموح في أن يتطور الذكاء الصناعي حتى يجاري العقل البشري، تفكيرًا وفهمًا، وربما بعد ذلك وعيًا وشعورًا.

لكن الفيلسوف الأمريكي «جون سيرل» يرى رأيًا آخر، إذ حاول طوال مسيرته الأكاديمية البرهنة على أن طرائق عمل الكمبيوتر تختلف جذريًّا عن طرائق عمل المخ/ العقل البشري، وتعد تجربته الفكرية الشهيرة، المعروفة باسم «الحجرة الصينية» أهم إسهاماته في هذا النقاش. تجربة الحجرة الصينية من أقوى التجارب الذهنية تأثيرًا في الفلسفة المعاصرة، خصوصًا في مجال فلسفة العقل التي تحتل مكانة «الفلسفة الأولى» الآن، أي فرع الفلسفة الأسبق منطقيًّا لكل ما عداه، والذي يتأسس عليه كل شيء آخر، إضافة إلى مجالات أخرى مختلفة، كفلسفة الذكاء الصناعي، والعلوم الإدراكية (Cognitive Science)، والميتافيزيقا، وفلسفة الأخلاق.

تسعى تجربة «الحجرة الصينية» إلى الإسهام في الإجابة عن سؤال أساسي في فلسفة الذكاء الصناعي: هل تقدر الآلة (أو ربما تكون قادرة يومًا ما، من حيث المبدأ) على التفكير الواعي؟ وهل يمكن للآلات والحواسيب اكتساب الوعي والشعور في معانيهما الإنسانيين؟ وضع الفيلسوف الأمريكي «جون سيرل» حجة الحجرة الصينية للإجابة عن هذا السؤال، وهي «تجربة ذهنية» (Thought Experiment)، قوبلت بطيف متنوع من ردود الأفعال.

التجربة الذهنية تقوم بواسطة الفكر، داخل الذهن. أي إنها ليست تجربة «إمبريقية» تُجرَى في معمل، وتعتمد على قوام منطقي في الأساس، نتخيل فيها وقائع معينة تحت ظروف معينة، ونحاول استنباط نتائج هذه الوقائع ودلالاتها، وهي ليست قاصرة على الفلسفة، إنما وُظِّفَت كذلك في العلوم، وأشهرها التجربة التي أجراها «ماكسويل» لنقد قوانين الديناميكا الحرارية، وتجارب «ألبرت أينشتاين» التي أسهمت في وضعه نظرية النسبية الخاصة.

استحالة «الذكاء الاصطناعي القوي»: ما الذي يحاول سيرل إنجازه؟

«جون سيرل» - الصورة: FranksValli

تعد الحجة نفسها محاولة للإجابة عن سؤال: «هل الآلة قادرة على التفكير؟»، وبشكل أكثر تحديدًا: هل نوعية الآلات التي تعتمد على الحوسبة (Computing) قادرة على التفكير، مثل البشر، أم لا؟ وهل يمكن لها أن تكتسب «وعيًا»، كأن تدرك وجودها الذاتي؟ وهل يمكن لها اكتساب المشاعر؟ يزعم جون سيرل، من خلال حجة الحجرة الصينية، أنه لا يمكن لهذه النوعية من الآلات اكتساب أي حالات إدراكية، ولا يمكن أن تصبح آلة مُفكرة بأي حال من الأحوال. وعلى الرغم من رفض الحجة من معظم مهندسي الذكاء الصناعي وعلماء الكمبيوتر والأعصاب، فإن هؤلاء اختلفوا في ما بينهم على تقدير أسباب هذا الرفض، ما أتاح لسيرل نشر حجته وإعادة تنقيحها أكثر من مرة للرد على خصومه.

هؤلاء الخصوم يتنوعون بصورة كبيرة. فبحسب أستاذ الفلسفة، صلاح إسماعيل، تتخذ الحجة موقفًا مخاصمًا لمجموعة كبيرة من النظريات في فلسفة العقل، مثل النظرية السلوكية والنظرية الترابطية والنزعة الوظيفية. وباختصار، يمكن القول إن جون سيرل يعادي النزعة «المادية الحسابية»، أي كل تلك النظريات التي ترى في العقل أساسًا عمليات حسابية مادية في التحليل الأخير، ويتخذ موقفًا مخاصمًا بوضوح كذلك لما يُعرَف باسم «اختبار تورنغ»، والذي وضعه عالم الرياضيات والكمبيوتر «آلان تورنغ»، في منتصف القرن العشرين، بهدف تحديد ما إذا كانت الآلات قادرة على التفكير البشري.

آلان تورنغ: «يستحق الكمبيوتر أن يسمى ذكيًّا إذا كان قادرًا على خداع الإنسان ليصدق أنه إنسان».

يسعى اختبار تورنغ أساسًا إلى تمييز «الذكاء الصناعي القوي» من «الذكاء الصناعي الضعيف». وفي الذكاء الصناعي الضعيف تُبرمَج الآلات بخوارزميات معينة لكي تجري مهمات محددة في بيئة ما، ولا تستطيع الآلة العمل خارج هذه البيئة، أو إنجاز أي شيء لم تُبرمَج مباشرة على فعله، ويجعلها هذا تحاكي المهارات والقدرات البشرية في بعض المهمات، وربما تتفوق عليها أحيانًا، مثل الآلات الحاسبة البسيطة (التي تجري عمليات رياضية)، وكذلك برنامج «ديب بلو» الذي صنعته شركة «IBM» الأمريكية، واستطاع هزيمة «كاسباروف»، بطل العالم في الشطرنج. ولا تزعم أبحاث الذكاء الصناعي الضعيف أيَّ قدرة على محاكاة العقل الإنساني عمومًا، فقط بعض المهمات المحدودة.

اقرأ أيضًا: ذكاء اصطناعي لم نعد نفهمه: لهذا يجب علينا أن نخشى التكنولوجيا

على الجانب الآخر، يشير مصطلح الذكاء الصناعي القوي إلى قدرة الآلة على محاكاة عملية التفكير الإنساني نفسها، أو العقل البشري كله، ويُفترض بهذه الآلات أن تجمع المعلومات وتحللها وتجد علاقات بينها بنفس طرق البشر المنطقية، وربما النفسية، ولا تقف فقط عند هذا الحد، بل تتخذ قراراتها كذلك بناءً على هذه التحليلات، وتتعلم من أخطائها، وتطور نفسها. يستند الطموح في تطوير الذكاء الصناعي القوي إلى اعتقاد مفاده أن العقل الإنساني نفسه يعمل بالضبط كما يعمل جهاز الكمبيوتر، وأن العمليات الإدراكية والعقلية ليست في جوهرها أكثر من عمليات حسابية معقدة، ما يعني أن العقل برنامج (Software) لبنية تحتية صلبة هي المخ (Hardware).

بحسب آلان تورنغ، «يستحق الكمبيوتر أن يسمى ذكيًّا إذا كان قادرًا على خداع الإنسان ليصدق أنه إنسان»، وهذه الفكرة جوهر الاختبار الذي قدَّمه للتعرف إلى الذكاء الصناعي القوي، إذ يدخل أحد البشر في محادثة عبر الكمبيوتر مع إنسان وآلة، ليحاول أن يحدد أيهما الإنسان وأيهما الآلة، فإذا استطاع الكمبيوتر خداع الإنسان وإقناعه بأنه ليس جهازًا آليًّا، وإنما إنسان مثله، يكون قد نجح في اجتياز الاختبار، ويستحق أن يوصف بالذكاء والقدرة على التفكير، بنفس المعنى الذي يوصف به الإنسان بالذكاء والقدرة على التفكير.

الشيء الجدير بالملاحظة هنا أن اختبار تورينغ قوامه سلوكي، أي إنه ينظر إلى الحالات العقلية باعتبارها سلوكًا فقط، وينظر إلى السلوك باعتباره مكافئًا لهذه الحالات العقلية. بمعنى آخر، وبشكل أكثر تفصيلًا: تنكر النزعة السلوكية وجود أي حالات عقلية باطنية، وأن التمييز بين ما هو عاقل مما هو غير عاقل قائم فقط على أساس السلوك، وبما أن الآلة تستجيب بنفس الطريقة التي يستجيب بها الإنسان، فلا نحتاج أكثر من ذلك للتأكد من تطابقهما على مستوى العقل. لكن سيرل يرفض تمامًا هذه الرؤية، ويراها مغلوطة، ودليله على عوارها هو حجة «الحجرة الصينية».

«الحجرة الصينية»

ما هي «الحجرة الصينية»؟

ينطلق مشروع الذكاء الصناعي القوي إذًا من الاعتقاد بأن العمليات الذهنية مكافئة تمامًا لعمليات فيزيائية، وتحديدًا حسابية، ما يعني أن الفهم (بمعناه البشري) هو في التحليل الأخير نوع من الحساب. لكن إذا كانت هذه الفكرة خطأً، فإن هذا يعني أن إنجاز الذكاء الصناعي القوي مستحيل، وأن الآلات الحاسبة ستظل آلات حاسبة، وسيظل البشر بشرًا، ولا يمكن لأجهزة الكمبيوتر أن تمتلك القدرة على التفكير أو الوعي أو الشعور مثلها مثل الإنسان.

تخيل سيرل نفسه داخل حجرة مزودة بمدخل واحد ومخرج واحد، وليس بها إلا حزمة من الأوراق، ومجموعة من الرموز والعلامات الخاصة باللغة الصينية. يدعونا سيرل لتخيله داخل الحجرة الصينية، فهو يتحدث الإنجليزية فقط، ولا يعرف أي شيء عن اللغة الصينية، لكن أحد المتحدثين بالصينية يمرر ورقة مدونًا عليها سؤال مكتوب بالصينية من خلال المدخل، ومن المفترض أن يجيب سيرل على هذا السؤال بالصينية كذلك، ويمرر الإجابة من خلال المخرج.

لا يستطيع سيرل حتى التمييز بين الكتابتين الصينية واليابانية، لكنه يمتلك في الحجرة كتابًا بالإنجليزية، هو عبارة عن مجموعة من الإرشادات في صيغة أوامر، على شكل: «إذا كان... إذًا...»، بجانب رموز بالصينية لا يفهم معناها. ووظيفة هذا الكتاب الإرشادي تقديم مجموعة من التعليمات تجعل سيرل قادرًا على التعامل مع رموز اللغة الصينية بشكل صوري بالكامل، أي التعرف عليها من خلال شكلها، ومن ثَم يستطيع الإجابة عن الأسئلة عن طريق مطابقة الرموز المدخلة، مع الكتاب الإرشادي، لكي يحصل على الإجابات ويمررها من خلال المخرج.

وفقًا لسيرل، بما أن الكمبيوتر يُجري العمليات الحسابية، فهو يتعامل مع مجموعة من الرموز والتعليمات بشكل صوري.

وبافتراض أن سيرل لم يخطئ، ولو حتى مرة واحدة، في اتباع التعليمات التي ينص عليها الكتاب، تكون الإجابات المُخرَجة مطابقة للأسئلة المدخلة. وهكذا يبدو سيرل في نهاية الأمر مجيدًا للغة الصينية بالنسبة إلى الأشخاص الواقفين خارج الحجرة، وبذلك يجتاز اختبار تورنغ بنجاح.

ثم يتساءل سيرل: «هل يعني ذلك أنني أجيد اللغة الصينية حقًّا؟»، والإجابة هي بالطبع لا. ما فعله سيرل (أو الكمبيوتر في حالة الذكاء الصناعي) أنه طبَّق مجموعة من العمليات المنطقية التي أُمليت عليه من خلال كتاب للإرشادات (برنامج) ليخلط رموزًا بالصينية موجودة في الحجرة (قاعدة بيانات)، ولكنه يجهل فحواها، لكي يجيب عن مجموعة من الأسئلة (المدخلات) منتجًا إجابات (المخرجات) بشكل يفتقد تمامًا لأي معنى أو فهم، لأن سيرل نفسه يقر بأنه لا يعرف عن الصينية شيئًا.

على العكس تمامًا من ذلك، يستطيع سيرل الإجابة عن الأسئلة بطريقة يعمل فيها «الفهم» حجر الزاوية في التجربة، إذا كانت، وفقط إذا كانت، اللغة المكتوبة بها الأسئلة هي نفسها اللغة التي يجيدها سيرل ويفهم معناها، أي عندما تتحول الحجرة الصينية إلى حجرة إنجليزية، حينها فقط تصبح العملية قائمة على أساس المعنى والدلالة والفهم، وليس على مجرد رموز صورية صماء غير مفهومة. نلاحظ أنه في استطاعة سيرل اجتياز اختبار تورنغ في الحالتين، في حال إذا كانت الأسئلة بالصينية أو بالإنجليزية، ولكن ما هو الفرق؟

في حالة لو كانت الحجرة بالإنجليزية، لا يملك سيرل فقط الرموز الإنجليزية على مجموعة من الأوراق، ولكنه يملك كذلك المعنى والمضامين الدلالية التي تملكها اللغة. أما في حالة الحجرة الصينية، فلا يملك سيرل أي مضامين دلالية، بل فقط رموز لا معنى لها. في حالة اللغة الصينية سيرل يعد فقط جهاز كمبيوتر.

ينتج عن ذلك أن الكمبيوتر لا يفهم شيئًا، فهو لم يفهم قصص «شانك» و«أبيلسون»، إنما فقط يجري عمليات حسابية، وكل ما يعرفه هو الحساب، وهو حتى أنه لا يدرك حقيقة أنه يجري هذه العمليات التي تتم آليًّا باستخدام مجالات كهربية وظواهر فيزيائية داخل مكونات الجهاز.

إذًا، نستطيع القول مع سيرل، إن الكمبيوتر بما أنه يُجري العمليات الحسابية، فهو يتعامل مع مجموعة من الرموز والتعليمات بشكل صوري. عملية الحساب نفسها تُجرى بشكل مجرد وصوري، في حين أن الحالات الإدراكية والعقلية الطبيعية يلعب فيها المعنى دورًا رئيسيًّا. فالعقل يحتوي على مضامين ودلالات ومعانٍ، ولا يجري عملياته الإدراكية فقط بالتلاعب بالرموز. ومن هنا يظهر توظيف سيرل للتمييز بين التركيب، أو «السنتاطيقا» (Syntax) والدلالة، أو «السيمانطيقا» (Semantics) في حجته، وهذا التمييز ببساطة قائم على الفرق بين الرموز، وما تعنيه الرموز.

قد يهمك أيضًا: لماذا لا يفهمنا الذكاء الصناعي؟

السنتاطيقا والسيمانطيقا: التمييز بين التركيب والدلالة

الصورة: Airman 1st Class Zade C. Vadnais

لا يبدأ سيرل بمهاجمة برنامج شانك وأبيلسون تحديدًا، فهو لا يقصد هذا البرنامج بالذات، وإنما يهاجم فرضية أساسية يقوم عليها علم الذكاء الصناعي بأكمله، وهذه الفرضية هي المتعلقة بإمكان تحقيق الآلات التي تعمل وفقًا لإجراءات تركيبية خالصة، للفهم أو القدرة على التعاطي مع الدلالة. يؤدي هدم هذه الفرضية إلى التشكيك في قدرة أي آلة «تورنغية»، أي آلة تعتمد الحساب أساسًا كطريقة للاستدلال، على التفكير، إذ مهما بلغت قدراتها الحسابية، فإنها تظل، مثلها مثل سيرل، داخل الحجرة الصينية، مجرد لاعبة بالرموز، دون أن تفهم منها شيئًا.

مهما تقدم الذكاء الصناعي أو تطور لن يكتسب أبدًا المحتوى العقلي، أو صفة العقلانية.

الغرض من وراء انتقادات سيرل إذًا هو مهاجمة فكرتين أساسيتين:

  1. الزعم بأن الآلة حقًّا تستطيع، أو قد تستطيع، الفهم (فهم القصص القصيرة مثلًا في حالة برنامج شانك وأبيلسون).
  2. الفكرة القائلة بأن طريقة تصرف الآلة وعلاقتها بالبرنامج التي تعمل وفقًا له، تفسر الطريقة والآلية التي يفهم الإنسان من خلالها الأشياء (فكرة أن العقل برنامج كمبيوتر).

بواسطة الحجرة الصينية، يخبرنا سيرل عن الأسباب التي ينكر من أجلها هاتين الفكرتين. ينطلق سيرل في حجته المنطقية المترتبة على التجربة الذهنية من ثلاثة مقدمات ليصل إلى نتيجة، وهذه المقدمات هي:

  1. البرامج التي تعمل بها أنظمة الذكاء الاصطناعي ذات طابع صوري (سنتاطيقي).
  2. للعقول محتوى عقلي مفاهيمي دلالي، له معانٍ (سيمانطيقي).
  3. الطابع الصوري التركيبي اللغوي (السنتاطيقي) ليس لديه القدرة، وحده، على أن يكون أساسًا كافيًا للمعنى أو للدلالة التي يتميز بها المحتوى العقلي.

والنتيجة التي يستخلصها سيرل من هذه المقدمات: تكون البرامج غير كافية وحدها لأن تعمل كأساس لمحتوى عقلي يضم المعنى ويحتضن الدلالات، وهذا هو المطلوب إثباته.

تلزم عن هذه النتيجة، إذا لاحظت أو لم تلاحظ ذلك، نتيجة أخرى مفادها أن الذكاء الاصطناعي مهما تقدم أو تطور لن يكتسب أبدًا المحتوى العقلي، أو صفة العقلانية، وذلك بسبب تمايز جوهري بين طبيعة المحتوى العقلي الحامل للدلالات، عن طبيعة عمل الذكاء الصناعي المؤسس على التركيبات اللغوية والمنطقية الحسابية، والخالية من أي معنى، أي التمايز بين ما هو سنتاطيقي وما هو سيمانطيقي.

نقد الحجرة الصينية

«جون سيرل» - الصورة: FranksValli

يقول سيرل إن عدد الردود والحجج المكتوبة بالإنجليزية ضد حجة الحجرة الصينية قد تجاوزت 200 حجة. ويقول إنه نجح مع ذلك في الرد عليها كلها، حتى لو كانت ردوده جعلته يضفي سيناريوهات جديدة كليًّا على التجربة الأصلية. وأبرز هذه الردود وأشهرها رد العقول الأخرى ورد المنظومة (أو السيستام).

رد العقول الأخرى

تُعرِّضنا الفلسفة لأفكار ومشكلات غريبة، وسر غرابتها وطرافتها في بعض الأحيان، أنها تكون بعيدة تمامًا، بل متناقضة أحيانًا، مع  «الحس المشترك» (Common sense)، ومشكلة العقول الأخرى واحدة من أبرز الأمثلة على هذا التعارض.

العقول الأخرى مشكلة كلاسيكية في الفلسفة، تتمحور حول السؤال التالي: ما الذي يجعلك على يقين من أن الآخرين يملكون بالفعل عقولًا، ويشعرون بنفس ما تشعر، وأن لهم نفس ما لك من حالات إدراكية؟ أيمكن أن يكون أقرب الناس إليك مجرد آلة من نوع ما، تسلك بالضبط كالبشر، لكنها ليست بشرًا بالفعل؟ أو مجرد تخيلات وأفكار داخل عقلك ليس لها وجود مستقل في الخارج؟ ربما لا تؤخذ مثل هذه الأفكار في كثير من الأحيان على محمل الجد، أو قد يُنظر إليها على أنها مضيعة للوقت، ولكن مع ذلك، يبقى إنكار امتلاك الآخرين عقولًا، وإنكار وعيهم، بل والتشكيك في وجودهم نفسه، لا يؤدي إلى أي تناقض منطقي، وكانت هذه الحقيقة دائمًا مزعجة بالنسبة إلى الفلاسفة.

هل سيكون للآلات اعتبار أخلاقي في يوم ما؟ هل يمكن أن يُجرم المرء بحقها؟ وهل لها أي حقوق أصلًا؟

لكن على أي حال، تؤخذ مشكلة العقول الأخرى كرد على حجة الحجرة الصينية، بالشكل التالي: فكما لا يمكنني التأكد من أي حالة عقلية للناس الآخرين، لكني أعرف أن لهم نفس ما عندي بالتناظر أو بالقياس، بناء على سلوكهم الخارجي، فأنا لا أستطيع الولوج داخل الجهاز العصبي المركزي لأحدهم والشعور بما يستطيع بالفعل الشعور به، والتفكير كما يفكر، ولكن من سلوك هذا الشخص (الذي يشبه كثيرًا سلوكي أنا، وردود أفعالي) أستطيع الجزم بأن هذا الشخص «يبدو» عليه أن لديه الحالات العقلية والمشاعر نفسها، فهو يتألم ويبكي ويصرخ مثلي بالضبط.

وبالطريقة نفسها، لا يمكنني أن أحكم ببساطة على الآلات بأنها لا تملك هذه العقول، إذا بدأت بالتصرف وإعطاء النتائج بطريقة توحي أنها تفكر بالفعل. فمن سلوك الآلات الخارجي أستطيع الاستدلال على أن لديهم عقلًا داخليًّا وحالات قصدية ووعي، والنتيجة المترتبة على ذلك أن سيرل داخل الحجرة الصينية يفهم الصينية تمامًا، حتى لو أنكر هو نفسه ذلك.

ربما يكون هذا الرد غير مرضٍ بالنسبة إلى كثيرٍ من متابعي النقاش، لكنه يلقى رواجًا خاصًّا عند المشتغلين بالذكاء الصناعي الذين لا يعنون كثيرًا بالتساؤلات الفلسفية المجردة، فبالنسبة إليهم، إذا كانت الآلة «تمشي وتتكلم مثل الإنسان»، إذًا، فهي، عمومًا دون تعقيدات كثيرة، مثل الإنسان.

رد المنظومة

من الردود الأكثر رواجًا في الأوساط الفلسفية على حجة جون سيرل الرد المعروف برد المنظومة أو «السيستام». صحيح أن سيرل داخل الحجرة لا يفهم الصينية، لكنه لا يمثل سوى جزء وحيد من الحجرة، فهو يناظر وحدة المعالجة المركزية «CPU» في الكمبيوتر، في حين أن فهم الصينية نتاج النظام بأكمله، أي الحجرة نفسها، بكل ما فيها من حزم الأوراق، وكتيب الإرشادات، والرموز الصينية المبعثرة في كل مكان.

لا ينسب هذا الرد عملية الفهم إلى الفرد الجزء، بل إلى المجموع أو محصلة العملية، أي إن الحجرة نفسها تفهم الصينية، رغم أن جون سيرل وحده لا يفهمها، ومع أن خلية عصبية وحيدة داخل المخ قد لا تجيد اللغة العربية مثلًا، فإن المخ كله يفعل.

يجيب سيرل عن اعتراض السيستام قائلًا: «يمكننا عمل تعديل بسيط على تجربتنا، هب أنني استطعت حفظ كتيب الإرشادات وأشكال الرموز عن ظهر قلب، وهأنذا وقد جلست في الهواء الطلق وأجاوب على الأسئلة، وأصبحت أنا النظام كله، وما زلت لا أفهم الصينية».

يمكن للمرء أن يشكك بالتأكيد في كون سيرل «لا يفهم الصينية» إذا استطاع فعلًا حفظ كتيب الإرشادات وأشكال الرموز كلها عن ظهر قلب كما يقول في رده، فهذا هو بالضبط ما يحتاجه ليكون ملمًًا باللغة، وعندما يحاول الإنسان تعلم لغة جديدة، فإنه يلجأ عادة إلى طريقة مشابهة، أي يحفظ رموز اللغة وقواعد تركيبها الأساسية، وعندما يتمرن على استخدامها بسرعة، ودون كثير من التفكير الواعي، نعده «فاهمًا» للغة.

يظل الجدل مستمرًّا مع ذلك، فيما تتقدم تقنيات الذكاء الصناعي بسرعة كبيرة. ومع أن التقدم الفعلي للذكاء الصناعي قد يوهم بعض المراقبين بأن الأسئلة الفلسفية من هذا القبيل لا فائدة منها، ولن تؤدي إلى أي فرق في مسيرة تطور الآلات، إلا أن النقاشات القانونية قد تبدأ بالظهور سريعًا مصاحبة لهذا التطور، وهذه النقاشات ستكون فلسفية في جوهرها: فهل سيكون لهذه الآلات اعتبار أخلاقي؟ هل يمكن أن يُجرم المرء بحقها؟ وهل لها أي حقوق أصلًا؟ ترتبط كل هذه الأسئلة بالضرورة بمقدرتنا على فهم طبيعة «العقل الآلي»، وهو الفهم الذي سيكون وجهًا آخر لفهم عقلنا نفسه.