عندما يخلق الإنسان الله، عليه أن يكون ودودًا

في عام 1993، صاغ عالم الرياضيات والكاتب فيرنور وينج مفهوم التفرد (Singularity)، وهي آلة ستتفوق على الإنسان في حكمتها وقدراتها، بل وادعى أنها ستظهر بحلول عام 2030. وكان خبير الكمبيوتر إليعازر يودكوفسكي من أتلانتا قد سبق أن أنشأ معهدًا، الغرض منه كتابة البرامج التي تكفل أن يكون ذلك ودودًا وأخلاقيًا

يوفال درور، هآرتس، نيوز ووالا!

الرسم التوضيحي: شيرا مازور

أدى الفيلم الأول ضمن سلسلة "الماتريكس" إلى نشر عشرات المقالات التي تناولت المعاني الفلسفية المخبأة فيه. إحدى القضايا التي تمت مناقشتها باستفاضة كانت مسألة قدرة "الآلات" على السيطرة على البشر يومًا ما. لقد ظل كتاب الخيال العلمي يتصارعون مع هذه القضية منذ عقود. في عام 1993، رفع عالم الرياضيات وكاتب الخيال العلمي فيرنور وينج الجدل إلى مستوى عندما ادعى أن الكيان الذي سيتفوق على البشر في حكمته وقدراته، والذي أسماه "التفرد"، سيصل في المستقبل القريب: ليس قبل عام 2005 وليس بعد عام 2030. ويقول في مقابلة خاصة لصحيفة "هآرتس" إنه على الرغم من مرور أكثر من عقد على التنبؤ، إلا أنه لا يغير التوقعات.

قد يكون من الممكن استبعاد الفكرة باعتبارها شيئًا لا يزعج سوى نوع واحد من الأشخاص - شخص يقرأ بفارغ الصبر كتب الخيال العلمي ويتخيل للحظة أنه بطل إحدى الحبكات. ولكن في السنوات الأخيرة، ارتفع عدد متزايد من المؤيدين لفكرة التفرد. أحدهم هو إليعازر يودكوفسكي، وهو يهودي أمريكي يبلغ من العمر 23 عاماً من أتلانتا، أسس "معهد التفرد للذكاء الاصطناعي" عام 2000، والذي يتمثل دوره في تسريع إدخال التفرد إلى العالم. على الرغم من حججه التي تبدو معقدة للغاية، إلا أنه لا يثير إعجاب خبراء الذكاء الاصطناعي. ووفقا لهم، فإن المسافة بيننا وبين بناء آلة ستكون ذكية مثل البشر كبيرة جدا، بحيث لا يوجد سبب لمناقشة عالم ستوجد فيه آلة ستكون أكثر ذكاء من البشر.

المرآة ناعمة والمرآة صلبة

يتمتع Wing بمكانة مرموقة في عالم فلسفة التكنولوجيا. وفي عام 1981، نشر كتاب "الأسماء الحقيقية" الذي تناول موضوع الهاكرز الذين يعملون في الفضاء السيبراني - وكان ذلك قبل ثلاث سنوات من صياغة ويليام جيبسون مصطلح "الفضاء السيبراني". عندما استخدم مصطلح "التفرد"، كان يعلم أن له بالفعل معاني مرتبطة به في مجالات أخرى، مثل ما يتعلق بالثقوب السوداء. وفقا لطريقة فينج، يميل البشر إلى تحليل المستقبل على أساس فرضية أن الذكاء البشري سيحكم الأرض. لكنه يتساءل: ألم يحن الوقت لاختبار صحة الافتراض؟

يرى Vinge أن التحسينات في الأجهزة والبرمجيات شرط ضروري لوجود التفرد. ووفقا له، فقد أثبتت العقود الأخيرة أن التقدم في مجال الأجهزة يفوق كل الخيال. إن القدرات الحسابية لأجهزة الكمبيوتر، التي كانت تعتبر قوية قبل 30 عامًا، منخفضة للغاية مقارنة بما هو موجود اليوم. وفي مقال نشره عام 1993، كتب أنه كان على علم بالجدل الدائر حول ما إذا كان بإمكان العلماء بناء آلة تكون ذكية مثل البشر. "إذا كانت الإجابة إيجابية، فليس هناك شك تقريبًا في أنه سيكون من الممكن بناء آلة أكثر ذكاءً من البشر". ويدعم ادعاءه قانون مور (الذي سمي على اسم جوردون مور من شركة إنتل)، والذي ينص على أن قدرة معالجة رقائق الكمبيوتر تتضاعف كل 18 شهرًا. لأن عملية حسابية بسيطة تظهر أنه في غضون سنوات قليلة سيصل الكمبيوتر إلى قدرات معالجة مماثلة لتلك التي يمتلكها البشر. ومن هذه اللحظة فإن التحول إلى كائن أذكى من البشر قد يحدث خلال أيام أو ساعات أو ربما حتى دقائق.

هنا، كما توقع وينج، ستبدأ الأمور في التحرك بسرعة مذهلة. إن قدرة الكيان على التحسين الذاتي، والتي سوف "تتولى" بشكل أساسي "السيطرة" على معدل تطوره، ستزداد حتى النقطة التي بين غمضة عين والأخرى سوف يتضاعف "حكمته". في هذه المرحلة، يقول فينج، سيكون الشخص بالفعل تحت رحمة الكيان. ستتراوح السيناريوهات المحتملة بين التقدم غير المسبوق في القدرات البشرية (سنقوم بتحميل أدمغتنا إلى أجهزة الكمبيوتر) إلى محرقة من النوع الذي وصفه "الماتريكس"، عندما تستخدم الآلات البشر بالفعل كبطاريات كهربائية. ويوضح فينج أن العدد المتزايد من الباحثين في مجال الذكاء الاصطناعي يزيد من فرصة وصول التفرد. ويوضح قائلاً: "إذا جمعنا بين قانون مور وقدراتنا كبشر، فإننا نفهم أن هناك احتمال أن يصل التفرد إلى العالم في المستقبل القريب".

ووفقا له، هناك احتمالان لوصول التفرد، وهو ما يسميه النظرة الناعمة والنظرة الصلبة. ويقول: «في إطار الانطلاقة الناعمة، ستحدث الأمور ببطء، على مدى عقود وربما مئات السنين، عندما يتعاون البشر مع الآلات وينتجون التفرد ببطء. وفي هذه الحالة ستكون البشرية قادرة على إعداد نفسها. الإقلاع الصعب مختلف تمامًا. وفي داخله سيتم إنشاء وعي التفرد في وقت قصير، أيام وربما حتى ساعات. في هذه الحالة، من الصعب التنبؤ بما سيحدث لنا".

عيوب قوانين الروبوت

تتمثل مهمة المعهد الذي أسسه يودكوفسكي (وعنوانه على الويب www.singinst.org) في كتابة كود الكمبيوتر الذي سيؤدي في النهاية إلى التفرد. ووفقا له، فهو يدرك المخاطر الكبيرة التي يحملها عصر التفرد، وبالتالي فإن هدفه الرئيسي هو بناء الكيان بحيث يكون "صديقا" للبشر. وقال في مقابلة مع صحيفة هآرتس: "نحن نركز جهودنا على بناء التفرد لأننا نعتقد أن هذه هي النقطة الأكثر أهمية في تاريخ البشرية". "عند هذه النقطة إما أن تهلك البشرية إلى الأبد أو تبقى على قيد الحياة، حسب درجة حكمتنا وعقلانيتنا ومهارتنا".

ويوضح يودكوفسكي أن المعهد يعمل في هذه المرحلة على حل المشاكل التقنية المتعلقة بالذكاء الاصطناعي، وذلك بحيث لن يتكون التفرد من مجموعة من أجزاء التعليمات البرمجية التي يحدث عملها، بل سيكون مبنياً على "إدراك متماسك و الميزات التي ستسمح له بالشعور بالأهداف وصياغتها، وكل هذا بطريقة أخلاقية." ووفقا له، "في هذه المرحلة تقريبا كل من يتعامل في مجال الذكاء الاصطناعي يتعامل مع هذه المشاكل، ولكنه يعتقد أيضا أنها صعبة للغاية بحيث لا يمكن حلها. نأمل أن يكونوا مخطئين. على الأقل نحاول أن نفعل شيئًا حيال ذلك".

لا يوجد سبب للتسرع والإثارة بشأن كلمة "معهد" أو ميل يودكوفسكي إلى التحدث بصيغة الجمع بضمير المتكلم. في بداية المقابلة، يوضح يودكوفسكي أن معهده يوظف باحثًا متفرغًا (هو نفسه) ومتطوعًا. وأوضح: "نقوم في هذه المرحلة بنشر أوراق الموقف النظري". وهو يعترف بأن المعهد لم يكتب بعد سطرًا واحدًا من التعليمات البرمجية، لكنه يوضح أنه يجب بناء نظرية قبل كتابة البرنامج.

من الصعب تجاهل التزام يودكوفسكي بالقضية. وفي مقابلة مع مجلة "وايرد" قبل عامين، قال إنه ملتزم بالتفرد منذ أن كان عمره 11 عاما، عندما قرأ كتاب فينج "الأسماء الحقيقية". وأوضح في ذلك الوقت: "عندما وصلت إلى الصفحة 47، أدركت ما سأفعله لبقية حياتي". لم يحصل يودكوفسكي على تعليم رسمي في مجال الكمبيوتر، لكنه يدعي أن تعليمه غير الرسمي أوسع بكثير من تعليم الكثيرين. وعرّفته الموسوعة الإلكترونية "ويكيبيديا" بأنه "عبقري في نظر نفسه". وفي صفحة خاصة بسيرته الذاتية، قام بتحميلها على الموقع الإلكتروني للمعهد قبل عامين، كتب: "أعتقد أن مستقبل البشرية قد يتقرر بفضل جهودي. أعتقد أنني أستطيع إنقاذ العالم ليس فقط لأنني أبذل جهدًا، ولكن لأنني الوحيد الذي يستطيع بذل هذا الجهد". وبعد أن وردت هذه الجملة في المقال، تم تغيير النص وأصبح الآن يتضمن لائحة اتهام ضد الصحفيين الذين اختاروا التشهير به بدلاً من الانخراط في عمله.

في ظاهر الأمر، يبدو الجهد الذي يستثمره يودكوفسكي في بناء شخصية فريدة "صديقة للشعب" أمرًا غريبًا. لأنه، نظريًا، منذ اللحظة التي يصبح فيها الكيان واعيًا بذاته، سيكون قادرًا على تغيير برمجة يودكوفسكي الأساسية والتحول إلى آلة قاتلة. ولا ينكر يودكوفسكي أن هذا سيناريو محتمل، لكنه يؤكد أنه من الممكن تقليل فرص تحقيقه من خلال برمجة التفرد بحيث يحمل طابعا متعاطفا. "خذ غاندي على سبيل المثال. لقد كان رجلاً يتمتع بقدرة لا تصدق على ضبط النفس. لماذا لم يغير برامجه ويقرر أنه يريد أن يحكم العالم بدلاً من مساعدة الناس؟ أنا أيضًا شخص ذكي وما زلت لا أرغب في "تغيير برامجي" وقتل الناس. إذا كان الأمر يتعلق بالبرمجة، فأنا مبرمج جيدًا". ووفقا له، فإن هذا يشبه تربية الطفل. "إذا قمت بتربية طفل منذ الصغر، فيمكنك تعليمه، وتثقيفه، وتوجيهه حتى يحب الناس. لكن إذا حصلت على ولد كبير مغرور، فستجد صعوبة في جعله محبًا للغير. عاجلاً أم آجلاً سوف يتمرد ويصبح أنانياً مرة أخرى."

تناولت سلسلة الروبوتات لكاتب الخيال العلمي إسحاق أسيموف كثيرًا مسألة كيفية حماية الإنسان من الروبوتات التي تفوق قدرتها قدرته. في كتب أسيموف، يتم التحكم في عقول الروبوتات من خلال ثلاثة قوانين أساسية ذات تسلسل هرمي داخلي. حسب قوانين الروبوتات فإن الروبوت لن يؤذي الإنسان ولن يفترض أنه سيتأذى (القانون الأول)، سوف يطيع أوامر الإنسان (القانون الثاني) ويحمي نفسه (القانون الثالث) . في الكتب اللاحقة، يقوم روبوتان ببرنامج Zero Law، الذي يضع مصلحة الإنسانية فوق مصلحة الأفراد.

يقول يودكوفسكي إن قوانين الروبوت التي وضعها أسيموف هي خيال علمي ولا يمكن تطبيقها على أرض الواقع. لكنه يشير إلى أنه من الممكن أن "هدفنا هو اكتشاف كل ما هو معيب في قوانين الروبوتات".

يقول فينج إنه سمع عن معهد يودكوفسكي ولا يعارض أهدافه. ويقول: "إذا كان هناك بالفعل كائنات خارقة في العالم، فسيكون من الجميل أن يحبونا. وإذا كان التفرد يأتي في شكل "مظهر ناعم"، فهذا هدف مهم". إذا كان الأمر "مظهرًا صعبًا"، فإن مثل هذا التخطيط لا معنى له".

عندما يتظاهر الكمبيوتر بأنه امرأة

بالنسبة للدكتور شاؤول ماركوفيتش، من كلية علوم الكمبيوتر في التخنيون، فإن مناقشة التفرد أمر غريب للغاية. "نحن بعيدون كل البعد عن هذه الرؤية. أجهزة الكمبيوتر لدينا تعرف كيف تفعل أقل بكثير مما يعتقده الناس." ووفقا له، "في مجالات مثل فهم الكلام، وتحليل السياق، وتحليل الصور، لم نحقق سوى تقدم ضئيل للغاية في الخمسين عاما الماضية. إن المناقشة حول أجهزة الكمبيوتر الأكثر ذكاءً منا هي مناقشة متجددة الهواء."

لتوضيح استنفاد أجهزة الكمبيوتر، من المعتاد استخدام مثال اختبار تورينج (الذي ابتكره عالم الرياضيات آلان تورينج). ويشرح الفكرة الدكتور أميت بينشيفسكي، خبير الاتصالات والدراسات الثقافية في جامعة بن غوريون. "نظرًا لأنه من الصعب اختبار الذكاء في حد ذاته، فقد تم إنشاء اختبار تورينج كاختبار يمكن من خلاله تحديد ما إذا كان الكمبيوتر ذكيًا مثل البشر. كجزء من الاختبار، يدخل ثلاثة أشخاص إلى ثلاث غرف مختلفة. في إحدى الغرف رجل وفي الثانية امرأة وفي الثالثة باحث. الباحث لا يرى ولا يسمع الرجل والمرأة في الغرف الأخرى. يعطيهم أسئلة مكتوبة ويجيبون عليها كتابيًا. هدفه هو تحديد أيهما هو المرأة، حيث يحاول كل من الرجل والمرأة إقناعه بأنهما المرأة. وفقًا للاختبار، إذا استبدلنا الرجل بجهاز كمبيوتر وتظاهر بأنه امرأة بنجاح لدرجة أن الباحث صدقه، فيمكن القول أن الكمبيوتر ذكي."

وفقًا لماركوفيتش، تفشل أجهزة الكمبيوتر اليوم في اختبار تورينج بشكل محرج. "لنفترض أنك مررت السؤال التالي: "قام الصبي بإلقاء الكأس على الحائط فكسره. كيف يمكن إصلاحه؟ لن يتمكن الكمبيوتر من معرفة ما الذي انكسر، سواء كان الكوب أو الجدار. وقد يجيب الباحث بسؤال ما الذي كسر؟ ومن المرجح أن الشخص الحقيقي، على عكس الآلة، سوف يجيب على الفور بـ "الغراء" - لأنه يعلم أن ما انكسر كان الكوب وليس الجدار. قد لا يفهم الإنسان المعادلات التفاضلية، لكنه يعرف فيزياء العالم. وبما أن أجهزة الكمبيوتر غير قادرة على تحليل اللغة الطبيعية، فلن تكون قادرة على الإجابة بشكل مقنع."

يقول ماركوفيتش أنه يجب على المرء أن يتساءل عما إذا كان من الممكن تخفيض الدماغ البشري إلى مستوى الفيزياء والكيمياء. "أنا وآخرون نعتقد أنه من الممكن الإشارة إلى مجموعة من العمليات البيوكيميائية التي تحدث في الدماغ، والتي تفسر كل عاطفة وفكر. في رأينا، لا يوجد شيء اسمه "الروح". إذا كان الأمر كذلك، فلدينا فرصة لبناء جهاز يحاكي الدماغ. والسؤال الثاني هو ما إذا كان النموذج الحالي للكمبيوتر كافيا لبناء الدماغ. الجواب، على ما يبدو، لا. فالدماغ يعمل بشكل مختلف عن الكمبيوتر."

ووفقًا لبينشيفسكي أيضًا، فمن غير المعقول الاعتقاد بأن العمليات التي تحدث في الدماغ يمكن ترميزها بلغة ثنائية. "سوف ننطلق من افتراض أن الكائن الذكي هو كائن يفكر. كيف نصنع جهاز كمبيوتر يفكر؟ سنكتب مجموعة من الخوارزميات. لكن منذ اللحظة التي أزلت فيها العنصر البشري من العقل، فقد أزلت عدم اليقين والعشوائية. لقد تركت مجموعة من القوانين."

استخراج الدماغ من الجسم

ويدعي يودكوفسكي أن التفرد سينجح في تغيير وعي الناس عن طريق انتزاع عقولهم من أجسادهم. "وهكذا ستحررنا من الألم والتوتر. ستكون دائرة عقيمة من المتعة ليس لها نهاية." بالنسبة لبينتشيفسكي، لليوتوبيا جانب ثانٍ وخطير للغاية. "لماذا لا يريد الناس أن يتم الحكم عليهم من خلال الآلة؟ لأنهم يريدون شخصاً يتجاوز عقله مجموعة السوابق القانونية والقوانين الجافة؛ إنهم يريدون شخصًا يشعر بالألم ويشعر بالتعاطف. منذ اللحظة التي أخرجت فيها الدماغ من الجسم الذي يقيم فيه، قمت بإزالة فرصة الآلة في الشعور بأي شيء فعليًا. ومن وجهة النظر هذه، قد يكون مثل هذا الكائن الذكي عنيفًا للغاية."

يقول يودكوفسكي إن العلم، خلافًا للاعتقاد الشائع، يفهم عالم العواطف بشكل أفضل من عالم العقل. "لقد خطى العلماء خطوة كبيرة إلى الأمام على وجه التحديد في فهم بيولوجيا وفسيولوجيا العواطف. ومع ذلك، لا يزال من غير الواضح ما إذا كنا كذلك

بشكل عام، يمكن برمجة العواطف. هذا هو بالضبط المكان الذي تبدأ فيه الأمور بالتعقد."

يشير ماركوفيتش إلى مشكلة أخرى. وهو يدعي أنه في بناء التفرد يتم طي الافتراض بأن البشر قادرون على خلق مخلوق له وعي. "نحن ننسى أن الدماغ البشري تطور بعد ملايين السنين من التطور. إن التظاهر بأننا قادرون على خلق شيء مماثل هو أمر غريب بالنسبة لي."

ويودكوفسكي يعرف الانتقادات وهو مستعد لها. "أعتقد أن كل من يحاول إنشاء آلة تكون بنفس ذكاء البشر فهو يحاول تحقيق هدف محدود للغاية. وبشكل عام، فإن تلك الملايين من السنين من التطور أقل إثارة للإعجاب بكثير مما تبدو عليه. إذا كان الانتقاء الطبيعي، الذي أوصل البشر إلى ما هم عليه، يحاول خلق التفرد، فإنه سيحتاج إلى آلاف الأجيال من التجارب. البشر قادرون على خلق نفس التفرد بسرعة أكبر." يتفق معه فينج في هذه النقطة. "أنا راضٍ إذا تمكنا كبشر من فهم أنفسنا بشكل كامل. وعلى الرغم من ذلك، فإننا ننتج مخلوقات شبيهة بالإنسان بشكل منتظم - فنحن ننجب الأطفال. ولا شك أن هناك حاجة إلى اختراقات، لكن هذه اختراقات تكنولوجية وليست اختراقات في المجال المعرفي".

لا يعترف يودكوفسكي بذلك، لكنه يحاول بطريقته الخاصة أن يخلق نوعًا من الإله. ويذكر أنه ليس متدينا، ولكن من المهم بالنسبة له التأكيد على أنه حتى الشخص المتدين لا ينبغي أن يكون لديه مشكلة في نهجه. "لو كنت شخصًا متدينًا، لأعتقدت أنه يمكن التوفيق بين التفرد والدين، حيث يمكن التوفيق بين الحقائق المختلفة مع بعضها البعض بسهولة".

ويتفق مع ذلك البروفيسور يهودا جيلمان، من قسم الفلسفة في كلية العلوم الإنسانية في جامعة بن غوريون. "ليس كل من هو أكثر حكمة منا هو بالضرورة الله. ورغم أن هناك اعتقادًا شائعًا بأن الإنسان هو تاج مجد الله، إلا أنه لا يجب أن يكون الأمر على هذا النحو". وعلى حد قوله: «في التاريخ كان هناك مؤمنون قالوا إن الله لو أرادنا أن نطير لخلقنا بأجنحة. حسنًا، لم يخلقنا بأجنحة، بل خلقنا بعقل، هو الذي خلق لنا الطائرة. لا أرى أي مبدأ لاهوتي في أن الإنسان يجب أن يكون هو الأسمى في الكون، لكني أرى فقط أن هناك علاقة بين البشر والله، بين اليهود والله. لا يوجد سبب يمنع الحفاظ على العلاقة حتى في عصر التفرد".

على الرغم من أن وينج توقع وصول التفرد، إلا أنه يحاول عدم المبالغة في التنبؤ بالمستقبل البعيد. ويوضح قائلاً: "لا أحد يعرف ما يخبئه المستقبل لنا، ودائماً ما تكون هناك مفاجآت". "لكن يبدو لي أن الطريقة الصحيحة لدراسة المستقبل هي أن نأخذ في الاعتبار أنه ستكون هناك" مفاجآت لا مفر منها ". ولهذا السبب يجب عليك الاستعداد لكل السيناريوهات المحتملة."

وحتى يودكوفسكي، الواثق من أن التفرد سيأتي، يجد صعوبة في ترجمة ذلك إلى نسب احتمالية. وفي مقابلة أجراها مع "وايرد" ادعى أن "هناك فرصة بنسبة 5٪ لظهور التفرد قريبًا وأن البشرية ستتغير إلى الأبد". وفي مقابلة لاحقة أجراها مع "بوابة سان فرانسيسكو" في أوائل عام 2004، كان أكثر تحفظًا لسبب ما وأصر على أن "هناك فرصة بنسبة 2٪ لظهور التفرد وتغيير البشرية". واقترح في تلك المناسبة أنها قد تنقذنا من منارة بيئية. وخلص يودكوفسكي في ذلك الوقت إلى أن "نهاية العالم هي مسألة فنية للغاية. ونحن نعمل حتى نتمكن من إنقاذ الجميع وشفاء الكوكب وحل مشاكل العالم".