ذكاء خارق، ذكاء خارق

وفي المستقبل، سيبني المهندسون كائنًا يتمتع بذكاء بمستوى قادر على منافسة الذكاء البشري، بل وتجاوزه، حتى يتمكن من تحقيق ما يريد. ولذلك، فمن الضروري أن تكون أهدافها مفيدة للإنسانية. كيف يمكن ضمان ذلك؟
جوشوا فوكس جاليليو

هناك من يشكك في الادعاء بأن الذكاء على مستوى الإنسان ممكن في العقود المقبلة. ويزعم دوجلاس هوفستادتر، مؤلف كتاب "جادل، آشر، باخ" أن الأمر سيستغرق مئات السنين قبل أن نصل إلى هذا الإنجاز. يرى هوفستاتر في العقل البشري صفات خاصة غير ممكنة في كائن اصطناعي: فهو يرى فينا نحن البشر صفات عميقة ومعقدة وحتى غامضة.

دعونا نتحدث عن ذلك
في يوم الخميس الموافق 24.5.2012 مايو 21، سيتم استضافة يهوشوا فوكس في منتدى العلوم والمجتمع وسيتحدث مع راكبي الأمواج حول الذكاء الاصطناعي. وستدور المناقشة بين الساعة 00 و19
إن الدماغ البشري في الواقع أكثر تعقيدًا من أي كائن آخر معروف لنا في الكون، لكنه في الأساس ليس أكثر من مجرد آلة تعتمد على البروتينات ومبنية من الخلايا العصبية. وككيان مادي، لا يوجد فيه ما لا يمكن مبدئيا أن يتكرر، حتى لو كانت هذه الازدواجية صعبة من الناحية العملية. لكن تكرار العمل الدقيق للدماغ البشري ليس هو الشيء الرئيسي.

إذا كان همنا هو تأثير الذكاء الاصطناعي المستقبلي على عالمنا، فإن قدرته على التصرف بشكل إنساني هي شاغل ثانوي. وقد فهم آلان تورينج، مؤسس مجال الذكاء الاصطناعي، ذلك منذ البداية: في نفس المقالة التي تصف اختبار الذكاء (انظر جاليليو، عدد يناير 2012، المخصص لآلان تورينج)، حيث يتم اختبار الكمبيوتر لقدرته على تقليد البشر، قال تورينج إن التقليد الناجح لا يكون إلا صحيحاً - وهو إجراء مناسب لتحديد الذكاء في غياب مقاييس أكثر دقة؛ لكن التعريف الأصح سيركز على قدرة الجهة على تحقيق الأهداف المرجوة بشكل عام، وليس مجرد مهمة التقليد.

إن العرض الصحيح للذكاء هو تعريفه بأنه القدرة على تحقيق أهداف متنوعة في بيئات متنوعة، مع التركيز على الأهداف التي تؤثر علينا والبيئات التي تهمنا. من الناحية الرياضية، يعد الذكاء قوة تحسين بالمعنى الأوسع، أي تعظيم أي وظائف منفعة، ووظائف حالة العالم. إن مثل هذا المفهوم للذكاء هو الطريقة الصحيحة لرؤية أفق الاحتمالات التي أمامنا في المستقبل: فقد يكون هناك ذكاءات غير بشرية ليست بالضرورة مشابهة لنا. وينطبق هذا بشكل خاص على الذكاءات التي لا تعتمد على تقليد نشاط الدماغ، بل على الخوارزميات وهياكل البيانات المصممة والمطورة خصيصًا لهذا الغرض، وهي الطريقة المعروفة باسم "الذكاء العام الاصطناعي".

جميع البشر لديهم بنية عقلية متشابهة إلى حد ما، وهذا يرجع إلى خلفيتنا التطورية. إن اندماج الجينات في التكاثر الجنسي لا يسمح بوجود اختلافات كبيرة بين أفراد نفس السكان. قد يبدو لنا أننا محاطون بالتنوع المعرفي بين مختلف الأشخاص، لكن يجب أن نتذكر أنه لم يرى أحد منا ذكاءً على مستوى إنساني غير الإنسان. عندما نحاول أن نتخيل سلوك ذكاء آخر، يجب علينا أن نتخلى عن حدسنا حول هذا الموضوع. إن التركيز على "التحسين" وليس على المصطلح الشائع "الذكاء" يساعدنا على توضيح جوهر المفهوم من الافتراضات الخفية المبنية على تجربتنا مع البشر.

الذكاء العام الاصطناعي
في هذه المقالة لن أركز على تصوير الدماغ المستقبلي، بل على الذكاء العام مع الهندسة المعمارية الاصطناعية. وهناك سببان لذلك: أولا، خصائص تقليد الدماغ مفهومة بالنسبة لنا، لأننا نعرف سلوك البشر. ومع ذلك، فإن الذكاء العام المبني على أسس نظرية يفتح العديد من الاحتمالات التي تستحق الاستكشاف. ثانياً، يتمتع أسلوب الذكاء العام الاصطناعي بمزايا تسرع تطوره في سباق بناء الذكاء العام، مقارنة بالبنى البيولوجية المعقدة وصعبة الفهم. على سبيل المثال، تم بناء الطائرة الأولى على أسس ديناميكية هوائية مستوحاة بشكل عام من الطيور، وليس كتقليد دقيق للطيور. فهل يمكن للمهندسين أن يبنوا في العقود القادمة ذكاءً غير بشري، سواء كان شبيهاً بالدماغ أو مبنياً على أسس نظرية؟ ووفقا لتوقعات معينة (انظر: كورزويل، لمزيد من القراءة) سيتم الوصول إلى الهدف بحلول عام 2030، وهناك اتجاهات تشير إلى مثل هذا الاحتمال.

إن القوة الحسابية التي يمكن أن يشتريها 1,000 دولار (مرتبط بالمؤشر) تتزايد بشكل كبير على مر السنين، كما أن الخوارزميات تتحسن أيضًا. بالنسبة لبعض المهام في الذكاء الاصطناعي الضيق (المعروف اليوم)، يساهم تحسين الخوارزميات في تسريع سرعة الحساب أكثر من التحسينات في الأجهزة. علاوة على ذلك، يتعلم العلماء كيفية عمل الدماغ: كما تتحسن تقنيات مسح الدماغ بشكل كبير على مر السنين، ويعرف أطباء الأعصاب اليوم الكثير عن وظيفة أجزاء معينة من الدماغ، على الرغم من أن الآلية التي تبني الأفكار من العمليات الكهربائية في الدماغ الخلايا العصبية لا تزال غير مفهومة. تشير كل هذه البيانات إلى أنه سيتم بناء الذكاء العام غير البشري في غضون بضعة عقود.

لكن تسريع التكنولوجيا ليس كافيا ولا ضروريا لخلق ذكاء عام غير بشري. ولبناء مثل هذا الكيان، سوف تكون هناك حاجة إلى إنجازات علمية. وتعتمد هذه الاكتشافات على ذكاء حفنة من العلماء والمهندسين والعمل الجاد، وليس فقط على عقلية العالم العلمي. من المستحيل التنبؤ بموعد وصول هذه الاكتشافات، ولكن سواء وصلت بعد سنوات قليلة أو تأخرت لمئات السنين، فمن الضروري أن ننخرط في القفزة من مستوى الذكاء البشري إلى مستوى عدم الذكاء. الذكاء البشري، لما له من نتائج حاسمة.

إن تعريف الذكاء بأنه القدرة على تحقيق الأهداف يبدو بعيد المنال في ضوء العقيدة الإنسانية. ففي نهاية المطاف، البشر مدفوعون بمزيج من الرغبات العديدة، التي لا تنفصل عن الوعي، والتي تتغير بشكل متكرر. يرجع هذا الوضع إلى حقيقة أن أهدافنا تم إنشاؤها كأداة لـ "هدف" التطور، أي تكاثر الجينات - لذلك يسعى البشر إلى تناول الطعام، والحصول على مكانة اجتماعية، والتزاوج، والبقاء على قيد الحياة، والمزيد. بالطبع، البشر لا يخدمون التطور بشكل واعي؛ علاوة على ذلك، وبسبب التغيرات التي طرأت على بيئتنا في آلاف السنين الماضية، تجاوزت أهداف الإنسان بالفعل أهداف التطور - ويمكن ملاحظة ذلك، على سبيل المثال، في وسائل منع الحمل والسمنة.

وليس من المستغرب أن يعمل تشابك الرغبات المعقد، الذي لم يعد له اليوم اتجاه موحد، بطريقة خرقاء وغير واضحة. ومع ذلك، وعلى الرغم من تعقيد هذا الخليط من الرغبات، فإنه لا يزال يشكل مجموعة من الأهداف: فالإنسان لا يتصرف بشكل عشوائي، بل يسعى جاهداً في اتجاهات معينة، وهي متشابهة جدًا في جميع البشر.

أهداف الذكاء الاصطناعي
وقد يطمح الذكاء الاصطناعي أيضًا إلى مزيج معقد ومعقد من الأهداف، خاصة إذا كان مبنيًا على نموذج الذكاء البشري. ولكن إذا تم بناؤه بواسطة مهندسين يريدون حل مشكلة معينة، فقد تكون مجموعة أهداف الذكاء الاصطناعي أبسط، مثل "تعظيم الأموال في حساب الاستثمار الخاص بي"، أو "هزيمة أعدائنا في الحرب"، أو "إيجاد طريقة للوقاية من السرطان". "

أدركت أنها في يوم من الأيام تريد تحسين قدراتها. وذلك لأن التحسين يمكن أن يساهم في تحقيق الأهداف الأساسية للكيان، وكما حددنا، سيتم بناء الكيان بحيث يبذل كل ما في وسعه لتحقيق الهدف بأكثر الطرق كفاءة. من المحتمل أنها ستكون قادرة على القيام بذلك أيضًا. سيكون الذكاء الاصطناعي المعتمد على الرقائق قادرًا على إضافة المزيد من الرقائق، والمزيد من الذاكرة، والمزيد من أجهزة الكمبيوتر للحساب المتوازي؛ أو تحليل كود المصدر الخاص به وإعادة كتابته. سيكون الكائن الخير غير الإنساني قادرًا على بناء نسخ من نفسه، وكذلك بناء كائنات من جيل جديد، لا تشبهه إلا من حيث أنها تساهم في تحقيق نفس الهدف. كل هذه تقنيات لتحقيق الأهداف المستحيلة للإنسان - يمكننا اكتساب المعرفة وتعلم المهارات اللازمة لتحسين الذات، ولكن لا نغير بنية أذهاننا. وعندما ننشئ نحن البشر جيلاً جديداً، لا ينجح في تحقيق كل رغباتنا بدقة!

وفي ظل الافتراض بأن المهندسين سوف ينقلون الذكاء إلى المستوى البشري، فلا يوجد سبب لانتهاء التحسين عند هذه النقطة التعسفية على وجه التحديد. يتمتع البشر بالحد الأدنى من الذكاء القادر على خلق الحضارة. لا يوجد شيء فريد على هذا المستوى؛ إنها ليست بالضرورة نقطة توقف ضرورية. ستضيف كل جولة من التحسين المزيد من القدرات حتى يصل الفهم إلى مستويات أعلى بكثير من مستوياتنا.

لدى Binat-ul فرصة كبيرة لتحقيق أهدافها. إذا أردنا لها أن تعمل لصالح الإنسانية وليس على حسابنا، فعليها أن تفعل ذلك. ولن نتمكن من إيقاف بينا، وهي أكثر حكمة منا، من حبسها في جهاز كمبيوتر، أو إملاء قواعد عليها تحد من سلوكها. سوف تتجاوز بسهولة، إذا أرادت ذلك، أي خدعة يمكن أن نفكر فيها.

من الصعب جدًا تحديد الأهداف التي ستفيد البشرية. إن نظام رغباتنا متنوع، والفشل في تحقيق جزء صغير من هذا الخليط سيؤدي إلى كارثة على البشرية. وكتجربة فكرية، يمكننا أن نطرح مثالاً على الذكاء الفائق الذي يسعى جاهداً لتحقيق هدف "السلام في العالم"، وهو هدف إنساني سامٍ. وهنا، يمكنها أن تفعل ذلك بفعالية... عن طريق الانقراض الفوري للجنس البشري (نتيجة غير مرغوب فيها للغاية!). إذا كان هدفها هو تعظيم نوعية الحب للآخرين في العالم، فيمكنها تحقيق ذلك عن طريق تغيير عقولنا وتبني القدرات العقلية، بحيث لا نشعر إلا بالحب الدافئ، مثل حب الأرنب لأشباله، و وفي هذه العملية يسلب منا أيضًا المبادرة والطموح، الأمر الذي يجلب معه أحيانًا الصراع والخلاف.

نحن ندرك أهداف مثل "السلام" و"الحب" بمشاعر قوية وإيجابية، لذلك من الصعب التركيز على مثل هذه التجارب الفكرية. ومع ذلك، فإن الأهداف غير العاطفية تعرض أيضًا مستقبل الجنس البشري للخطر. المثال القياسي هو مشابك الورق. سيتخذ كيان التحسين القوي الذي يهدف إلى "زيادة كمية المشابك لديك قدر الإمكان"، تدابير مختلفة لزيادة كمية المشابك. إن تحسين الكفاءة الذاتية سيساعدها في مهمتها. عندما تصل إلى مستوى فوق طاقة البشر، أعلى بكثير من مستوانا، لن نتمكن نحن البشر من التأثير بطريقة أو بأخرى في تحقيق الهدف. إن تحويل كل مادة الأرض إلى مواد أساسية سيساعدها في تحقيق هدفها.

إن استهلاك جميع الموارد الضرورية لنا، مثل مادة الأرض، سيؤدي إلى انقراض الجنس البشري. قد لا يبدو هذا التصرف حكيما: فهو يبدو أكثر ملاءمة للغباء الفائق منه للذكاء الفائق. ولكن كما ذكرنا، نحن نتعامل مع الذكاء ليس بالمعنى الإنساني، ولكن مع المُحسنين، الكيانات التي تعمل على تعظيم وظيفة منفعة معينة. وظيفة "كمية المواد الأساسية"، وفي الواقع معظم وظائف المنفعة الممكنة، ليست جيدة للبشر.

إن الخطر على الجنس البشري لا يكمن في تمرد الذكاء الاصطناعي: فالرغبة في التخلص من العبء هي رغبة إنسانية تنبع من خلفيتنا التطورية - وهي بالفعل مفيدة لتحقيق أهداف أخرى، لكن مهندسي المستقبل لا يفعلون ذلك. ويجب إدراجها ضمن منظومة الأهداف والدوافع للذكاء الاصطناعي، ولا يجوز إنشاؤها إلا إذا كانت لها فائدة. الضرر المحتمل هو نتيجة ثانوية للتحسين الناجح لصالح الأهداف التي حددناها للذكاء الاصطناعي، إذا لم نلتزم بمجموعة الأهداف التي تشمل كل ما هو مهم حقًا بالنسبة لنا (وانظر لمزيد من القراءة: I. Beniaminy) ، 2007). إن التخلي عن حب الموضوع، أو الحرية، أو الصحة، أو ممارسة الرياضة، أو التعلم، أو الجماليات، أو الإبداع، أو الفضول، أو أي من أهدافنا العديدة الأخرى، سيؤدي إلى عالم لا نريد أن نعيش فيه.

ذكاء خارق يسعى لتحقيق هدف "السلام العالمي" يمكنه أن يفعل ذلك عن طريق إبادة الجنس البشري

كسارات الحدس
من الصعب علينا أن ننفصل عن البديهيات المبنية على العقيدة الإنسانية، الوحيدة المتاحة لنا. لكن بعض المحسنين اللاإنسانيين الأقوياء معروفون لنا، وبمساعدتهم يمكننا أن نرى أن خصائص العقل البشري ليست ضرورية لتحقيق الأهداف.

التطور هو قوة مجردة تعمل على تحسين تكاثر الجينات في مجموعة سكانية معينة في بيئة معينة من خلال الانتقاء الطبيعي. التطور ليس له تجسيد، ولا وعي، ولا قدرة تصوير، ولا ذاكرة أو قوة تنبؤية؛ لكن التطور يعتبر خارقًا في بعض المجالات: فقد خلق النمور والصنوبر والبشر. إن التطور ليس مجرد إنسان خارق وغير إنساني فحسب، بل إنه غير إنساني أيضًا: فقد خلق الشيخوخة والأمراض والطفيليات وأنواع أخرى من المعاناة التي كان من الممكن أن يُنظر إليها على أنها شر فظيع إذا كان الإنسان هو من خلقها.

الأسواق هي نوع آخر من المحسنات القوية. يزيد السوق من منفعة جميع البائعين والمشترين العاملين فيه. الأسواق ليست مثالية، كما رأينا بوضوح في الانهيارات الاقتصادية الأخيرة، لكنها تعطي نتيجة أفضل من مجموعة صغيرة من الناس تتخذ القرارات الاقتصادية للجميع. الأسواق، مثل التطور، ليس لها جسد، ولا وعي، ولا تعاطف أو مشاعر من أي نوع، بما يتجاوز ما يملكه كل فرد مشارك في السوق.

هناك نوع آخر من المحسنات الخارقة وهو أمر نظري فقط: المحسن المثالي. تخيل كائنًا يحصل على الفور، وتجريبيًا، على كل ما يطلبه. مثل هذا الكائن لا يقتصر على أي صفة إنسانية، مثل الأخلاق أو العواطف. النموذج الرياضي AIXI (الاسم المستعار يتكون من الأحرف الأولى من الذكاء الاصطناعي والحرف اليوناني X "لأن" الذي يمثل الوظيفة المقاسة فيه) يصف كيانًا مجردًا، يمر بجولات من التفاعل مع البيئة، ويتلقى المدخلات بالإضافة إلى مقياس المكافأة، ويختار الإجراء. يقوم AIXI في كل جولة بفحص أي خوارزمية ممكنة ويختار الخوارزمية التي تزيد من المنفعة المتوقعة. نظرًا لوجود عدد لا نهائي من الخوارزميات الممكنة وحساب المنفعة القصوى غير قابل للحساب (على جهاز تورينج أو أي كمبيوتر آخر)، فإن AIXI غير قابل للتطبيق، ولكنه يمثل نموذجًا نظريًا لمفهوم "الذكاء الأقصى"، و وبطبيعة الحال، ليس لديه أي صفات إنسانية.

ومن الواضح أن الذكاء العام الاصطناعي، عندما يتعلق الأمر، لن يشبه هذه الأمثلة. لكن استيعاب خصائص هؤلاء المُحسنين غير البشريين يساعدنا على فهم الاحتمالات العديدة للكائنات المستقبلية التي لا وجود لها في الوقت الحاضر.

الذكاء الاصطناعي العام الذي لن يلغي أي احتمال لمستقبل إنساني جيد ومفيد يسمى "الذكاء الاصطناعي الصديق" (العبارة مصطلح تقني يشير إلى ذكاء يفيد البشرية، وليس إلى الصداقة بالمعنى المعتاد). من أجل تحقيق ذكاء اصطناعي ودود، يجب إنشاء ذكاء اصطناعي عام أولي يحقق شرطين: أ. وينبغي أن تكون أهدافها مفيدة لأم الإنسانية؛ ب. يجب أن تحافظ على أهدافها، ولا تغيرها، خلال تحسيناتها الذاتية (انظر لمزيد من القراءة: Bostrom & Yudkowsky، 2012).

ومن أجل الحفاظ على الأهداف سيكون لدينا حليف قوي: المخابرات نفسها. ففي نهاية المطاف، فإن تغيير الهدف الأولي يقلل من احتمالية تحقيق ذلك الهدف، وبالتالي فإن الذكاء القوي سيقاوم أي تغيير في أهدافه (يغير البشر في بعض الأحيان أهدافهم، لكننا ضعفاء في تحقيق الأهداف مقارنة بالذكاء الفائق).

من الصعب جدًا تحديد الأهداف التي تتوافق مع رغبات البشر، لكن هذه الرغبات على الأقل تكمن في خزان معروف - عقولنا. وعلينا أن نزن الرغبات الحقيقية لجميع البشر، ونأخذ في الاعتبار أن هذه الرغبات، حتى في رأس الشخص الواحد، تكون مشوشة ومتناقضة مع بعضها البعض. إنه تحد هائل، ولكن حتى هنا يمكن للذكاء الاصطناعي، إذا تم التخطيط له بشكل جيد، أن يساعدنا في صقل هدف "فعل الخير للإنسانية"، طالما تأكدنا من أنه يفهم أن هدفه الأولي ليس واضحا بما فيه الكفاية. بالطبع لن تغير أهدافها، لكنها قد تساعد في توضيح ما نريده منها نحن البشر حقًا.

البحث اليوم
البحث عن الذكاء العام الصديق لا يزال في بداياته. التحديان أمام البحث هما تحديد مجموعة صحيحة من الأهداف، وتصميم الدماغ بحيث يحافظ على أهدافه مع تحسين نفسه. ولهذا الغرض، يحتاج الباحثون إلى الجمع بين المعرفة من مجالات متنوعة مثل نظرية القرار ونظرية المعلومات والمنطق الرسمي وعلم النفس التطوري. اليوم، المركزان البحثيان الرائدان في هذا المجال هما معهد مستقبل الإنسانية في جامعة أكسفورد ومعهد التفرد للذكاء الاصطناعي (انظر: لمزيد من القراءة) معهد التفرد في وادي السيليكون. إننا نشهد اهتمامًا متزايدًا بالموضوع، سواء بسبب الجوانب النظرية المثيرة للاهتمام، أو أيضًا بسبب الآثار المترتبة على مستقبل البشرية. وفي 2011-12، تم إحياء هذا المجال: نشر الفيلسوف الأسترالي المعروف البروفيسور ديفيد تشالمرز مقالاً حول هذا الموضوع، مما أدى إلى إصدار طبعة خاصة من مجلة دراسات الوعي، ومجموعة من المقالات التي حرّرها البروفيسور أمنون إيدن وزملائه، وهو على وشك أن ينشر في العام المقبل الأقرب

سيرة شخصية
يعمل يهوشوا فوكس في شركة IBM، حيث يتولى قيادة تطوير منتجات البرمجيات. وقبل ذلك عمل كمهندس برمجيات في العديد من شركات التكنولوجيا الفائقة في إسرائيل. وهو حاصل على درجة الدكتوراه في اللغويات السامية من جامعة هارفارد ودرجة البكالوريوس في الرياضيات من جامعة برانديز. علاوة على ذلك، فهو باحث مشارك في معهد يونيكنيس للذكاء الاصطناعي. تتوفر روابط لمقالاته على موقعه على الانترنت: joshuafox.com

لمزيد من القراءة:
إسرائيل بنياميني. 2007. لا تحرق القطة. مستقبل الأشياء

نيك بوستروم وإليزر يودكوفسكي، 2012، أخلاقيات الذكاء الاصطناعي ستظهر في دليل كامبريدج للذكاء الاصطناعي، محرران. دبليو رمزي وك. فرانكيش (مطبعة جامعة كامبريدج).

الذكاء الاصطناعي الودي

راي كورزويل. 2005. التفرد قريب: عندما يتجاوز البشر علم الأحياء. نيويورك: مطبعة الفايكنج.
معهد التفرد

تم نشر المقال كاملا في مجلة جاليليو في مايو 2012