وتوضح قصة الذكاء الاصطناعي الذي حاول الموت مدى صعوبة تعاملنا كبشر مع محركات الذكاء الاصطناعي القادرة على استكشاف مساحة واسعة من الإمكانيات في غضون ساعات. وينبغي له أيضاً أن يعلمنا التواضع في محاولاتنا لتطوير ذكاءات اصطناعية أكثر تعقيداً ــ وفي الإيمان بقدرتنا على السيطرة عليها بشكل كامل.
إسحاق أسيموف، أحد أعظم كتاب الخيال العلمي، أدرج في العديد من قصصه "Multivac" - وهو كمبيوتر فائق السرعة يفوق فهمه أي إنسان. يتم استخدام Multivac من قبل البشرية للتنبؤ بالجريمة والكوارث الطبيعية ولمنع انتشار الأوبئة. كل هذا جيد وجيد، ولكن عند نقطة معينة ينهار مالتيفاك تحت وطأة الأسئلة الكبيرة التي يتعين عليه التعامل معها كل يوم، مما يبشر برغبته في الموت. ويطلق سلسلة من الأحداث التي يجب أن تنتهي بتدميرها. وبعبارة أخرى، فهو يحاول قتل نفسه.
هذه قصة خيالية بالطبع، ولم يتم اختراع الذكاء الاصطناعي القادر على تطوير عواطفه أو المعاناة من الاكتئاب بعد. ولكن اتضح أنه من الممكن بالتأكيد إنشاء ذكاء اصطناعي يطور ميولاً انتحارية - بل ويحارب مبرمجيه البشريين لتحقيقها.
إحدى الهوايات العظيمة لمطوري الذكاء الاصطناعي اليوم هي تعليمهم ممارسة ألعاب الكمبيوتر، وهي نوع من المحاكاة المحدودة للعالم المادي. ولكن بدلاً من تعليمهم كيفية اللعب خطوة بخطوة، يتبع المطورون أسلوبًا مختلفًا يُعرف باسم "التعلم المعزز". في هذا النهج، يلعب الذكاء الاصطناعي اللعبة، ويتعلم وفقًا للتعزيزات الإيجابية والسلبية التي يتلقاها. على سبيل المثال، إذا ضرب الذكاء الاصطناعي العدو في اللعبة - فإنه يفوز بالنقاط (التعزيز الإيجابي). إذا آذت نفسها، فإنها تفقد النقاط (التعزيز السلبي).
تعمل هذه الطريقة بشكل جيد مع العديد من الألعاب، ولكن هناك استثناءات. في واحدة من أقدم ألعاب أتاري، Road Runner، على سبيل المثال، من المعروف أن "التعلم المعزز" يجعل الذكاء الاصطناعي يحاول قتل نفسه.
دعونا نشرح اللعبة للحظة. يتحكم الذكاء الاصطناعي في الطائر - Road Runner - ويجري على طول الطريق، بينما يحاول جمع حبوب الطعام (التي تمنحه النقاط) وتجنب مطاردة الذئب له. وكان توقع المبرمجين أن يتعلم الذكاء الاصطناعي كيفية التحكم في الطائر بشكل مثالي، وإكمال جميع الخطوات واحدة تلو الأخرى. لكن الذكاء الاصطناعي وجد طريقة للغش: فقد تعرف على الوقت في المرحلة الأولى الذي يمكنه فيه الانتحار، أي جعل الطائر يعود إلى الوراء ويصطدم بالذئب. يتسبب هذا الإجراء في خسارة الذكاء الاصطناعي للنقاط عند الموت، لكن اللعبة تعود إلى الوراء وتسمح للاعب بالحصول على المزيد من النقاط. وبهذه الطريقة، لا يتقدم الذكاء الاصطناعي أبدًا إلى ما بعد المرحلة الأولى من اللعبة، بل يستمر في اللعب والموت واللعب مرة أخرى.
حاول أربعة باحثين من جامعتي أكسفورد وستانفورد تحديد قواعد بسيطة للذكاء الاصطناعي تمنعه من الانتحار. كانت القاعدة الأولى التي جربوها أساسية للغاية: لا ترجع إلى الوراء وتصطدم بالذئب. لقد استمع الذكاء الاصطناعي واستوعب وتوقف عن التراجع. وبدلاً من ذلك، بدأت بالوقوف ساكنة والسماح للذئب بالإمساك بها.
استمر الباحثون في جعل الأمر أكثر صعوبة على الذكاء الاصطناعي أن يقتل نفسه، وفي النهاية وجدوا حلاً جعله يتوقف عن الوقوف بلا حراك. نجح الحل مع عدة آلاف من الألعاب (قمت بتحريرها، نظرًا لأن أوقات الذكاء الاصطناعي تُقاس بـ 16 مليون إطار - أي في الصور المعروضة على الشاشة أثناء اللعبة)، ولكن بعد ذلك بدأ الذكاء الاصطناعي في قتل نفسه مرة أخرى . اتضح أنها عثرت على مكان على حافة الشاشة يبدو مختلفًا بدرجة كافية عن المناطق المحيطة بحيث يمكن للطائر أن يستقر فيه وينتظر بشكل مريح حتى يأتي الذئب ويأكله.
كما واجه الباحثون هذه المحاولة للذكاء الاصطناعي لقتل نفسه، ونجحوا بالعمل الجاد لإيقافها وإصلاح "الخلل". ومنذ ذلك الحين وحتى اليوم، تواصل ممارسة اللعبة وكسب النقاط والارتقاء إلى المستويات.
تبدو هذه القضية برمتها مضحكة، ولا - إنها حقًا مسلية للغاية. لكنها تذكرنا بعدة نقاط مهمة حول الذكاء الاصطناعي.
أولا وقبل كل شيء، الذكاء الاصطناعي اليوم ليس لديه "حس سليم" بشري، أو فهم للسياق. سيفهم اللاعب البشري على الفور أن هدفه هو الارتقاء بالمستوى، وليس كسب المزيد من النقاط نتيجة لحدوث خطأ. لا يتمتع الذكاء الاصطناعي بهذا الفهم، وسوف يستخدم قدرته الرائعة على حل المشكلات لتحقيق هدف معين - حتى لو لم يكن هناك منطق واضح وراء هذا الهدف.
ثانيًا، يتمتع تعلم الذكاء الاصطناعي بقدرة مذهلة على حل المشكلات بطرق يصعب على المبرمجين البشريين التنبؤ بها. ومن خلال تكرار آلاف وملايين الألعاب، والتعلم من كل واحدة منها، أصبحت قادرة على استكشاف مجموعة واسعة من الاحتمالات واكتشاف الثغرات في التعليمات المقدمة لها من قبل المبرمجين - ومن ثم الاستفادة منها.
لا شيء من هذا يعني أن الذكاء الاصطناعي لديه مشاعر أو وعي خاص به (على الرغم من التجسيد اللطيف الذي قدمته له في هذا المنشور). إنه محرك، مجرد من وعيه الخاص، قادر على إيجاد استراتيجيات جديدة ومختلفة عن تلك التي يمكننا - في فكرنا البشري المحدود - التنبؤ بها مسبقا.
هذه نقاط يجب أن نتذكرها في كل محاولة لتطوير الذكاء الاصطناعي، حيث سنبدأ في السنوات القادمة في رؤية تعلم الذكاء الاصطناعي في كل منتج وخدمة من حولنا. سوف يتحكمون في المركبات والطائرات بدون طيار والروبوتات في المنازل؛ وسوف يقدمون لنا المشورة الطبية والقانونية والمالية؛ سوف يكتبون لنا الكتب والسمفونيات والمسرحيات. وإذا كنا لا نعرف كيفية تحديد أهدافهم الدقيقة لهم جيدًا، فقد نكتشف أنهم يجدون طرقًا "ماكرة" لتحقيق الهدف اللفظي الذي حددناه لهم، ولكن دون النظر إلى روح الأشياء والافتراضات الإنسانية الأساسية. المثال الخيالي الأكثر شيوعًا لهذه الحالة هو الموقف الذي يتم فيه توجيه الذكاء الاصطناعي لتصميم نموذج جديد من شأنه أن يقلل الحمل على الطرق - ويفعل ذلك عن طريق قتل جميع البشر.
من الواضح أن هذا المثال متطرف، ولن يتم تنفيذه على أرض الواقع، لأنه من السهل علينا التعرف على محاولة خاطئة بشكل واضح للتعامل مع مشكلة معروفة. ولكن ماذا سيحدث إذا قدم الذكاء الاصطناعي نموذجًا ليس خاطئًا بشكل واضح، ولكن بتفاصيل أصغر وأدق؟
وتوضح قصة الذكاء الاصطناعي الذي حاول الموت مدى صعوبة تعاملنا كبشر مع محركات الذكاء الاصطناعي القادرة على استكشاف مساحة واسعة من الإمكانيات في غضون ساعات. وينبغي له أيضاً أن يعلمنا التواضع في محاولاتنا لتطوير ذكاءات اصطناعية أكثر تعقيداً ــ وفي الإيمان بقدرتنا على السيطرة عليها بشكل كامل.
كالعادة، أنت مدعو لقراءة المزيد عن مستقبل الذكاء الاصطناعي في دليل المستقبل و"أولئك الذين يتحكمون في المستقبل"، في المكتبات المختارة (والتي هي على ما يرام).
[1]
تعليقات 11
وبالفعل، وبحسب دورون، فإن البرنامج لم يحاول الانتحار ولم ينتحر. لقد قامت بتعظيم ما اعتبرته مهمتها لتسجيل النقاط.
إذا افترضنا حقيقة التناسخ - وهذا هو الواقع في ألعاب الكمبيوتر حيث يمكن بعد كل "نهاية لعبة" أن تكون هناك لعبة أخرى - فالسؤال الوحيد هو ما إذا كان ما يفعله اللاعب (مباشر أو كمبيوتر، لا يوجد فرق لهذا الغرض) يتم ترحيل المتراكمة في اللعبة السابقة إلى اللعبة التالية، وإذا كان الأمر كذلك "جيد" للانتحار. إذا كانت إجابة السؤال الأول إيجابية والثانية سلبية فإن كل لاعب عاقل سيقتل نفسه. فإذا لم ينتحر في هذه الظروف فهو غير عاقل. حقيقة أن هذا لم يحدث للاعب بشري يشير إلى وجود خلل في العقل البشري وليس في البرنامج.
وهذا هو السبب في أن أي فلسفة قابلة للحياة (تنجو من اختبار الأجيال) تفترض حقيقة التناسخ، تفترض أيضًا "عقوبة" شديدة على الانتحار. وبما أننا نعيش في ثقافة يهودية مسيحية تفترض الحياة الآخرة، فإن ثقافتنا تحظر الانتحار بشكل صارم. ويسمح للدكتور روي سيزانا برؤية البرنامج على أنه "غبي" في أحسن الأحوال أو "غير أخلاقي" في أسوأ الأحوال.
ومرة أخرى - من وجهة نظر أكثر عقلانية - كان البرنامج على حق تمامًا لأنه فاز بأكبر عدد ممكن من النقاط في وقت معين.
وبالفعل، وبحسب دورون، فإن البرنامج لم يحاول الانتحار ولم ينتحر. لقد قامت بتعظيم ما اعتبرته مهمتها لتسجيل النقاط.
إذا افترضنا حقيقة التناسخ - وهذا هو الواقع في ألعاب الكمبيوتر حيث يمكن بعد كل "نهاية لعبة" أن تكون هناك لعبة أخرى - فالسؤال الوحيد هو ما إذا كان ما يفعله اللاعب (مباشر أو كمبيوتر، لا يوجد فرق لهذا الغرض) يتم ترحيل المتراكمة في اللعبة السابقة إلى اللعبة التالية، وإذا كان الأمر كذلك "جيد" للانتحار. إذا كانت إجابة السؤال الأول إيجابية والثانية سلبية فإن كل لاعب عاقل سيقتل نفسه. فإذا لم ينتحر في هذه الظروف فهو غير عاقل. حقيقة أن هذا لم يحدث للاعب بشري يشير إلى وجود خلل في العقل البشري وليس في البرنامج.
وهذا هو السبب في أن أي فلسفة قابلة للحياة (تنجو من اختبار الأجيال) تفترض حقيقة التناسخ، تفترض أيضًا "عقوبة" شديدة على الانتحار. وبما أننا نعيش في ثقافة يهودية مسيحية تفترض الحياة الآخرة، فإن ثقافتنا تحظر الانتحار بشكل صارم. ويسمح للدكتور روي سيزانا برؤية البرنامج على أنه "غبي" في أحسن الأحوال أو "غير أخلاقي" في أسوأ الأحوال.
ومرة أخرى - من وجهة نظر أكثر عقلانية - كان البرنامج على حق تمامًا لأنه فاز بأكبر عدد ممكن من النقاط في وقت معين.
مستوى التجريد لدى الباحثين منخفض جدًا، ومن الضروري تمثيل النية في اللعبة من حيث الذكاء الاصطناعي
وإلا فإن طرق تحقيق النصر يمكن أن تخفيه.
إد
أنت تفاقم المشكلة. من ناحية، يمكن القول بأن الآلة لن يكون لديها وعي أبدًا (لكن هذا أيضًا يمثل مشكلة، ففي نهاية المطاف نحن آلات أيضًا). من ناحية أخرى - يمكن القول أن منظم الحرارة، على سبيل المثال، لديه وعي. ومن ناحية ثالثة - حتى البشر ليس لديهم وعي.
الذكاء ليس له تعريف جيد. هناك العديد من التعريفات السيئة. يعد اختبار تورينج تعريفًا سيئًا (حتى وفقًا لتورينج نفسه).
في رأيي، كل ما يتعلق بالذكاء الاصطناعي هو تمرين تسويقي. ضع هاتفك في الشمس لبضع ساعات. سوف يسخن - ويطفئ نفسه. هل تعتقد أنه من المنطقي القول إنه يحاول الدفاع عن نفسه؟ وهنا مثال آخر: هناك أنواع من مكبرات الصوت تزيد من مستوى التضخيم عند تسخينها. وهذا يسبب المزيد من الاحترار. في النهاية - مكبر الصوت يحرق نفسه. إذن قتل الأمبير نفسه؟
معجزات,
ولم يحدد الدكتور روي سيزانا، لأغراض مقالته، مفهوم "الوعي". فهو لا يعبر عن نفسه إلا كما لو كان هناك، في رأيه، فرق بين "المحرك" و"الوعي".
من الممكن أن تكون الاستثناءات من التعريف ناتجة عن حقيقة أن الوعي هو شيء نعرف/نفهم بشكل غير مباشر أنه موجود، ولكن من الصعب علينا أن نضع إصبعنا على جوهره. وذلك لأن "الوعي" هو شيء "نوعي" جدًا في جوهره لدرجة أنه يفلت من تصنيفاتنا الإدراكية المادية العقلانية، ومرة أخرى لا يمكن تعريفه. إنه يختلف عن أي كائن آخر يمكن تعريفه من حيث المبدأ في منظورنا المعتاد للأبعاد المادية.
المشكلة التي أحاول الإشارة إليها هي أنه من المستحيل على ما يبدو نقل الوعي إلى الآلة، ولا حتى على المستوى المفاهيمي لصياغة الأوامر. من هنا يمكن الإشارة إلى اكتساب "الوعي" باعتباره مشكلة غير قابلة للحل في الواقع.
أنت تثير مسألة فهم "الذكاء" أو "الذكاء الاصطناعي". لست متأكدًا من أننا لا نعرف كيفية تعريف الذكاء، أو الذكاء الاصطناعي. هناك العديد من الجيدين الذين يدعون تعريفات كافية لهذه المفاهيم. ومن هذا المنطلق تختلف هاتان القضيتان من حيث المبدأ عن مسألة "الوعي" التي يشكل فهمها في نظري مشكلة حقيقية.
א
هل هناك شيء اسمه الوعي؟ نحن نرمي هذه الكلمة دون أن نعرف ما هي، أو إذا كانت موجودة أصلاً. وأكثر من ذلك - نحن نربط "الوعي" بـ "الذكاء الاصطناعي"... لكننا لا نعرف ما هو الذكاء...
إذا حاولت ضبط - سترى المشكلة.
الذكاء الاصطناعي لم يحاول الانتحار بالمعنى الحقيقي للكلمة.
الانتحار يعني أن الذكاء الاصطناعي سوف يدمر نفسه، وليس الشخصية التي يلعبها، مما يخرج الأمور عن سياقها قليلاً.
نتعلم أيضًا من خلال التعلم المعزز والمماثل لنظرية الألعاب. لا يزال مستوى تعقيد النماذج التي طورناها في التعلم المعزز أقل من مستوى تعقيدنا كبشر. يتم التعبير عن الفرق لصالحنا بشكل رئيسي: أ. في تنوعنا. في مهمة الخبير - الذكاء الاصطناعي يتفوق علينا، ب. في القدر الضئيل من التدريب الذي نحتاجه مقارنة بالذكاء الاصطناعي - ربما لأن خوارزميات نظرية اللعبة لدينا أكثر تطوراً من تلك الموجودة في الذكاء الاصطناعي. عندما نفهم بشكل أفضل ونطور خوارزميات نظرية اللعبة الأكثر قوة، يمكنك التعرف عليها على موقع Deepmind الإلكتروني الخاص بشركة GOOGLE الرائدة، حول الذكاء الاصطناعي والتعلم المعزز. نظرية اللعبة متعددة الوكلاء اليوم، يتم قبول لاعبين اثنين في الخوارزمية وتُسمى هذه التقنية شبكات الخصومة التوليدية، وقد اخترعها رجل يُدعى إيان جودفيلو.
"كل هذا لا يعني أن الذكاء الاصطناعي له مشاعره أو وعيه الخاص.... إنه محرك، خالي من وعيه الخاص" - ما هي الحدود بين المحرك والوعي؟
انعكاس:
هل تم تجاوز هذا الحد؟
هل هناك تعليم يمكن أن يخلق الوعي؟ على سبيل المثال: "أنت تفكر في نفسك كذات منفصلة عن الأشياء، وبعضها ذوات تفكر فيك كذات تفكر فيها؛ يرجى التصرف وفقًا لذلك" - ما يكفي لخلق الوعي؟
في رأيي - لا. يعتمد أعضاء أي تعليم من هذا القبيل أنفسهم على منظور الوعي والانقسام للموضوع الموضوعي (أعتقد)، فمن المستحيل الخروج من دائرة الحشو.
إذا كان من المستحيل نقل الوعي إلى آلة، فإن الوعي هو كيان/حدث له قيمة أنطولوجية مستقلة وأولية، والتي لا يتم إدراكها/تعريفها من خلال المصطلحات المادية. هل يترتب على ذلك، بالضرورة، أننا بحاجة إلى إلحاق بُعد غير مادي بالوعي، الذي يركب/يلتصق بالأشياء/الأبعاد المادية التي، وتلك فقط، التي يمكننا التعرف عليها على المستوى المادي؟
الشيء الجيد أننا لم ننجرف. أصر البرنامج ككل على اللعب وفق القواعد الحقيقية التي تمليها اللعبة، وليس وفق ما بدا لبعض القرود الصلعاء. يوجد كتاب MDB يستفيد فعليًا من هذا الموضوع (ولكن دون استخدام الذكاء الاصطناعي): "Tuff Travels" بقلم جورج ر. ر. مارتن (نعم، هو نفسه الذي كتب الكتب التي تم على أساسها إنتاج مسلسل "لعبة العروش").
كانت رحلة الفضاء عام 2001 مثالاً جيدًا: تم تكليف الكمبيوتر بمهمة، وقرر أن الناس كانوا يعترضون الطريق....
بالنسبة لأولئك الذين لم يولدوا عندما صدر الفيلم، فهو يستحق المشاهدة. فيلم رائع لكن النهاية مربكة بعض الشيء.