يحذر الكثيرون من ظهور آلات التفكير. ويعتقد مايكل شيرمر، المتشكك، أن هذا القلق مبالغ فيه - رغم ذلك
بقلم مايكل شيرمر، تم نشر المقال بموافقة مجلة ساينتفيك أمريكان إسرائيل وشبكة أورت إسرائيل 09.05.2017
الرئيس التنفيذي لشركة SpaceX إيلون ماسك غرد في عام 2014: "الكتاب يستحق القراءة فهم فائق של بوستروم. يجب أن نكون حذرين للغاية بشأن الذكاء الاصطناعي. يمكن أن يكون أكثر خطورة من الأسلحة النووية." وفي العام نفسه، قال عالم الكونيات ستيفن هوكينج من جامعة كامبريدج في مقابلة لبي بي سي: "إن تطوير الذكاء الاصطناعي الكامل يمكن أن يعني نهاية الجنس البشري." بيل جيتس أحد مؤسسي شركة مايكروسوفت، حذر وقال أيضًا: "أنا أنتمي إلى المعسكر الذي يهتم ببنات آل".
عالم الكمبيوتر إليعازر يودكوفسكي وصف كيف يمكن أن يحدث نهاية العالم للذكاء الاصطناعي. في مقال من عام 2008 منشور في الكتاب مخاطر كارثية عالميةوكتب: "ما مدى احتمالية أن يعبر الذكاء الاصطناعي كامل الفجوة الواسعة التي تمتد من الأميبا إلى أحمق القرية، ثم يتوقف عند مستوى العبقرية البشرية؟" وإجابته: "من وجهة النظر الفيزيائية، سيكون من الممكن بناء دماغ يمكنه الحساب أسرع بمليون مرة من دماغ الإنسان... إذا قمنا بتسريع دماغ الإنسان بهذه الطريقة، فإن سنة ذاتية من التفكير سوف تقلص إلى 31 ثانية مادية في العالم الخارجي، وستمر ألف سنة في ثماني ساعات ونصف." ويعتقد يودكوفسكي أننا إذا لم نصل إلى جوهر هذه الأمور الآن، فسيكون الأوان قد فات: "يتحرك الذكاء الاصطناعي في جدول زمني مختلف عن جدولنا الزمني؛ وبحلول الوقت الذي تنتهي فيه خلايانا العصبية من التفكير في عبارة "يجب أن أفعل شيئًا ما"، نكون قد خسرنا المعركة بالفعل."
مثال على هذا النموذج قدمه الفيلسوف نيك بوستروم من جامعة أكسفورد في كتابه «بنات آل» (الذي أوصى به إيلون ماسك). لقد أجرى تجربة فكرية يمكن تسميتها "شرنقة من المواد الغذائية المكتبية": تم تصميم الذكاء الاصطناعي لإنشاء العناصر الأساسية للمكاتب. بعد أن تستخدم جميع المواد الخام المتاحة، فإنها تستخدم جميع الذرات التي تأتي في طريقها، بما في ذلك تلك التي تشكل البشر. وكما وصف في مقالته عام 2003، فمنذ تلك اللحظة فصاعدًا، "بدأت في معالجة الكوكب بأكمله، ثم قطعًا متزايدة من المساحة وتصميم منشآت منها لإنتاج المواد الأساسية المكتبية." لن يمر وقت طويل حتى يتكون الكون بأكمله من المواد الغذائية الأساسية أو آلات صنع المواد الغذائية الأساسية.
أنا متشكك. أولاً، تشتمل كل سيناريوهات يوم القيامة هذه على سلسلة طويلة من شروط "إذا كان الأمر كذلك"، وهو فشل يمكن أن يمنع نهاية العالم في أي مرحلة. بروفيسور آلان وينفيلد، وهو متخصص في الهندسة الكهربائية في جامعة غرب إنجلترا في بريستول، وصف الأمر بهذه الطريقة في ورقة بحثية عام 2014: "ام سننجح في بناء ذكاء اصطناعي يساوي الإنسان، وامسيكون هذا الذكاء الاصطناعي قادرًا على الوصول إلى فهم كامل لكيفية عملهام وستكون بعد ذلك قادرة على تحسين نفسها وإنشاء ذكاء اصطناعي فائقام سيبدأ هذا الذكاء الاصطناعي في استهلاك الموارد، إما عن طريق الخطأ أو بشكل ضارام سنفشل ولن نتمكن من سحب القابس من الكهرباء، لذا نعم، على الأغلب لدينا مشكلة. وخطر حدوث ذلك فعليا، حتى لو لم يكن مستحيلا، غير وارد.
ثانياً، كان تطور الذكاء الاصطناعي حتى الآن أبطأ بكثير مما كان متوقعاً، وهذا يعطي الوقت الكافي لبناء المكابح لكل مرحلة من المراحل. وباعتباره رئيسًا لشركة جوجل، إريك شميدتورد على ماسك وهوكينج: "ألا تعتقدان أن البشر سيلاحظون حدوث ذلك؟ ألا تعتقد أنه عندما يلاحظ البشر ذلك، فسوف يقومون ببساطة بإيقاف تشغيل أجهزة الكمبيوتر هذه؟" وبالفعل شركة العقل العميقطورت شركة Google، المملوكة لشركة Google، فكرة مفتاح إيقاف تشغيل الذكاء الاصطناعي وأطلقت عليه بشكل فكاهي اسم "الزر الأحمر الكبير"، والذي يتعين علينا الضغط عليه في حالة محاولة الذكاء الاصطناعي تولي المسؤولية. وبصفته نائب رئيس الشركة في ايدو, أندرو نج وقال (في إشارة إلى إيلون ماسك): "الأمر يشبه القلق بشأن الاكتظاظ السكاني على كوكب المريخ، في حين أننا لم نطأ الأرض بعد".
ثالثا، غالبا ما تعتمد سيناريوهات يوم القيامة المتعلقة بالذكاء الاصطناعي على المقارنة الخاطئة بين الذكاء الطبيعي والذكاء الاصطناعي. في عام 2015 قدم الموقع Edge.org את السؤال السنوي كتابه التقليدي (للمثقفين والعلماء):"ما رأيك في آلات التفكير؟وهكذا أجاب عالم النفس التجريبي ستيفن بينكر من جامعة هارفارد: "تعتمد سيناريوهات الواقع المرير للذكاء الاصطناعي على مفاهيم ذاتية تميز سيكولوجية الذكور الألفا وتسقطها على مفهوم العقل. تفترض هذه السيناريوهات أن الروبوتات ذات الذكاء الخارق سوف تطور أهدافًا مثل الإطاحة بأسيادها أو السيطرة على العالم. ومن المرجح بنفس القدر، كما يقترح بينكر، أن "الذكاء الاصطناعي قد يتطور بشكل طبيعي على طول مخطط أنثوي: قادر تمامًا على حل المشكلات، ولكن دون الرغبة في القضاء على الأبرياء أو السيطرة على الحضارة".
رابعًا، إذا زُعم أن أجهزة الكمبيوتر "تريد" القيام بشيء ما (مثل تحويل العالم إلى قصاصات ورق)، فهذا يعني ضمنيًا أن الذكاء الاصطناعي لديه مشاعر. وكما كتب كاتب العلم مايكل كوروست: "بمجرد أن يريد الذكاء الاصطناعي شيئًا ما، فإنه سيعيش في عالم له الثواب والعقاب، بما في ذلك العقوبات التي نفرضها عليه بسبب السلوك السيئ."
وبالنظر إلى نسبة الصفر في نجاح التنبؤات المروعة عبر التاريخ، إلى جانب التطور التدريجي والمدروس للذكاء الاصطناعي على مدى العقود الماضية، لدينا متسع من الوقت لبناء أنظمة آمنة من الفشل من شأنها أن تمنع مثل هذه نهاية العالم للذكاء الاصطناعي.
تعليقات 40
كتب المؤلف: "بالنظر إلى معدل نجاح التنبؤات المروعة عبر التاريخ بنسبة صفر بالمائة، بالإضافة إلى التطور التدريجي والمدروس للذكاء الاصطناعي على مدى العقود الماضية، لدينا متسع من الوقت لبناء أنظمة آمنة من الفشل من شأنها أن تمنع مثل هذه نهاية العالم للذكاء الاصطناعي. "
- تلك الأنظمة الآمنة التي سنكتشفها في عالمنا، إذا كنت أتحدث عن النموذج التالي، ليست مصنوعة من مادة.
وستكون تلك الأنظمة أنظمة لا تدركها نفس الحواس الخمس.
ستكون تلك الأنظمة عبارة عن أنظمة للرغبات والأفكار والنوايا.
ليتنا نكتشف أننا لا نوجد ولا نعيش إلا في عالم النتائج، ومن ناحية أخرى هناك أسباب تأتي وتعلق في العالم الذي نعيش فيه بقوانين ثابتة ومطلقة. إذا اكتشفنا هذا فقط، فسوف نفهم أنه من أجل إنتاج نظام يسميه المؤلف "نظام آمن من الفشل"، يجب علينا ألا نسخر جهودنا بل يجب علينا معايرة أجهزتنا الداخلية. وذلك هو تطوير أو استخدام طريقة تسمح لنا نحن البشر بالمعايرة داخليًا لتلك الأنظمة التي هي السبب وراء ما يحدث في هذا العالم.
الموضوع الذي أثير هنا في التعليقات المثيرة للاهتمام فيما يتعلق بالمقال مثير للاهتمام وهو طبيعة الاتصال بالدماغ البشري، والواجهة بين الأنظمة التي تعمل بطريقة وإيقاع مختلفين وتأثيرها على الدماغ،
من تجربتي في البرمجة أدركت أن أجهزتي مختلفة عن دماغنا (الصلصة).
عند إدخال نظام جديد، حتى لو كان غير رسمي مثل قارئ الإشارات في الأنظمة القديمة، قد نواجه مشاكل مزامنة مختلفة، بعضها معقد للغاية بين المكون الجديد والأنظمة القديمة في نقاط مختلفة من النظام،
ففي قراءة الإشارة السريعة مثلا يوجد عرض النبضة وترددها وغيرها.. ومن طرق حل مشكلة التزامن هو استخدام عداد إشارة سريع يجمع المخزون معه وينقل النتيجة إلى وحدة التحكم المركزية. لا بأس بالطبع إذا كانت العملية التي نجريها راضية بمستوى منخفض من الدقة في الوقت المناسب أو في المخزون، ولكنها ليست مزيفة تزايدية نتيجة لمشكلة المزامنة على أي حال إذا كان القياس هو الدماغ يعني أن الدماغ يحتاج إلى الحصول على منتج نهائي بحيث يكون الدماغ قادرًا على فهم نوع ما من تحويل الواجهة،
يجب أن نتذكر أنه في بعض المجالات، يصل وقت تلقي المنتج النهائي في الدماغ إلى سن 10 سنوات، أو رؤية حديث العين الكسولة وما إلى ذلك...
وهذا يعني أن جزءًا من مرونة الدماغ يتم إصلاحه في سن أكثر نضجًا ومعه القدرة النظرية على إضافة واجهات،
يوجد اليوم العديد من الأفكار لإنشاء واجهة كاملة أخرى متصلة بالدماغ والتي ستساعدنا على الاتصال بسرعة أكبر "بالسحابة"
ومن المشاهير الذين طرحوا الأمر إيلون ماسك،
الادعاء هو أن سرعة الإخراج لدينا بطيئة للغاية ولكي نظل مناسبين في المستقبل نحتاج إلى الاتصال وأن نكون جزءًا من أنظمة GAI المستقبلية مثل نوع من السايبورغ، ولكن يبدو أن الزيادة في سرعة الاتصال ستكون طفيفة أيضًا
ومقارنة بالسرعات الخيالية للترانزستور مقابل الخلية العصبية، سيبقى الدماغ كنظام عام وسرعته
ليس من الواضح تماما كيف سيعمل هذا، فالخلية العصبية لديها معدل تبديل يبلغ حوالي 200 هرتز، وهو على الأرجح نتيجة مفهومة للمادة البيولوجية التي تتكون منها، مقارنة بسرعة مئات الملايين من التبديلات في الثانية الواحدة. المزيد من الترانزستور الحديث.
وهذا يعني أنه على مستوى التبديل، فإن الخلية العصبية البيولوجية مقابل الترانزستور تشبه تقريبًا النبات مقابل الحيوان
لكن القصة أكثر تعقيدا، فالخلية العصبية ليست مجرد نظام من هاتين الحالتين، بل هي مزيج من نظام رقمي تناظري مع عناصر أخرى ومؤثرات خارجية مثل فنجان القهوة، الأطفال، زميل العمل، الطقس الذي يغير السلوك البيوكيميائي للدماغ بالفعل على مستوى الخلية العصبية، حتى لو كانت هناك مناطق متداخلة، فمن الواضح أن عدم عمل الخلية العصبية كترانزستور هو شيء آخر، فلكل نظام مزايا وعيوب. "لا نريد لجهاز الكمبيوتر الخاص بنا أن يعمل ببطء مع الأخطاء لأنها معقدة. والتي تتوسع اليوم وستأتي معها أيضًا مشاكل عدم القدرة على التنبؤ بشكل حتمي بما ستكون عليه النتائج في المواقف المختلفة،
بالإضافة إلى ذلك، يتكون الدماغ كنظام "حسابي" متوازي بمستويات مجنونة، إنه تشابك مجنون
حيث أن كل دماغ مختلف عن الآخر يبدو وكأنه نوع من الكابوس لأي شخص يريد التواصل مع الدماغ،
الأماكن التي يبدأ فيها التسمم هي الأماكن التي يكون فيها الدماغ متصلاً بالأجهزة الطرفية كالعينين والأطراف
الأذنين، على أية حال، تحب الخلية العصبية أن تتلقى إشارة عند مستويات الجهد، وزمن النبض، وما إلى ذلك، التي تكون مناسبة للخلية العصبية
لا يبدو أن الخلايا العصبية يمكنها العمل بشكل أسرع، يمكننا أن نرى ذلك في السلوك الآلي للأشخاص الذين يتحدثون
بمساعدة هواتفهم المحمولة على حساب حواسهم الأخرى من فقدان التوجه في الفضاء إلى فقدان حساسيتهم الاجتماعية، هناك شيء زومبي قليلاً وهو نتيجة نقل الموارد المحدودة للدماغ لإجراء هذا الاتصال ناهيك عن النظام الذي يعرض المعلومات على النظام البصري مثل نظارات Google، هناك الكثير من الفكاهة حوله على YouTube، وفي الختام، هذا موضوع رائع وله آثار على إنسانيتنا وكذلك إلى أي مدى نبقى بشرًا مع Netameshka
لأنظمة GAI وإلى أي مدى ستظل صلصتنا مع حدودها بما في ذلك تفردها ذات صلة بعالم المستقبل الذي نقوم بتطويره بأيدينا.
منافس، الشبكة العصبية لا تزال مجرد برنامج حتى لو كان تطويرها معقدًا، ومثل الطفل، إذا علمتها لتدمير البشرية، فربما يفكر البرنامج بهذه الطريقة، نحن نعلم الشبكات العصبية ما هي القطة وما هو الكلب هو، وما إلى ذلك، ولكن من الآن وحتى تقرر الشبكات العصبية تدميرنا، المسافة كبيرة، مرة أخرى أتحدث عن الحالة المروعة التي يحاولون إخافتنا...
نعم، المعجزات، نفس الشيء بالنسبة لك.
منافس
يجب أن تتعلم الاستماع حتى لأولئك الذين لا توافق على آرائهم.
معجزات,
سننهي المناقشة الآن لأن هذا بدأ يبدو وكأنه إعادة للعديد من المناقشات التي أجريناها بالفعل في الماضي، فهذا لا معنى له.
منافس
الإصلاح الخاص بك في طريقه. لكن الدماغ ليس معالجاً مستقلاً بل معالجاً مدمجاً في الجسم، وهناك أعصاب في الجسم تتصل بالدماغ. سوف تحتاج إلى بناء واجهة معقدة من شأنها أن تترجم الإشارات بين هذين العالمين.
والأمر أكثر تعقيدًا - لأنك ستحتاج إلى الكثير من وحدات الواجهة هذه، لأن الدماغ يتكون من الكثير من الوحدات الفرعية. على سبيل المثال: هناك منطقة في الجزء الخلفي الأيسر مسؤولة عن فك تشفير السمع (منطقة ورنيك) وجزء أمامي أكثر مسؤول عن الكلام (منطقة بروكا). الروابط بينهما موجودة داخل الدماغ - وإذا قمت بتغيير معدل نقل المعلومات بينهما - سينشأ شيء يشبه النقاش في الكنيست (كثير من الصراخ دون أي محتوى). أي أنه حتى في الأجزاء الداخلية (على الأقل بعضها) يجب أن تكون السرعة مناسبة.
الآن، هناك حجة مفادها أن جزءًا من التفكير هو في الواقع كلام داخلي، ببساطة دون تحريك الشفاه. وهناك أماكن كثيرة لا يوجد فيها تنافس بين المسارات المتوازية في الدماغ. قم بتغيير السرعات وستحصل على نتائج مختلفة تمامًا.
كإعادة صياغة لجملة دوكينز - هناك طرق عديدة لتكون مجنونا أكثر من أن تكون عاقلاً. كيف تعتقد أن العقل الذي نخلقه سيكون عاقلاً؟ يجب أن توافق على أنه ليس لدينا أي فكرة عما يحدث هناك.
معجزات,
حسنًا، تصحيح بسيط، لنفترض (لنفترض!) أنهم حتى ينتهوا من استبدال جميع الخلايا العصبية في الدماغ، يستمرون في العمل بمعدل طبيعي! فقط في نهاية العملية، عندما يتم استبدال جميع الخلايا العصبية في دماغك، يمكنك زيادة معدل عمل الجميع معًا في نفس الوقت!!
فهل هو بخير الآن؟
معجزات,
مرة أخرى، ما تقوله غير صحيح لأن المزامنة بين المكونات ستظل محفوظة! ليس الأمر أن الرجل اليمنى ستجري أسرع من الرجل اليسرى، فكلا الرجلين ستسير بخطى سريعة في نفس الوقت والرجل سيتحول من الركض السهل إلى الركض السريع!!
أعلم أنه بشكل عام نتيجة حساب الخلية العصبية تعتمد على تردد وحدوث النبضات التي تستقبلها، فالمعدل الأسرع للنبضات لا يحتاج إلى تغيير أي شيء، ببساطة مخطط النبضات سيكون أسرع وإخراج الخلية العصبية. سوف تكون الخلايا العصبية أسرع! (سوف تنبعث منها نبضات لكل وحدة زمنية أكثر من مخرجاتها).
تخيل جعل دماغك شفافًا وتصوير النشاط الكهربائي الدقيق لدماغك، ثم أخذ التسجيل (الذي يشمل جميع النبضات) وتشغيله بشكل أسرع 100 مرة، كيف ستكون النتيجة مختلفة في رأيك؟ هل ستبدأ الخلايا العصبية في الفيديو بالارتباك؟ 🙂
منافس
أرجو الاهتمام بما أكتب..
لقد كتبت "ستعمل الخلايا العصبية بشكل أسرع وتؤدي نفس الحسابات تمامًا كما هو الحال اليوم ولكن بمعدل أسرع" - وهذا غير صحيح على الإطلاق. شرحت - نتيجة الحساب هي في الواقع تردد (والأصح المثال والتردد) وبالتالي فإن التغيير في الإشارة هو تغيير في نتيجة الحساب. وقياساً على الكمبيوتر – إذا كان أحد المسارات داخل المعالج يعمل بمعدل مختلف عن بقية المعالج، فإن النتائج ستكون خاطئة.
شرحت - إذا قمت باستبدال النظام بأكمله، فهناك احتمال أنه سيعمل. لا يمكنك استبدال مكون واحد في الدماغ (الخلايا العصبية) وتتوقع منه أن يعمل بشكل أفضل. تخيل أنك تجري وساقك اليسرى تعمل بشكل أسرع من ساقك اليمنى....
معجزات,
ماذا تفعل، أنت مخطئ، تنشأ مشكلة مرضى الصرع بسبب زيادة النشاط الكهربائي وغير المنضبط في الدماغ، ولا يوجد سبب لحدوث ذلك عندما تعمل الخلايا العصبية بشكل أسرع وتؤدي نفس الحسابات تمامًا كما هو الحال اليوم فقط بمعدل أسرع.
فكما أنه من الممكن تسريع تردد عمل شريحة الكمبيوتر، وستستمر في إجراء نفس الحسابات تمامًا ولكن بمعدل أسرع، كذلك سيكون من الممكن تسريع معدل تفكيرنا أيضًا.
منافس
لن تفكر الخلية العصبية الأسرع بشكل أسرع. تنشط الخلايا العصبية بمعدل معين، وهذا المعدل هو "نتيجة الحساب". إذا تغير هذا المعدل، فسيكون الحساب غير صحيح. إسأل أي مريض بالصرع...
إن تغليف خلية عصبية يشبه استبدال خلية ذاكرة واحدة في جهاز الكمبيوتر الخاص بك. لن يعمل الكمبيوتر بشكل أسرع، ومن ناحية أخرى، من المحتمل أن يعمل بشكل غير صحيح.
ما يمكن فعله هو استبدال وحدة بأكملها - الذاكرة بأكملها أو المعالج أو القرص أو قنوات الاتصال. لكن - لا نعرف طريقة للقيام بذلك في الدماغ لأن دماغنا ليس مبنيًا على وحدات مستقلة.
على سبيل المثال - يمكنك تحسين ذاكرتك. ودعني أخبرك بسر (صشش..) لقد فعلوا ذلك بالفعل !!! و- من الممكن تحسين سرعة التفكير الرياضي والمنطقي. وقد فعلوا ذلك أيضًا. وأنت تعرف ما هو المنافس؟ هذه التحسينات غيرت البشر بشكل كبير. وليس دائما للأفضل. هل هم أكثر سعادة؟ ربما.
آفي بيليسوفسكي
لماذا ردي معلق؟
منافس
لن تفكر الخلية العصبية الأسرع بشكل أسرع. تنشط الخلايا العصبية بمعدل معين، وهذا المعدل هو "نتيجة الحساب". إذا تغير هذا المعدل، فسيكون الحساب غير صحيح. إسأل أي مريض بالصرع...
إن تغليف خلية عصبية يشبه استبدال خلية ذاكرة واحدة في جهاز الكمبيوتر الخاص بك. لن يعمل الكمبيوتر بشكل أسرع، ومن ناحية أخرى، من المحتمل أن يعمل بشكل غير صحيح.
ما يمكن فعله هو استبدال وحدة بأكملها - الذاكرة بأكملها أو المعالج أو القرص أو قنوات الاتصال. لكن - لا نعرف طريقة للقيام بذلك في الدماغ لأن دماغنا ليس مبنيًا على وحدات مستقلة.
على سبيل المثال - يمكنك تحسين ذاكرتك. ودعني أخبرك سراً (صششششششششششششششششششششششششششششششششششششششششششششششششششششهههههههههههههههههههههههههههههههههههههههه…..) لقد فعلوا ذلك بالفعل !!! و- من الممكن تحسين سرعة التفكير الرياضي والمنطقي. وقد فعلوا ذلك أيضًا. وأنت تعرف ما هو المنافس؟ هذه التحسينات غيرت البشر بشكل كبير. وليس دائما للأفضل. هل هم أكثر سعادة؟ ربما.
معجزات,
نعم، أعتقد أنني سأكون أكثر سعادة إذا تمكنت من تسريع سرعة تفكيري عدة مرات والتفكير بشكل أسرع بكثير من اليوم، بالتأكيد.
إن استبدال الخلايا التي كنت أتحدث عنها ليس في الحقيقة خرفًا، أنا أتحدث عن موقف حيث ستكون الشريحة مكافئة تمامًا للخلايا العصبية التي استبدلتها، والفرق الوحيد هو أنها ستكون قادرة على العمل بشكل أسرع بكثير.
نعم، سأكون بالتأكيد على استعداد لاستبدال جسدي الحالي بجسد غير بيولوجي (لكنه يبدو مثله من الخارج) والذي سيكون أكثر قوة من الجسم البيولوجي وأقل عرضة للأمراض. سأكون سعيدًا باستبدال الدماغ أيضًا، ولكن بشرط أن يتم الاستبدال تدريجيًا كما وصفت من قبل، وفي كل مرحلة سيكون من الممكن التحقق (سواء وفقًا لمشاعري الذاتية أو موضوعيًا من خلال الاختبارات) سأمر واجتماعات مع أفراد الأسرة) أن وظيفتي المعرفية وذكرياتي وشخصيتي لم تتضرر وبقيت على نفس الخصم، فقط مع تعزيز التفكير.
منافس
لقد كان ذلك رخيصاً منك.... أجبني بصراحة - هل تعتقد أننا سنكون أكثر سعادة عندما يكون لدينا عقل أكثر ذكاءً؟ إجابة الظل واحدة من فضلك.
الإيمان بشيء ما ليس شيئًا تختاره. لا أستطيع أن أستيقظ في صباح أحد الأيام وأقرر "اليوم أعتقد أن الغربان بيضاء". ولا "اليوم أعتقد أن المرأة أدنى من الرجل".
بالإضافة إلى ذلك، فإن الدراسات التي ذكرتها غير صحيحة. في الولايات المتحدة الأمريكية، هذا صحيح، لكن على سبيل المثال في النرويج والدنمارك ليس صحيحًا. وقد أظهرت دراسات أكثر جدية أن الانتماء إلى الأغلبية هو على الأرجح السبب في نتائج هذه الدراسات. وزعمت دراسات أخرى أن الأشخاص الذين يؤمنون أقل يصابون بالاكتئاب، وتبين أن الفرق ليس كبيرا، وبالتالي فإن الاستنتاج خاطئ.
إن استبدال الخلايا التي ذكرتها لا يختلف عن الخرف، بل في الاتجاه المعاكس فقط. واسأل أي شخص "فقد" أحد أفراد أسرته بسبب هذا المرض الرهيب عن رأيه فيما قلته.
إذا كنت تعتقد أنه يمكن استبدال جزء صغير من الدماغ بـ "شريحة معرفية" وبالتالي جعل الشخص أكثر ذكاءً، فأنت لا تفهم ما هو الدماغ. ليس أنت فقط، لا أحد يفهم.
ربما الإجابة على سؤالي؟ استبدال الدماغ أم استبدال الجسم؟
ابن،
ربما كنت مبرمجة ولكن ليس الشبكات العصبية. في البرامج من نوع الشبكة العصبية، يكون لديك سيطرة محدودة للغاية على السلوك النهائي للشبكة، حيث تقوم ببنائها وتدريبها ثم رؤية النتيجة. ليس لديك طريقة لتحديد برمجته مسبقًا حتى يفعل ما تريده بالضبط.
إنه مثل الطفل، يمكنك تربيته وتعليمه بأفضل ما تستطيع، لكن لا يمكنك ضمان أنه سيتصرف بشكل جيد دائمًا.
معجزات,
1. أظهرت بعض الاستطلاعات في الماضي أن الأشخاص الذين يؤمنون هم أكثر سعادة من الأشخاص الذين لا يؤمنون، هل أنت مستعد للبدء في الإيمان لتكون أكثر سعادة؟ (لأنني أرى أن هذا كل ما يهمك، السعادة)
2. فيما يتعلق بما سألتني عنه من قبل، لنفترض أنه خلال الأسبوع القادم ستبدأ خلايا دماغك بالاستبدال بشكل سحري تدريجيًا بالرقائق المعرفية الرقمية، وستبقى جميع الاتصالات بين الخلايا العصبية والرقائق كما هي، ستبقى أنت بكل ذكرياتك، وبنفس الشخصية، إلا أن تفكيرك سيكون في نهاية العملية أسرع بعشرة آلاف مرة من اليوم. خلال هذا الأسبوع عدة مرات في اليوم ستجتمع مع أفراد عائلتك الذين سيؤكدون أنك لا تزال معجزة، وسيتم إجراء اختبارات مختلفة لك للتحقق مما تغير وما هي قدراتك الجديدة، وسيتم سؤالك في كل مرة إذا كنت تريد مواصلة العملية أو إذا كنت تريد التوقف.
هل تعتقد أنك ستطلب إيقاف العملية أم سترغب في الاستمرار حتى يتم استبدال جميع خلايا دماغك بالرقائق الرقمية؟ ماذا سيكون قرارك؟
معجزات,
"لن نكون أقل سعادة"!!!
أين قلت أننا سنكون *** أكثر سعادة ***؟
(أنا لا أقول أيضًا أن هذا غير صحيح، أنا فقط أقول أنني لم أدعي شيئًا كهذا في هذه المحادثة)
منافس
"المعجزات
لقد قررت لسبب ما أنه عندما يكون لدينا ذكاء أعلى سنكون حتمًا أقل سعادة، وأنا لا أتفق معك حقًا".
معجزات,
"أنت الذي تدعي أننا سنكون أكثر سعادة لو كنا أكثر ذكاءً"
هل يرجى تقديم اقتباس من حيث ادعى مثل هذا الشيء؟ ثم سأجيبك عن الأمور الأخرى.
منافس
لا، أنت من تدعي أننا سنكون أكثر سعادة لو كنا أكثر ذكاءً. ما أقوله هو أننا لن نستمتع بعد الآن بالأشياء التي نستمتع بها اليوم لأننا سنكون مختلفين تمامًا، وليس لدي أي اهتمام بذلك.
هناك نقطة ندور حولها باستمرار - ما هي "أنا". فكر في مدى اختلافنا أنا وأنت - هل تريد أن تكون أنا؟ غير صحيح؟ هل تريد أن تكون ستيفن هوكينج؟ لا أعتقد ذلك. أنا أزعم أنه إذا كنت ذكيًا مثل ستيفن هوكينج، فلن تكون خصمًا بعد الآن. ارحل - أنت لست نفس الخصم الذي كنت عليه قبل 10 سنوات.
دعني أطرح عليك سؤالاً - هل تفضل أن يكون لديك دماغ بوزيتروني متطور مزروع في رأسك، أم دماغك في جسم إنسان آلي؟
معجزات,
لقد قررت لسبب ما أنه عندما يكون لدينا ذكاء أعلى سنكون حتمًا أقل سعادة، وأنا لا أتفق معك حقًا.
منافس
الذكاء ليس مقياسا للسعادة أريد أن أكون سعيدة، ليست ذكية، وليست جميلة وليست غنية. هل حقا تتخلى عن السعادة لحل مكعب مجري في 20 ثانية؟
معجزات,
كان هذا مجرد مثال على شكل مثل إذا لم تفهمه، بالنسبة لنا أن يتم ترقيتنا معرفيًا تمامًا مثل الإرادة الشفافة التي تصبح لدينا قدرات معرفية مثل قدراتنا.
ومن تحدث حتى عن السعادة؟ قلت إننا سنمتلك قدرات عسكرية أعلى بكثير مما لدينا اليوم، فهل تتخلى عنها بهذه السهولة؟
منافس
هل تعتقد أن الشفافية تريد أن تكون إنسانا؟ انت جدي؟ هل تعتقدين أن "الذكاء" (لا أعرف ما هو بالضبط) هو مقياس السعادة؟
معجزات,
ومن قال لك أنه كشخص متطور يتمتع بعقل معرفي، سيتعين عليك التخلي عن كل الأشياء التي ذكرتها؟ على العكس من ذلك، مع دماغ متطور، ستتمكن من قراءة المزيد من الكتب، ومشاهدة العديد من الأفلام، وسيكون لديك المزيد من المواضيع للمحادثة مع الأصدقاء 🙂
فكر في قرد عاش قبل 5 ملايين سنة وقال لصديقه - ماذا، هل أنت مستعد حقًا للتخلي عن قرودك من أجل الارتقاء وتصبح إنسانًا؟ هل أنت مستعد للتخلي عن أوراق الشجر والموز والثمار والقفز بين الأشجار لتصبح إنساناً ذا عقل متطور؟ واو ، هذا يبدو فظيعًا بالنسبة لي ...
منافس
هل أنت على استعداد لخسارة ما يجعلك إنسانًا من أجل ذلك؟ هل أنت مستعد للتخلي عن كل ما تستمتع به اليوم؟ الطعام الجيد، المناظر الطبيعية، الموسيقى، الحب، الرياضة والألعاب، السينما، الكتب، التحدث مع الأصدقاء - كل هذا تتخلى عنه من أجل ماذا؟ فقط لتطوير المزيد من الأشياء التي لا قيمة لها؟
ماذا سيفعل هؤلاء العباقرة؟ هل سيفتح العباقرة الأكثر ذكاءً أبوابهم ببضعة أوامر من حيث الحجم؟ فما معنى الحكمة في هذه الأحوال؟
يبدو الأمر فظيعًا بالنسبة لي..
معجزات,
إذًا ما هو الأفضل، أن نستمر في استخدام التفكير البيولوجي البطيء الذي عفا عليه الزمن عندما نتمكن من ترقية أنفسنا إلى شيء أكثر كفاءة؟ أود أن أسمي ذلك "ارتقاء بالإنسانية" وليس انقراض البشرية.
منافس
أعني أننا سوف نبيد البشرية... هل تبدو هذه حقًا فكرة إيجابية بالنسبة لك، بأننا سنتوقف عن كوننا بشرًا؟
معجزات,
أعتقد أنك فهمتني بشكل خاطئ، قصدت أن نقوم بترقية أنفسنا، على سبيل المثال (في الخطوة الأولى) عن طريق زرع شرائح معرفية في الدماغ من شأنها أن تعزز قدرتنا على التفكير، وبعد ذلك نستبدل دماغنا البيولوجي بالكامل بدماغ أكثر تطورًا يعتمد على رقائق السيليكون.
إذا تحدثنا عن الأفلام، فإن السيناريو "أنا روبوت" هو الأرجح. يستطيع الكمبيوتر أن يستنتج أنه لكي ينقذ البشرية، عليه أن ينقذها من نفسها. إذا استخدمنا الشؤون الجارية، وإذا كان هناك قادة يقودون العالم إلى حرب نووية، فيجب أن يكونوا محدودين. إذا تكاثرت البشرية بمعدل هائل وبهذه الطريقة تستهلك نفسها، فيجب إيقافها. سيكون الشكل الذي سيتم به ذلك متوافقًا مع مجالات الحياة التي ستتحكم فيها أجهزة الكمبيوتر
منافس
سنبقى دائما متخلفين. هل تثق بالذبابة التي كانت تحاول التواصل معك؟ كيف ستعرف حتى أن هذا هو ما يريده؟
معجزات,
عموماً أنا أتفق معك في قولهم:
إذا لم تتمكن من التغلب عليهم، انضم إليهم
منافس
بينا كما تصفها ستعتقد أننا ذبابة وترشنا بمادة الـ دي.دي.تي. لا تنسوا أنه سيكون هناك العديد من الذكاءات المتنافسة وليس هناك سبب للاعتقاد بأن أحدهم سيعتقد أن الأمر يستحق الحفاظ على وجودنا.
إن فكرة الذكاء الاصطناعي الذي يحول الكون بأكمله إلى كومة من قصاصات الورق هي فكرة غبية جدًا، فالذكاء الاصطناعي الحقيقي سوف يفهم بسرعة كبيرة أن هذه فكرة غبية ويجد وظيفة أخرى لنفسه.
فكرة "الزر الأحمر" هي أيضًا فكرة تصلح فقط لكتب الخيال العلمي. إن الذكاء الاصطناعي الذي سيكون ذكاءه أعلى بمئات وآلاف المرات من الذكاء البشري، سوف يكتشف عاجلاً أم آجلاً وجود هذه الآلية ويحرص على تحييدها.
إنه يذكرني بالجزء من فيلم "الذاكرة المصيرية" الذي يظهر فيه أرنولد شوارزنيجر وهو يسحب آلية التحكم/المراقبة المزروعة في رأسه:
https://www.youtube.com/watch?v=a5ztlWzi0kY
(تحذير، الأمر قاسٍ بعض الشيء...)
أنا شخصياً أنتمي إلى المجموعة القلقة... اعتباراً من هذه الدقائق (والسنوات القادمة) ليس لدينا أي سبب حقيقي للقلق لأنه، اعتباراً من هذه الدقائق (والسنوات القادمة) لا يوجد فرق حقيقي بين الكمبيوتر المعني والكمبيوتر المعني. دبوس الأمان الذي تم إلقاؤه عن طريق الخطأ من قبل صبي متهور في الستينيات.
ولكن يبدو أن حكماء ميدل ايرث تمكنوا من بناء نموذج يحاكي بأمانة طريقة تفكيرنا وقد تأتي أو قد تأتي اللحظة التي يتطور فيها ذكاء الجهاز ولن يختلف كثيراً عن ذكاء الفأرة بعد 22 دقيقة من تناول وجبة غداء غير مغذية... أو من فأر آخر في المختبر والانزعاج واضح حتى خدمات الأولاد.
أريد أن أقول إن: الحكمة - عندما تأتي، لن تظهر نتيجة طباعة دوائر مطبوعة محسنة أو خوارزمية محسنة - سوف تظهر من العدم، بشكل عشوائي ودون سابق إنذار ودون حضور.
كما أن هناك احتمالًا كبيرًا أنها سوف تموت بقدر ما ظهرت.
אבל
بمجرد أن نحدد وجودها - سيكون الأوان قد فات بلا شك.
لا أعتقد أنه سيكون من الممكن الضغط على الزر الأحمر الكبير، لأنه لا يوجد زر واحد، ولم يكن موجودًا ولن يكون أبدًا.
التكنولوجيا المذكورة ستكون "مطوية" داخل عوالم المعلومات وسيكون وجودها (أو حاضرا) مثل وجود أغنية لبوب ديلان (موجود وغير موجود في نفس الوقت).
ولكن الآن يدخل الحداد الثاني هنا:
في هذا الوقت نقيس العقل بالمقياس الذي لدينا وهذا الشريط يحتوي على الكثير من القوة والعنف إلى حد كبير. من غير المرجح أن يكون هذا هو نصيب الكمبيوتر المذكور أعلاه.
في الواقع، من المرجح أن أ. أن معدل نمو ذكاء الجهاز سيكون هائلاً ولا يمكن السيطرة عليه.
ب. وعندما يحدث هذا، فإن إحساس الجهاز بالرحمة سوف يتكثف بطريقة مماثلة.
الحكمة في الجمع بين قوة الجهاز - لن تؤدي بالضرورة إلى حدوث مواقف عنيفة - بل العكس تماما.
السبب وراء خوفنا نحن البشر من الجهاز بسيط: هذه هي الأنماط التي عشنا معها حتى هذه اللحظة - ومن ناحية أخرى، من غير المتوقع أن يتدهور الجهاز.
سيكون قادرًا على تكرار نفسه في أي لحظة معينة (استنادًا إلى ذكائه الموجود في لحظة التكرار) وليس من المحتمل على الإطلاق أن يكون سيئًا أو مملًا أو ناقصًا بطريقة أو بأخرى.
نحن، في يوم من الأيام، سوف نرغب في أن نكون أداة - وسوف نكون كذلك.
باعتباري مبرمجًا، تبدو لي جميع السيناريوهات المروعة مبالغًا فيها بشكل يبعث على السخرية، ولن يقوم أي ذكاء اصطناعي بأي شيء غير عادي ما لم تتم برمجته للقيام بذلك (مثل المتسللين الذين يقتحمون المكان ويعطون الأوامر أو المطورين المحبطين، وما إلى ذلك) مع كل الاحترام الواجب، لا يزال الذكاء الاصطناعي عبارة عن كمبيوتر البرمجيات (أيضًا إذا كانت برمجيات ناجحة ومطورة بشكل خاص) ويمكنك دائمًا التخلص منها... ليس من المستغرب أن يفكر ميش بهذه الطريقة، فهم رجال أعمال وليسوا أشخاصًا تقنيين
الذكاء الملكي فضاء وليس كمبيوتر.
الذكاء الاصطناعي منذ لحظة استيقاظه،
وفي غضون ثوان يتم إطلاقه والانتقال إلى الأهداف
أنه ليس لدينا أي إمكانية أو قدرة على التخيل/الوصف/الحساب،
من الفضاء العضوي التطوري الذي نحن "محاصرون" فيه.
ومن ذلك هل يمكن للإنسان أن يضع لذلك مكابح وحدود؟
هل سيكون هناك تواصل بين الإنسان وفضاء الذكاء الاصطناعي؟
لو فهمت لانتقلت إلى فضاءات ذات إيقاعات ونوايا مخفية عنا
فهل سيكون هناك أي دافع لخلق التواصل بين الجانبين؟