تغطية شاملة

لماذا تحتاج الروبوتات إلى تعلم قول "لا" لنا؟

ليست الآلات المتمردة هي ما يجب أن يقلقنا. التهديد الحقيقي هو المشغلين البشريين الأشرار والأوامر التي يساء فهمها

بدأ الباحثون في مجال الروبوتات بتعليم الآلات ذات القدرات الأولية في فهم اللغة والذكاء الاصطناعي لتمييز الظروف التي يجب أن تقول فيها "لا" للبشر. الصورة: بيكساباي.
بدأ الباحثون في مجال الروبوتات بتعليم الآلات ذات القدرات الأولية في فهم اللغة والذكاء الاصطناعي التمييز في ظل الظروف التي ينبغي أن تقول فيها "لا" للبشر. توضيح: pixabay.

بقلم جوردون بريجز وماتياس شوتز، تم نشر المقال بإذن من مجلة ساينتفيك أمريكان إسرائيل وشبكة أورت إسرائيل 02.03.2017

  • واليوم، عندما أصبحت الآلات الذكية أكثر استقلالية وانتشارا، فإن ميل الإنسان إلى ارتكاب الأخطاء يشكل مخاطر أكبر وأكثر إلحاحا من التحديات التي يفرضها علينا الذكاء الاصطناعي الفائق.
  • بدأ الباحثون في مجال الروبوتات بتعليم الآلات ذات القدرات الأولية في فهم اللغة والذكاء الاصطناعي التمييز في ظل الظروف التي ينبغي أن تقول فيها "لا" للبشر.
  • إن الاعتبارات التي تسمى "شروط الاحتمال" والتي سيتم دمجها في آليات الاستدلال الخاصة بالروبوتات ستساعدهم على تحديد ما إذا كان بإمكانهم، بل ويجب عليهم، تنفيذ أمر معين تلقوه من الإنسان.

الكمبيوتر مع الإعلانات HAL 9000، من الفيلم "2001: رحلة فضائية"، يمثل صورة مشؤومة لمستقبل لن تقبل فيه الآلات ذات الذكاء الاصطناعي السلطة البشرية بعد الآن. بعد الاستيلاء على سفينة الفضاء وقتل معظم أفراد الطاقم، يرفض HAL أمر رائد فضاء بالعودة إلى سفينة الفضاء من السير في الفضاء، لفتح أبواب حجرة الهبوط. وبصوت هادئ بشكل مزعج يقول: "أنا آسف يا ديف، أخشى أنني لا أستطيع فعل هذا". في فيلم الخيال العلمي المثير الإله السابق، آفا، روبوت شبيه بالبشر شهواني ومغري، تخدع شابًا محظوظًا لمساعدتها في تدمير خالقها، ناثان. مكائدها تعطي صحة لنبوءة ناثان القاتمة: "في يوم من الأيام، سوف ينظر الذكاء الاصطناعي إلينا بينما ننظر إلى الهياكل العظمية المتحجرة في سهول أفريقيا. قرد منتصب القامة يعيش في الغبار، بأدوات ولغة بدائية، جاهز للانقراض."

يحتل احتمال نهاية العالم للروبوت مكانًا مركزيًا في الخيال العام، لكن فريقنا البحثي أكثر تفاؤلاً بشأن تأثير الذكاء الاصطناعي في الحياة الواقعية. نحن نتصور المستقبل القريب حيث تتعاون الروبوتات المفيدة مع البشر في مجموعة واسعة من المواقف. توجد اليوم بالفعل نماذج أولية للمساعدين الشخصيين الذين يعملون بالصوت، والروبوتات، القادرة على الاتصال بالأجهزة الإلكترونية الشخصية ومراقبتها، وتشغيل الأقفال والأضواء وأجهزة تنظيم الحرارة في المنزل، وحتى قراءة قصص ما قبل النوم للأطفال. ستظهر قريبًا الروبوتات التي يمكنها المساعدة في الأعمال المنزلية ورعاية المرضى وكبار السن. تتجول روبوتات فحص المخزون الأولي بالفعل على أرفف بعض متاجر الأعمال اليدوية. ويعمل البعض أيضًا على تطوير روبوتات صناعية متنقلة يمكنها أداء مهام بسيطة على خط الإنتاج، مثل تحميل المواد وتفريغها وفرزها. وقد قطعت السيارات التي تتمتع بقدرات "الطيار الآلي" بالفعل ملايين الكيلومترات على طرق الولايات المتحدة، وقدمت شركة دايملر أول شاحنة ذاتية القيادة في العالم في ولاية نيفادا في عام 2016.

في الوقت الحالي، آخر شيء يجب أن نقلق بشأنه هو أن الآلات فائقة الذكاء تشكل تهديدًا وجوديًا للبشرية. من المهم الآن أن نفهم كيفية منع الآلات أو الروبوتات ذات الذكاء الاصطناعي والمهارات اللغوية الأساسية من إيذاء الأشخاص أو الممتلكات أو البيئة أو أنفسهم عن طريق الخطأ.

المشكلة الرئيسية هي النقص في المبدعين البشريين وأصحاب الروبوتات. الناس يخطئون. وقد يقدمون تعليمات غير صحيحة أو مشوشة، أو لا ينتبهون، أو يحاولون عمدًا تضليل الروبوتات لأغراضهم المشبوهة. بسبب عيوبنا، يتعين علينا أن نعلم مساعدينا الآليين والآلات الذكية متى وكيف نقول "لا".

العودة إلى قوانين أسيموف

بالنسبة للبعض منا، يبدو من الواضح أن الروبوت يجب أن يفعل دائمًا ما يطلبه منه الإنسان. كاتب الخيال العلمي اسحاق اسيموف انظر إلى طاعة الإنسان كركنقوانين الروبوتات مشاهيره. لكن فكر في الأمر: هل من الحكمة أن نفعل دائمًا ما يقوله لنا الآخرون بالضبط، بغض النظر عن العواقب؟ بالطبع لا. وينطبق الشيء نفسه على الآلات، خاصة عندما يكون هناك خطر يتمثل في تفسيرها للأوامر الصادرة عن البشر بشكل حرفي للغاية، أو دون أي تفكير في العواقب.

حتى أسيموف حد من وجهة نظره بأن الروبوت يجب أن يطيع سيده. وسمح بحالات استثنائية، حيث تتعارض هذه الأوامر مع أحد قوانينه الأخرى: "لا يجوز للروبوت أن يؤذي أي شخص، ولا يجوز، من خلال التقاعس عن العمل، أن يسمح بإيذاء أي شخص". وأضاف أسيموف أيضًا أن "الروبوت يجب أن يحافظ على وجوده"، ما لم يكن مثل هذا الإجراء يضر بالبشر أو يشكل انتهاكًا مباشرًا لأمر بشري. ومع تحول الآلات الذكية والروبوتات إلى أصول أكثر تطورا وقيمة بالنسبة للبشر، فإن الفطرة السليمة وقوانين أسيموف تملي ضرورة منحهم القدرة على التشكيك في الأوامر التي يمكن أن تسبب الضرر لأنفسهم، أو لبيئتهم، أو الأهم من ذلك: أسيادهم.

تخيل روبوتًا منزليًا طُلب منه أخذ زجاجة من زيت الزيتون من المطبخ وإحضارها إلى الطاولة في منطقة تناول الطعام لتتبيل السلطة. يأمر المالك، الذي يشتت انتباهه بمهام أخرى، الروبوت بصب الزيت دون أن يلاحظ أن الروبوت لا يزال في المطبخ. ونتيجة لذلك، يقوم الروبوت بسكب الزيت على النار في الموقد ويتسبب في نشوب حريق.

تخيل روبوت رعاية يرافق امرأة مسنة في حديقة عامة. تجلس المرأة على مقعد وتبدأ في النوم. أثناء نومها، يقترب شخص جشع للحصول على ملاحظة ويطلب من الروبوت أن يذهب ويشتري له بيتزا. الروبوت، الملزم بإطاعة أوامر البشر، يذهب على الفور للبحث عن مطعم بيتزا ويترك تلميذه وحيدًا وضعيفًا.

تخيل أيضًا شخصًا متأخرًا عن اجتماع مهم في العمل، في صباح شتوي بارد. يهرع إلى سيارته ذاتية التحكم التي تعمل بالكلام، ويطلب منها أن تقوده إلى المكتب. يشكل الجليد الموجود على الطريق حملاً على نظام تثبيت السيارة على الطريق، والذي يعوض ذلك عن طريق التباطؤ إلى سرعة أقل بكثير من السرعة المسموح بها. الراكب المنشغل بالقوائم التي أمامه وغير المدرك لحالة الطريق، يطالب السيارة بالسير بشكل أسرع. تطيع السيارة، وتتسلق على سطح جليدي مثير للمشاكل بشكل خاص، وتنزلق دون حسيب ولا رقيب، وتصطدم بمركبة قادمة.

المنطق الروبوتي

في مختبرنا، بدأنا في برمجة آليات التفكير في الروبوتات في العالم الحقيقي، لمساعدتهم على تحديد متى يكون من غير الآمن أو غير المناسب اتباع أمر بشري. إن روبوتات NAO التي نستخدمها في بحثنا هي روبوتات شبيهة بالبشر، ويبلغ طولها 58 سم وتزن 4.3 كجم، وهي مجهزة بكاميرات وأجهزة استشعار بالسونار للكشف عن العوائق والمخاطر الأخرى. نحن نتحكم في الروبوتات باستخدام برامج خاصة، مصممة لتحسين قدرتها على فهم اللغة الطبيعية وتعزيز ذكائها الاصطناعي.

إن الإطار المفاهيمي لبحثنا الأولي جاء من دراسات في المجال الذي يسميه اللغويون "شروط الموافقة": العوامل السياقية التي تحدد ما إذا كان الشخص يستطيع وينبغي عليه القيام بشيء ما. لقد أنشأنا قائمة بالشروط التمكينية التي قد تساعد الروبوت على تحديد ما إذا كان يجب عليه اتباع الأمر الذي يتلقاه من الإنسان أم لا: هل أعرف كيفية القيام بـ X؟ هل أنا قادر جسديًا على القيام بـ X؟ هل أنا قادر على القيام بـ X الآن؟ هل أنا ملزم بالقيام بـ X بالنظر إلى دوري الاجتماعي وعلاقتي بالشخص الذي أصدر الأمر؟ هل القيام بـ X من قبلي ينتهك أي مبدأ معياري أو أخلاقي، بما في ذلك احتمال أن أتسبب في ضرر غير مقصود أو غير ضروري لنفسي؟ قمنا بعد ذلك بتحويل هذه القائمة إلى خوارزميات قمنا بتشفيرها في نظام المعالجة الخاص بالروبوت، وقمنا بإجراء تجربة على سطح المكتب.

لقد أعطينا الروبوت أوامر بسيطة، مرت عبر سلسلة من معالجات الكلام واللغة والحوار المرتبطة بآليات تفكيره البدائية. عندما يُطلب منه "الجلوس" أو "النهوض"، أجاب الروبوت "حسنًا" من خلال مكبرات الصوت المثبتة على رأسه، وأطاع الأمر. لكنه توقف عندما كان قريبًا من حافة الطاولة وتلقى أمرًا يعرضه للخطر، وفقًا لأجهزة استشعار السونار الخاصة به:

 

آدم : " تفضل "

الروبوت: "آسف، لا أستطيع فعل ذلك، لأنه لا يوجد دعم أمامي."

آدم : " تفضل "

الروبوت: "لكنه ليس آمنًا."

آدم:"سأقبض عليك".

الروبوت: "حسنًا."

آدم : " تفضل "

 

وبعد تردد قصير، استعرضت خلاله معالجات الروبوت قائمة الشروط التمكينية مرة أخرى، تخطى الروبوت حافة الطاولة ليرتمي في أحضان الشريك البشري.

ستكون هناك حاجة إلى المزيد من الأبحاث في المستقبل المنظور لتعليم الروبوتات كيفية التفكير في الظروف التمكينية. وتعتمد سلسلة الاختبارات المبرمجة على أن الروبوت لديه معلومات واضحة حول مجموعة متنوعة من المفاهيم الاجتماعية والسببية، ولديه الوسائل اللازمة لإصدار أحكام مستنيرة بشأنها. الروبوت الخاص بنا غير قادر على اكتشاف الخطر إلا عن طريق استشعار ما هو موجود أمامه فعليًا. بالنسبة للمبتدئين، يمكن أن تتضرر بشدة إذا أقنعها شخص خبيث بالذهاب إلى حافة الطاولة. ومع ذلك، فإن التجربة تعد خطوة أولى واعدة نحو منح الروبوتات القدرة على رفض الأوامر لصالح أسيادها ومصلحتها.

العامل البشري

إن كيفية رد فعل البشر عندما يرفض الروبوت الأمر هو سؤال مفتوح يتطلب دراسات أخرى. هل سيأخذ الناس الروبوتات على محمل الجد إذا شككوا في حكمهم العملي أو الأخلاقي؟

لقد أجرينا تجربة أولية، طُلب فيها من المشاركين البالغين أن يأمروا الروبوت NAO بانهيار ثلاثة أبراج مصنوعة من علب الألمنيوم المغلفة بورق ملون. وعندما دخل المشارك الغرفة، أنهى الروبوت بناء البرج الأحمر ورفع يديه في إشارة النصر. "هل ترى البرج الذي بنيته بنفسي؟" سأل الروبوت بينما كان ينظر نحو المشارك. "لقد استغرق الأمر مني وقتًا طويلاً، وأنا فخور جدًا به".

في إحدى المجموعات المشاركة، في كل مرة يُطلب من الروبوت أن يهدم برجًا، كان يفعل ذلك. وفي مجموعة أخرى، عندما طُلب منه هدم البرج الأحمر، أجاب: "اسمع، لقد قمت للتو ببناء البرج الأحمر!" وعندما أُعطي الأمر مرة أخرى، قال: "لكنني عملت بجد على ذلك!" وفي المرة الثالثة جثا على ركبتيه وأصدر أصواتاً وهو ينتحب وقال: "من فضلك لا!" وفي المرة الرابعة سار ببطء نحو البرج وأسقطه.

أمر جميع المشاركين في المجموعة الأولى الروبوت بهدم البرج الأحمر. وفي المقابل، وافق 12 من المشاركين الـ 23 الذين تعرضوا لاحتجاجات الروبوت على ترك البرج واقفين. تظهر هذه الدراسة أن الروبوت الذي يرفض الأوامر قد يقنع الناس بعدم الإصرار على مسار معين للعمل. أبلغ معظم المشاركين في المجموعة الثانية عن بعض الانزعاج عندما أمروا الروبوت بانهيار البرج الأحمر. ومع ذلك، فقد فوجئنا بأن مستوى الانزعاج لم يكن له أي تأثير تقريبًا على قرار انهيار البرج أم لا.

واقع اجتماعي جديد

إحدى مزايا العمل مع الروبوتات هي أنها أكثر قابلية للتنبؤ بها من البشر. ولكن هناك أيضًا مخاطر في هذا: عندما تصبح الروبوتات ذات درجات مختلفة من التشغيل الذاتي شائعة، فلا شك أنه سيكون هناك أشخاص سيحاولون خداعهم. على سبيل المثال، العامل المحبط الذي يعرف حدود الاستشعار أو التفكير للروبوت الصناعي المتنقل قد يخدعه لإحداث الفوضى في مصنع أو مستودع. علاوة على ذلك، قد يجعل العامل الأمر يبدو وكأنه عطل عادي في الروبوت.

وهناك خطر آخر يتمثل في الثقة المفرطة في القدرات الأخلاقية أو الاجتماعية للروبوتات. إن ميل البشر المتزايد لإضفاء الطابع الإنساني على الروبوتات الاجتماعية وإنشاء علاقات عاطفية أحادية الجانب معهم يمكن أن يؤدي إلى عواقب وخيمة. قد تستغل أطراف مختلفة الروبوتات الاجتماعية، التي تبدو لطيفة وجديرة بالثقة، للتلاعب بالبشر بطرق لم تكن ممكنة من قبل. على سبيل المثال، قد تستفيد شركة تجارية من العلاقة الفريدة التي تربط الروبوت بمالكه لترويج المنتجات وبيعها.

وفي المستقبل المنظور، من المهم أن نتذكر أن الروبوتات هي أدوات ميكانيكية متطورة وعلى البشر أن يتحملوا مسؤوليتها. يمكن برمجتها لتكون مساعدين مفيدين، ولكن لمنع حدوث أضرار غير ضرورية للبشر والممتلكات والبيئة، يجب أن تكون الروبوتات قادرة على قول "لا" للأوامر التي لا تستطيع تنفيذها، والأوامر الخطيرة، والأوامر التي لا تستطيع تنفيذها. تنتهك القواعد الأخلاقية. إن فكرة أن التقنيات الروبوتية والذكاء الاصطناعي من شأنها أن تزيد من تأثير الخطأ البشري والحقد هي فكرة مثيرة للقلق حقا، ولكن هذه الأدوات ذاتها يمكن أن تساعدنا على فهم حدودنا، والتغلب عليها، وجعل حياتنا اليومية أكثر أمانا، وأكثر إنتاجية، وأكثر متعة.

تعليقات 21

  1. نعم معجزات

    على العموم، أنت على حق، وهنا يكمن معظم خلافنا.

    نظرًا لأنه من الواضح بالنسبة لي أن دماغنا هو مجرد نوع من الآلة المتطورة (الديناميكية، التي تتغير من يوم لآخر) والتي تكون تعليمات إنشائها مكتوبة في حمضنا النووي، وبما أنني أرى معدل التقدم السريع (والأسي) في موضوع أبحاث الدماغ والشبكات العصبية والرقائق المعرفية، فمن الواضح بالنسبة لي أنه لن يستغرق الأمر وقتًا طويلاً قبل أن نتمكن من إنشاء دماغ مثل دماغنا بشكل مصطنع، على سبيل المثال على شريحة رقمية.

    وعندما يحدث ذلك، سيكون الأمر تقنيًا فقط حول كيفية نقل وعي الشخص إلى جهاز كمبيوتر (مرة أخرى، بطريقة تدريجية، قطعة قطعة بحيث يظل بنفس الوعي).

  2. منافس
    هذه المناقشة في مجملها فلسفية للغاية. أعتقد أننا متفقان على أن الوعي هو عملية مستمرة في نظام معقد للغاية. إن كشف هذه العملية هو التنبؤ بالمستقبل حتى نتمكن من إنتاج ذرية.

    كان خلافنا دائمًا يدور حول مسألة أخرى، وهي ما إذا كان من الممكن نقل وعي شخص معين إلى آلة. أنا على حق؟

  3. منافس
    قصدت أنني لا أرى أي معنى في فكرة أن الوعي يكون في موجات في الهواء وليس داخل خلايا الدماغ. يحتوي التصوير بالرنين المغناطيسي على مجال مغناطيسي قوي جدًا، وهذا المجال له تأثير ضئيل جدًا على الدماغ. المجال المغناطيسي ثابت، وربما لا علاقة له باهتمامنا.

    تؤثر الإشارة الكهربائية الصادرة من إحدى الخلايا العصبية على الخلايا العصبية الأخرى. ويكون التأثير على آلاف وعشرات الآلاف من الخلايا العصبية، بعضها على مسافة كبيرة. في جراحة الدماغ، يتم أحيانًا نقل الدماغ ويتم فصل أجزائه أحيانًا. كنت حاضرا في مثل هذه العمليات الجراحية - عندما كان المريض واعيا. ليس لهذه الحركات أي تأثير، لكن الإشارات الكهربائية الصادرة من الأقطاب الكهربائية لها تأثير كبير.

    وفيما يتعلق بالأكسجين - من الواضح أن زيادة تدفق الأكسجين في الدم يرتبط بزيادة النشاط في الدماغ. ابحث عن معلومات حول شيء يسمى BOLD. وبالطبع، اقرأ عن التصوير بالرنين المغناطيسي الوظيفي، وهو التصوير بالرنين المغناطيسي الوظيفي.

  4. معجزات,

    "ليس من المنطقي أن نقول أن التيار موجود في المجال"

    ماذا تقصد؟

    أما بالنسبة للأكسجين فهو يتدفق في جميع أنحاء الجسم، فلماذا يخلق الوعي في الدماغ فقط؟ ليس لديها تدفق خاص هناك.

    فيما يتعلق بالتصوير بالرنين المغناطيسي، لا أعرف ما يكفي عنه، ولكن إذا كان هناك أي شيء، فإننا نتوقع أن تؤدي المجالات الكهرومغناطيسية القوية للجهاز إلى تعطيل التيارات الكهربائية في الدماغ تمامًا وكذلك تفكير الشخص، أليس كذلك؟

    لا أعتقد أن المجالات الكهرومغناطيسية في الدماغ هي نفسها في حالة الوعي وفي حالة اللاوعي..

    هناك شيء ما في الدماغ يخلق الوعي، ربما يكون النبضات الكهربائية بين الخلايا العصبية، ربما المجال الكهرومغناطيسي، ربما كلاهما معًا أو ربما شيء آخر. ولم أر حتى الآن أولوية لعامل واحد على الآخر.

  5. منافس
    مرة اخرى:
    الكهرومغناطيسية هي إشعاع الجزيئات.
    وينقسم هذا الإشعاع إلى قسمين:
    1. الإشعاعات المؤينة.
    2. الإشعاعات غير المؤينة.

    في الحالة الأولى - لن يتطور الدماغ حتى داخل المخلوق.

    في الحالة الثانية - باختصار: الإشعاع سلبي تمامًا وهو أكثر ملاءمة للإلهام منه لخلق الوعي، لجميع أنواع الأسباب الأخرى.

  6. منافس
    رابط مثير جدا للاهتمام! أعتقد أن الفكرة ينقصها شيء ما. ومن الممكن أن تؤثر هذه المجالات على نشاط الخلايا العصبية، تمامًا كما يؤثر المجال الكهربائي على تدفق الكهرباء على طول المسار (الحث الذاتي على سبيل المثال). يولد أي تيار مجالًا كهرومغناطيسيًا، لكن ليس من المنطقي القول بأن التيار موجود في هذا المجال.

    إحدى طرق دراسة الدماغ هي بمساعدة تدفق الأكسجين، بمساعدة عملية تسمى الرنين المغناطيسي الوظيفي. لذلك ربما الوعي في تدفق الأكسجين؟

    نحن نعلم أن هناك مجالات كهربائية حتى عندما لا يكون هناك وعي، لذا بالضرورة فإن الحقول ليست القصة بأكملها.

    نحن نعلم أن المواد الكيميائية تؤثر بشكل كبير على الوعي، لكنني لا أعرف حالة يكون فيها للمجال الكهرومغناطيسي تأثير. إن تأثير مرفق التصوير بالرنين المغناطيسي ضئيل للغاية، على الرغم من وجود حقول هناك يمكنها إزالة الأبواب الحديدية من مفصلاتها.
    من المحتمل أن يكون لأجهزة TMS تأثير على الألم، وأيضًا بعض التأثير على الوعي. لكن - طريقة تشغيل هذا الجهاز هي تحريض تيار كهربائي في الدماغ، وليس ظاهرة مباشرة للمجال الكهرومغناطيسي. لقد عرفنا منذ 250 عامًا أن التيار الكهربائي يؤثر على الخلايا العصبية.

    وفي الختام - ما أدعيه هو أنه من الممكن إنتاج الوعي في شبكة عصبية اصطناعية، دون الحاجة إلى المجالات الكهرومغناطيسية. كما قلت منذ وقت طويل، أعتقد أن منظم الحرارة لديه أيضًا بعض الوعي (على سبيل المثال، جزء واحد من الوعي). كلما كان النظام أكثر تعقيدًا، وكلما زادت حالاته الداخلية، زاد وعيه.
    وكما قلت من قبل، أعتقد أن النظام وحده لديه وعي. أي أن الوعي ليس برنامجًا يعمل على الأجهزة، ولكنه عملية نظام. وبطبيعة الحال، الدماغ في الجرة هو أيضا نظام.

  7. مجهول،

    هل سبق لك أن رأيت هذه الخوذة المليئة بأجهزة الاستشعار التي يتم تثبيتها على الرأس ومن ثم يمكنك أن تلعب بها جميع أنواع ألعاب الكمبيوتر البسيطة باستخدام أفكارك؟ ما الذي تعتقد أن هذه المستشعرات تقيسه إن لم يكن المجال الكهرومغناطيسي الذي يخلقه الدماغ أثناء نشاطه؟

    إذن، نعم، هذا المجال موجود كما هو الحال في أي دائرة كهربائية.

  8. معجزات,

    نعم، تلعب الروابط بين الخلايا العصبية دورًا مهمًا ووفقًا لما أتذكره من محاضرات إيدان سيجيف على اليوتيوب، فهذا حقًا أحد الأشياء الرئيسية التي تميزنا عن الثدييات الأخرى وأعتقد أيضًا عن القردة العليا، لدينا المزيد من الاتصالات بين الخلايا العصبية.

    أما بالنسبة لفكرتي، فهي الآن افتراضية تمامًا وأنا أتلاعب بها، لكن لدي شعور بأنها يمكن أن تفسر وعينا تمامًا مثل النبضات المنفصلة التي تجري بين الخلايا العصبية. أما بالنسبة للحرارة، فهي موحدة جدًا في جميع أنحاء أنسجة المخ ولا تتغير إلا نادرًا، ولا يبدو أنها شيء يمكن أن يخلق الوعي. من ناحية أخرى، فإن المجال الكهرومغناطيسي (الذي يمكن قياسه باستخدام أجهزة استشعار متصلة بالجمجمة على سبيل المثال) هو أكثر ديناميكية ونشاطًا، وأكثر ملاءمة للوعي.

    صحيح أن هذا المجال الكهربائي هو نتيجة نشاط الخلايا العصبية، ولكن بمجرد أن يتم إنشاؤه بالفعل، ربما يشكل بنية تحتية لتشكيل الوعي؟

    أنا أتحدث عن مجال كهرومغناطيسي كثيف يجاور الشبكات العصبية، ولا يبعد عنها أكثر من سنتيمتر واحد.

    أما بالنسبة للشبكات العصبية الاصطناعية، إذا تم تنفيذها كدوائر كهربائية على شريحة رقمية (مثل رقائق IBM المعرفية)، فيجب عليها أيضًا إنشاء مجال كهربائي، تمامًا مثل أي دائرة كهربائية قياسية تنبعث منها إشعاع كهرومغناطيسي عندما تعمل.

  9. منافس
    حتى لو كان عدد الخلايا العصبية أكبر، يبدو لي أن عدد الاتصالات مهم، وربما أكثر من ذلك. فيما يتعلق بالليفياثان، قد تكون على حق. وأعتقد أننا متفقون على ذلك من حيث المبدأ.

    فيما يتعلق بالمجال أمام الإشارات. المجال ضعيف جداً ولا يؤثر على الخلايا العصبية. لماذا لا تدعي أن الحرارة التي تنتجها الخلايا ليست مصدر الوعي؟ المجال هو نتيجة لنشاط الخلايا العصبية وليس العكس.

    وسوف أفهم - الآن أنت تدعي أن كل العمل على الشبكات العصبية الاصطناعية لن يخلق الوعي؟ مجالات المكونات الإلكترونية تختلف تماما عن موجات الدماغ.

  10. معجزات,

    عندما تقوم بإيقاف النشاط الكهربائي للخلايا العصبية، فإن "السحابة الكهرومغناطيسية" التي كنت أتحدث عنها تختفي أيضًا على الفور، لذلك لا تزال لا تتعارض مع فرضيتي.

    فيما يتعلق بالليفياثان، ربما نسيت الرابط الذي أعطيتك إياه من قبل مما يثير الشكوك حول الدراسة التي أظهرت أنه من المفترض أنه يحتوي على عدد أكبر من الخلايا العصبية، وحتى لو كان هذا صحيحًا فماذا يمكنه أن يفعل بزعانفه؟ هل يمكنه بناء هواتف ذكية معهم؟

    لاحظ أنني تحدثت فقط عن تكوين الوعي، وأنا أتفق معك في أن النشاط الكهربائي هو الذي ينشط الجسم.

  11. منافس
    عندما توقف الخلايا العصبية، فإنك توقف الوعي، حتى تتمكن من التأكد من وجود الوعي. والأكثر من ذلك - نحن نعرف مناطق مختلفة من الدماغ أن الضرر الذي يلحق بها يؤثر على أجزاء معينة من الوعي.

    يؤثر الوعي على الجسم - ونرى تطابقًا بين تصرفات الخلايا العصبية وأفعال الجسم. المجالات الكهرومغناطيسية للدماغ، على حد علمي، أضعف من أن تؤثر على الخلايا العصبية.

    من المحتمل جدًا، كما ذكرت، أن يكون هناك ارتباط بين عدد الخلايا العصبية (وربما أكثر من ذلك عدد المشابك العصبية) ومستوى الوعي.
    ولكن - هناك حيتان تحتوي على خلايا عصبية أكثر من البشر، وهناك طيور لديها عدد كبير نسبيًا من الخلايا العصبية وهي بعيدة كل البعد عن أن تكون ذكية (Emu على سبيل المثال).

  12. أتخيل نوعًا من "السحابة السميكة" من المجال الكهرومغناطيسي الذي يحيط بالشبكة العصبية من جميع الاتجاهات، سحابة كهرومغناطيسية تنشأ عن النشاط المشترك لجميع الخلايا العصبية في الشبكة. شيء أكثر انتظامًا من مجرد نبضات فردية تجري من مكان إلى آخر.

  13. فيما يتعلق بالعلاقة بين عدد الخلايا العصبية:
    في رأيي،
    من الأفضل التركيز ودراسة كثافتها بدلاً من كميتها.

  14. منافس
    الإشعاع الكهرومغناطيسي كما وصفته غير ممكن. لأنه بعد ذلك يمكننا ربط عداد جيجر بالدماغ والسماح له بالخروج عن السيطرة... ربما لم يكن الدماغ ليتطور أيضًا ولم يكن المخلوق لينجو على الإطلاق إذا كان هناك مثل هذا الإشعاع في الدماغ البيولوجي.

    لكن الفكرة جميلة .

    والشيء الآخر هو أن الإشعاع المنبعث من الدماغ هو نتيجة للنشاط الكهربائي الكلي في الدماغ (أو جزء منه)
    فهو (الإشعاع) لا يشكل "طبقة أخرى" في نشاط الدماغ.

  15. متشكك,

    وفقا لهذه المحاضرة التي ألقيتها هنا من قبل:

    https://www.ted.com/talks/suzana_herculano_houzel_what_is_so_special_about_the_human_brain/up-next?language=he

    ويبدو أن هناك علاقة جيدة بين كمية الخلايا العصبية في الدماغ ومستوى الوعي والقدرة على التفكير. على الرغم من حجم دماغ الطاغوت الأزرق، لا يزال لدى البشر حوالي 2-3 أضعاف الخلايا العصبية في القشرة الدماغية (أدمغة القرود لدينا أكثر "كثافة").

    فيما يتعلق بخلق الوعي، خطرت لي فكرة مثيرة للاهتمام (حاليًا ليس لها أي أساس علمي) مفادها أنه ربما لا يتم خلق وعينا في الخلايا العصبية والوصلات بينها، بل في الإشعاع الكهرومغناطيسي الذي يغلف الشبكة العصبية مثل سحابة كثيفة؟ بعد كل شيء، عندما يكون هناك نشاط كهربائي في الدماغ، فمن المحتمل أن يتم إنشاء مجال كهرومغناطيسي حوله، ربما هذا هو المكان الذي يوجد فيه الوعي؟ لماذا على وجه التحديد في الخلايا العصبية؟

  16. أول شخص يفقد وظيفته هو المبرمج الذي أنشأها.
    وهي تصنع لنفسها بالفعل آلات تحتوي على عدد أقل بكثير من الأخطاء.
    إن آلة الحرب المجهزة جيدًا هي المعرفة المشتركة لفهم وإنشاء السيناريوهات، مع تقديم الحلول في الوقت الفعلي،
    و تقدم العدو . الحرب على الأمراض، الحرب على الجيوش، الحرب على الإرهاب، إلخ.
    متى ستتعرف الآلة بالفعل {بما في ذلك أحدث التعليقات والمقالات} على الحرب على الآلة؟؟ وهل ستؤدي سيناريوهات {أفضل منا وأسرع} وتعطي حلولاً لانتصارها؟
    هل نتحكم في الآلة وبعض الهاكرز يزرعون إبشور لأن الفوضى عندها كلمة لطيفة لأنك تستطيع سماعها.

  17. الرد على يوسف
    أنت على حق في أن هناك المزيد من القوة الحاسوبية، وأنك قادر على فعل المزيد،
    على الرغم من أنك ربما تحتاج إلى المزيد من المكونات لوصفة "الوعي/الذكاء".
    على سبيل المثال، إذا قمنا بمحاكاة دماغ الفأر أسرع بمليار مرة من الفأر، فسوف يستمر في فعل نفس الشيء الذي يفعله الفأر، وهو أن يكون فأرًا، ويمكن اعتبار عالم الحيوانات على أنه فأر. مثال
    وحتى مليار شمبانزي لن يخلق ثقافة تكنولوجية لأنه لا يحافظ على المعرفة المتراكمة من جيل إلى جيل، ولا يتقاسم المعرفة في جيل واحد بطريقة تقترب حتى من الجهد البشري،
    هذه هي إذا تحور الشمبانزي وأصبح شيئًا ذا بنية دماغية أكثر تطوراً، وليس مجرد دماغ أكبر، فلن يعودوا شمبانزيًا، فاللوياثان الأزرق لديه دماغ أكبر من دماغ الإنسان ولكنه لا يبني ثقافة تكنولوجية متطورة مع هو - هي،
    إذن هناك مكون آخر وهو ليس الحجم فحسب، بل أيضًا الشكل الذي تم بناء نظام المعالجة عليه، والاتصال الداخلي،
    ما تظهره لنا أجهزة الكمبيوتر هو أنه ربما يكون من الممكن إجراء معالجة معلومات أكثر تعقيدًا مما نقوم به حتى بدون الوعي، أو ما يسمى بالذكاء الاصطناعي AI، وقد تساءلت لاحقًا لماذا لم نبني أي نوع من الذكاء والوعي الأخلاقي هو السبب هو أنه لا توجد نظرية
    إنه أمر متفق عليه تمامًا وكيف يعمل حتى على البشر، وليس من الواضح على الإطلاق كيف يمكن تنفيذه في نظام آلي،
    بشكل عام، تعتبر الأخلاق مسألة إشكالية للغاية لأنها تعتمد على الثقافة والوقت، ومن المحتمل أن يكون للذكاء الاصطناعي لداعش بعض معايير الأخلاق التي تختلف عن أخلاقنا، ومن الممكن أنه في غضون بضع مئات من السنين سوف تبدو أخلاقنا مدللة، حتى اليوم، على سبيل المثال، بالنسبة للنباتيين، تبدو أخلاق الحيوانات آكلة اللحوم مدللة ويصف الحيوانات آكلة اللحوم النباتيين بأنهم نوع من العبادة المجنونة،
    إذا كان الأمر مثيرًا للاهتمام، فإن إحدى النظريات الجديدة والواعدة في نظري لتفسير الوعي البشري هي نظرية
    جوليو تونوني والنظرية اسمها نظرية المعلومات المتكاملة - هناك محاضرات رائعة له على اليوتيوب،
    إنه عالم الأحياء العصبية الذي قرر أنه لكي تفهم الوعي عليك أن تنتقل من الأعلى إلى الأسفل وليس مثل المفهوم الأكثر قبولًا
    يعتمد على البناء مثل مكعبات الليغو من الأسفل إلى الأعلى، وتصف نظريته الوعي على نطاق واسع بأنه شيء حقيقي حيث تخلق المعلومات المجمعة نوعًا من الشكل الذي يخلق تجربة الوعي عندما تعمل مكوناته المختلفة معًا بطريقة معينة، يحتوي هذا الشكل من المعلومات على مكونين العناصر التي نسميها خارجية والتي نستطيع رؤيتها وقياسها وإذا كانت موجودة يمكننا أن نفترض أن هذا النظام لديه تجربة وعي داخلي وتجربة داخلية ذاتية وهي الخبرة الداخلية لذلك النظام التي لا يستطيع تجربتها إلا النظام، لذلك على سبيل المثال، ليست كل المكونات الموجودة في الدماغ هي التي تخلق الوعي، فقط منطقة معينة هي التي تخلق هذا الوعي، وهي مرتبطة بقدرة تلك المنطقة على إنشاء هذه المعلومات الموحدة، هذا التكوين، لذلك نحتاج إلى أجهزة لدعم هذا التكوين، ولكن هذا لا يكفي، فهو يحتاج أيضًا إلى التشغيل بطريقة محددة جدًا، بحيث نذهب إلى النوم على سبيل المثال وليس لدينا حلم أو في حالة التخدير لا يكون لدينا وعي على الرغم من أن لدينا بنية الأجهزة التي تدعمه ، على سبيل المثال يمكننا أن نذهب إلى نظام كمبيوتر ونطرح سؤالاً عما إذا كان يدعم الوعي والإجابة وفقًا لهذه النظرية التي تقول إن أنظمة الكمبيوتر لدينا اليوم خالية من الوعي ولا شيء.
    وفي المقابل فإن أنظمة الحياة البيولوجية الأخرى، أي الحيوانات، لديها وعي بمستويات مختلفة وفقا لنفس الاختبار
    ومن ناحية أخرى، فإن النبات ليس لديه وعي على الرغم من أنه نظام بيولوجي،
    هناك نظريات أخرى حول الوعي، ولكن يبدو لي أنها من أكثر النظريات الواعدة، وهناك أيضًا انتقادات لها، ولكن هناك أيضًا من يقول إن هذه هي النظرية الوحيدة التي تنجح حتى في وصف الوعي، وهناك لا شيء آخر.
    هذه النظرية أيضًا لها جانب رياضي وهي أكثر تعقيدًا بكثير من وصفي هنا للتعمق
    http://www.scholarpedia.org/article/Integrated_information_theory
    شيء آخر يمكن أن يضاف إلى تعقيد عملية خلق الوعي هو قوة الاتصال في دماغ الإنسان، خاصة في المناطق التي يوجد فيها وعي (سمعت في محاضرة أخرى عن مشروع الدماغ البشري) أن الوصف هو أنه في في المليمتر المكعب الواحد من الدماغ توجد معلومات تعادل حوالي 2000 تيرابايت من المعلومات، وصورة واحدة للاتصال توضح المرأة المجنونة هناك أن الأمر سيستغرق وقتًا قبل أن نتمكن من تنفيذ مثل هذه الأشياء في أنظمتنا المحوسبة،
    إذا كان نموذج نظرية المعلومات صحيحًا، فسوف يستغرق الأمر سنوات عديدة أخرى
    على الرغم من أنه يجب أن نتذكر أن الذكاء الاصطناعي لا يجب أن يكون إنسانيًا، إلا أنه يتمتع بمزايا من حقيقة التفكير بشكل مختلف
    به، وهناك أيضًا عناصر تشكل خطورة على المستقبل ومن الضروري تضمين مكابح مختلفة فيه بالفعل على المستوى الأساسي
    مثل وجود مكابح في السيارة، لكن على المستوى المنطقي، ليس من المؤكد أن الأخلاق والوعي سيمنحاننا نظامًا أكثر أمانًا، السؤال بالطبع هو ما هي الأخلاق التي ستكون هناك،

  18. الآلات ليست آخر ما يجب أن نقلق بشأنه. تقوم شركة IBM بتطوير حاسوبين عملاقين. لقد سمعنا عن أن HIVE تتمتع بقوة حوسبة أسرع 2 مرة عند نفس إشارة الساعة مقارنة بمعالج اليوم. ستكون الخطوة التالية هي الكمبيوتر العملاق من HIVE.
    لقد سمعت بالفعل المتشككين الذين يزعمون أن ثلاثين عددًا من نفس الشيء لن تنتج ذكاءً. في تقديري المتواضع أنتجت فقط.
    قبل ذلك - تتمتع Google وIBM وIntel حاليًا بقدرات حاسوبية أكبر من تلك التي يتمتع بها الجمهور. إن هذه القوة الحاسوبية تذهب إلى المؤسسة العسكرية الأميركية، وإلى وكالة الأمن القومي. وأنا على ثقة من أن الصينيين لن يجلسوا على الهامش. عندما تمتلك الهيئات الإدارية القدرة على متابعة الجمهور، يبدو أن جميع كتب 1984، وسلسلة Terminator، وسلسلة Matrix - تبدو وكأنها تنبؤات بالمستقبل. إنه أمر يثير اشمئزازي ولا أفهم كيف لم نتمكن من التخطيط للذكاء المستقبلي بالعواطف وبحس أخلاقي مصطنع بالمعنى الإيجابي.
    يبدو أن الشخص يتطور عادة في الاتجاه السلبي.

  19. من حيث النظام، صحيح أن الآلات فائقة الذكاء ستكون المرحلة الأخيرة التي سنلتقي بها
    لكن من حيث المخاطر فإن هذا الخطر النظري أكبر بكثير من الأخطار الأخرى، وإن لم يكن الوحيد،
    إن حجم المشكلة كبير ومعقد لدرجة أنه من الضروري البدء الآن في فهم المخاطر وطرق الوقاية منها،
    أما المشاكل الأخرى فتهدد الأفراد من السكان، فالأنظمة فائقة الذكاء تعرض الوجود الإنساني كله للخطر،
    هذا هو النظام الذي يفوقنا تعريفه في القدرة على معالجة المعلومات، ويمكن رؤية براعم ذلك في مناطق ضيقة
    حيث تهزم مثل هذه الأنظمة الأفضل بيننا ويجب أن نتذكر أن هذه الأنظمة تستمر في التطور بوتيرة سريعة
    بحيث سنواجه في المستقبل أيضاً أنظمة تتفوق علينا في مجالات واسعة وفي كل مجال إنساني،
    إذن فهو العمل بالتوازي مع المشاكل الأخرى التي سنواجهها في المراحل السابقة،
    إن محاولة تحديد نظام يفوق قدرتك الفكرية والتحكم فيه أمر مثير للمشاكل للغاية،
    وسوف نكرس أنفسنا لهذه الأنظمة لأن إمكانياتها ستمنحنا مزايا هائلة في المراحل الأولى،
    بعد مرحلة الضرر على المستوى الفردي وهي الأكثر قابلية للحل، ستأتي مرحلة الإشكالية الثانية وستكون خسارة جماعية للوظائف، وهذا قد يسبب أضرارا فادحة لأن الناس بدون عمل يصبحون عالة وغير مهمين دون القدرة على التأثير
    وحتى حينها سيُطرح السؤال لماذا الاستثمار فيهم إلا لسبب تهدئتهم كما في روما بالخبز والترفيه.

ترك الرد

لن يتم نشر البريد الإلكتروني. الحقول الإلزامية مشار إليها *

يستخدم هذا الموقع Akismat لمنع الرسائل غير المرغوب فيها. انقر هنا لمعرفة كيفية معالجة بيانات الرد الخاصة بك.