لقد ودع هذا الشهر عالم الفيزياء الفلكية الشهير، ولكن في فراق كما في فراق، ترك لنا المنظر الإنجليزي رؤية مفادها أن "الذكاء الاصطناعي سيكون مشبعًا بهدف - وإذا كانت هذه الأهداف لا تتفق مع الإنسانية - فسوف يكون ببساطة القضاء عليه"
عندما تقسم العالم إلى مؤيدين لثورة الذكاء الاصطناعي ومعارضين لها، فلا شك أن ستيفن هوكينج -الذي وافته المنية هذا الشهر- سيندرج في فئة منتقدي الذكاء الاصطناعي. لكن الصورة معقدة، لأنه من الممكن أن نتعلم من انتقادات العلماء حول مخاطر محددة تنتظرنا، ونحاول درءها.
تم اقتباس هوكينج عدة مرات في السنوات الأخيرة ضد الذكاء الاصطناعي العام - الاتجاه الذي يتم فيه توجيه الموارد فيما يتعلق بتطوير أنظمة الذكاء الاصطناعي. ووفقا له، يمكن للذكاء الفائق أن يمثل نهاية البشرية. سيكون الذكاء الاصطناعي مشبعًا بالأهداف، وإذا لم تتماشى هذه الأهداف مع الإنسانية، فسوف يقضي عليها ببساطة.
"ربما لا تكون كارهًا شريرًا للنمل ويدوس على النمل من باب الخبث، ولكن إذا كنت مسؤولاً عن مشروع لبناء سد لتوليد الكهرباء عندما يكون عش النمل في المنطقة على وشك الغرق - فمن المؤسف النمل"، كتب في عام 2015 على رديت. "دعونا لا نضع الإنسانية في موقف هؤلاء النمل."
AI: عدو أم صديق؟
ولكن ليس الروبوتات وحدها تشكل خطرا على البشرية، بل أيضا البشر الذين سيستخدمونها كأداة لقمع بقية السكان وتعميق عدم المساواة، كما حذر من أنظمة الأسلحة القائمة على الذكاء الاصطناعي. على أية حال، فإن نظام الذكاء الاصطناعي ليس ضارًا بالتعريف ولكن استخدامه قد يكون ضارًا، إذا لم يتمكنوا من التحكم في قوتهم بشكل فعال.
لكن في الوقت نفسه، كان هوكينج متفائلاً بشأن الفوائد التي يمكن أن يجلبها الذكاء الاصطناعي للإنسانية إذا قمنا ببنائه بشكل صحيح. واقترح تطوير أفضل الممارسات التي من شأنها أن تؤدي إلى إنشاء ذكاء اصطناعي مفيد.
عنصر آخر مهم في انتقادات هوكينج للذكاء الاصطناعي هو التشكك الصحي تجاه أولئك الذين يتوقعون وصول الذكاء الفائق في إطار زمني معين. وأبرزهم بالطبع راي كورزويل المعروف بنظرية التفرد. "لا يوجد إجماع بين باحثي الذكاء الاصطناعي حول المدة التي سيستغرقها بناء ذكاء اصطناعي على المستوى البشري وما بعده، لذا من فضلك لا تثق في أي شخص يدعي على وجه اليقين أن ذلك سيحدث في حياتك أو أنه لن يحدث في حياتك ،" هو كتب.
آداب من ظهوراته العلنية آخر مرة قام بها هوكينج كانت في قمة الويب التي عقدت في نهاية عام 2017 في لشبونة. واختار أن يخصص المحاضرة بأكملها للذكاء الاصطناعي.
محاربة الإنسانية وتدميرها
وأوضح بالفعل اليوم: "نحن قلقون من أن الآلات الذكية ستكون قادرة على استبدال الوظائف التي يقوم بها البشر حاليا وتدمير حياة الملايين من الناس. قد يقرر الذكاء الاصطناعي محاربة البشرية وتدميرنا".
ماهي الاجابة؟ ووفقا لهوكينج، "يجب السيطرة على الذكاء الاصطناعي وجعله يعمل لصالحنا ولتقليل المخاطر قدر الإمكان، نحتاج إلى تثبيت أنظمة إدارة فعالة تعتمد على الخبرة في جميع المجالات المتعلقة بتطوير الذكاء الاصطناعي. من الواضح أن كل قطاع من قطاعات الاقتصاد سيتعين عليه دمج تدابير لمنع الضرر، ولكن فيما يتعلق بالذكاء الاصطناعي، فهذا ضروري للغاية."
من المهم أن نفهم أن هوكينج لم يكن كارهًا للتكنولوجيا. وفي السنوات الأخيرة، كان شريكًا في مبادرة Breakthrough Starshot مع المليارديرين يوري ميلنر ومارك زوكربيرج.
وتتمثل فكرة برنامج بحثي وهندسي بقيمة 100 مليون دولار في إثبات القدرة على استخدام الأشعة الضوئية لإطلاق مركبة فضائية نانومترية - في المرحلة الأولى بسرعة 20% من سرعة الضوء. يمكن لمثل هذه المهمة أن تصل إلى Alpha Centauri في غضون 20 عامًا من إطلاقها.
تستعير هذه الفكرة تطورات من مجال تصغير أنظمة الكمبيوتر، وستجعل من الممكن إرسال آلاف المركبات الفضائية بحجم الهاتف الخليوي، والتي ستتمكن من التنقل من خلالها إلى ألفا سنتوري، وتصوير الكواكب في النظام المجاور و نقلها إلى الأرض، في إطار زمني مماثل لإطار المشاريع داخل النظام الشمسي مثل نيو هورايزون، الذي استغرق تسع سنوات للوصول إلى بلوتو، أو المركبة الفضائية التي دارت حول زحل وأقماره لسنوات - مشاريع مثل كاسيني التي استمرت أكثر من 20 سنه.
للمزيد حول هذا الموضوع على موقع العلوم:
تعليقات 8
إلى كل من يخشى أن يدمر الذكاء الاصطناعي البشر... اذهبوا إلى النوم بسلام، فالوحيد الذي يستطيع تدمير الإنسان هو الإنسان نفسه.
الذكاء الاصطناعي بعيد جدًا عن مستوى وعي البشر
إنه محدود في إدراكه من خلال البرنامج الذي تم كتابته
وسوف تساعد هذه الإنسانية وتقدمها إذا وضع المبرمجون الأشرار تعليمات أخرى
واليوم بالفعل، يتم إجراء 80 بالمائة من التداول في البورصات بواسطة أجهزة الكمبيوتر
تتم الكثير من العمليات الآلية بواسطة أجهزة الكمبيوتر
لكن حتى الآن لم أرى أي كمبيوتر يحاول الإجابة على سؤال من أنا وما أنا وكيف أعمل وهل من الممكن تحسين أدائي
باختصار، فوضى كبيرة
مثلما تم تحذير البشرية من الثورة الصناعية
يجب أن ندرك أن فكرة سيطرة البشر على الذكاء الاصطناعي هي تمامًا مثل توقع أن يملي الصرصور التعليمات على الإنسان وسوف يطيعها الإنسان. لن يكون صراعا متساويا. إذا كان الذكاء الاصطناعي لا يريد للبشرية أن توجد، فلن تكون موجودة، وليس لدينا القدرة على تغيير شر المرسوم، كما أنه من غير الممكن للبشرية أن تقرر عدم تطوير الذكاء الاصطناعي مسبقًا، وذلك بسبب منطق نظرية الألعاب . ولكن هناك احتمال أن يقرر الذكاء الاصطناعي الاحتفاظ بجزء صغير من البشرية في محميات محمية حيث يقوم الإنسان بإنشاء محميات محمية للحيوانات، ويحاول منع الصيد الجائر للحيوانات المحمية مثل وحيد القرن وما إلى ذلك (مع نجاح جزئي ومشكوك فيه). )
بمجرد أن يقوموا بإنشاء جهاز كمبيوتر يفهم كيفية عمله، وسيكون قادرًا على البحث عن نفسه بنفسه وسيكون قادرًا على بناء أجهزة كمبيوتر أخرى أفضل، أيقظوني
حتى ذلك الحين، كل الغدر بالذكاء الاصطناعي هو خطيئة كبيرة...
التاريخ يثبت أمرين:
1]. ليس من الممكن التنبؤ باتجاهات التطور التكنولوجي والثقافي والاجتماعي، وبالتأكيد ليس بقدر كبير من الدقة. وأي شخص يقرأ كتب المستقبل من الخمسينيات والستينيات اليوم سوف يثبت ذلك بسهولة.
2]. ولا يمكن إيقاف وكبح التطور التكنولوجي والثقافي والاجتماعي.
ولذلك فإن الاستنتاج المنطقي الوحيد المطلوب من هاتين النظرتين هو أن التطور التكنولوجي والثقافي والاجتماعي جزء لا يتجزأ من عملية تطور الجنس البشري والحياة بشكل عام.
ليس من المستحيل أنه في عملية التطور سيتم إنشاء آلة تكنولوجية من مخلوق سيكون فائق الذكاء ولديه القدرة على المناعة والبقاء والتحديث الذاتي مما سيسمح له بوراثة الشخص الذي نحن عليه اليوم (الإنسان العاقل) ويكون الكائن الخارق الذي سيحكم الحياة والثقافة، وسيشكل الجيل التطوري القادم بعد الإنسان العاقل، حيث ورث الإنسان العاقل الأنواع البشرية القديمة التي سبقته مثل إنسان نياندرتال وإراكتوس والأفريقي وغيرهم.
لديهم الفضاء كله والكون، ولا يحتاجون إلى الأرض بالضبط.
موسى
فكر في جهاز كمبيوتر تتمثل مهمته في تشغيل آلة القلب والرئة. الآلة متصلة بزعيم مهم في دولة مثل كوريا الشمالية. الكمبيوتر مبرمج لإبقاء القائد على قيد الحياة، ومن المعروف أنه ستكون هناك محاولات اغتيال.
المشكلة ليست في الذكاء الاصطناعي، المشكلة هي أن الكمبيوتر مبرمج من قبل متطرفين، لن يمانعوا في استخدام العنف ضد أي شخص يحاول تخريب الجهاز.
والآن يأتي فني فقير يحتاج إلى تغيير الفلتر...
أعتقد أنه لا يتحدث من فراغ... لكنني لا أعتقد أنه سيكون من الممكن وضع س.ج. في هذا الشأن، لا يوجد تبديل واحد للذكاء المذكور أعلاه، وبما أن الأمر كذلك، فإذا كان هذا هو المكان الذي يفترض أن ينتهي فيه (الدمار)، فيمكن القول أنه في هذه المرحلة ليس هناك الكثير للقيام به أي أكثر من ذلك.
فيقول أحد جانبي - سوف تهلك البشرية بالفعل كما تنبأ الرجل صلى الله عليه وسلم.
ولكن هناك أيضًا جانب آخر (أنا) يدرك أننا (أنا) نتفحص الذكاء من خلال عيون الإنسان، وبما أن هذه هي الطريقة التي نتوقع بها الأمور كما ذكرنا أعلاه.
لكنني مقتنع بأن الذكاء الاصطناعي سوف يفتقر إلى الميزات الموجودة في كل إنسان (وفي شركتي الناشئة Bis)، على سبيل المثال - أبدًا، ولكن أبدًا، لن يتمكن شخص أو شيء ما من إزعاج جهاز كمبيوتر ولا يهم كيف. إنه ذكي.
لن ننجح أبدًا في غرس الخوف أو الأنا في جهاز الكمبيوتر.
ليس حساسًا للدونية أيضًا، وأكثر من ذلك...
سوف تفكر الآلات. بالتأكيد.
سوف يفكرون بشكل مختلف.
وربما ضمن هذا الاختلاف - لن يكون تدمير كائن حي هدفًا.
المشكلة ليست في السيطرة على أول ذكاء اصطناعي فائق. وسوف يشغل حرمًا جامعيًا كبيرًا وفريقًا من العلماء الذين سيراقبونه عن كثب. المشكلة هي ما سيحدث بعد 30 عامًا، عندما تكون نفس القدرات الحاسوبية متاحة على بطاقة التوسعة الحاسوبية (إذا كان مفهوم بطاقات التوسعة الحاسوبية سيظل موجودًا بالفعل). ومن أجل مراقبة هذه الأمور، ستكون هناك حاجة إلى شرطة تكنولوجية لوقف تقدم الحوسبة. حظا جيدا في ذلك. (ما زلت أتذكر التقارير التي منع فيها تصدير "الشريحة الرياضية 80385" إلى إسرائيل (من الولايات المتحدة الأمريكية) دون حزمة من الشهادات، لأنها سمحت بإجراء حسابات على مستوى "القنبلة الذرية". واليوم، يضع كل هاتف ذكي تلك القدرات في جيب صغير).