تُؤجّج الحروب في أوكرانيا وإيران، والصراع الأنثروبي، ومناقشات الأمم المتحدة، الدعوات إلى تنظيم الأسلحة ذاتية التشغيل والذكاء الاصطناعي العسكري. لكن قوانين أسيموف للروبوتات، كما تُبيّن قصة "الدوران والدوران"، مصممةٌ أيضاً لكشف المفارقات بدلاً من تقديم حلولٍ بسيطة.
في مقال نُشر في 9 أبريل 2026، يعود فرانشيسكو غريللوزميل أكاديمي في قسم العلوم الاجتماعية والسياسية بجامعة بوكونيل، يستشهد بقوانين إسحاق أسيموف الثلاثة للروبوتات للتحذير من "لحظة تشيرنوبيل" في عالم الذكاء الاصطناعي: كارثة كبرى ستجبر العالم على وضع القواعد بعد فوات الأوان. وتتمحور الحجة الرئيسية في المقال حول كيف تُغير الحروب في أوكرانيا وإيران اقتصاد الحرب، وسرعة اتخاذ القرارات، والقدرة على تحديد الأهداف وتتبعها ومهاجمتها، مما يُبرز الحاجة المُلحة إلى تنظيم دولي.
القوانين الثلاثة (ترجمة إيمانويل لوتيم):
- القانون الأول: لا يجوز للروبوت أن يؤذي إنساناً؛ ولا يجوز له، بسبب الإهمال، أن يسمح بتعرض إنسان للأذى.
- القانون الثاني: يجب على الروبوت أن يطيع الأوامر التي يصدرها له الإنسان، بشرط ألا تتعارض هذه الأوامر مع القانون الأول.
- القانون الثالث: يجب على الروبوت حماية وجوده، شريطة ألا تتعارض هذه الحماية مع القانون الأول أو الثاني لقوانين الفيزياء.1, 2]
- القاعدة 0 (أضيفت لاحقاً): "لا يجوز للروبوت أن يؤذي البشرية، ولا أن يسمح، من خلال التقاعس، بإلحاق الضرر بالبشرية" (القانون الأعلى من القوانين الثلاثة).
إن توقيت هذا النقاش ليس من قبيل الصدفة. ففي الأشهر الأخيرة، اشتد الجدل الدائر حول استخدام النماذج اللغوية وأنظمة الذكاء الاصطناعي في المجال العسكري. فعلى سبيل المثال، وضعت شركة أنثروبيك خطين أحمرين واضحين: المراقبة الجماعية داخل الولايات المتحدة والأسلحة ذاتية التشغيل بالكامل. وقد أوضح داريو عمودي، الرئيس التنفيذي للشركة، في فبراير/شباط أن نظام كلود يُستخدم بالفعل من قبل وكالات الأمن الأمريكية في مهام مثل تحليل المعلومات الاستخباراتية والمحاكاة والتخطيط، لكنه جادل بأنه لا يمكن الوثوق بمثل هذه الأنظمة في اتخاذ قرار استخدام القوة المميتة دون إشراف بشري دقيق. وقد تصاعد هذا الجدل إلى مواجهة قانونية وسياسية مع البنتاغون.أنثروبي)
إن ساحة المعركة نفسها تدفع العالم نحو نفس السؤال. فقد ذكرت رويترز في مارس أن أوكرانيا فتحت بيانات ساحة المعركة لحلفائها لتدريب نماذج الذكاء الاصطناعي للطائرات المسيرة، وأن هذه الأنظمة تُختبر تحديداً في ظل ظروف تحدد فيها التشويش الإلكتروني، ووفرة المعلومات، وسرعة الاستجابة النتيجة. ومع ازدياد استقلالية هذه الأنظمة في تحديد هويتها، وتوجيهها، واختيارها للعمل، فإن الفترة الزمنية التي يمكن للإنسان خلالها فهمها والتحكم فيها وإيقافها تتضاءل.رويترز)
لكن هنا تبدأ أيضًا الصعوبة الفلسفية، وربما الأكثر عملية، في العودة إلى أسيموف. لم تُكتب قوانينه في مجال الروبوتات كمواصفات هندسية عملية أو مسودة لائحة، بل كإطار أدبي يهدف إلى توضيح كيف تنهار القواعد البسيطة ظاهريًا أمام المواقف المعقدة. وقد بنى أسيموف نفسه مرارًا وتكرارًا قصصًا تتعارض فيها القواعد، أو تتشابك، أو تؤدي إلى نتائج عبثية. في القصة "شهر شهر" (يركض حولعلى سبيل المثال، يُؤمر الروبوت "سبيدي" بأداء مهمة، ولكن بسبب تعارض بين واجب طاعة البشر وواجب حماية نفسه، يدخل في حلقة مفرغة ويتصرف بشكل غير عقلاني. يوضح هذا المثال أيضًا المشكلة المعاصرة جيدًا: من السهل نسبيًا كتابة قاعدة مثل "لا تؤذي شخصًا"، ولكن من الصعب جدًا تحديد ما يُعتبر ضررًا، ومن يُعتبر هدفًا مشروعًا، وماذا يحدث عندما يكون التقاعس عن العمل سببًا في ضرر أكبر من العمل نفسه.
في الواقع، يتجه المجال الدولي بالفعل نحو "قواعد ما قبل الكوارث". ويشير مكتب الأمم المتحدة لشؤون نزع السلاح إلى أن الأمين العام للأمم المتحدة، أنطونيو غوتيريش، كان يدعو لسنوات إلى حظر أو تقييد أنظمة الأسلحة الفتاكة ذاتية التشغيل، واصفاً الأنظمة التي تعمل دون سيطرة أو إشراف بشري بأنها غير مقبولة سياسياً ومثيرة للاشمئزاز أخلاقياً. وفي عام 2023، دعا إلى إبرام صك قانوني ملزم بحلول نهاية عام 2026 من شأنه حظر بعض هذه الأنظمة وتنظيم البعض الآخر. كما تُظهر المناقشات في اتفاقية حظر الأسلحة التقليدية هذا العام أن بعض الدول تتحدث صراحةً عن سلسلة قيادة ومسؤولية بشرية "قابلة للتتبع" طوال دورة حياة هذه الأنظمة.مبادرة الأمم المتحدة لنزع السلاح)
لكن الأطر الحالية لا تزال عامة للغاية. تتحدث مبادئ منظمة التعاون الاقتصادي والتنمية عن الذكاء الاصطناعي الجدير بالثقة الذي يحترم حقوق الإنسان والديمقراطية، وتؤكد على الرقابة البشرية والشفافية والمساءلة. لكن هذه مبادئ شاملة، وليست قواعد تشغيل ميدانية. لذلك، لا تزال الفجوة كبيرة جدًا بين القدرات سريعة التطور والإطار المعياري. بعبارة أخرى، يدرك العالم المشكلة بالفعل، لكنه لم يقترب بعد من حل متفق عليه.منظمة التعاون والتنمية)
لذا، فإن العودة إلى أسيموف اليوم ليست في الحقيقة عودة إلى حل، بل هي بالأحرى إعادة صياغة للسؤال. إنها تذكرنا بأن أي مجموعة من القواعد التي تبدو أنيقة وأخلاقية وسهلة التطبيق قد تنهار بمجرد أن تواجه ضباب الحرب، وتناقضات القيادة، ومحدودية التحديد، والفجوة بين التعليمات الرسمية والحكم الأخلاقي. وبهذا المعنى، فإن "قوانين الروبوتات" أقل أهمية اليوم كنموذج للتنظيم، وأكثر أهمية كتحذير من وهم إمكانية حل مشكلة تاريخية وتكنولوجية وأخلاقية هائلة بثلاث جمل بليغة.
المزيد عن الموضوع على موقع العلوم:
تعليقات 3
1. في القصة، ولأن الروبوت موجود في بيئة خطرة، فإن القانون الثاني (الطاعة) يضعف قليلاً ويتم تعزيز القانون الثالث (حماية نفسه).
والنتيجة هي أنه يقترب من منطقة الخطر، وعندما تصبح خطيرة بما فيه الكفاية، فإنه يسير في دوائر بنصف قطر يمثل بالضبط مدى العبثية.
إذا اقترب أكثر، يزداد الخطر ويعرض نفسه للخطر، لذلك يبتعد.
إذا ابتعد، فإن الخطر يكون ضئيلاً، وعندها يطيع ويقترب.
لذلك، فهو يسير في دائرة، بنصف قطر ثابت.
2. قوانين الروبوتات هي اختراع أدبي ولا علاقة لها بالواقع.
3. هل يسمح القانون الصفري للروبوت بقتل إنسان باسم الإنسانية؟ ففي النهاية، القانون الصفري له الأولوية على جميع القوانين الأخرى...
الأمم المتحدة ليست إلا للدول الجبانة والجبانة (أي إسرائيل).
إذا لم تلتزم البشرية بالقوانين الأربعة، فلن تخضع الأنظمة التي تبنيها لهذه القوانين. يمكنك سنّ قانون يحظر الجرائم ضد الإنسانية، ولكن من سيلتزم به؟ مهلاً، هناك قانونٌ قائمٌ بالفعل! م.س.ل.