تغطية شاملة

"قد تحل الروبوتات محل أي مزود خدمة محتمل - وهذا مصدر قلق قانوني وقانوني"

من المسؤول إذا تسبب الروبوت الذي يعمل بالذكاء الاصطناعي في حدوث أضرار؟ هكذا سأل دوف جرينباوم، مدير معهد تسفي ميتار للابتكار التكنولوجي والقانون والأخلاق. وكان السؤال الذي تناولته محاضرته هو "هل الذكاء الاصطناعي أداة، أم أنه نوع جديد من الكائنات التي لديها التزامات أخلاقية؟"

 

الدكتور دوف جرينباوم، مدير معهد تسفي ميتار للابتكار التكنولوجي القانوني والأخلاقي تصوير: عدي كوهين تسيدك
الدكتور دوف جرينباوم، مدير معهد تسفي ميتار للابتكار التكنولوجي القانوني والأخلاقي. تصوير: عدي كوهين تسيدك

من آخر مشاريع المحامي تسفي ميتار، الذي وافته المنية قبل حوالي ستة أشهر، تأسيس معهد تسفي ميتار للابتكار التكنولوجي والقانون والأخلاق، في كلية الحقوق رادزينر في مركز بيتيناخومي في هرتسليا. قبل أسبوع من وفاته المفاجئة، كان لا يزال لديه الوقت ليرسل لرئيس المركز، الدكتور دوف جرينباوم، كتابًا بعنوان "صعود الروبوتات"، والذي يثير أسئلة قانونية مهمة مثل - ماذا يحدث إذا قام الروبوت بإيذاء شخص ما؟ ، على من يقع اللوم؟ المالك، المبرمج؟ وماذا لو كان الروبوت روبوتًا تعليميًا، ولم تعد البرمجة الأولية هي العامل الوحيد؟

هذا ما قاله الدكتور غرينباوم، في محاضرة بعنوان "الآثار القانونية والأخلاقية في ساحة الذكاء الاصطناعي"، ضمن مؤتمر BI في ذكرى زفي ميتار.

ووفقا لجرينباوم، يخشى الكثيرون من عصر حيث الذكاء الاصطناعي سوف يدير كل خطوة من حياتنا. مؤخرًا، نُشرت رسالة كتبها 20 ألف شخص، من بينهم مشاهير مثل ستيفن هوكينج الذي تحدث عن بداية نهاية الجنس البشري، ونعوم تشومسكي الذي يخشى إعطاء الروبوتات الكثير من القوة، وإيلون ماسك الذي نقل عنه قوله ذلك وهذا هو "أكبر تهديد وجودي للجنس البشري". ولا يتعلق الأمر بالأشخاص الذين يخافون من التكنولوجيا.

المهن التي سوف تختفي – بما في ذلك البرمجة

"قد تحل الروبوتات محل كل مقدم خدمة محتمل: وكلاء التأمين والمحامون وحتى المبرمجون - تقود DARPA مع الجامعات الرائدة في الولايات المتحدة مشروعًا ستقوم فيه الروبوتات أيضًا ببرمجة أجيالهم المستقبلية. وأوضح جرينباوم: "يمكننا برمجة الذكاء الاصطناعي لتجاهل طلباتنا". "يتم استخدام الذكاء الاصطناعي في القبة الحديدية، وإلى حد ما هناك قلق قانوني وقانوني. ما زلنا بحاجة إلى أشخاص في الحلقة، وإلا فمن المسؤول؟ ومع ذلك، يضيف الناس أخطاء إلى النظام. مثال آخر على المستوى العسكري هو الطائرات بدون طيار، التي أصبحت اليوم ذكية جدًا لدرجة أنها لا تحدد هوية المشتبه بهم فحسب، بل يمكنها أيضًا إطلاق النار عليهم.

يقول جرينباوم: "اتضح أن هذا القلق ليس جديدا، ولم يكن ملكا لقصص الخيال العلمي فقط". "كتب ألكسندر سولجينتسين، المؤلف الروسي المنشق، في كتاب يعود تاريخه إلى عام 1968، بعد عقد من صياغة مصطلح الذكاء الاصطناعي، أنه كان يشعر بالقلق من أن تتمكن الحكومة من جمع كل مكالماتنا الهاتفية واستخدام الذكاء الاصطناعي لمعرفة ما نقوله - و وهذا بالضبط ما تفعله وكالة الأمن القومي، وأكثر من ذلك في الولايات المتحدة.

"هناك جانب آخر للذكاء الاصطناعي وهو نفس القرد الذي انتزع كاميرا من أحد الباحثين والتقط صورة شخصية. كان هناك نقاش حول من يملك حقوق الطبع والنشر، صاحب الكاميرا أم القرد، وبما أنه على الأرجح القرد، كانت هناك مشكلة لأن حقوق الطبع والنشر محفوظة للأشخاص (أو الشركات). وأوضح جرينباوم أن هذه حالة بسيطة أخرى. وماذا عن الذكاء الاصطناعي الذي سيكتب الكتب وينتج الأفلام؟

ماذا سيحدث إذا تسبب نظام الذكاء الاصطناعي في حدوث ضرر؟

ومؤخراً تم تسجيل براءة اختراع في الولايات المتحدة لآلة ستخترع براءات اختراع بنفسها، وتعمل من خلال تكنولوجيا توفر لها القدرة على التعلم وتطوير التكنولوجيا بنفسها. قانون براءات الاختراع لا يعرف كيفية التصرف في مثل هذه الحالة، فهل براءة الاختراع تعود للشخص الذي طور الآلة؟ هل هو الجهاز نفسه أم لا أحد؟ وأيضا قانون الضرر في الصورة - إذا تسببت في ضرر فأنا مسؤول ويجب أن أعوضه، ولكن ماذا سيحدث إذا تسبب نظام الذكاء الاصطناعي في حدوث ضرر"؟ سأل جرينباوم

وقال: "هناك موضوع آخر يستحق التفكير فيه وهو ما يجب فعله في حالة وجود واجهة بين الدماغ والآلة". "تقوم بإدخال شريحة في دماغ الشخص ويتحكم الدماغ في الجهاز من خلال الشريحة. ماذا سيحدث لو أضفنا الذكاء الاصطناعي إلى الشريحة وتم تفعيله فعلياً عن طريق العقل الباطن؟ ماذا سيحدث إذا تسبب هذا الشخص عن غير قصد في حدوث ضرر بسبب الشريحة؟ هل هو مذنب؟ هل الشريحة"؟

وقال جرينباوم: "أما بالنسبة للمسؤولية القانونية، فهناك درجات مختلفة من المسؤولية - على سبيل المثال، لدي مسؤولية عن حيواناتي الأليفة وأطفالي وموظفيي - فهل نظام الذكاء الاصطناعي يعادل الحيوان من حيث المسؤولية؟ لطفل؟ للموظف؟ وماذا عن آلات التعلم التي يمكنها التحدث، هل تنطبق عليها حماية حرية التعبير"؟

وأوضح جرينباوم: "إلى مستوى معين، لدينا قوانين أسيموف للروبوتات، لكنها لم يخترعها عالم بل كاتب، لذا فهي ليست كاملة". “الآن يعمل الاتحاد الأوروبي على مشروع قانون الروبوتات – RoboLaw”.

وفي الختام تساءل الدكتور جرينباوم: "هل الذكاء الاصطناعي أداة أم أنه نوع جديد من الكائنات عليه التزامات أخلاقية وقانونية وقانونية؟"

سؤال لا يوجد له إجابة حتى الآن.

 

المزيد عن الموضوع على موقع العلوم:

تعليقات 9

  1. سيكون للذكاء الاصطناعي ما نضعه فيه بالضبط. إذا أدخلنا الإيثار والاعتبار وما إلى ذلك - فهذا ما سنحصل عليه. إذا أضفنا الغيرة وضيق الأفق والتعصب الأيديولوجي / الديني - حسنًا، لدينا ما يكفي من ذلك. إذا وضعنا في الاعتبار الاستخدام الأمثل للموارد والحساب البارد للتكلفة مقابل المنفعة - فسوف يأكلنا جميعًا على الإفطار.

  2. ولا ينبغي للمرء أن يفكر في كيفية وقف التقدم، بل في كيفية دمجه بشكل متكامل حتى لا تحدث كارثة. توجد في كتب أسيموف حلول إبداعية للتعايش بين الإنسان والروبوت. سلسلة أفلام Matrix وفيلم Elysium مع مات ديمون لهما مستقبل أسود.

  3. ليس حقيقيًا. عادةً ما أعارض المتدينين في العلوم، رغم أنني شخص متدين.
    وما يفتقده جزء كبير من قراء الموقع هو أن الذكاء الاصطناعي سيكون مثلنا – بالمشاعر والأفكار والوعي. نحن لسنا أقل أداة في يد المؤسسة من المخابرات. من الصعب على الناس أن يفهموا أن البرنامج سيكون لديه وعي ذاتي، ولكن في رأيي هذا صحيح جدًا. إذن لماذا اخترعنا الروبوتات حتى يحل محلنا البيروقراطيون؟ وسوف يحلون محلهم أيضًا في غضون جيلين.

  4. يا إلهي، كيف يمكنك تعيين شخص يطرح مثل هذه الأسئلة الغبية في منصب رئيس معهد تسفي ميتار للابتكار التكنولوجي والقانون والأخلاق في كلية الحقوق رادزينر في مركز بيتيناخومي في هرتسليا؟
    كيف يتمكن مثل هذا الشخص من الحصول على الدكتوراه؟
    هل سرقها؟
    وفي الختام تساءل الدكتور جرينباوم: هل الذكاء الاصطناعي أداة أم أنه نوع جديد من المخلوقات عليه التزامات أخلاقية وقانونية وقانونية؟ - الذكاء الاصطناعي ليس هذا أو ذاك، بل هو جهاز من صنع الإنسان ومن الناحية القانونية يجب أن يبقى كذلك!
    لم يتم التوصل إلى شيء من وضع الروبوتات في السجن.
    يجب أن يتمتع الروبوت بوضع قاصر.
    إذا حملت قاصر، فمن المسؤول عن الطفل بموجب القانون؟ - ثلاثة: الأم والملقّح والولي (أحياناً لا يوجد ولي ويكون الطفل على مسؤولية والديه).
    "الذكاء الاصطناعي الذي سيكتب الكتب وينتج الأفلام" - يمكن أحيانًا مقارنة الآلة ذات الذكاء الاصطناعي بالطريقة التي ينظر بها القانون إلى مفهوم الأم البديلة.
    إذا كتبت آلة كتابًا أو أغنية أو أنتجت أفلامًا، فإن الملكية تعود إلى خالق الآلة، سواء كانت الآلة ذات الذكاء آليًا أو إنسانًا قاصرًا.
    لا يوجد إعادة اختراع للعجلة هنا، كل ما عليك فعله هو العثور على شيء لمقارنة هذه المشكلات به وسيتم حل كل شيء!
    أطفال صغار حقًا، تم القبض عليهم في الماضي بسبب قوانين أسيموف الثلاثة وخلاص؟
    فهل هذا هو كل ما تستطيع الفلسفة المعاصرة أن تفعله؟
    لا يوجد شيء جديد في موضوع القانون والأخلاق عندما يتعلق الأمر بالآلات "الذكية" - لأن القوانين المتعلقة بالموضوع كتبت منذ البداية فيما يتعلق بالآلات "الذكية" (نحن البشر!).

  5. وعندما يسجلك "شيميت منتوازن" لتحصل على مضاد فيروسات لا تحتاج إليه إطلاقا ويتقاضى مقابله 10 شيكل شهريا منذ سنوات، فمن المسؤول؟ وعندما تنجح شيمانيت في إقناع إحدى الجدات الأمية بشراء جهاز فابلت بخمسة آلاف شيكل، والتوقيع على خمس خطط موازية للإنترنت عالي السرعة، فمن المسؤول؟ من يستطيع الحصول على إجابة من اليوم؟ هل من الممكن التحدث على الإطلاق مع أي مدير لا يرتبط ارتباطًا وثيقًا بالنصوص الدائرية التي أنشأها Limit وما شابه؟ ربما من الأفضل أن تستسلم وتترك الجدة تدفع ثمن الفابلت وتتخلى عن الأدوية التي لا تستطيع تحمل تكلفتها؟ وهل سيهتم القضاة حتى إذا رفعت دعوى قضائية؟ هل سيعيدون اللصوص كمكافأة لهم ويوقفون التعويض الكافي عن كل التعذيب الذي لا ينتهي؟ ربما فقط إذا كنت متصلاً بإحدى الصحف الوطنية ذات التطلعات الروبينهودية، يمكنك إجبار أحد الأشخاص من إدارة الشركة على إعادة الأموال مع الوعد "بأننا سننظر في كيفية حدوث ذلك". إذن ما الفرق بين المتنمر الذي دهس الجدة عبر الهاتف تحت رعاية منظمة ضخمة وبين الروبوت الذي دهس الجدة جسديًا وتركها تواجه منظمة ضخمة ومجهولة الهوية بنفس القدر؟

  6. تؤكد المقالة الحالية فقط على مدى فائض النظام القانوني نفسه في عصر وسائل الإعلام. تمامًا مثل بائعي الحليب الذين يدركون أنه لا توجد حاجة حقيقية لهم وأنهم يخلقون فقط فوضى غير ضرورية ويخلقون حواجز تضر بنوعية الحياة لنا جميعًا.
    سيكون من الأفضل لنا جميعًا أن يتوصل قضاة الكون إلى نتيجة مفادها أنه ليس كل شيء عادلاً، وسيتم تقليص حجم المحكمة إلى حجمها الطبيعي والمصغر، على الرغم من أنها تعمل بشكل كامل، إلا أن النتائج ليست مذهلة.

ترك الرد

لن يتم نشر البريد الإلكتروني. الحقول الإلزامية مشار إليها *

يستخدم هذا الموقع Akismat لمنع الرسائل غير المرغوب فيها. انقر هنا لمعرفة كيفية معالجة بيانات الرد الخاصة بك.