يشارك رئيس أكاديمية العلوم البروفيسور ديفيد هاريل موقع العلوم اهتماماته البحثية في معهد وايزمان: من بين أمور أخرى، نمذجة النظم البيولوجية وعلوم الكمبيوتر
حصل البروفيسور ديفيد هاريل، الذي يشغل حاليا منصب رئيس الأكاديمية الوطنية الإسرائيلية للعلوم، على درجة الدكتوراه من معهد ماساتشوستس للتكنولوجيا (MIT) في عام 1978، في وقت قياسي قدره سنة وتسعة أشهر. وهو عضو هيئة تدريس في معهد وايزمان للعلوم منذ عام 1980، حيث شغل منصب رئيس قسم علوم الكمبيوتر والرياضيات التطبيقية (1989-1995) وعميد كلية الرياضيات وعلوم الكمبيوتر (1998-2004). عمل لفترات من الوقت في قسم أبحاث IBM في نيويورك وقضى سنوات إجازة في جامعات كارنيجي ميلون وكورنيل وإدنبره، وأسس مع شركاء شركة I-Logix، والتي تم دمجها لاحقًا في IBM. حصل هاريل على العديد من الجوائز، بما في ذلك جائزة إسرائيل عام 2004 وجائزة إيميت عام 2010. وبالإضافة إلى الأكاديمية الإسرائيلية، فهو عضو في العديد من الأكاديميات حول العالم، بما في ذلك الأكاديمية الوطنية الأمريكية للعلوم، والأكاديمية الوطنية الأمريكية للهندسة، والأكاديمية الصينية للعلوم، والجمعية الملكية البريطانية.
كانت المجالات الرئيسية لتخصص البروفيسور هاريل في الماضي هي علوم الكمبيوتر النظرية (المنطق والحساب والأتمتة ونظرية قاعدة البيانات)، وفي العقود الأخيرة ركز بشكل أساسي على هندسة البرمجيات والأنظمة، ودراسات حول النمذجة وإعادة بناء الرائحة والنمذجة وتحليل النظم البيولوجية. البروفيسور هاريل هو مخترع لغة Statecharts والمخترع المشارك لـ Live Script Diagrams (LSCs) بالإضافة إلى أدوات Statemate وRhapsody وPlay-Engine وPlayGo.
ويوضح في مقابلة مع موقع العلوم: "إن عملية نمذجة الأنظمة البيولوجية التي نقوم بها تستخدم أساليب وأدوات مأخوذة من مجالات هندسة النظم وهندسة البرمجيات. وفي العامين الماضيين، قمت أيضًا بالبحث في مجال "موسيقى" الكلام، أو التجويد (العروض)، بالتعاون مع اللغوية الدكتورة تيريزا بيرون. بشكل عام، من الممكن تسجيل المحادثات بين الأشخاص وهناك برامج يمكنها إخراج نص دقيق لما قيل، على افتراض أن المحادثة واضحة بما فيه الكفاية. تعرف هذه البرامج أيضًا كيفية التمييز بين صوتي وصوتك. إذا أعطيت النص لشخص آخر، فيمكنه الحصول على فكرة جيدة عما قيل. إلا أن هناك أشياء كثيرة تمر في الحديث بيننا تتجاوز الكلمات نفسها، وتنقلها بيننا موسيقى الكلام. ويكفي أن أؤكد على جزء من الجملة وليس على جزء آخر وبالفعل يتغير المعنى. أستطيع أن أقول لك مثلاً "من يطرق الباب" بنبرة عادية، بنبرة التعجب أو بنبرة الخوف والذعر، وستتمكن فوراً من التمييز بين الثلاثة. لكن حساب ما يمكننا نحن البشر القيام به بسهولة هو أمر صعب للغاية.
بالطبع من الممكن تسجيل كل تفاصيل الموجة الصوتية، لكن نحذف من التسجيل الحقيقة الواضحة لأي إنسان مستمع، وهي أن جملة ما تم نطقها بتشكك أو مفاجأة أو تردد أو فرح، لم يحدث أحد بعد يعرف كيف يفعل ذلك. المهمة مهمة لأنه مع زيادة عدد المهام التي تتضمن الاتصال بالأنظمة المحوسبة، سيصبح ذلك ضروريًا. عندما تتصل بصندوق المرضى وتجيبك الآلة وتقول إن الاختبارات لم تصل، سيتعين على هذه الآلة أن تميز نغمات الصوت المختلفة - على سبيل المثال، إذا كنت تقصد فقط الإبلاغ عن أن الاختبار لم يصل أو إذا كنت 'أنت غاضب حقا - من أجل الرد عليك بشكل معقول.'
الذكاء الاصطناعي العام
ومن هذه المهمة سننتقل إلى ما يسمى الآن بالذكاء الاصطناعي العام. ويشير البروفيسور هاريل إلى مقال كتبه مع عساف مارون من مجموعته البحثية في معهد وايزمان والبروفيسور جوزيف سيباكيس من جامعة غرونوبل ألب في فرنسا. عنوان المقال هو "الاستقلالية: البحث عن بنية تحتية لتطوير أنظمة الحكم الذاتي للجيل القادم".
وفي مقدمة المقال، كتب الباحثون: "تحل الأنظمة الذاتية محل البشر في مجموعة واسعة من المهام، وفي المستقبل ستكون هذه الأنظمة مركزية وحاسمة للمجتمع البشري. وستأتي بأشكال عديدة، مثل مختلف أنواع المركبات والمعدات الطبية والروبوتات الصناعية والروبوتات المستخدمة في الزراعة وإدارة أنظمة النقل والعديد من المهام الأخرى.
"إن العديد من المنظمات مشغولة بالفعل بمحاولة تطوير الجيل القادم من الأنظمة المستقلة، بحيث تكون موثوقة وقابلة للاستمرار من الناحية المالية. لكن التعقيد الهائل الذي تتسم به مثل هذه الأنظمة وأهميتها الحاسمة يخلق تحديات أساسية جديدة. هناك حاجة ماسة إلى تحديد البنية التحتية العلمية والهندسية الأساسية التي ستشكل الأساس لتطوير هذه الأنظمة. نحن نطلق على مثل هذه البنية التحتية اسم "الاستقلال الذاتي"، ونعتقد أن توفرها يمكن أن يسرع بشكل كبير من استيعاب وقبول الجمهور للأنظمة المستقلة عالية الجودة، لصالح المجتمع البشري.
صندوق اسود
"في السنوات الأخيرة، حدث تحسن كبير في أساليب التعلم الآلي، التي تشكل أساس المناهج السائدة في الذكاء الاصطناعي. تستخدم هذه الأساليب ما يسمى بالشبكات العصبية العميقة، والتي تتكون من طبقات فوق طبقات من "الأجزاء" التي تحاكي أنواع الخلايا العصبية في البرمجيات. يتم استقبال المدخلات على أحد جانبي الشبكة وإخراج المخرجات (أي الإجابات) على الجانب الآخر. من الصعب تفسير الأمور على قدم واحدة، لكن من المهم الإشارة إلى أن مشكلة هذه العملية هي عدم وجود شفافية كافية فيما يتعلق بما يحدث داخل الشبكة أثناء الحساب. على عكس برنامج الكمبيوتر العادي، حيث يمكنك رؤية سطور التعليمات البرمجية المراد تنفيذها ومتابعة ما يفعله أثناء التشغيل، فهنا نظام يتعلم من خلال التدريب، والشبكة نفسها تتغير أثناء التعلم. على سبيل المثال، إذا قمنا "بتدريب" الشبكة على التمييز بين كلب والقطة من خلال إعطائها عددًا كبيرًا من الصور وإظهار هويتها، فإننا ما زلنا غير قادرين على إثبات أنها ستعرف في المستقبل كيفية التمييز بسهولة. حسنا، مع احتمال كبير. سيكون من الصعب علينا أيضًا أن نشرح لأنفسنا سبب قرارها أن هذا قطة وهذا كلب. ولنفس الأسباب، يصعب الدخول إلى شبكة الإنترنت وتغييرها بحيث يمكنك، على سبيل المثال، التمييز بين الكلب والثعبان. لم يعد هذا شيئًا يمكن القيام به من خلال تغييرات التعليمات البرمجية المنطقية. عليك أن تعلم الشبكة من البداية."
"بالطبع، لا يتعلق الأمر فقط بالمهام غير الحرجة والخفيفة، مثل التمييز بين القط والكلب، بل يتعلق بأنظمة الأسلحة والطائرات والسيارات المستقلة وأنظمة الروبوتات التي تساعد في المستشفيات وتؤدي الإجراءات التي يمكن أن تكون حرجة.
"بحثي مرتبط بهذه المشاكل. كيف يمكنك التحقق من البرنامج، والتأكد من أن النظام يفعل بالفعل ما تتوقع منه أن يفعله، وهذا من ناحية الفهم الشامل لعمليات النظام أثناء التشغيل، وليس فقط الاعتماد على النتائج النهائية."
هل تقصد إعادة بناء تصرفات النظام، أي كيف وصل إلى النتيجة؟
البروفيسور هاريل "بالطبع، من الممكن إجراء عمليات محاكاة للجري في مواقف مختلفة، وبالتالي "إعادة إنتاج" ما سيفعله النظام في الركض الحقيقي في الميدان. لكنني لم أقصد ذلك فحسب، بل إمكانية إثبات رياضيًا ورسميًا أن النظام سيفعل دائمًا ما تريد منه أن يفعله، ولن يفعل ما لا ينبغي له فعله. من حيث المبدأ، من الممكن الوصول إلى مثل هذه البراهين للبرمجيات أو النماذج المكتوبة بطريقة كلاسيكية، وذلك بمساعدة طرق التحقق المتطورة والمعقدة. ولكن في البرامج التي يتم إنتاجها بواسطة التعلم الآلي، لا توجد حاليًا طريقة لإثبات رياضيًا أن النظام سيتعرف بشكل صحيح على 99% من صور القطط المعروضة عليه. من الممكن إعادة التشغيل مرارًا وتكرارًا واستخراج الإحصائيات من هذه العمليات، ولكن لا يوجد حتى الآن دليل رياضي "مغلق" على أن هذا سيكون هو الحال دائمًا. والأمر أسوأ بكثير في التطبيقات المهمة للتعلم الآلي. لست متأكدًا من أن أيًا منا سيكون مستعدًا لزراعة جهاز تنظيم ضربات القلب باستخدام نظام يتعلم دون أن يتمكن من إثبات أنه يتخذ القرارات الصحيحة، لذلك هناك مشكلة."
ويؤكد البروفيسور هاريل أن "المشكلة ليست في الذكاء الاصطناعي نفسه، بل في أساليب برمجة الأنظمة الحرجة التي يتم فيها استخدام الذكاء الاصطناعي بشكل مفرط، بحيث تتم "البرمجة" نفسها بواسطة آلة التعلم. "
هل يتطلب استخدام الذكاء الاصطناعي اعتبارات تتجاوز العلوم الكلاسيكية؟
البروفيسور هاريل: "نعم. أولاً، بمجرد إرفاق عنوان "الذكاء الاصطناعي" بهذه الأنظمة التي تستخدم تقنيات التعلم، سيكون هناك الكثير ممن سيعتقدون أن هذه أنظمة تفهم كل شيء مثل البشر، على سبيل المثال اعتبارات السائقين والمشاة على الطريق .
"ثانيًا، إن مسائل من مجالات العلوم الاجتماعية والإنسانية، مثل علم النفس وعلم النفس الاجتماعي والأخلاق والفقه وغيرها، متضمنة هنا بالتأكيد. والمثال النموذجي لهذه المشكلة هو ما يعرف باسم "معضلة السيارة": "أنت تقود السيارة، وفجأة في جزء من الثانية عليك أن تقرر ما إذا كنت ستدهس عائلة شابة تعبر الطريق فجأة، ولم تفعل ذلك؟ انظر مسبقًا، أو ما إذا كنت ستتجه يمينًا (لأن هناك جدارًا على اليسار) وتدهس شخصين مسنين يقفان على الرصيف. في المحكمة، يمكنك شرح القرار الذي اتخذته. يمكنك القول أنك ربما رأيت العائلة لجزء من الثانية واتجهت غريزيًا نحو اليمين، أو ربما العكس، أنك رأيت الزوجين المسنين اللذين لم يتمكنا من الهروب بسهولة، واستمرا في خط مستقيم حتى لا يتأذى هم. على أية حال، لن تبقى في السجن مدى الحياة لأنك اخترت طريقة أو أخرى. من ناحية أخرى، إذا اضطرت سيارة ذاتية القيادة إلى اتخاذ مثل هذا القرار، فسوف تقوم على الفور بإيقاف تشغيل جميع السيارات لمدة عام، وبدء تحقيق طويل ومضني، والتحقق من البرنامج بعمق، ومحاولة معرفة سبب قيام المبرمج بذلك هذا أو ذاك، ولماذا لم يفكر في مثل هذه المعضلات مقدما".
لذا فإن الاعتبارات الأخلاقية تلعب دورًا هنا أيضًا، أليس كذلك؟
"نعم. لا يمكننا بسهولة تطبيق الأخلاقيات والأخلاقيات والخبرة الحياتية للسائق البشري على السيارة ذاتية القيادة في المستقبل، بطريقة يمكن من خلالها تفسير مسؤولية الشركة المصنعة للمركبة أيضًا من حيث الذكاء الاصطناعي. لا يكفي أن تعرف السيارة كيفية التعرف على إشارات المرور والتوقف قبل عبور ممر المشاة. لكي يُطلق عليه نظام ذكي، يجب أن يكتسب شيئًا يقترب من الذكاء البشري العام، وهذه مهمة صعبة للغاية.
"تحتوي سيارتي على نظام يعرف كيفية الحفاظ على مسافة من السيارة التي أمامي والالتزام بمسار القيادة، وقد قيل لي مرات عديدة: يا لها من سيارة جميلة! تلقائيا سوف تكون مستقلة. لا يبدو أن هذا سيحدث في أي وقت قريب، وليس فقط بسبب القضايا الأخلاقية: إن إدخال كل ما يتعلق ببرنامج السيارة ذاتية القيادة في برنامج السيارة ذاتية القيادة فيما يتعلق بالعلاقة بينها وبين البشر المعنيين والمشاة والسائقين الآخرين، أمر معقد ومعقد للغاية. على سبيل المثال، لنفترض أنني أبطئ سرعتي قبل ممر المشاة وهناك شخصان يقفان بجانبهما ويتحدثان مع بعضهما البعض، وفجأة يميل أحدهما جسده قليلاً إلى الجانب. باعتباري سائقًا بشريًا، يمكنني عادةً أن أعرف بشكل حدسي ما إذا كان الانحراف هو إخراج شيء ما من جيبي وإظهاره للشخص الآخر أو ما إذا كان على وشك عبور الطريق. ليس لدينا حاليًا أي فكرة عن كيفية منح نظام مستقل حدسًا مماثلاً. إنها مهمة يصعب وصف تعقيدها العلمي والتكنولوجي". ويختتم البروفيسور هاريل.
مشكلة الشريان السباتي ويكيبيديا
المزيد عن الموضوع على موقع العلوم:
.
