كيف نعرف ما إذا كان بإمكاننا الوثوق بسيارة بدون سائق أو طائرة بدون طيار؟ قام أحد خريجي معهد وايزمان بتطوير طريقة لاختبار موثوقية البرامج المكتوبة بواسطة أجهزة الكمبيوتر
قد تعتمد حياتنا على قدرتنا على التحقق من حسابات أجهزتنا. تتطلب إجراءات مثل قيادة السيارة أو الطيران بالطائرة تقييمًا سريعًا للموقف واتخاذ القرار في غضون جزء من الثانية. ومع ذلك، فمن الممكن أن يأتي يوم، وأولئك الذين "سيكتبون" الخوارزميات المعقدة التي تجعل الآلات مستقلة - على سبيل المثال، سيارة ستقود بدون سائق، أو روبوت سيقود نفسه، أو حتى طائرة يمكنها أن تقود نفسها. سوف تطير نفسها - سوف تكون أجهزة الكمبيوتر. علاوة على ذلك، غالبًا ما يتفوق هذا النوع الجديد من البرامج، المطلوب لمهام معقدة بشكل خاص، على البرامج التي يستطيع البشر كتابتها. ولكن هل يمكننا أن نضع ثقتنا في هذه البرامج؟
الدكتور غاي كاتس، خريج معهد وايزمان وعلى وشك الالتحاق بالكلية كلية الهندسة وعلوم الكمبيوتر تحمل اسم راشيل وسليم بنين وفي الجامعة العبرية، طور طريقة يمكنها التحقق من درجة دقة بعض البرامج "المكتوبة" بواسطة الآلات. وهي برامج تُعرف باسم "الشبكات العصبية العميقة"، بسبب التشابه بين بنيتها وتركيبة الخلايا العصبية في الدماغ، ويتم إنتاجها عن طريق "التعلم الآلي"، الذي يحاكي عملية التعلم البشري. "المشكلة هي"، يوضح الدكتور كاتز، الذي أجرى بحث الدكتوراه في مختبر البروفيسور. ديفيد هاريل من قسم علوم الحاسوب والرياضيات التطبيقية، "أن البرنامج هو نوع من الصندوق الأسود".
تتكون الشبكة العصبية بشكل أساسي من العديد من المفاتيح، كل منها قد يكون في إحدى الحالتين - "تشغيل" أو "إيقاف". البرنامج الذي يحتوي على 300 محول لديه 2300 التكوينات الممكنة. ظاهريًا، لكي تعرف ما إذا كان البرنامج سيعمل بشكل صحيح في كل مرة، كان عليك اختبار كل من التكوينات المحتملة، ومن الواضح أن هذه مشكلة: كيف يمكنك اختبار شيء معقد جدًا؟ وليس هذا فحسب، بل إن الاختبارات المبكرة للسيارات ذاتية القيادة أثبتت بالفعل أن الأحداث غير المتوقعة ستحدث دائمًا عند القيادة في العالم الحقيقي.
تمكن كاتز من تقليل عدد التكوينات التي سيتم اختبارها - من 2300 حوالي مليون. قد يبدو الرقم مليونًا رقمًا كبيرًا، لكن هذا الرقم يقع ضمن حدود القدرة الحسابية للكمبيوتر
وفي بحث ما بعد الدكتوراه في جامعة ستانفورد، عمل الدكتور كاتز مع برنامج مصمم لمنع اصطدام الطائرات طورته هيئة الطيران الفيدرالية في الولايات المتحدة، FAA. لقد سعى إلى إيجاد طريقة لتقليل عدد التكوينات المحتملة التي يجب اختبارها عن طريق إنشاء طريقة لتحديد أي من المواقف المحتملة العديدة لا يمكن أن يحدث بالفعل. بالتعاون مع كلارك باريت، وديفيد ديل، وكايل جوليان، ومايكل كوكندرفر، وجميعهم من جامعة ستانفورد، تمكن كاتز من تقليل عدد التكوينات التي سيتم اختبارها - من 2300 حوالي مليون. قد يبدو الرقم مليونًا كثيرًا، لكن هذا الرقم يقع في حدود القدرة الحسابية للكمبيوتر، في حين أن إجمالي عدد الاحتمالات يتجاوز بكثير نطاق أقوى جهاز كمبيوتر.
وعندما اختبر فريق البحث البرنامج الذي تطوره هيئة الطيران الاتحادية، في عملية تعرف باسم "التحقق"، وجدوا أن جميع الميزات التي تم اختبارها اجتازت الاختبار، باستثناء واحدة تم إصلاحها لاحقًا. سيتم نشر مقال يصف هذه النتائج كجزء من مؤتمر التحقق بمساعدة الكمبيوتر. CAV) المقرر عقده هذا العام.
يعتزم الدكتور كاتز مواصلة البحث عن وسائل للتحقق من وظائف البرامج المكتوبة باستخدام تعلم الكمبيوتر. وإلى جانب هيئة الطيران الفيدرالية، يعمل الدكتور كاتز وفريق جامعة ستانفورد مع شركة "إنتل" على مشروع مركبة ذاتية القيادة. ويقول إن هذا المشروع أكبر بعدة درجات من المشروع الذي أكملوه بالفعل: "على الرغم من القواسم المشتركة بين جميع الأنظمة التي تستخدم الشبكات العصبية العميقة، إلا أن هناك أيضًا أجزاء فريدة لكل نظام. نحن نعمل بالتعاون الوثيق مع المهندسين والخبراء الذين يقومون بتطوير هذه الأنظمة، من أجل فهم الميزات التي يجب اختبارها، وكيف يمكن تسريع الاختبار. ولا يزال هذا المجال يتطلب مشاركة بشرية."
للمزيد حول هذا الموضوع على موقع العلوم:
