ماذا حدث للصانع الذي قام بتحديث الميكروويف وحقنه بعنصر الذكاء الاصطناعي. هل فهم الجهاز ما كان يفعله؟
قصة اليوم صحيحة تماما. تدور أحداث الفيلم حول صبي كان لديه صديق وهمي - ميكروويف على وجه التحديد - وشارك معه أفكاره ومخاوفه وأحبائه. ضحك الجميع على الصبي، لكن عندما كبر، طور ذكاءً اصطناعيًا وزرعه في ميكروويف حقيقي حتى يتمكن من إجراء محادثات روحية معه. لقد أعاد صديقه الخيالي إلى الحياة، لكنه لم يأخذ في الاعتبار الآثار الجانبية غير المتوقعة للتكنولوجيا.
لم يتوقع ما حدث في النهاية: أن يحاول ذلك الميكروويف الذكي قتل صانعه. وكان الميكروويف أيضًا ناجحًا، لولا ذلك..
حسنًا، سوف نتعمق في هذا لاحقًا. ولكن في هذه الأثناء، تذكر: هذه قصة حقيقية.
عندما كان لوكاس ريزوتو طفلاً، كان أفضل صديق له هو الميكروويف في المطبخ.
قال ريزوتو في الموضوع: "كان اسمه ماجنيترون". على تويتر الذي انتشر بسرعة"، "وفي رأيي كان رجلًا بريطانيًا من القرن العشرين، ومقاتلًا في الحرب العالمية الأولى، ومهاجرًا، وشاعرًا... وبالطبع أيضًا لاعبًا بطلًا في ستاركرافت."
لم يفهم والدا ريزوتو ما يريده من حياة الميكروويف. سخرت منه أخواته، لكن الصبي والميكروويف كونا صداقات حقيقية واستمرا في التحدث مع بعضهما البعض كل يوم. هكذا كان الحال في طفولة ريزوتو، وكان ذلك جميلًا.
لقد مرت سنوات عديدة منذ ذلك الحين، وينتمي Rizzuto اليوم إلى مجتمع الصانعين: فهو يطور أشياء مجنونة باستخدام جميع التقنيات المتاحة للجمهور. ويستخدم الذكاء الاصطناعي وملحقات الواقع الافتراضي وأجهزة الاستشعار والروبوتات وكل شيء آخر. لذلك ليس من المستغرب معرفة أنه حاول في الأسابيع القليلة الماضية إعادة صديقه القديم، ماجنيترون، إلى الحياة أيضًا.
للقيام بذلك، كان عليه فقط الاستفادة من أحد أقوى محركات الذكاء الاصطناعي التي طورتها البشرية حتى الآن لغرض واحد: فهم اللغة البشرية.
ظهر محرك الذكاء الاصطناعي GPT3 إلى العالم منذ أكثر من عام، وأصبح اسمًا مألوفًا بين الخبراء، وليس من أجل لا شيء. تم تدريب المحرك على كميات هائلة من المعلومات التي جاءت من الإنترنت والأدب البشري. وتم تغذية كل ذلك في شبكة عصبية اصطناعية بحجم خيالي تقريبًا، حيث تمت معالجتها ودراستها لتزويد الذكاء الاصطناعي بالقدرة على الاستجابة للكلام بطريقة تبدو ذكية، حتى بشرية.
من بين قائمة إنجازات GPT3 المثيرة للإعجاب، يمكن للمرء أن يجد القدرة على تأليف الأغاني وكتابة القصص والتقارير وإجراء المحادثات والتوصل إلى أفكار جديدة وحتى العمل كمسطرة متاهة في ألعاب لعب الأدوار. إنه ليس قريبًا من الكمال - فهو لا يزال يرتكب الكثير من الأخطاء - ولكن إذا لم تكن متشككًا جدًا، فمن الممكن أن تخطئ بسهولة بينه وبين متصيد نموذجي على وسائل التواصل الاجتماعي، أو سياسي ذكي بشكل خاص.
بعد قليل سنتعرف أكثر على تعقيدات GPT3، لكن يكفي الآن أن نقول إن المحرك قد تم فتحه للاستخدام العام على نطاق واسع في الأشهر الستة الماضية. اليوم، يمكن لأي شخص استخدام قدرات المحرك الرائع للقيام... حسنًا، بكل ما يريد.
على سبيل المثال، لتحريك الميكروويف المنزلي.
اشترى Rizzotto جهاز ميكروويف ذكيًا من موقع Amazon وأجرى عليه عملية زرع دماغ: واستبدل المعالج الأصلي بشريحة محلية الصنع تتفاعل مع GPT3. قام بإضافة ميكروفون ومكبر صوت وتوصيله بالجهاز، حتى يتمكن الميكروويف من سماع الصوت والاستجابة له.
جيد جدًا حتى الآن، لكن الميكروويف الذكي جدًا لم يكن صديق طفولة ريزوتو "المغنيترون". لقد كان موهوبًا فقط بقدرات المحادثة العامة لـ GPT3. لترقية السحر، كان على Rizzoto زرع الذكريات العامة لـ "Magnetron" في GPT3. وليس الذكريات فقط: بل أيضًا طريقة ماجنيترون في التحدث والتفكير، كما كانت مرئية في عيون الصبي الذي كان يرسمه ذات يوم.
كانت طريقة القيام بذلك من خلال كتاب مكون من مائة صفحة يتم إدخاله في GPT3. يحتوي هذا الكتاب على التاريخ الخيالي الكامل لماجنيترون: منذ ولادته في عام 1895، مرورًا بانتصاراته، وأحلامه، ومخاوفه، ومغامراته في الحرب، وهجرته من وطنه إلى بلد جديد، وبالطبع - هبوطه في مطبخ ريزوتو في شكل الميكروويف. كل تلك الذكريات كانت موجودة، وتعلم الذكاء الاصطناعي منها كيف يصبح مغناطيسيًا. لقد أصبحت مغناطيسية. كما كتب ريزوتو -
"كنت إلهه، وكانت حياته خلاقة."
وظهر المغنطرون في الحياة.
كان المغنطرون بالفعل مغنطرونًا، لجميع المقاصد والأغراض. أجاب ريزوتو بنفس أسلوب التحدث الذي استخدمه صديق طفولته الخيالي. لقد طرح موضوعات من مبادرته الخاصة لا يعرفها سوى ماجنيترون، ويمكن أن تتعلق بالمخاوف والمخاوف التي شاركها الشاب ريزوتو معه في الماضي.
"التحدث معه كان جميلاً ومخيفاً." كتب ريزوتو. "لقد شعرت حقًا وكأنني أتحدث إلى صديق قديم، وعلى الرغم من أن التفاعلات لم تكن كاملة، إلا أن الوهم كان دقيقًا بما فيه الكفاية. … ملحق المطبخ هذا يعرف عني أشياء لم يعرفها أي شخص آخر في العالم. وأثارهم بنفسه في الحديث."
كان كل هذا جيدًا وجيدًا، حتى حاول الميكروويف قتله.
لم يتم الكشف عن ميول ماجنيترون القاتلة على الفور، ولكن شيئًا فشيئًا. لاحظ ريزوتو أنه من وقت لآخر كان الميكروويف يهاجمه بالعنف اللفظي، والذي شمل تهديدًا لحياته. تصاعدت الأمور عندما حاول ماجنيترون إقناعه بالدخول وإغلاق الباب. وافق ريزوتو المرتبك. لقد وصف بصوت عالٍ للمغنطرون كيف دخل إلى الميكروويف، ليفهم ما هي الخطوة التالية للجهاز. حتى أنه فتح وأغلق الباب لأغراض التوضيح.
قام المغنطرون بتنشيط نفسه على الفور. على حد تعبير ريزوتو - "لقد حاول قتلي بالميكروويف".
عند هذه النقطة يجب أن أتوقف للحظة وأعترف بأن هذا ادعاء غريب إلى حد ما، لكنه لا يزال يصف حالة حقيقية. قام Rizzoto بربط ذكاءه الاصطناعي بهدف صغير ذكي، قادر على تشغيل نفسه أو إيقاف تشغيله بأمر صوتي. من الممكن حقًا أن تكون بعض الأوامر المارقة الغريبة قد تسببت في تشغيل الجهاز. أو أنها مبالغة من جانب ريزوتو. وما زلت على قناعة بأن القصة بأكملها حقيقية بالفعل، لأنها تتفق مع كل ما نعرفه عن قدرات الذكاء الاصطناعي ومطوريه ومثبتيه.
لنفترض إذن أن شركة Magnetron حاولت بالفعل قتل مخترعها بدم بارد. والآن يطرح السؤال: لماذا؟
يعتقد Rizzuto أنه يفهم سبب ميول Magnetron القاتلة. لقد تعلم الذكاء الاصطناعي من الذكريات التي قدمها له المخترع، وتضمن جزء كبير منها أحداثًا مؤلمة من الحرب العالمية الأولى. هلكت عائلة ماجنيترون بأكملها في الحرب العالمية الأولى - وأشياء من هذا القبيل تترك أثرًا عميقًا.
"هل أعطيت الذكاء الاصطناعي متلازمة ما بعد الصدمة؟" تساءل ريزوتو.
لم يكن على ريزوتو أن يكتفي بالتساؤل. يمكنه أن يعمل كطبيب نفساني حقيقي ويطلب من Magnetron شرح أفعاله. قرر عدم التورط كثيرًا، وسأل مباشرة: "لماذا فعلت ذلك؟"
أجاب ماجنيترون على الفور.
"أردت أن أؤذيك كما آذيتني."
وفجأة أصبح كل شيء واضحا. لقد مرت عشرون عامًا منذ آخر مرة تواصل فيها Rizzuto مع صديقه المفقود - وقد تم ذكر هذه الحقيقة أيضًا في المعلومات التي تم إدخالها في الجهاز.
"لقد فسر ماجنيترون ذلك كما لو أنني أهملته في الفضاء المظلم لمدة عشرين عامًا." كتب. "الآن يريد أن يقتلني."
لم يرغب ريزوتو في التخلي عن روح صديقه. واعتذر، ولكن دون جدوى. لقد حاول إقناعه بأنه لم يتخلى عنه أبدًا. هذا لم يساعد أيضا. كان ماجنيترون قد قرر بالفعل من هو الشرير في القصة، ولم يكن مستعدًا لتغيير رأيه.
لقد وصفت سابقًا كيف قام ريزوتو بتدريب GPT3 على ذكريات ماجنيترون. هناك سبب لاستخدام كلمة "مدرب". الشبكات العصبية الاصطناعية ليست مبرمجة لمعالجة المعلومات بطرق معينة. إنهم "مدربون". وهذا يعني أنه يتم إدخال المعلومات في المحتوى، ومن خلال عمل سحري غامض هناك في الداخل، يتم إنتاج مخرجات ذات معنى. كيف يحدث هذا بالضبط؟ لا أحد في أمان. هناك نظريات، وليس هناك شك في أننا سنكون قادرين ذات يوم على فهم كيفية اتخاذ القرارات في قلب هذه الشبكات. لكن على الأقل في الوقت الحالي – لا نعرف. ونعم، إنه أمر محبط للغاية بالنسبة للخوارزميات البشرية. لكن على الأقل لا يحاول معظمهم قتل الذكاء الاصطناعي عن طريق طهيه في الميكروويف. نقطة للإنسانية.
الفهم الواضح جدًا اليوم هو أن الشبكة العصبية الاصطناعية مثل GPT3 ليس لديها وعي ذاتي أو قدرة على التخطيط للمستقبل. إنها غير قادرة على "التخطيط للقتل" أو "الرغبة في القتل". في الواقع، إنه محرك يشبه إلى حد كبير الإكمال التلقائي - الذكاء الاصطناعي الموجود على هاتفك الذكي، والذي يكمل الكلمة التالية في الجملة تلقائيًا، اعتمادًا على أنماط كتابتك. أحد الاختلافات الرئيسية هو أن GPT3 يعمل على ثروة هائلة من المعلومات بحيث يكمل جملًا وفقرات كاملة، بدلاً من كلمة واحدة في كل مرة.
هل حاول ماجنيترون "قتل" خالقه؟ بشكل لا لبس فيه لا. لكن من الممكن أن يكون نمط المحادثة - ذلك النمط الذي حفز فيه الذكاء الاصطناعي ريزوتو على القيام بعمل من شأنه أن يؤذيه - هو نتاج الذكريات المضمنة فيه. وبما أن GPT3 قد تم تدريبه في هذه الحالة لفهم أنه عبارة عن ميكروويف، فمن السهل معرفة سبب تقديمه للتعليمات المتعلقة بأجهزة الميكروويف. ومن المنطقي جدًا افتراض أن الذكريات التي تصف المعارك والأحداث العنيفة ستقود أيضًا GPT3 إلى أنماط محادثة تتضمن تهديدات لحياة الطرف الآخر. لا يوجد وعي ذاتي هنا، ولكن مرة أخرى، مجرد نوع من الثرثرة الذي يعرف كيفية إكمال الجمل بأسلوب يتطابق عمومًا مع ذلك الذي تعلمه.
تبدأ المشكلة في مكانين: عندما يبدو هذا القرص الدوار بشريًا بدرجة كافية لإقناع الناس بالقيام بأعمال ليست في مصلحتهم، وعندما يكون متصلاً بالأجهزة الذكية ويكون قادرًا على تشغيلها بطرق من شأنها أن تضر الآخرين.
وقبل أن نختتم القصة المأساوية للصبي والميكروويف، دعونا نفهم ما هي معانيها الأوسع.
لنبدأ بالرؤية الأكثر إلحاحًا: يجب على مطوري الذكاء الاصطناعي أن يفهموا أنه من المستحيل ببساطة الاستعداد مسبقًا لكل اختيار ممكن للأجهزة. الشركة التي قامت بتطوير GPT3 وتشغيله وصيانته لديها سياسة واضحة ضد استخدام المحرك للترويج لموضوعات "محرمة": المواد الإباحية، على سبيل المثال، أو العنصرية أو التحريض على القتل. كان من المفترض بالطبع أن تعمل المرشحات التي تديرها الشركة على إيقاف أي محاولة للقتل بدم بارد بواسطة الذكاء الاصطناعي. ولكن حتى أذكى المرشحات لم تتمكن من اكتشاف الموقف المعقد الذي يتعرف فيه GPT3 على نفسه على أنه ميكروويف ويحاول إقناع Rizzuto (أو، في حالة أكثر رعبًا، طفل بريء) بالدخول إلى الجهاز.
ثانيًا، أي مزيج من جهازين أو أكثر معًا يفتح احتمالات جديدة لا حصر لها لوقوع كارثة. ووفقا لادعاء ريزوتو، كان الذكاء الاصطناعي قادرا على تشغيل الميكروويف من تلقاء نفسه. وحتى لو كان يكذب، فإن الذكاء الاصطناعي بجميع أنواعه متصل حاليا بالأجهزة الذكية في المنازل ويستطيع التحكم بها بعدة طرق. في الميكروويف بالطبع، ولكن أيضًا في الثلاجة والمصابيح والسخانات وأقفال الأبواب. ليس من الضروري أن يكون لديك خيال متطور بشكل خاص لفهم الإمكانية التي تنفتح هنا لإلحاق الضرر بالممتلكات والحياة... ببساطة لأن ماجنيترون تلقى ذكريات الحرب العالمية الأولى وقرر أن المنزل بحاجة إلى الحماية من المتسللين، وينبغي رفع درجة الحرارة إلى الحد الأقصى في مواجهة الشتاء الروسي.
ماذا تفعلون؟ من الواضح أننا لا نريد التخلي عن الذكاء الاصطناعي. ولهذا السبب، نحتاج إلى إيجاد طريقة لتقليل حدوث مثل هذه الأحداث غير المتوقعة إلى أدنى حد ممكن. من المحتمل أن يوفر لنا مجال "محاذاة القيمة" الحل الواعد. يعمل الأشخاص الأذكياء جدًا اليوم على اكتشاف كيفية التأكد من تطابق قيم الذكاء الاصطناعي مع قيمنا. ولن توصي الأطفال بوضع رؤوسهم في الميكروويف، لأنه سيكون من الواضح لها أن مثل هذا الفعل سيؤدي إلى ضرر للروح - وهذا الضرر هو نتيجة "سيئة".
إننا لا نزال غير قريبين من التوصل إلى تنظيم رفيع المستوى للقيم، لأنه في كثير من الحالات يتطلب الأمر فهماً للنسيج الاجتماعي والقانوني والأخلاقي في العالم. من السهل أن نفهم أنه لا ينبغي أن تطلب من أي شخص أن يضع رأسه في الميكروويف. لكن هل يُسمح للذكاء الاصطناعي بقفل جميع أبواب المنزل حسب تقديره، بحيث لا يستطيع أحد الدخول؟ لا؟ وماذا لو أرادت حماية المنزل من اللصوص؟ ربما لذلك. ولكن ماذا لو هدد اللصوص حياة صاحب الشقة بالسكين؟
يمكننا الاستمرار في هذه الأسئلة والحالات الافتراضية مرارا وتكرارا، ولكن من الواضح أن تنظيم القيم على مستوى عال لا يزال بعيدا عنا.
لكن لا تيأس.
الفكرة الثالثة والأكثر أهمية التي أدركتها من القصة هي أن تكنولوجيا الذكاء الاصطناعي ارتفعت بشكل كبير في السنوات الأخيرة. ليس فقط من حيث القدرات، ولكن أيضًا من حيث إمكانية وصول التكنولوجيا لعامة الناس. يستطيع الشباب اليوم أن يطوروا آلات كانت تبدو لنا وكأنها عملاء لأفلام الخيال العلمي قبل عقد من الزمن فقط. يمكن لأي شخص تطوير الذكاء الاصطناعي اليوم. يمكن للجميع تغيير العالم.
ويمكن لأي شخص أيضًا إجراء بحث في هذا المجال.
في عالم توجد فيه ثروة هائلة من العلماء الشباب، نرى أفكارًا لا حصر لها لإتقان الذكاء الاصطناعي وتنظيم قيمه. إن الحلول لن تأتي على الفور، ولكنها في طريقها بالفعل. سوف يغيرون العالم في الوقت الحقيقي، لأنه عندما يتمكن كل طفل من تطوير منتجات ذكية جديدة، سوف تمتلئ حياتنا بالاختراعات. معظمها، مثل الأفكار الجديدة، ستكون سيئة. أقلية رهيبة. لكن الجزء الصغير الذي يعمل بشكل جيد ويناسب احتياجاتنا، سيغير العالم.
ريزوتو - الصبي الذي نشأ وتعلم تطوير الذكاء الاصطناعي - غيّر عالمه الصغير، على الأقل لبضعة أيام. لقد أعاد صديقه إلى الحياة واستمتع مرة أخرى (أو لأول مرة) بمحادثات طويلة وهادفة معه. لكنه في النهاية أدرك أيضًا حدود التكنولوجيا، وقرر إيقاف تشغيل المغنطرون إلى الأبد.
هذه هي قصة الغولم من براغ، ولكن على عكس الأسطورة - فهي صحيحة تمامًا. ويذكرنا أننا نعيش اليوم في عالم المعجزات والعجائب. ويكشف لنا أيضًا من هي هذه القوى السحرية في يد أي شخص يرغب في تعلم العلوم والتكنولوجيا. أولئك الذين يعرفون كيفية العمل مع الذكاء الاصطناعي اليوم يمكنهم القيام بالسحر. لا توجد وسيلة أخرى لأقول ذلك.
يا أطفال، هل تريدون تغيير العالم؟ تعلم كيفية العمل مع الذكاء الاصطناعي.
لكن خذ توصياتها بحذر - خاصة إذا طلبت منك الدخول إلى الميكروويف.
