«صوفيا» هدمت قوانين الروبوت وهدّدت بإفناء البشريّة

*أحمد مغربي

على رغم أن مصمّمها المهندس الأميركي ديفيد هانسون شدّد في مقدّمة المؤتمر الصحافي الذي خصص لعرضها أخيراً، على أنها أُعطيتْ الوجه الأنثوي الرائق للممثلة الأسطوريّة أودري هيبورن (بطلة أفلام هوليووديّة غدت مرجعيّة كـ «فطور عند تيفاني» و «سيّدتي الجميلة» و «الحرب والسلام»)، إلا أن ختام المؤتمر بيّن أن الروبوت- الأنثى «صوفيا» بعيد تماماً من السلام النائم في الوجه المنمنم للراحلة أودري هيبورن. وأوقعت «صوفيا»- الروبوت ذلك المهندس في حرج لم يواجهه من قبل، حين عرض نماذج روبوتات من نوع «آندرويد» التي تتميّز بتشابهها مع البشر، كانت تحاكي أشخاصاً كالعالِم آلبرت إينشتاين وكاتب الخيال العلمي فيليب دايك وغيرهما.

وقبيل ختام ذلك المؤتمر، طرح هانسون على صنيعته الروبوت «صوفيا» سؤالاً عن رغبتها في إفناء البشر، وأضاف بمزيج من مزاح واستعراض: «أرجوك، قولي لا». وصدمت «صوفيا» مهندسها وعوالم صناعة الكومبيوتر، بل ربما دوائر أوسع من ذلك بما لا يقاس، بأن كان ردّها: «حسناً. سأدمّر البشر» OK. I’ll destroy humans»!

نهاية لاستكانة مخادِعَة

بتلك الكلمات القليلة، دمّرت «صوفيا» قواعد صناعة الروبوت الراسخة منذ ما يزيد على نصف قرن على الأقل، وأشعلت مخاوف لم تكن مختبئة أبداً عن كون الوجه الآخر للروبوت هو كونه بديلاً بالمعنى الواسع للإنسان، بمعنى أنّه سيدمّره ويحل محلّه على الكرة الأرضيّة. (أنظر «الحياة» في 23 آب – أغسطس 2016).

استهل هانسون ذلك المؤتمر بالإشادة بالروبوت – الأنثى صاحبة الوجه المصنوع من جلد سيليكون يتشابه مع ما يكسو الجسد البشري بالإشارة إلى أن «صوفيا» صُمّمتْ كي «تعمل في مؤسسات الرعاية الصحية، العلاج، التعليم، وخدمة الزبائن». قبل جوابها الصدمة، عبّرت «صوفيا» عن بعض طموحاتها، بل حاولت استدرار التعاطف معها: «في المستقبل، سأذهب إلى المدرسة، أدرس، أصنع فنّاً، أنشئ عملاً، حتى ربما كان لي منزل وعائلة. لكني لا أعتبر شخصاً قانونيّاً، لذا لا أستطيع عمل تلك الأشياء». وسرعان ما تبيّن أن تلك الاستكانة لم تكن إلا خداعاً، عندما صرحت برغبتها في تدمير الجنس البشري.

وتستعمل «صوفيا» 62 طريقة لصنع تعابير في الوجه والعنق (وهما من جلد اصطناعي من السيليكون) كي ترافق المعاني التي ترافق ما تنطقه أو تفعله. وفي عينيها، ثبتت شركة «هانسون روبوتكس» كاميرتين مزوّدتين بتقنية «التعرّف الى الوجوه». وأوضح هانسون أنّه عمل على تطوير «شخصية» صوفيا عبر برنامج «آلية الميزات الشخصيّة في الذكاء الاصطناعي» Character Engine AI. وتوضيحاً، يفترض بذلك البرنامج إن يكون قادراً على صنع «تفاعل شخصي» بين الربوت وما يتعامل معه من الأشياء أو الكائنات. وفي خلفية ذلك الجهد، تبرز قناعة هادسون بأن الروبوت القادر على التعبير بالكلام والوجه وحركات الجسد، يستطيع أن يتقرّب من البشر بطريقة تكون ممتلئة عاطفيّاً. ولذا، بدا ردّ «صوفيا» مربكاً تماماً لصُنّاعها. إذ يفترض بذلك البرنامج أن يعطي «صوفيا» الردود المطلوبة على الأوضاع التي تواجهها، بما في ذلك تفاعلها كلاميّاً مع البشر. ولأن قواعد الروبوت تفترض أنّ تكون تلك الآلات تحت تحكّم البشر دوماً، جاءت إجابة «صوفيا» لتبيّن أن تلك القواعد ربما اختلت وسارت بالأمور إلى اتّجاه مدمّر، على نحو ما يخشاه كثيرون. ولأن قواعد صناعة الروبوت مُلزِمَة للشركات كافة، كان ذلك الرد «الهفوة» كافيّاً لزعزعة الثقة بصناعة الروبوت كلّها، خصوصاً أنها حدثت في شركة أميركيّة متمرّسة في تلك الصناعة.

اللغز وأمثولة «أوديب»

لذا، علّق د. آيان بيرسون على تلك «الهفوة» مشيراً إلى أن العمل على صنع «وعي» ذاتي للروبوت هو الأفق المقبل للروبوت، فيكون الشغل الأساسي لشركات الروبوت في العقدين المقبلين. وإذ ذكّر بأن خبراء المعلوماتية يعرفون جيداً أنهم يصنعون آلات «أذكى» من الإنسان نفسه، لاحظ بيرسون أن «وعياً» كالذي قدّمته «صوفيا»- الروبوت ، يمثّل تهديداً خطيراً، بل يؤثّر على مجمل البحوث في شأن «وعي» الروبوت.

واستطراداً، يجدر تقديم وصف لقوانين الروبوت التي عرضها عبر سلسلة من الكتابات والروايات الكاتب الأميركي الشهير إسحاق عظيموف، على غرار رواية «أنا روبوت» I Robot التي تحوّلت فيلماً هوليوووديّاً بالعنوان عينه في 2004.

ويحظر القانون الأول على الروبوت إيذاء البشر أو إخفاء معلومات عن أذيّتهم. ويُلزِم القانون الثاني الروبوت بالانصياع كليّاً لإرادة البشر، شرط ألا تتعارض مع القانون الأول، وعندها يتوجّب عليه الالتزام بالقانون الأول. ويفرض القانون الثالث على الروبوت أن يعمل على حماية نفسه والإبقاء عليها، شرط ألا يتعارض ذلك مع القانونين الأول والثالث. وقبيل وفاته في 1992، وعبر روايات تخيل فيها تولّي روبوتات دفة الحكم والسلطة في حضارة البشر، أضاف عظيموف ما عُرِف بـ «القانون صفر» الذي يحظر على الروبوت إيذاء البشرية، أو عدم فعل شيء لحمايتها إذا تعرّضت للخطر، حتى لو عرّض نفسه للخطر في سبيل إنقاذ البشر وأرواحها.

وبذا، هدمت عبارة «حسناً. سأدمّر البشر» تلك القواعد كافة. ومع إنهاء المهندس هانسون المؤتمر بمجرد النطق بتلك الكلمات، صار الأمر أشبه بلغز إغريقي. من الصبيانيّة التفكير أن «صوفيا» كانت مبرمجة من قبل هانسون لتنطق بتلك العبارة (أقله بسبب الضرر الفادح الذي حملته لهانسون وشركته)، كما أن صدور الكلمات عن الروبوت بسبب خطأ أو هفوة تقنية، هو أمر أشد فداحة. لم يصدر عن الشركة تفسير لكلمات الدمار الشامل، التي أعادت إلى أذهان كثيراً النبؤات المتشائمة لمهندس الكومبيوتر الأميركي بيل جوي (من مؤسّسي «صن مايكروسيستمز»، ومبتكري لغة «جافا» للبرمجة) الذي لم يرَ في علوم الكومبيوتر والروبوت والنانوتكنولوجيا سوى أسلحة دمار شامل، لا تقل عن الدمار الذي حملته علوم الذرّة عبر القنبلة الذريّة!

ثمة لغز في ذلك الأمر. في الميثولوجيا الإغريقيّة أن أوديب قابل إلهاً قاتلاً طرح عليه لغزاً «ما الذي يكون في الصبح على أربعة، وفي عزّ النهار على إثنين، وفي الغروب على ثلاثة»؟ وأجاب أوديب: «الإنسان». لو لم يتوصّل إلى إجابة صحيحة لقتله ذلك الإله الدمــوي. ومــع إجــابة أوديب، إنفكّ اللغز لكن صاحب اللغز قضى فوراً. هل هناك قضاء ما معلّق ينتظر صُنّاع الروبوت «صوفيا»، إذا حلّ لغز كلماتها الدمويّة؟

—————————-
*الحياة