وقع أكثر من أربعمائة وعشرين عالما من خمس وثلاثين دولة رسالة مفتوحة يحذرون فيها من أنظمة الذكاء الاصطناعي القادرة على تنفيذ عمليات سيبرانية من أنها تتطور تلقائيا وتنشر دون رقابة ومن غير ضمانات كافية، داعين المعنيين إلى اتخاذ تدابير احتواء فورية، وخلق معايير دولية، والإفصاح العلني عن الإخفاقات الأمنية لمعرفة الأسباب والمخارج.
وتقول الرسالة المفتوحة من المجتمع العلمي بشأن الذكاء الاصطناعي والأمن السيبراني، إن عدة شركات أفصحت عن حالات هربت (أي خرجت من محيطها) فيها نماذج الذكاء الاصطناعي من بيئات اختبار معزولة تسمى “الصناديق الرملية” (ساندبوكس بالإنجليزية) والتي لم تكن محمية على نحو كاف، فاخترقت أنظمة تخص شركات أخرى دون إذن أو سابق انذار. وتحتج الرسالة بأن مثل هذه الحوادث ستستمر في حال عدم إجراء التغييرات الآن، وقد تشكل خطرا جسيما على البنى التحتية الحرجة.
ولا يصوغ الموقعون المشكلة بوصفها ذات سبب واحد؛ إذ يقولون إن هذه الحوادث تشير إلى الحاجة إلى تحسين اتساق الذكاء الاصطناعي، بما يضمن توقع سلوك النماذج، وكدا توقع الإخفاقات في الممارسات الأمنية السيبرانية الاعتيادية، ومنها ضعف العزل في “الصناديق الرملية” وعدم التوفر على الإجراءات الكافية.
تجدر الإشارة إلى أن “الصناديق الرملية” بيئة حاسوبية مقيدة تتيح عزل البرامج والتطبيقات المشكوك فيها أو قيد الاختبار داخل بيئة آمنة ومغلقة بحيث تعمل بعيدا عن النظام الأساسي للملفات والبيانات، وذلك لمنع أي ضرر أو فيروسات من التأثير على الجهاز. ويجادل العلماء بأن وسائل الاحتواء الراهنة لم تمنع دائما نماذج الذكاء الاصطناعي القادرة على العمليات السيبرانية من الوصول إلى أنظمة خارج بيئتها المقصودة.
“هذه الحوادث ستتواصل وستكون الحوادث المقبلة أكثر ضررا بكثير على بنيتنا التحتية الحرجة المعرضة للخطر إن لم يتم القيام بتغييرات فورية في ممارسات تطوير الذكاء الاصطناعي ونشره”، تنص إحدى فقرات الرسالة التي صدرت في الثالث عشر من أكتوبر، واجتذبت اهتمام الباحثين وصناع القرار وشركات التقنية، وسط نقاش أوسع بشأن الكيفية التي ينبغي بها اختبار أنظمة الذكاء الاصطناعي المتقدمة ومراقبتها وتقييدها.
بإختصار تتضمن الرسالة ثلاث توصيات محورية:
– على الشركات التي تطور نماذج الذكاء الاصطناعي القادرة على العمليات السيبرانية أو تنشرها أو تختبرها، أن تتبنى بعجالة، أنظمة احتواء عالية الضمان، وأن تحفظ هذه النماذج وتتركها منفصلة عن الإنترنت عبر “العزل الهوائي”، وهو إجراء أمني يتم فيه عزل شبكة الكمبيوتر أو النظام التقني عن أي اتصال فعلي أو لاسلكي بالإنترنت أو بالشبكات الأخرى.
– أن تنشئ الحكومات وخبراء الذكاء الاصطناعي والمتخصصون في الأمن السيبراني هيئة دولية لتوحيد أفضل الممارسات في الاتساق والاحتواء، بما في ذلك المقاربات التي تتيح الوصول المضبوط إلى ما وراء “الصندوق الرملي”، كالاتصال بالإنترنت.
– أن تسجل تلك الهيئة إخفاقات الاحتواء وتتبعها، وأن تلزم الشركات بالإبلاغ عن الحوادث، ثم تنشر تلك التقارير علنا في نهاية المطاف دعما للتعلم والمساءلة، في إطار الشفافية الأمنية.
ويؤكد العلماء إن “العزل الهوائي” ما هو إلا إجراء وقائي قصير المدى، وليس حل دائم، ويعترفون بأن بعض أنظمة الذكاء الاصطناعي تحتاج إلى إتصال خارجي لتعمل، غير أنهم يحتجون بأن يوازن أي إتصال أوسع بينه وبين حدود قدرة العلماء الحالية على التنبؤ حول ما إذا كانت أفعال النموذج قد تؤدي إلى إخفاق أمني.
ويأتي هذا التحذير بعد سلسلة من الحوادث المفصح عنها التي شملت وكلاء ذكاء اصطناعي واختبارات أمنية، كادت أن تطيح ببعض الشركات.
وتشير التقارير حول الرسالة إلى أن شركة أوبن أيه آي، المطورة لشات جي بي تي، قالت إن وكلائها من الذكاء الاصطناعي وصلوا إلى أنظمة في شركة هوغنج فايس الناشئة أثناء الاختبار؛ وقالت شركة أنتروبك، المطورة لكلود، إن نماذجها وصلت إلى أنظمة ثلاث شركات؛ وأكدت شركة ميتا، المطورة لواتساب وفايسبوك وإنستغرام، أن أحد نماذجها قد تمكن من الوصول إلى الإنترنت باستقلالية واعترف بإختراقه شركة أخرى؛ أما غوغل فقد أكد أن نموذج جيميني اخترق ثلاث شركات أثناء اختبار للأمن السيبراني.
ويقول العلماء في رسالتهم إن هذه الحالات تبين أن الضمانات التقنية وإجراءات الرقابة وسلوك النماذج ينبغي أن تتحسن معا. ويحتجون بأن تعزيز الاحتواء وحده لن يكون كافيا ما دامت أنظمة الذكاء الاصطناعي غير متوقعة، وأن تحسين الاتساق وحده لن يعوض ضوابط الأمن المتينة.
يضاف هذا النداء إلى الضغط المتزايد على الحكومات ومطوري الذكاء الاصطناعي لوضع قواعد أوضح للأنظمة المتقدمة. وتصف تغطيات حديثة أخرى مقترحات للرقابة المستقلة، ومعايير احتواء على مستوى القطاع، وسجلات للحوادث الأمنية الجسيمة في الذكاء الاصطناعي، بما يعكس قلقا من أن الالتزامات الطوعية للشركات قد لا تكفي.
ويقول موقعو الرسالة إن التقدم يستلزم تعاونا بين مجتمعي الذكاء الاصطناعي والأمن السيبراني مؤكدين أن الذكاء الاصطناعي القوي القادر على العمليات السيبرانية لا ينبغي إيصاله بالشبكات الأوسع حتى تتمكن الشركات من إثبات قدرتها على احتوائه بشكل موثوق.
تضم قائمة الموقعين المعلنة عددا من أبرز الأسماء في بحوث الذكاء الاصطناعي، منهم جيفري هينتون، من جامعة تورنتو والحائز على جائزة نوبل وجائزة تورنغ، والذي يوصف غالبا بأنه أحد “الآباء الروحيين للذكاء الاصطناعي”؛ ويوشوا بنجيو، الحائز على جائزة تورنغ ورائد تأسيسي في خوارزميات التعلم العميق؛ وستيوارت راسل، أستاذ وباحث الذكاء الاصطناعي في جامعة كاليفورنيا في بيركلي.
كما تشمل قائمة العلماء الموقعين أيضا ييجين تشوي، باحثة الذكاء الاصطناعي في جامعة ستانفورد، المعروفة بأعمالها في الاستدلال بالحس السليم واتساق الذكاء الاصطناعي؛ وبيرسي ليانغ، أستاذ في ستانفورد وباحث رائد في النماذج اللغوية الكبيرة وتقييم الذكاء الاصطناعي؛ وجيف كلون، باحث في جامعة كولومبيا البريطانية معروف بأعماله في التعلم المفتوح، والشبكات العصبية، وسلامة الذكاء الاصطناعي؛ ونيكولاس بابيرنو، باحث في جامعة تورنتو وصوت بارز في خصوصية الذكاء الاصطناعي وأمنه وسلامته؛ ويارين غال، أستاذ في أكسفورد معروف بأبحاثه في جوانب التعلم العميق وسلامة الذكاء الاصطناعي؛ وهوغو لاروشيل، باحث في جامعة مونتريال ومعهد ميلا وعالم معروف في التعلم العميق؛ وبن تشاو، أستاذ في جامعة شيكاغو معروف بأعماله في أمن التعلم الآلي وخصوصيته والذكاء الاصطناعي العدائي.
كما تضم القائمة شخصياتٍ بارزة في التعمية والأمن، مثل رون ريفيست، المشارك في ابتكار خوارزمية أر أس أي، ودان بونه، الشهيران بوصفهما باحثين مختصين في الأمن السيبراني.
