الذكاء الاصطناعي يجد الثغرات أسرع
بات وكلاء الذكاء الاصطناعي يجدون ثغرات برمجية خطيرة بالمئات، والمختبرات تسلّم أقوى نماذجها الأمنية للمدافعين أولًا، والشركات لديها وقت أقل لتطبيق الإصلاحات.
في 4 نوفمبر وصفت OpenAI جولة شغّلت فيها وكلاء ذكاء اصطناعي على نواة Linux، البرمجية التي تقوم عليها هواتف Android والبنية التحتية السحابية والحواسيب الفائقة. وعلى مدى نحو عشرة أيام بدءًا من منتصف أكتوبر، أنتج الوكلاء شيفرات استغلال عاملة لـ 948 ثغرة مختلفة، كل منها قادرة على تحويل حساب مستخدم عادي إلى سيطرة كاملة على الجهاز، وكتبوا إصلاحًا مرشحًا لكل واحدة منها. وقبل ذلك بأسبوع أعلنت Google عن Gemini 4 Carbon وأتاحته أولًا لمدافعين سيبرانيين خضعوا للتدقيق. والوقت بين وجود الثغرة واكتشاف أحد لها يتقلص، والمختبرات تريد أن يصل المدافعون إليها أولًا.
ما الذي شغّلته OpenAI
تألف المسار من خمس مراحل، وعمل على نموذج سيبراني أصدرته OpenAI في 5 نوفمبر باسم GPT-6 Cyber. فاختار وكلاء الاستطلاع 5,034 جزءًا من النواة تستحق التدقيق، أي نحو 7 بالمئة من شيفرتها. وحوّلها وكلاء التحليل إلى 2,308 نتائج مرشحة في 12 ساعة. وحاول وكلاء الفرز إعادة إنتاج كل منها على جهاز معزول، ونجحوا في 1,724 منها، أي نحو ثلاثة أرباعها، وتقول OpenAI إن 3.1 بالمئة فقط من النتائج قامت على تحليل خاطئ. واختبرت المراحل اللاحقة أي الثغرات يمكن استغلالها وكتبت الإصلاحات، وراجع أشخاص النتائج قبل الإبلاغ عن أي شيء.
كلّفت الجولة 1,213,430 دولارًا من أرصدة API، أي نحو 1,279 دولارًا لكل استغلال. وكانت الأجهزة المستهدفة تشغّل نسخة Linux قياسية لسطح المكتب مع تفعيل حمايتها المعتادة. وكانت جولة في يوليو بنموذج أقدم، هو GPT-5.6 Sol، قد وجدت 166 ثغرة من هذا النوع. ووجد النموذج الأحدث أكثر من خمسة أضعاف ذلك، مع أن النواة خضعت للتحصين ثلاثة أشهر في الفترة الفاصلة.
ما تقوله المختبرات عن الحدود
تتحدث OpenAI بصراحة عن مواضع الخطأ. ففي جولة مبكرة أبلغ المسار عن 200 استغلال ناجح، ووجدت المراجعة البشرية أن 20 منها بلغت السيطرة الكاملة عبر ثغرة مجهولة أخرى غير الثغرة المخصصة لها. وكتبت OpenAI: «يشير هذا إلى أن الاستغلال الناجح من جانب الوكلاء يحتاج هو أيضًا إلى تحقق سليم»، وأضافت فحصًا مستقلًا يتأكد من أن كل استغلال استخدم الثغرة المخصصة له. ودرسها يصح على أي عمل مؤتمت: «تحقّقوا من الطريق إلى النتيجة، إضافة إلى التحقق من النتيجة نفسها».
واحتاجت الإصلاحات أيضًا إلى عمل. فالأولى منها كانت تعمل، لكنها أحيانًا أضافت شيفرة لا داعي لها، أو تجاهلت الأعراف المحلية، أو أغفلت صيغًا أخرى من الثغرة نفسها، إلى أن حسّنتها تعليمات إضافية وتكرار المحاولة. وتصف OpenAI أرقام التكلفة لديها بأنها «أقرب إلى حد أعلى». وكل هذه الأرقام من OpenAI نفسها. وحتى 5 نوفمبر لم نجد أي تدقيق مستقل لها، ولا أي بيان علني من مشرفي صيانة النواة بشأن هذه الدفعة.
المدافعون أولًا
ويتبع إعلان Google في 28 أكتوبر النمط نفسه. فهي تصف Gemini 4 Carbon بأنه «أقوى نماذجنا، بقدرات رائدة في الأمن السيبراني وفي المهام طويلة الأمد»، وتذكر نسبة 88.2 بالمئة في SEC-bench Pro لاكتشاف الثغرات، و54.8 بالمئة في ExploitGym، و71.0 بالمئة في CWE-bench للإصلاح، وكلها أرقام Google نفسها، مقيسة من دون ضوابط حماية. ويبدأ الوصول بمجموعة فرعية من المدافعين السيبرانيين، ثم يتسع على مراحل عبر برنامج Fairwind، الذي تفيد SecurityWeek بأنه يضم أكثر من 650 مشاركًا، منهم حكومات ومشغّلو بنى تحتية حيوية. ويُوعد بإصدار للمطورين والشركات والمستهلكين «في أقرب وقت ممكن»، من دون تاريخ.
وقد أرست Anthropic هذا النمط مع Mythos في أبريل، وOpenAI تتبعه. فـ GPT-6 Cyber يذهب أولًا إلى مجموعة مختارة من العملاء المعتمدين في Daybreak Red، برنامجها لاختبارات الأمن المأذون بها، وتصنّف OpenAI النموذج في فئة «حرج» (Critical) في الأمن السيبراني بموجب إطار الجاهزية (Preparedness Framework) الخاص بها. ويقول إعلانها لماذا: «من الواضح أن أمامنا نافذة محدودة لاستخدام النماذج المتقدمة في تأمين البرمجيات».
من جهة المشرفين على الصيانة
كل نتيجة تصل إلى شخص عليه أن يصلحها. ففي مارس قال غريغ كروا هارتمان، أحد كبار مشرفي صيانة النواة، لـ The Register إن التقارير المعدّة بالذكاء الاصطناعي تحولت قبل نحو شهر من الرداءة إلى الجدية: «الآن لدينا تقارير حقيقية». وفي مايو كتب لينوس تورفالدس أن «السيل المستمر من تقارير الذكاء الاصطناعي جعل قائمة الأمن عمليًا شبه مستحيلة الإدارة بالكامل»، لأن كثيرين يجدون الأخطاء نفسها بالأدوات نفسها. ونصيحته لمن يرسلون التقارير: «إذا وجدتم خطأً باستخدام أدوات الذكاء الاصطناعي، فالأرجح أن شخصًا آخر وجده أيضًا». وفي يوليو نشر فريق النواة 432 سجلًا من سجلات الثغرات CVE في يومين فقط، أحد وإثنين متتاليين.
وبينما كان فحص OpenAI جاريًا، كان المشرفون ومساهمون آخرون يصلحون بالفعل كثيرًا من الثغرات نفسها: فبعد عشرة أيام كانت 61 منها قد أُصلحت في النسخة الأم (upstream)، و43 لها إصلاحات تنتظر، و299 قيد النقاش العلني. وتقول OpenAI إنها اتبعت توجيهات مجتمع النواة، وإنها أفصحت حتى الآن عن 304 نتائج حرجة مع إصلاحات مرشحة. وفي رأينا، فإن المورد النادر الآن هو انتباه من يراجعون الإصلاحات ويختبرونها ويصدرونها.
ما الذي تستطيع الشركة فعله
معظم الشركات تشغّل ببساطة البرمجيات التي تتلقى هذه الإصلاحات، وغالبًا في دفعات كبيرة. وتستخلص OpenAI النتيجة بنفسها: في الوقت الحالي، فإن حسابًا منخفض الصلاحيات على نظام «غير محدَّث بآخر الإصلاحات المتاحة ينبغي اعتباره مكافئًا من الناحية الوظيفية لصلاحيات الجذر (root) بالنسبة إلى جهة تهديد تملك موارد جيدة». ويترتب على ذلك أربعة أمور، في رأينا.
طبّقوا الإصلاحات أسرع، واعرفوا ما الذي تشغّلونه. فقد كتب يان شاومان، كبير مهندسي أمن المعلومات في Akamai، في يوليو أن ترتيب أولويات تغييرات النواة كلًا على حدة لم يعد ممكنًا، وقال لـ The Register إن «التحديثات المؤتمتة والمنتظمة والمتكررة» تبدو النهج المعقول الوحيد، على صعوبتها بالنسبة إلى المؤسسات الكبيرة. ويتطلب ذلك قائمة محدَّثة بكل خادم وجهاز وخدمة، وبمن يحدّث كلًا منها.
واختاروا مورّدين يطبّقون الإصلاحات بسرعة، واسألوا كم يستغرق وصول الإصلاح الحرج إليكم. واسألوا مورّدي البرمجيات لديكم كيف يستخدمون هذه النماذج: هل يفحصون شيفرتهم الخاصة، وكيف يتحققون مما تبلّغ عنه النماذج، وهل يشاركون في برامج مثل Daybreak أو Fairwind.
واحتفظوا بالبيانات الحساسة في أنظمة تتحكمون بها، مع وصول محدد بحسب الدور، بحيث تكشف ثغرة في خدمة جهة أخرى قدرًا أقل. والتحكم لا يُسقط واجب تطبيق الإصلاحات، بل يجعله واجبكم أنتم. وتوصي OpenAI أيضًا بالبيئات المعزولة (sandboxes) والعزل للحد من الضرر حين يُستغل شيء ما.
أين نقف
نحن لا نبني أدوات فحص أمني. دورنا هو النقطة الأخيرة في تلك القائمة. فـ Twin، وهو متاح، يمنح مساعدي الشركة دماغًا واحدًا بوصول محدد بحسب الدور، وكل عملية كتابة فيه تتم بتسجيل دخول خاص بكل مستخدم، وكل خطوة مسجلة، مستضافًا في سويسرا أو الاتحاد الأوروبي أو الولايات المتحدة أو على عتاد الشركة الخاص. وEigna، في مرحلة الوصول المبكر ومن صنع شريكنا Eigna Labs، نموذج خاص يعمل في سحابة الشركة الخاصة أو على خوادمها الخاصة، وهو مصمم للعمل دون اتصال في الشبكات المغلقة. وكأي شيء آخر تشغّله الشركة، يجب أن يبقى كلاهما محدَّثًا.
