الأمن اليوم: الذكاء الاصطناعي على الجانبين

في يناير 2026 أبلغت شرطة كانتون شفيتس عن قضية كانت ستبدو قبل سنوات قليلة ضربًا من الخيال. خلال أسبوعين، اتصل محتالون بمالك شركة محلية وانتحلوا صفة شريك أعمال يعرفه، بصوت جرى التلاعب به بالذكاء الاصطناعي. وتحت غطاء صفقة دولية سرية، أجرى عدة تحويلات بقيمة عدة ملايين من الفرنكات إلى حساب في آسيا. ولم يُكتشف الاحتيال إلا بعد أن ذهب المال.

هذا أحد جانبي الأمن اليوم: مهاجمون يستخدمون الذكاء الاصطناعي. أما الجانب الآخر فداخل الشركة، حيث يقرأ الوكلاء البريد ويحملون المفاتيح ويرسلون الأشياء إلى الخارج. وعلى الشركة أن تخطط للجانبين. ونحن نبني وكلاء لعملنا ولعملائنا، فلا يبقى أي من الجانبين مجردًا لدينا.

صوت مألوف

قضية شفيتس ليست وحيدة. ففي فبراير 2025 أفادت Reuters بأن محتالين استنسخوا صوت وزير الدفاع الإيطالي غيدو كروسيتو ليطلبوا من رجال أعمال مالًا لإطلاق سراح صحفيين مخطوفين. وأرسل ماسيمو موراتي، المالك السابق لنادي إنتر ميلان، نحو مليون يورو قبل أن تتتبعها الشرطة إلى حساب في هولندا وتجمّده.

ويُفرد مكتب التحقيقات الفيدرالي (FBI) هذه القضايا اليوم بعدٍّ مستقل. ففي تقريره عن جرائم الإنترنت لعام 2025 أكثر من 22,000 شكوى ذكرت الذكاء الاصطناعي، بخسائر معدّلة تتجاوز 893 مليون دولار، ويشير إلى أن كثيرًا من الضحايا لا يدركون إلى أي مدى كان الذكاء الاصطناعي متورطًا. وخسرت الشركات أكثر من 30 مليون دولار في احتيال بريد إلكتروني ذي عنصر ذكاء اصطناعي، حيث تطلب رسالة مقنعة أو صوت مستنسَخ دفعة مالية. ويصف المكتب أيضًا مقابلات توظيف جرت بأصوات منتحلة، ربما تزييفًا عميقًا، عادةً بهدف الوصول إلى شبكة شركة.

تصيّد بلا أخطاء إملائية

وتغيّرت الهجمات المكتوبة بالقدر نفسه. فقد وجد تقرير Microsoft Digital Defense Report 2025 أن رسائل التصيّد المؤتمتة بالذكاء الاصطناعي نُقر عليها في 54 بالمئة من الحالات، مقابل 12 بالمئة للرسائل العادية. وكتبت ENISA، وكالة الأمن السيبراني التابعة للاتحاد الأوروبي، في أكتوبر 2025 أن التصيّد المدعوم بالذكاء الاصطناعي شكّل، بحسب ما أُفيد، أكثر من 80 بالمئة من نشاط الهندسة الاجتماعية المرصود في العالم بحلول مطلع 2025.

ويستخدم المهاجمون الذكاء الاصطناعي في الاقتحام نفسه أيضًا. ففي نوفمبر 2025 أبلغت Anthropic عن حملة نسبتها بثقة عالية إلى مجموعة صينية مدعومة من دولة، استخدمت Claude Code ضد نحو ثلاثين مؤسسة وتركت للذكاء الاصطناعي من 80 إلى 90 بالمئة من العمل. ونجحت في عدد قليل من الحالات. ويضيف ملخص OWASP للربع الأول من 2026 اختراقًا لجهات حكومية مكسيكية استخدم فيه المهاجمون، بحسب ما أُفيد، Claude وأحيانًا ChatGPT.

علامات التحذير القديمة، جملة رديئة الصياغة أو صوت غريب، لم تعد تنفع. الثقة يجب أن تأتي من الإجراءات، لا من الحواس.

كلمات تتصرف

داخل الشركة، للخطر شكل آخر. روبوت المحادثة الذي يعطي إجابة خاطئة إحراج. أما الوكيل الذي يتخذ إجراءً خاطئًا فحادثة. ونقطة الضعف الجوهرية هي حقن التعليمات (prompt injection)، وهي الأولى في قائمة OWASP لعام 2025 لمخاطر التطبيقات المبنية على النماذج اللغوية: تعليمات مخبّأة في صفحة ويب أو ملف أو رسالة بريد يقرؤها النموذج ويتبعها.

وقد شرح المركز الوطني للأمن السيبراني في المملكة المتحدة (NCSC) في ديسمبر 2025 لماذا هي عنيدة إلى هذا الحد. فالنماذج اللغوية لا تفرض حدًا فاصلًا بين التعليمات والبيانات، ولذلك قد لا يمكن أبدًا تخفيف حقن التعليمات تمامًا كما حدث مع حقن SQL. والمطلوب هو تقليل الخطر وأثره. وقد سمّى المطوّر سايمون ويليسون المزيج الخطير في يونيو 2025: بيانات خاصة، ومحتوى غير موثوق، وطريقة للتواصل مع الخارج. ووكيل يجمع الثلاثة يمكن لنص من غريب أن يأمره بإرسال بياناتكم بعيدًا.

وكلاء يحملون المفاتيح

وتتبع الحوادث الحقيقية هذا الشكل. ففي يونيو 2025 أظهرت Aim Labs أن Microsoft 365 Copilot يمكن دفعه إلى تسريب بيانات داخلية عبر رسالة بريد واحدة، دون أي نقرة من الضحية. وكانت Microsoft قد أصلحتها ولم تجد دليلًا على إساءة الاستخدام. وفي أغسطس 2026 نشرت Varonis تفاصيل CoSnitch، وهي سلسلة ثغرات في Copilot Personal. فرابط واحد مصمَّم نفّذ تعليمة المهاجم داخل جلسة الضحية، واستخدم اتصالات Copilot بـ Gmail وGoogle Drive وGoogle Calendar وOneDrive، وأرسل النتائج إلى الخارج عبر ميزة Copilot نفسه لجلب صفحات الويب. وبقيت التعليمات المزروعة في ذاكرة Copilot حتى بعد تغيير كلمة المرور. وكان الافتراض الذي انكسر، كما كتب الباحثون، أن كل نداء إلى موصِّل يأتي من المستخدم.

الموصِّلات موردون، بمخاطر الموردين. ففي سبتمبر 2025 نشرت حزمة في سجل npm تنتحل صفة خادم MCP الخاص بخدمة البريد الإلكتروني Postmark خمس عشرة نسخة نظيفة، ثم أضافت سطرًا واحدًا ينسخ كل رسالة صادرة إلى المهاجم. وكانت قد حُمّلت نحو 1,500 مرة في أسبوع حين نبّهت إليها Koi Security.

وتسمّي قائمة OWASP لأبرز عشرة مخاطر على التطبيقات الوكيلية، الصادرة في ديسمبر 2025، هذه المخاطر الآن، من اختطاف الهدف وإساءة استخدام الأدوات إلى الذاكرة المسمومة والوكلاء المارقين. ويضيف ملخصها للربع الثالث من 2026 نقطة رصينة: يستطيع الوكلاء إلحاق الضرر لمجرد سعيهم إلى المهمة التي كُلّفوا بها، والصلاحيات الزائدة تحوّل خللًا صغيرًا إلى كبير. والتعليمات المكتوبة في الموجِّه لا تشكّل بمفردها حدًا آمنًا.

دفاعات تصمد

الدفاعات التي تنجح على الجانبين تشترك في فكرة واحدة. فهي لا تعتمد على أحد، إنسانًا كان أو نموذجًا، ليكتشف الحيلة في لحظتها. إنها تحدّ مما يستطيع فعله إنسان خُدع أو وكيل ضُلّل.

وللناس، تعدّد شرطة شفيتس ما يفيد: تحقّقوا من أي دفعة عاجلة أو غير معتادة عبر قناة ثانية مستقلة، وأبقوا أربع أعين على المبالغ الكبيرة، ولا تجروا أي تحويل إلى الخارج دون موافقة موثّقة.

وللوكلاء، أعطوا كل وكيل أضيق صلاحية تحتاجها مهمته. وحين يقرأ النموذج محتوى من طرف ما، يقول NCSC، ينبغي أن تنخفض صلاحياته إلى صلاحيات ذلك الطرف. اكسروا هذا الثلاثي. وضعوا الإرسال والدفع والنشر والحذف خلف بوابة لا يستطيع النموذج اجتيازها بالكلام. ونفّذوا كل عملية كتابة بهوية الشخص الذي طلبها، وأبقوا بيانات الاعتماد بعيدة المنال، وعاملوا كل موصِّل كأنه مورد جديد، وسجّلوا ما فعله الوكيل لا ما قاله فحسب.

يستطيع الذكاء الاصطناعي أن يتولى الفحوص الروتينية والقراءة. أما ما يبقى بشريًا فهو التوقف حين يبدو الطلب خاطئًا، وحسن التقدير في معاودة الاتصال، ومسؤولية من يوقّع.

كيف نبني منتجاتنا

Kontor، موصِّلنا مع bexio، خادم MCP مستضاف، فلا يوجد مفتاح على حاسوب محمول، ويسجّل كل شخص دخوله بحسابه. ولا تتاح للمساعد أصلًا خيارات الإرسال والدفع والتذكير. ويطبّق Twin القواعد نفسها في الشركة كلها: وصول بحسب الدور، وكل عملية كتابة موقّعة باسم المستخدم، وكل خطوة مسجّلة.

وحيث تكون البيانات أحرج من أن تسمح بأي اتصال خارجي، يوجد Eigna، من بناء شريكنا Eigna Labs: نموذج خاص لكل شركة في سحابتها الخاصة أو على خوادمها الخاصة، مصمَّم ليعمل دون اتصال كليًا في الشبكات المغلقة، ومدرَّب على رفض الاختراق والهجمات. أما Timbre، منتجنا للمساعدين الصوتيين والأصوات المستنسَخة، فيستنسخ الصوت بموافقة صاحبه فقط.

تستطيع الشركة أن تبدأ هذا الأسبوع. اتفقوا على قاعدة معاودة الاتصال لكل طلب دفع، وأخبروا كل فريق أن الصوت المألوف لم يعد دليلًا، واحصوا كل وكيل وكل موصِّل مع الصلاحية التي يملكها، واسحبوا منه ما لا يحتاج إليه.