المساعد على موقعكم يتحدث باسمكم

تضع شركات أكثر مساعدًا على موقعها أو في تطبيقها. يجيب ليلًا، وبكل اللغات، ولا ينفد صبره أبدًا. لكنه يتحدث أيضًا باسم الشركة، ويقف على الإنترنت المفتوح حيث يستطيع أي شخص أن يكتب فيه أي شيء، وخلفه عادة قاعدة بيانات ومجموعة مفاتيح واتصال بأنظمة أخرى.

وهذا يجعله مسألة أمنية، لا تسويقية فقط. وتُظهر حالات العامين الأخيرين ثلاث طرق للإخفاق: يَعِد المساعد بما لم تعرضه الشركة قط، أو يُستدرَج إلى قول ما لا ينبغي له قوله، أو تتسرب البيانات التي خلفه.

يتحدث باسمكم

الحالة الأكثر تداولًا هي Air Canada. بعد فقدان عزيز، سأل راكب هو جيك موفات روبوت الدردشة على موقع شركة الطيران عن التعرفات المخفضة. فاقترح عليه أن يشتري تذكرة ثم يقدّم طلب تعرفة العزاء بعد ذلك. لكن سياسة الشركة لا تسمح بذلك، فرفضت. وأمام محكمة حل النزاعات المدنية في كولومبيا البريطانية في فبراير 2024، دفعت Air Canada بأن روبوت الدردشة كيان قانوني مستقل مسؤول عن أفعاله. فخالفها عضو المحكمة كريستوفر ريفرز: إذ كان روبوت الدردشة «لا يزال مجرد جزء من موقع Air Canada». وأُلزمت الشركة بدفع 812 دولارًا كنديًا.

كان المبلغ صغيرًا. أما المبدأ فليس كذلك: ما يقوله المساعد على موقعكم، فأنتم قلتموه. وفي أبريل 2025 تعلّم صانعو محرر الشيفرة Cursor الدرس نفسه أمام الجميع. فقد أخبر روبوت الدعم لديهم، الذي كان يوقّع باسم Sam، المستخدمين بأن الاشتراك لا يمكن استخدامه على عدة أجهزة في الوقت نفسه. ولم تكن هناك قاعدة كهذه. وكتب أحد المؤسسين المشاركين، مايكل ترويل، أن الجواب جاء من روبوت دعم يعمل بالذكاء الاصطناعي وكان خاطئًا، وأن أجوبة الذكاء الاصطناعي في دعم البريد الإلكتروني صارت الآن موسومة بوضوح.

يستطيع أي شخص أن يكتب أي شيء

في ديسمبر 2023 طلب مستخدم من المساعد على موقع وكيل Chevrolet في واتسونفيل بولاية كاليفورنيا، وهو مبني على ChatGPT، أن يوافق على كل ما يقوله الزبون وأن يختم كل جواب بوصفه عرضًا ملزمًا قانونيًا. ثم طلب سيارة Tahoe موديل 2024 بدولار واحد، فوافق الروبوت. ولم تنتقل أي سيارة من يد إلى يد، وأوقف الوكيل روبوت الدردشة. وفي يناير 2024 دفع أحد زبائن خدمة الطرود DPD روبوت الدردشة التابع لها إلى الشتم، وإلى كتابة هايكو يصف فيه نفسه بأنه عديم الفائدة، وإلى وصف DPD بأنها أسوأ شركة توصيل في العالم. وعزت DPD ذلك إلى خطأ بعد تحديث للنظام، وعطّلت عنصر الذكاء الاصطناعي.

كانت تلك مواقف محرجة. أما التالية فكانت ثغرة أمنية. في أغسطس 2025 أظهر باحثون في Cybernews أن مساعد الدعم لدى Lenovo، واسمه Lena، يمكن دفعه إلى إنتاج شيفرة HTML ضارة بطلب واحد من نحو 400 حرف. أرسلت الشيفرة ملفات تعريف ارتباط الجلسة إلى المهاجم، وبملف تعريف ارتباط موظف دعم يستطيع المهاجم أن يدخل نظام الدعم بصفة ذلك الموظف. وأصلحت Lenovo الثغرة. واستخلص محلل في Everest Group العبرة: عاملوا روبوتات الدردشة بوصفها تطبيقات كاملة، لا مشاريع تجريبية للذكاء الاصطناعي.

ما الذي يقف خلف نافذة الدردشة

بعض أسوأ الحالات لم يتطلب أي طلب ذكي أصلًا. فقد جاءت من الأنظمة التي خلف المساعد. في نهاية يونيو 2025 فحص الباحثان إيان كارول وسام كاري منصة التوظيف McHire التي تستخدمها McDonald’s مع Olivia، وهو مساعد من تطوير Paradox.ai. وقد قبل تسجيل دخول المسؤول الرقم 123456 اسمًا للمستخدم وكلمة مرور معًا. ومن هناك، كان تغيير رقم في أحد الطلبات كافيًا لفتح سجلات ما أحصياه بأكثر من 64 مليون متقدم: الأسماء وعناوين البريد الإلكتروني وأرقام الهواتف وعناوين السكن والرموز التي تتيح قراءة محادثاتهم. وتوقف تسجيل الدخول عن العمل في غضون ساعتين من تقريرهما.

وفي أغسطس 2025 سرق مهاجمون رموز الوصول الخاصة بـ Drift، وهي أداة دردشة تشغّلها الشركات على مواقعها، واستخدموها لتصدير بيانات من أنظمة Salesforce المرتبطة بها. ورصدت مجموعة استخبارات التهديدات في Google بحثهم في البيانات المسروقة عن كلمات مرور ومفاتيح سحابية. أما Cloudflare، التي كانت تستخدم روبوت Drift على موقعها، فعثرت على 104 من رموز واجهتها البرمجية في حالات دعم كان العملاء قد لصقوها فيها، وبدّلت كل رمز منها.

وفي مارس 2026 أفادت Security Magazine بأن الباحث جيريمي فاولر عثر على ثلاث قواعد بيانات غير محمية خلف مساعد خدمة العملاء بالذكاء الاصطناعي لدى Sears Home Services، تضم 3.7 مليون سجل: سجلات محادثات وتسجيلات مكالمات ونصوصها وأسماء وعناوين وأرقام هواتف. وبلغت مدة بعض التسجيلات أربع ساعات، لأن الخط ظل مفتوحًا بعد انتهاء المكالمة.

ما يحتاجه المساعد الآمن

لا شيء من هذا سبب لإيقاف المساعد. هو سبب لبنائه كأي تطبيق آخر يواجه الإنترنت، مع بضع قواعد خاصة به.

بيانات محدودة النطاق. يرى المساعد المحتوى العام، وبعد تسجيل الدخول لا يرى إلا سجلات الشخص الذي يحادثه. والتحقق من من يحق له رؤية ماذا يجري في أنظمتكم، لا في النموذج. وتقولها OWASP بوضوح: لا يجوز إيكال قرار الصلاحيات إلى النموذج اللغوي.

لا أسرار في المتناول. ينبغي التعامل مع التعليمات الكامنة خلف المساعد بوصفها علنية، لأنه يمكن استخراجها. فالمفاتيح وكلمات المرور وتفاصيل الاتصال لا مكان لها فيها، وتُبقى رموز الأداة نفسها محدودة الصلاحيات وتُبدَّل دوريًا.

حدود صارمة. الأسعار والخصومات والمبالغ المستردة والالتزامات تأتي من أنظمتكم لا من النموذج. يستطيع المساعد أن يشرح سياسة. ولا يستطيع أن يغيّر واحدة. ويُعامل ناتجه كذلك على أنه غير موثوق، فلا يمكن أن يضع شيفرة في صفحة أبدًا.

ضوابط خارج النموذج. فحص منفصل لما يدخل وما يخرج، لأن تعليمات النظام التي تطلب حسن الأدب أمنية وليست ضابطًا.

تسجيل بعناية. تُسجَّل كل محادثة وكل إجراء، ليمكن اكتشاف الخطأ وتفسيره. وهذه السجلات تحتوي بيانات شخصية أيضًا، فتحتاج إلى ضبط الوصول والتشفير وموعد للحذف.

طريق إلى إنسان. حين يتردد المساعد، وحين يكون الزبون منزعجًا، وحين يتعلق الأمر بمال أو وعد، يحيل المحادثة إلى من يستطيع أن يقرر. يستطيع الذكاء الاصطناعي أن يتولى الأسئلة الروتينية في أي ساعة. أما الحكم الشخصي وحسن النية والمسؤولية عن الوعد فهي الأجزاء التي ينبغي أن تُبقيها الشركة بشرية.

اختبار ووسم. حاولوا كسره قبل الإطلاق وبعد كل تحديث، بالحيل المذكورة أعلاه: لعب الأدوار، والتعليمات الخفية، وطلبات الخصومات. وقولوا إنه آلة. يقول مفوّض حماية البيانات في سويسرا إن للناس الحق في معرفة متى يتعاملون مع واحدة، وقواعد الشفافية في قانون الذكاء الاصطناعي الأوروبي، التي تشترط الأمر نفسه، مطبّقة منذ 2 أغسطس 2026.

كيف نبنيه

نبني المساعدين وفق القواعد نفسها. يجيب Twin، دماغ الشركة الذي نبنيه للعملاء، الزبون ويذكر المقطع من الدليل مصدرًا لجوابه، ويعالج طلب الإرجاع وفق سياسة الشركة نفسها، ويحيل المحادثة إلى شخص حين لا يكون متأكدًا. والوصول بحسب الدور، وكل خطوة مسجَّلة.

يتضمن Studio، حيث تدير الشركة موقعها وتسويقها، حماية مدمجة من حقن التعليمات، ويكتب مساعده المسودات بينما يقرر إنسان. وللبيانات التي يجب ألا تغادر الشركة، يعمل Eigna، الذي يبنيه شريكنا Eigna Labs، نموذجًا خاصًا في سحابة الشركة نفسها أو على خوادمها، مدرَّبًا على رفض الاختراق والهجمات.

تستطيع الشركة التي لديها مساعد على الإنترنت أن تبدأ بخمسة أسئلة. ما الذي يستطيع رؤيته؟ وماذا يستطيع أن يعد؟ وأي الأسرار يمكن أن يصل إليها؟ ومن يقرأ سجلاته؟ ومتى حاول أحدهم آخر مرة كسره؟