ما الذي تعنيه الاستقلالية فعلًا
للسيارات ستة مستويات من الأتمتة وجواب واضح عن سؤال: من يقود؟ والذكاء الاصطناعي في الأعمال يحتاج إلى الشيء نفسه، وإلى البرهان نفسه قبل أن يرتقي مستوى.
شعارنا نفسه ينتهي بعبارة «والخطوة التالية: الاستقلالية». ووعد كهذا يحتاج إلى تعريف، وإلا بقي مجرد انطباع. ففي قطاعنا يُوصف بالمستقل مساعدٌ يرسل رسالة بريد إلكتروني واحدة من تلقاء نفسه، وتُوصف بالمستقلة كذلك رؤيةٌ لشركات تعمل بلا موظفين.
وقد مرّت السيارات بالالتباس نفسه، وخرجت منه بسلّم يعرفه معظم الناس اليوم. وهو سلّم يستحق أن نستعيره.
ما أصابت فيه السيارات
تمتد مستويات أتمتة القيادة التي وضعتها جمعية SAE من 0 إلى 5، وتشرحها الهيئة الأمريكية لسلامة الطرق NHTSA بعبارات بسيطة. حتى المستوى 2، السائق هو من يقود ويراقب، حتى حين يتولى النظام التوجيه والكبح والتسارع. وفي المستوى 3 يقود النظام، لكن على السائق أن يكون مستعدًا لتولي القيادة متى طلب منه ذلك. وفي المستوى 4 يتحمل النظام المسؤولية كاملة داخل مناطق خدمة محددة، ويصبح من في السيارة ركابًا. ولا يقود النظام في كل مكان وتحت جميع الظروف إلا في المستوى 5.
فكرتان تجعلان هذا السلّم مفيدًا. الأولى أن كل مستوى يُعرَّف بمن يتحمل المسؤولية، لا بمدى ذكاء السيارة. والثانية أن المستويات العليا مقيدة بمكان: فالمستوى 4 يعني مسؤولية كاملة داخل منطقة بعينها، لا في كل مكان. وتشير NHTSA أيضًا إلى أن أعلى مستوى من الأتمتة متاح للمستهلكين اليوم لا يزال يتطلب انخراط السائق الكامل وانتباهه غير المنقوص. فالسلّم يصف مسارًا، لا سوقًا.
مستويات للعمل
في عام 2025 اقترح ثلاثة باحثين، هم كيفن فنغ وديفيد ماكدونالد وإيمي تشانغ، سلّمًا مشابهًا لوكلاء الذكاء الاصطناعي. وهم يعرّفون خمسة مستويات بحسب الدور الذي يؤديه الإنسان: المشغّل، والمتعاون، والمستشار، والمُعتمِد، والمراقب. في مستوى المُعتمِد لا يُحتاج إلى الإنسان إلا حين يصطدم الوكيل بعائق لا يستطيع تجاوزه وحده. وفي مستوى المراقب يستطيع الإنسان قراءة السجلات، لكنه لم يعد يوجّه العمل.
وأدق ما يطرحونه أن الاستقلالية قرار تصميمي مقصود، منفصل عن القدرة. فالوكيل البارع جدًا يمكن أن يُبنى بحيث يستأذن قبل كل خطوة. والسؤال لا يقتصر أبدًا على ما إذا كان النموذج قادرًا على أداء العمل. إنما هو: كم من العمل قرر أحدهم أن يدعه يؤديه وحده، وبناءً على أي دليل.
وبهذه المصطلحات، يعمل كل منتج من منتجات crue اليوم في المستويات الدنيا: الآلة تصوغ المسودات وتقترح، والإنسان يقرر. ومرحلتنا التالية هي مستوى المُعتمِد، مع بوابات تضعها الشركة حيث تشاء. على سبيل المثال، سينقل North الميزانية بين القنوات ضمن الحدود التي تضعها الشركة، ويشرح السبب. وعلى السلّمين كليهما يقترب ذلك من المستوى 4: مسؤولية كاملة داخل منطقة محددة، واستدعاء إنسان عند بلوغ حدودها.
ما يجب أن يتحقق أولًا
ينبغي لكل عملية أن تستحق مستواها كما تستحق السيارة منطقة خدمتها: بالأدلة، ومنطقةً محددة تلو الأخرى. وقبل أن يعمل أي إجراء روتيني وحده، لا بد من توافر خمسة أمور.
قواعد مكتوبة: سقف الميزانية، والخصم الذي لا يحق لأحد منحه، والنبرة التي لا تستخدمها العلامة التجارية أبدًا. فالوكيل لا يستطيع احترام حدٍّ لا يوجد إلا في رأس شخص ما. بوابات: نقاط ثابتة يتوقف عندها الوكيل ويقرر فيها شخص محدد بالاسم، وتوضع قبل كل ما لا يمكن التراجع عنه. سجلّ: كل خطوة مسجلة، بحيث يمكن تتبع أي نتيجة خاطئة إلى المُدخل أو القاعدة أو النموذج الذي تسبب فيها. وفي Twin تُسجَّل كل خطوة، وكل عملية كتابة مرتبطة بتسجيل دخول مستخدم بعينه.
المسؤولية: حين يخطئ الوكيل، تُسأل الشركة عن خطئه. وقد أوضحت ذلك هيئة قضائية كندية في عام 2024، حين احتجت Air Canada بأن روبوت المحادثة الخاص بها مسؤول عن أفعاله. فرفضت الهيئة هذه الحجة: شركة الطيران مسؤولة عن جميع المعلومات على موقعها الإلكتروني، سواء جاءت من روبوت محادثة أم لا، وكان عليها أن تدفع. الأدلة: يُكتسب المستوى بالنتائج المقيسة، لا بالعروض التجريبية، تمامًا كما لا يعلن Proof فائزًا إلا حين تحسمه الأرقام.
ويطلب قانون الذكاء الاصطناعي الأوروبي (EU AI Act) الشيء نفسه تقريبًا في الاستخدامات عالية المخاطر. فالمادة المتعلقة بالإشراف البشري تشترط أن يتمكن المسؤولون من فهم حدود النظام، وأن يظلوا متنبهين لنزعة الإفراط في الاعتماد عليه، وأن يتمكنوا من تجاوز مخرجاته وإيقافه. ويسري هذا الالتزام اعتبارًا من 2 ديسمبر 2027 على الاستخدامات عالية المخاطر المدرجة في الملحق الثالث، واعتبارًا من 2 أغسطس 2028 على تلك المندرجة تحت الملحق الأول.
المشاهدة ليست إشرافًا
في كلمة «الإشراف» فخ. ففي فبراير نشرت Anthropic بيانات عن الطريقة التي يشرف بها الناس فعليًا على وكيلها البرمجي Claude Code. سمح المستخدمون الجدد له بالتصرف دون استئذان في نحو 20 بالمئة من الجلسات، بينما فعل المستخدمون المتمرسون ذلك في أكثر من 40 بالمئة منها. ومع ذلك كان المتمرسون يقاطعونه أكثر أيضًا، في نحو 9 بالمئة من دورات التفاعل مقابل 5 بالمئة. لم يتوقفوا عن الإشراف. بل انتقلوا من الموافقة على كل خطوة إلى متابعة التنفيذ والتدخل حين يستدعي الأمر ذلك.
ووجدت Anthropic كذلك أن نحو 0.8 بالمئة فقط من الإجراءات التي رصدتها بدت غير قابلة للتراجع، وخلصت إلى أن الإشراف الفعّال يتطلب أكثر من وضع شخص في سلسلة الموافقات: إنه يعني أن يكون في موقع يتيح له التدخل حين يهم الأمر. ونحن نقرأ ذلك حجةً لصالح بوابات أقل عددًا وأحسن موضعًا: عند الخطوة التي لا رجعة فيها، وعند المال، وعند الرسالة التي تغادر الشركة.
الشركة المستقلة
أما النقاش الأوسع فيدور حول ما إذا كانت شركات بأكملها ستعمل بهذه الطريقة. تتوقع Gartner أن يُتخذ 15 بالمئة على الأقل من قرارات العمل اليومية بصورة مستقلة عبر الذكاء الاصطناعي الوكيلي بحلول عام 2028، بعد أن كانت النسبة صفرًا في عام 2024. وهذا تحول حقيقي، لكن معظم القرارات، وفق هذا التوقع نفسه، ستبقى بيد الناس.
وأصدق اختبار حتى الآن صغير الحجم. ففي عام 2025 تركت Anthropic وكيلًا من Claude يدير متجرًا صغيرًا في مكاتبها لنحو شهر. فباع سلعًا بأقل من كلفتها، وأُقنع بمنح رموز خصم، وطلب من الزبائن لفترة أن يدفعوا إلى حساب اختلقه بنفسه. وكان حكم Anthropic أنها لن توظفه، وأيضًا أن المديرين المتوسطين من الذكاء الاصطناعي باتوا على الأرجح في الأفق.
وعلى الطرف الآخر، رأت مارغريت ميتشل وزملاؤها في عام 2025 أنه لا ينبغي تطوير وكلاء مستقلين استقلالًا تامًا على الإطلاق، لأنه كلما تنازل الإنسان للوكيل عن قدر أكبر من السيطرة، ازدادت المخاطر على الناس. ونحن نقف بين الرأيين: قد تعمل وظائف بأكملها يومًا ما من تلقاء نفسها، والناس عند أطرافها، ولا نحدد لذلك موعدًا.
كيف يرتقي إجراء روتيني مستوى
بالنسبة إلى الشركة، السؤال العملي أضيق: هل يجوز لهذا الإجراء الروتيني تحديدًا أن يرتقي مستوى واحدًا؟ واختبارنا قصير. القواعد مكتوبة. البوابة قائمة قبل الخطوة التي لا رجعة فيها. كل إجراء مسجَّل ومنسوب إلى شخص. المسودات لم تعد تحتاج إلى تصحيح على مدى عدد كافٍ من الدورات يُعتدّ به. وهناك طريق للعودة إلى آخر نسخة نجحت.
ومنتجاتنا نفسها تسلك هذا المسار. يُعدّ Tempo محتوى الشهر ويختبره، ويوافق شخص على كل منشور؛ وفي المرحلة التالية سينشر ما يجتاز اختباراته، ويطلب الموافقة حيث تريدون. ويُجري Proof الاختبارات التي يوافق عليها شخص؛ وفي المرحلة التالية سيبدأ الاختبار التالي وحده، ضمن قواعدكم. ويشرح North ويقرر الإنسان؛ وفي المرحلة التالية سينقل الميزانية ضمن الحدود التي تضعونها.
الاستقلالية، كما نستخدم الكلمة، لا تعني أبدًا العمل دون رقيب. إنها تعني منطقة محددة، وقواعد مكتوبة، وسجلًا لكل خطوة، وشخصًا يتحمل مسؤولية النتيجة. يمكن للآلة أن تتولى قدرًا متزايدًا من العمل. أما الذوق والحكم والمسؤولية عما يُنجز باسم الشركة فتبقى بشرية، وهذا تحديدًا ما يتيح لبقية العمل أن يرتقي. فالسيارة في المستوى 4 لا يزال لها مالك. وكذلك سيكون لكل عملية تعمل من تلقاء نفسها.
