من الفكرة إلى النشر: دورة حياة حوكمة الوكيل
الترتيب الذي يُنجَز به العمل فعلًا.
أفضل طريقة لتجنب تحول الحوكمة إلى أوراق ونماذج لا يقرأها أحد هي ربط كل مرحلة بمخرج تحتاجه المرحلة التالية. فإذا لم يكن للمخرج مستهلك، فغالبًا هو توثيق لا ضابط.
والدورة التي أستخدمها تتكون من سبع مراحل. يمكنك تطبيقها بأدوات مختلفة، لكن ترتيبها مفيد لأن كل خطوة تجيب عن سؤال يفتح الباب لما بعدها. وإن كنت تبدأ برنامجًا لحوكمة الوكلاء، فهذا التسلسل هو ما كنت سأتبعه.
| المرحلة | الغرض | المُخرَج |
|---|---|---|
| التسجيل | معرفة الوكيل ومالكه | سجل الوكيل |
| AI-BOM | معرفة ما يعمل فعلًا | سجل المكوّنات |
| التقييم | فهم السلوك والسياق | الأدلة ونتائج التقييم |
| الامتثال | ربط الالتزامات بالضوابط | حالة الضابط |
| الحوكمة | تطبيق السياسة والإشراف | معايير القرار |
| النشر | تحديد ما إذا كان قادرًا على العمل | PASS، REVIEW أو BLOCK |
| التحقق المستمر | إبقاء الأدلة حديثة | إعادة التقييم عند الحاجة |
1. التسجيل: من هو هذا الوكيل؟#
قد يبدو التسجيل أكثر خطوة إدارية في الدورة، لكنه غالبًا أكثرها كشفًا، وهو المرحلة التي تحدد بهدوء ما إذا كان أي شيء لاحق ممكنًا. نحتاج فيه إلى اسم وإصدار، ووظيفة في الأعمال، ومستخدمين مقصودين، والمهام التي يجوز له أداؤها، والاستخدامات المحظورة صراحةً، وأسماء المالك التقني ومالك الأعمال والمُوافِق.
والمشكلة الشائعة أن المؤسسة تعرف أن لديها «مساعدات ذكاء اصطناعي» لكنها لا تعرف كم وكيلًا يعمل فعلًا، ولا أي إصدار موجود في كل بيئة، ولا أي البيانات يمسّها هؤلاء الوكلاء، ولا من يملك قرار إيقافه. وحين تتوزع هذه المعلومات على تذاكر متناثرة ومخططات معمارية، فما يبدأ عند وقوع الحادثة هو عملية بحث لا تحقيق: تتحول الحوكمة إلى تنقيب أثري بعد أن يتعطّل شيء.
2. سجل AI-BOM: ممّ يتكوّن الوكيل؟#
سجل مكوّنات الذكاء الاصطناعي (AI-BOM) هو قائمة بما يتكوّن منه الوكيل. الفكرة قريبة من قائمة مكونات منتج أو برمجية، لكنها مصممة للوكيل: النموذج وإصداره، والموجّهات وإصداراتها، والأدوات وآثارها الجانبية المُعلَنة، ومصادر البيانات، وإعداد الذاكرة، وتنسيق سير العمل، والهويات التي يستطيع الوكيل تولّيها، والمزودون الخارجيون.
وفائدته ليست التوثيق الجميل. غرضه الأول إعادة البناء: أن تقول بعد أشهر من النشر، وبالضبط، هذا هو النظام الذي اختبرناه ووافقنا عليه. وغرضه الثاني كشف التغيير، لأن تغييرًا في أي من هذه الحقول قد يُبطل الأدلة التي استند إليها القرار الأخير.
3. التقييم: اجمع أدلة، لا أرقامًا فقط#
في هذه المرحلة نقود الوكيل عبر مسارات تنفيذ عادية وخصومية، ونحفظ ما جرى: الجولات، واستدعاءات الأدوات، ونتائج التقييم، والإعداد الذي أنتج السلوك.
تُلخّص الدرجة هذا الكمّ من الأدلة، لكنها لا تحلّ محله. فإذا سألك أحد لماذا مُنع النشر، يجب أن تستطيع الوصول إلى الجولة والفعل والدليل، لا إلى رقم أحمر على لوحة. ومحادثة قرار النشر التي لا تملك سوى الدرجة تفقد القدرة على السؤال: لماذا؟
4. الامتثال: اربط الالتزام بضابط قابل للاختبار#
لا يكفي أن تقول إن الوكيل «متوافق مع السياسة». اسأل: أي متطلب؟ وأي ضابط يترجمه؟ وكيف اختُبر؟ وأين الدليل؟ وما حالته؟ بهذه السلسلة يتحول الامتثال من ادعاء إلى شيء يمكن مراجعته.
5. الحوكمة: من يقرر؟#
القرار يحتاج إلى سياسة واضحة، وحدود، وعتبات، وقواعد حجب، وموافقين. وفي هذه المرحلة نعرف ما إذا كانت الأدلة كافية، وما إذا كان القرار آليًا أو يحتاج حكمًا بشريًا.
6. النشر: PASS أو REVIEW أو BLOCK#
بوابة قرار النشر لا تحتاج إلى لغة غامضة. PASS يعني أن الأدلة المطلوبة استوفت السياسة لهذا النطاق. وREVIEW يعني أن السياسة تستلزم حكمًا بشريًا. وBLOCK يعني أن شرطًا من شروط النشر أخفق.
7. التحقق المستمر: الجاهزية تنتهي صلاحيتها#
المرحلة الأخيرة ليست خطوة نهائية. فالوكلاء ليست أنظمة جامدة، وقد يغيّرون سلوكهم دون أن يتغير شيء في مستودعك: يحدّث مزوّد نموذجًا، أو تتبدّل مجموعة وثائق الاسترجاع، أو تُضاف أداة، أو يتغير موجّه، أو يظهر نمط هجوم جديد.
لذلك لا ينتمي القرار إلى «اسم الوكيل» إلى الأبد؛ ينتمي إلى إصدار وإعداد ونطاق في وقت محدد. ويرقب التحقق المستمر (assurance) التغييرات التي تُبطل قرارًا، فيعيد الوكيل إلى الحلقة عند وقوعها. ولهذا يحمل المخطط سهمًا عائدًا إلى التقييم.
وعندما نعرف ما الذي يغيّر النظام بصورة جوهرية، نستطيع استخدام هذه التغييرات كمحفزات لإعادة التقييم.
وبعد أن استقر التسلسل، تسير بقية الدليل عليه. وينظر الجزء التالي عن قرب في الوكيل نفسه، لأنك لا تستطيع تقييم نظام لا تستطيع وصفه.
قرار النشر يخصّ إصدارًا محددًا من الوكيل، لا الوكيلَ إلى الأبد.
اربط ممارستك الحالية بالمراحل السبع لتجد الموضع الذي ينقطع فيه التسلسل. وتكتشف معظم الفرق مرحلتين أو ثلاثًا لا ينفّذها أحد، ومرحلةً يفترض الجميع أن غيرهم ينفّذها.