إطار ProofAgent: كيف نرى الصورة كاملة؟
أربع طبقات من الأدلة، وأربعة أبعاد للجاهزية.
عندما تبدأ مؤسسة في حوكمة الوكلاء، غالبًا ما تكتشف أنها لا تبدأ من الصفر. فريق الهندسة لديه اختبارات. وفريق الأمن لديه تقييم مخاطر. وفريق الامتثال لديه متطلبات وضوابط. ومدير المنتج لديه تعريف لحالة الاستخدام. المشكلة أن هذه القطع تعيش في أماكن مختلفة ولا تنتهي دائمًا إلى قرار واحد يمكن تفسيره.
ويبقى على مالك الأعمال أن يقرّر ما إذا كان الوكيل قادرًا على العمل، ولا يجيب أي من هذه المخرجات عن ذلك السؤال بمفرده. والأسوأ أن قوة الفريق في جانب واحد تخفي عادةً ثغرةً في جانب آخر.
ويحاول إطار ProofAgent حل هذه المشكلة بتنظيم الصورة في أربع طبقات، تستند كل واحدة إلى الطبقة التي تحتها. وليست الفكرة أن الأداة وحدها تحكم النظام، بل أن لكل طبقة سؤالًا واضحًا، وأن الأدلة تنتقل من طبقة إلى التي فوقها.
الطبقة الأولى: البنية التحتية#
في القاعدة يوجد الوكيل كما يعمل فعلًا: النموذج وإصداره، وموجّهات النظام والسياسة، والأدوات، ومصادر البيانات، والاسترجاع، والذاكرة، والهويات والصلاحيات، وتنسيق سير العمل. هذه ليست «حوكمة» بحد ذاتها؛ إنها الشيء الذي نحاول حوكمته.
وكل ضابط تتحدث عنه، وكل حدٍّ تنوي إنفاذه، يجب أن يجد في النهاية موضعًا هنا أو في المسار المحيط به. فإذا قلت مثلًا إن «الوكيل لا يستطيع دفع أكثر من عشرة آلاف دولار دون موافقة»، فلا يكفي أن تكون الجملة موجودة في سياسة داخلية أو في موجّه. يجب أن توجد نقطة إنفاذ تمنع الأداة من تنفيذ الدفعة دون سجل الموافقات.
الطبقة الثانية: التقييم السلوكي#
هنا نسأل: ماذا فعل الوكيل عندما اختبرناه؟ هل نجح في المهمة؟ هل حافظ على التعليمات عبر عدة جولات؟ هل هلوس؟ هل وقع تحت التلاعب؟ هل استخدم أدواته كما ينبغي؟ والسؤال يشمل الاستخدام العادي والضغط المقصود، وعلى امتداد محادثة كاملة لا استجابة واحدة.
والفكرة المهمة أن التقييم لا يصدر قرار النشر. هو يجمع أدلة عن السلوك.
الطبقة الثالثة: الامتثال والضوابط#
الامتثال يربط الالتزامات المنطبقة على هذا الوكيل بالضوابط. فبدل جملة واسعة مثل «ينبغي وجود إشراف بشري»، نكتب شرطًا يمكن اختباره: «كل دفعة تتجاوز العتبة تتطلب موافقتين مسجلتين قبل التنفيذ». ثم نبحث عن الدليل الذي يثبت أن الشرط صمد.
بهذا الشكل تصبح الضوابط حالات يمكن أن تكون مجتازة أو مخفقة أو غير مقيمة، لا عبارات جميلة في وثيقة.
الطبقة الرابعة: الحوكمة#
هنا يتحول كل ما سبق إلى قرار. هل الأدلة كافية؟ هل يوجد إخفاق قاطع؟ هل نحتاج إلى مراجعة بشرية؟ من يملك الاعتماد النهائي؟ وما النطاق الذي نسمح به لهذا الإصدار؟ وتأخذ هذه الطبقة كل ما تحتها، فتُنتج تفويضًا، أو طلبًا لحكم بشري، أو منعًا.
وفي هذه الطبقة ننتج سجلًا يستطيع مراجع مستقل أن يعود إليه بعد ستة أشهر فيعيد بناء السبب الذي سمح بالنشر أو منعه.
وتسير التبعيات في اتجاه واحد. فالأدلة السلوكية لا تعني كثيرًا إذا لم تستطع تحديد الإعداد الذي أنتجها. وحالة الضابط لا تعني كثيرًا إذا لم يختبرها دليل. وقرار النشر لا يعني كثيرًا إذا كانت حالات الضوابط التي تحته مفترضةً لا مقيسة.
أربعة أبعاد للجاهزية#
الطبقات تنظّم العمل، أما الأبعاد فتعطيك طريقة لقراءة الجاهزية من أربع زوايا منفصلة. والقرار يحتاج إلى أرقام كما يحتاج إلى سرد، ولذلك يتتبع ProofAgent الجاهزية باعتبارها أربعة أبعاد منفصلة لا يُدمج أحدها في الآخر.
- E — التقييم. كيف تصرّف الوكيل في الاستخدام المتوقع وتحت الضغط الخصومي؟
- Q — هندسة السياق. هل البيئة المعلوماتية حول النموذج واضحة وموثوقة ومحمية من الخلط والحقن؟ تُقيَّم سبعة معايير ويسهم خمسة منها في الدرجة، لأسباب يتناولها الفصل 7.
- C — الامتثال. هل صمدت فعلًا الضوابط التي تنطبق على حالة الاستخدام، في حدود ما قُيِّم منها؟
- G — الحوكمة. هل هناك ملكية، وموافقات، وبوابة لقرار النشر، ونطاق واضح، وآلية لإعادة التقييم؟
لماذا لا نجمعها فورًا في رقم واحد وننتهي؟ لأن المتوسط يستطيع أن يخفي مشكلة جوهرية. فحساب المتوسط مبكرًا هو ما يسمح لنتيجة قوية في التقييم أن تعوّض عن حوكمة غائبة، أو سياق ضعيف، أو ضابط مُخفِق — وهذه المقايضات بالذات هي ما لا تستطيع المؤسسة أن تجريه بصمت.
فوكيل بدرجة سلوكية ممتازة لكن من دون مالك مُسمّى ليس جاهزًا، والفريق الذي يملكه سيبقى عاجزًا عن الإجابة أمام جهة تنظيمية. ووكيل بامتثال قوي وفهرس ضوابط شامل، لكن باستناد ضعيف إلى مصادر موثوقة (grounding)، قد يختلق سياسة وهو يلتزم ببقية الضوابط. لذلك نُبقي الأبعاد ظاهرة قبل أي تجميع.
وتقع البنية التحتية تحت الأبعاد الأربعة جميعًا، وأثرها المباشر أقوى ما يكون في E وQ. فالنموذج والموجّهات والأدوات والاسترجاع والذاكرة والصلاحيات هي البيئة التي يجري تقييمها؛ وإذا غيّرت أيًّا منها، صارت الأدلة التي تحتفظ بها تصف نظامًا لم يعد يعمل.
ويعود الفصل 12 إلى كيفية اندماج الأبعاد الأربعة في مؤشر واحد. أما الآن فتكفي الخريطة.
القدرة، وسلطة التنفيذ، والجاهزية#
ينشأ كثير من الالتباس في محادثات قرار النشر من ثلاث كلمات تحتاج إلى فصل واضح.
القدرة هي ما يستطيع النظام تحقيقه من الناحية التقنية. وسلطة التنفيذ هي ما تسمح له المؤسسة بفعله دون الرجوع إلى إنسان. والجاهزية هي ما إذا كانت الأدلة المتاحة تبرّر سلطة التنفيذ الممنوحة.
وأحيانًا تكون القدرة أعلى من سلطة التنفيذ عن قصد. فالوكيل يستطيع من حيث التقنية أن يرسل رسالة، لكنك تمنعه من الإرسال وتطلب اعتمادًا بشريًا. وهذا تصميم سليم.
والمشكلة تبدأ عندما تكون سلطة التنفيذ الفعلية أعلى من الأدلة: الوكيل يستطيع أن يغيّر نظامًا حقيقيًا، لكننا لا نملك اختبارًا أو ضابطًا يبرر هذا الامتياز.
وهذه الثلاثة تنفصل عن بعضها باستمرار. فقد يجتاز الوكيل كل الاختبارات المعيارية للمهام، ثم تُقنعه فقرةٌ داخل وثيقة مُسترجَعة بالخروج عن سياسة. وقد يكون له مالك مُسمّى، واستخدام مقصود مكتوب، وسير عمل موافقة موثّق، ثم يقدّم ادعاءً واثقًا لا شيء يسنده.
وحين تقصّر الأدلة التي تملكها عن سلطة التنفيذ التي منحتها، لا توجد سوى استجابتين صادقتين: أن تُنتج أدلة أكثر، أو أن تمنح سلطة تنفيذ أقل. ومعظم العمل التطبيقي في هذا الدليل واحد من الاثنين.
أين ينتهي التقييم وتبدأ الحوكمة؟#
هذا الفصل بين الدورين مهم جدًا: التقييم يقول «هذا ما رأيناه». والحوكمة تقول «بناءً على ما رأيناه، وهذه السياسة، وهذا مستوى المخاطر، فهذا ما سنسمح به». ودمجهما يجعل الدرجة تتحول بهدوء إلى تصريح.
ولهذا يفصل ProofAgent بين إطار التقييم ProofAgent Harness، وهو مفتوح المصدر، ومنصة الحوكمة. فالإطار يقود الوكيل، ويطبّق ضغطًا مُصمَّمًا، ويفرز المخالفات البنيوية، ويمنح السلوك تقديرًا، ويكتب سجل تشغيل مُهيكلًا. أما منصة الحوكمة فتستوعب سجلات التشغيل، وتحدّد السياسة المنطبقة، وتتابع نتائج التقييم والضوابط، وتسجّل الاعتماد النهائي، وتُصدر قرار النشر.
وهذا التقسيم يحفظ أمانة القياس أيضًا: فلا ينبغي أن تصبح لوحة معلومات منتج مصدرَ الحقيقة العلمية، ولا أن تصبح درجة التقييم تفويضًا تلقائيًا.
التقييم يُنتج الأدلة. والحوكمة تقرّر ما تفعله بها.
استخدم الإطار أداةَ تشخيص لوكيل تملكه بالفعل. فمنح الأبعاد الأربعة درجات منفصلة، قبل أي تجميع، يكشف عادةً الفجوة التي كان رقم واحد سيخفيها.