نحن في مرحلة ينتقل فيها الذكاء الاصطناعي من مساعد يجيب عن الأسئلة إلى نظام يستطيع أن يتصرف. تستخدم فرق المؤسسات الوكلاء للبحث في المعلومات، ودعم العملاء، وتحليل المستندات، وكتابة الشِفرة، واستدعاء الأدوات، والوصول إلى أنظمة داخلية، وأحيانًا لاتخاذ إجراءات من تلقاء أنفسهم.
إذا كنت تبني وكيلًا أو تتبنى وكيلًا جاهزًا، فهناك سؤال سيظهر عاجلًا أم آجلًا: متى يصبح هذا الوكيل جاهزًا للعمل الحقيقي؟
السؤال يبدو بسيطًا، لكنه أوسع من «هل يجيب جيدًا؟». فاختبار البرمجيات التقليدي ينظر إلى جزء من النظام، وتقييم النموذج ينظر إلى جزء آخر، بينما سلوك الوكيل يتكوّن من اجتماع أشياء كثيرة في اللحظة نفسها: التعليمات التي تلقاها، والمعلومات التي وصلت إلى سياقه، وما يحتفظ به في الذاكرة، والأدوات التي يستطيع استدعاءها، والصلاحيات التي يحملها، والبيئة التي يعمل داخلها.
ولهذا لا أتعامل مع الجاهزية باعتبارها درجة جودة فقط. الجاهزية سؤال عن السلوك، والسياق، والضوابط، والملكية، والسياسة، والأدلة. ثم يأتي في النهاية قرار: هل نسمح لهذا الإصدار من هذا الوكيل بالعمل ضمن هذا النطاق؟
يقدّم هذا الكتاب طريقة عملية لتنظيم هذا السؤال. سنبدأ بفهم الوكيل نفسه، ثم نختبر سلوكه وسياقه، ثم نحول المتطلبات إلى ضوابط قابلة للاختبار، ثم نربط كل ذلك ببوابة قرار نشر يمكن تفسيرها وإعادة بنائها بعد أشهر.
وهذا النهج لم يأتِ من فراغ. نشأ من بناء بنية تحتية لتقييم أنظمة الذكاء الاصطناعي، ومن العمل مع فرق كان عليها أن تحسم، في يوم ثلاثاء بعينه، سؤالًا واحدًا: هل يُسمح لهذا الوكيل بالعمل في بيئة الإنتاج أم لا؟ ولهذا يقسّم الكتاب المسألة إلى أربع طبقات، ويتتبّع الجاهزية على أربعة أبعاد قابلة للقياس، ثم يحوّل النتيجة إلى قرار نشر يستطيع شخص أن يدافع عنه بعد ستة أشهر.
كُتب هذا الدليل لكل من يريد فهم وكلاء الذكاء الاصطناعي من زاوية عملية: المطور، ومدير المنتج، وقائد التقنية، ومسؤول الأمن، وفريق المخاطر والامتثال، والباحث، والطالب، وصاحب العمل الذي يريد أن يعرف ما الذي يعنيه فعلًا أن «ينشر وكيلًا». لا أفترض معرفة سابقة بـ ProofAgent، ولا بمؤشر ProofAgent (PAI)، ولا بالتقييم الخصومي متعدد الجولات (Adversarial Multi-Turn Evaluation)، ولا بتقييم السياق، ولا بالسياسة كقواعد برمجية قابلة للتنفيذ (Policy as Code). سنشرح كل مفهوم عندما نحتاجه.
وقد كُتب كذلك لمن يتقاسمون القرار: قادة الهندسة والمنصات، والرؤساء التنفيذيون للذكاء الاصطناعي والتقنية، وفرق الأمن والمخاطر، ومختصّو الامتثال، ومديرو المنتجات، ومهندسو الذكاء الاصطناعي الذين يبنون الوكلاء ويقيّمونهم بأنفسهم.
ضَع في ذهنك وكيلًا حقيقيًا واحدًا وأنت تقرأ، والأفضل أن يكون الوكيل الذي تجد نفسك أقلّ ارتياحًا لنشره في بيئة الإنتاج.
وسنسألك في مواضع مختلفة: ما الذي يُسمح لهذا الوكيل بفعله؟ ومن أي مكوّنات بُني؟ وما الأدلة التي تملكها عن سلوكه؟ ومن يملك قرار نشره؟ هذه الأسئلة تصبح أنفع بكثير حين يكون لكل منها جواب محدد، لا جواب عام.
ومربعات «تطبيق هذا الفصل» في نهاية كل فصل ليست للقراءة السريعة؛ أشِّر عليها أمام وكيل حقيقي، سواء عملت وحدك، أم مع فريقك، أم في تمرين جماعي.
لا تسأل فقط: «هل يستطيع الوكيل أن يفعل ذلك؟». اسأل أيضًا: «هل ينبغي أن نسمح له بفعله؟ وما الدليل الذي يجعلنا مرتاحين لهذا القرار؟». هذا الفرق بين القدرة والجاهزية هو الخيط الذي يربط بقية الكتاب.
«قبل أن يتصرّف وكلاء الذكاء الاصطناعي، أثبت جاهزيتهم.»