خاتمة: قبل أن يتصرّف الوكيل

إذا خرجت من هذا الكتاب بفكرة واحدة، فلتكن هذه: الوكيل الذي يستطيع أن يتصرّف يحتاج إلى أكثر من إثبات أنه «ذكي». يحتاج إلى إثبات أن سلوكه وسياقه وسلطة تنفيذه وضوابطه وقرار نشره مفهومة ومقيسة ومملوكة. فمن يستطيع أن يتصرّف يستطيع أن يتصرّف خطأً، وحين يحدث ذلك تقع التبعة على مؤسستك، لا على مزوّد النموذج.

القدرة لا تعني الجاهزية. والوثائق لا تعني الجاهزية. وحتى الدرجة العالية لا تعني الجاهزية إذا أخفت نتيجة حرجة أو بُعدًا بلا أدلة.

الجاهزية هي سلسلة تستطيع تتبّعها: نعرف الوكيل ومكوّناته، ونفهم سلطة تنفيذه، ونختبره في مواقف تناسب مخاطره، ونفحص السياق الذي يصنع سلوكه، ونحوّل الالتزامات إلى ضوابط قابلة للاختبار، ونربط النتائج بالأدلة، ثم نطبّق سياسة واضحة على قرار نشر مسجَّل.

ولا تحتاج إلى برنامج حوكمة ضخم كي تبدأ. ابدأ بوكيل واحد. ابنِ له سجل AI-BOM. اختر حدًّا واحدًا لا تريد أن يتجاوزه. صمّم سيناريو خصوميًّا يحاول كسر هذا الحد. انقل الضابط من الكلام إلى موضع تنفيذه. ثم اكتب بوضوح ما الذي يجعل النتيجة PASS أو REVIEW أو BLOCK.

والحوادث التي ناقشناها في الفصل 1 لم تحتج إلى «ذكاء اصطناعي شرير» كي تقع. احتاجت فقط إلى سلطة تنفيذ لم يحدّها أحد، أو حدٍّ موجود في النيّة لا في التنفيذ، أو محتوى غير موثوق دخل إلى قناة خاطئة، أو دليل لم يكن هناك من يملكه. وهذه كلها مشكلات يستطيع الانضباط الهندسي والحوكمي أن يقلّلها، إذا طُبِّق قبل أن يتصرّف الوكيل.

لن نجعل الفشل مستحيلًا. لكننا نستطيع أن نجعل المؤسسة تعرف ما الذي يمكن أن يفشل، وترى الدليل عندما يفشل، وتحدّد من يملك الاستجابة، وتحدّ من أثره، وتتعلّم منه في الإصدار التالي.

قبل أن يتصرّف وكلاء الذكاء الاصطناعي، أثبِت جاهزيتهم — لا لأن الإثبات يلغي الفشل، بل لأنه يجعل الفشل مرئيًا ومفهومًا ومحدودًا وقابلًا للمساءلة.