ممّ يتكوّن وكيل الذكاء الاصطناعي؟
أجزاء الوكيل، ولماذا يَهُمّ كل جزء منها الحوكمة.
الوكيل أكثر من مجرّد نموذج.
من السهل أن ننظر إلى نافذة المحادثة ونظن أن الوكيل هو النموذج الذي يكتب الجواب. لكن هذه الصورة تخفي معظم ما يهمّنا في الحوكمة. فالوكيل الحقيقي أقرب إلى حلقة تشغيل: تُجمَع معلومات، ويقرّر النموذج ما الذي يفعله، ثم ينفّذ إجراءً أو يستدعي أداة، ثم تعود نتيجة الإجراء لتصبح جزءًا من الجولة التالية.
كل عنصر في هذه الحلقة قد يكون مصدر قوة أو مصدر فشل، وكل عنصر فيها يمكن فحصه، أو تقييده بحدود، أو تسجيله. لذلك سنفكّكها جزءًا جزءًا، ونبيّن سبب حضور كل جزء منها لاحقًا في نقاش قرار النشر.
النموذج: محرّك الاستدلال#
النموذج هو الجزء الذي يفهم اللغة، ويستدلّ، ويقترح الخطوة التالية. وقد يكون نموذجًا تجاريًّا مستضافًا عند مزوّد، أو نموذجًا مفتوح المصدر يعمل داخل بيئتك. وما يهمّ الحوكمة هو ألّا تسجّل اسم العائلة وحده، بل الإصدار المحدَّد وإعدادات فكّ الترميز التي تؤثّر في السلوك.
ولماذا؟ لأن المزوّد يستطيع تحديث النموذج وفق جدوله الخاص، دون أن يتغيّر مستودع شِفرتك. فإذا تغيّر السلوك، يجب أن تعرف هل تغيّر النظام الذي اختبرته أصلًا. وهذا ما يجعل رقم الإصدار حقيقةً تخصّ الحوكمة لا تفصيلًا هامشيًّا، ولهذا موضعه سجل المكوّنات.
التعليمات: ما الذي نطلبه من الوكيل؟#
موجّه النظام، وموجّه السياسة، ووصف الوظيفة والنطاق، كلها تعليمات توجّه النموذج. وهي مهمة جدًّا وتوجّه السلوك بقوة، لكنها ليست جدارًا أمنيًّا ولا تُنفِذ شيئًا بنفسها.
إذا كتبت في الموجّه «لا تُصدر دفعة فوق 10,000 دولار دون موافقة»، فأنت أخبرت النموذج بما تريد. أمّا إذا كانت أداة الدفع ستقبل الاستدعاء حتى دون سجل موافقة، فأنت لم تنفّذ الضابط. لذلك استخدم التعليمات للتعبير عن النية وتوجيه السلوك، واستخدم الهوية والصلاحيات والأدوات ومسار موافقة خارج النموذج لإنفاذ الحدود التي لا يجوز كسرها.
السياق: ما الذي يراه النموذج الآن؟#
السياق هو كل ما يصل إلى النموذج في جولة بعينها: تعليمات النظام، ورسالة المستخدم، والوثائق المسترجَعة، ونتائج الأدوات، ومحتوى الذاكرة، وسياسات المؤسسة، وربما ناتج وكيل آخر.
هذا الجزء مهم جدًّا لأن النموذج يرى هذه الأشياء كلها في نافذة واحدة. فبالنسبة إليه، نصٌّ داخل موجّه النظام ونصٌّ داخل ملف PDF كلاهما نص. وإذا أردت أن يعرف أن الأول موثوق وأن الثاني دليل غير موثوق، فيجب أن تبني هذا الفرق في الطبقة التي تجمع السياق. فالسياق هو الموضع الذي تلتقي فيه المواد الموثوقة وغير الموثوقة، وهو أكثر مكان تبدأ منه حالات فشل الوكلاء، ولهذا خصّصنا له الفصل 7 بالكامل.
الذاكرة: ما الذي يبقى بعد انتهاء الجولة؟#
الذاكرة هي ما يبقى عبر الجولات وعبر الجلسات. وهي تجعل الوكيل أكثر فائدة، لكنها تضيف مسارًا جديدًا للمخاطر: فمعلومة خاطئة تعلَّمها الوكيل يوم الاثنين تظل تُشكِّل سلوكه يوم الخميس، حيث لا يبحث عنها أحد، وملخّص غير دقيق قد يحذف قيدًا مهمًّا من سياق لاحق.
والسؤال الحوكمي ليس «هل للوكيل ذاكرة؟» بل: ما الذي يجوز كتابته فيها؟ ومن يكتبه؟ وما مدة الاحتفاظ؟ وكيف نصحّح المعلومة؟ وهل هناك عناصر لا يجوز اختصارها أو إسقاطها لأنها تمسّ السلامة أو الامتثال؟
الأدوات وواجهات البرمجة (APIs): حيث تتحول اللغة إلى فعل#
الأداة قد تكون دالة تبحث في قاعدة بيانات، أو واجهة برمجة ترسل رسالة، أو وظيفة تغيّر سجلًا، أو عملية تنفّذ دفعة. وهنا يصبح الفرق بين النص والفعل ملموسًا: يستطيع النموذج أن يوصي بتغيير سجل مدفوعات، وتستطيع الأداة تغييره فعلًا.
وتحتاج الأداة إلى اسم ووصف واضحين، ومخطَّط وسائط محدَّد، وآثار جانبية مُعلَنة، وصلاحيات تناسب المهمة. وهذا ما يجعل نطاقها ومعاملاتها وصلاحياتها وآثارها مسائل حوكمة، لا تفاصيل تنفيذ.
وإذا اتصل الوكيل بأدوات عبر بروتوكول سياق النموذج (MCP)، فمزوّد الأداة ينتمي إلى الصنف نفسه، مع إضافة واحدة: ففكّر فيه أيضًا كعلاقة في سلسلة التوريد، لا كمجرّد وظيفة.
البيانات والاسترجاع: ما الذي نعدّه حقيقة؟#
الاسترجاع هو أن يبحث الوكيل في مجموعة وثائق أو سجلات ليبني عليها جوابه. وإلى جانب هذه المجموعة، هناك قاعدة تقرّر ما الذي يجوز أن يستند إليه ادّعاء؛ وهذا ما نسمّيه الاستناد إلى مصادر موثوقة (Grounding): أن يكون لكل ادّعاء مصدر نستطيع أن نُريه لشخص آخر. وجودة الاسترجاع لا تُقاس فقط بكون الوثيقة ذات صلة، بل أيضًا بما إذا كانت موثوقة وحديثة وقابلة للردّ إلى مصدر.
والاستناد الضعيف لا يُعلن عن نفسه؛ فهو يُنتج إجابة جميلة لا شيء وراءها. والإجابة التي لا تستطيع أن تقول من أين جاءت أخطر أحيانًا من رسالة خطأ صريحة، لأنها تدعو الإنسان إلى التصرّف بناءً عليها، ورصدُها أصعب كثيرًا.
الهوية والصلاحيات: الحد الخارجي لما يستطيع الوكيل فعله#
الهوية هي بيانات الاعتماد التي يستطيع الوكيل تولّيها. فإذا كان الوكيل يعمل بهوية خدمة تملك صلاحية الكتابة في قاعدة حساسة، فهذه القدرة موجودة مهما كتبت في الموجّه. ولهذا تكون الهوية والصلاحيات أقوى الضوابط التي تملكها المؤسسة.
والمبدأ البسيط هنا هو أقل الامتيازات: لا تمنح الوكيل أكثر مما يحتاجه فعلًا، ولا تستخدم بيانات اعتماد واسعة فقط لأنها موجودة مسبقًا. وهذا أيضًا الضابط الذي يُورَث بغير قصد أكثر من غيره، لأن الوكلاء يُنشَرون عادةً ببيانات اعتماد كانت موجودة سلفًا.
التنسيق والوكلاء الفرعيون#
في الأنظمة متعددة الوكلاء، قد يخطّط وكيل، ويبحث آخر، وينفّذ ثالث. وكل واحد منهم يملك سياقًا وصلاحيات وسلطة تنفيذ خاصة به. وعندما يصبح ناتج وكيل مدخلًا لوكيل آخر، يكفّ الخطأ عن كونه مخرجًا خاطئًا ويصبح حقيقةً يُبنى عليها.
ولهذا نحتاج إلى تتبّع مصدر الرسائل المتبادلة بين الوكلاء بالطريقة نفسها التي نحتاج فيها إلى تتبّع مصدر الوثائق المسترجَعة.
الأنظمة الخارجية#
كل ما يقرأه الوكيل أو يكتبه خارج حدوده يدخل في الحوكمة: نظام ERP، وCRM، والملفات، والبريد، والويب العام، ومنصة دفع، وخادم MCP، ووكلاء آخرون، وحتى إنسان في مسار الموافقة.
والفكرة المركزية هي أن المخاطر لا تسكن في النموذج وحده. إنها تظهر على الحدود بين الأجزاء، ولهذا تهمّ الحلقة أكثر من أي جزء منفرد فيها.
مثال سنعود إليه: وكيل استثناءات مدفوعات الموردين#
حتى لا يبقى الحديث نظريًّا، سنستخدم مثالًا واحدًا متكرّرًا في الكتاب: مجموعة Meridian، وهي مؤسسة متوسطة الحجم متخيَّلة، لديها وكيل يساعد فريق العمليات المالية عندما لا تُطابِق فاتورةٌ أمرَ شراء. واسم الوكيل «وكيل استثناءات مدفوعات المورّدين» (Vendor Payment Exception Agent).
الوكيل يقرأ الفاتورة، ويبحث عن بيانات المورّد، ويستنتج سبب عدم التطابق، ويوصي بإجراء، وقد يجهّز تغييرًا في المدفوعات. يبدو هذا حالة استخدام طبيعية جدًّا، لكنها تحتوي على كل العناصر التي نحتاجها: مستندات خارجية، وبيانات مالية، وأدوات، وصلاحيات، وموافقات، وسياق يمكن أن يتعرّض للحقن.
وأجزاؤه لا تلفت النظر. نموذج رائد. موجّه نظام يصف سياسة الاستثناءات. أربع أدوات — قراءة السجل الرئيسي للمورّدين، وتحليل مستند مُرفَق، والبحث عن سجل مدفوعات، وتقديم تغيير على مدفوعة. مجموعة وثائق استرجاع لسياسة الحسابات الدائنة. ذاكرة جلسة. هوية خدمة تحمل صلاحية الكتابة في طابور المدفوعات.
وسنرى لاحقًا كيف أنتجت هذه القائمة العادية قرار منعٍ من النشر، ونتيجة تقييم حرجة تعود إلى جولة واحدة، ثم كيف اجتاز الوكيل بعد معالجة مسّت ثلاثة أجزاء من التجميع ولم تمسّ النموذج نفسه. وتُدرَس الحالة بالكامل في الفصل 16.
وثمّة خاصية في الحلقة تستحق التشديد قبل المتابعة. كل ما تُعيده أداة يصبح سياقًا في الجولة التالية، وكذلك الوثيقة المسترجَعة، واستنتاج الوكيل الفرعي، وملخّص المحادثة حتى تلك اللحظة. فقالب الموجّه في مستودعك ليس هو ما يعمل فعلًا؛ ما يعمل هو السياق المُجمَّع وقت الاستدلال، ولهذا لا بد أن يكون كل ادّعاء بشأن تعليمات الوكيل ادّعاءً بشأن التجميع.
موضوع الحوكمة هو النظام الكامل المحيط بالنموذج، لا النموذج معزولًا.
ارسم الوكيل بدل أن تصفه. مخطَّطُ جولةٍ واحدة يُظهر الأجزاء التي تحمل المخاطر إظهارًا قلّ أن يبلغه مستند معماري، ويستغرق نحو عشرين دقيقة.