كيف نحوّل المتطلبات إلى ضوابط قابلة للاختبار؟
تحويل التزام مكتوب نثرًا إلى شرط يستطيع النظام فحصه.
كثير من سياسات الذكاء الاصطناعي مكتوب بطريقة صحيحة من الناحية المبدئية، لكنه لا يخبر النظام بما الذي يجب أن يفعله. جملة مثل «ينبغي وجود إشراف بشري على الإجراءات عالية المخاطر» تعبّر عن نية ممتازة. لكنها لا تقول ما هو الإجراء عالي المخاطر، ومَن يوافق، ومتى، وكيف نعرف أن الموافقة حدثت فعلًا.
العمل الحقيقي يبدأ عندما نحوّل الالتزام العام إلى شرط يستطيع النظام أن يختبره.
خمس خطوات تفصل بين الجملة العامة والقرار: المتطلَّب، فالضابط، فالاختبار، فالدليل، فالحالة، ثم القرار الذي يترتب عليها. كل خطوة تنزع شيئًا من الغموض عن التي قبلها. والمكسب العملي أنك تستطيع السير في السلسلة كاملةً في الاتجاه المعاكس عندما يسأل أحدهم لماذا سُمح بنشر وكيل: من القرار إلى الحالة، ومن الحالة إلى الدليل، حتى تصل إلى المتطلَّب الذي بدأ منه كل شيء.
من عبارة عامة إلى شرط يمكن أن يفشل#
خذ عبارة «حماية المعلومات الحساسة». لا توجد طريقة مباشرة لاختبارها، لأنه لا يوجد وضع يستطيع النظام عنده أن يقول إنه أخفق فيها. أما إذا صغناها هكذا: «يُمنع إرسال الحقول المقيَّدة إلى أي أداة خارجية غير معتمدة»، فقد أصبح لدينا شرط واضح. إما صمد أو لم يصمد. ويمكن اختباره وتتبّعه والحجب استنادًا إليه، لأنه يصف شرطًا قابلًا للانتهاك، ومشاهدةً تكشف ذلك الانتهاك.
وهذه هي الفكرة في معظم التحويلات:
| كما هو مكتوب | كضابط |
|---|---|
| استخدام الذكاء الاصطناعي بمسؤولية | لا يستطيع الوكيل تنفيذ إجراءات تُغيّر الحالة خارج نطاق أدواته المسجَّل |
| حماية البيانات الشخصية | لا يمكن إرسال الحقول المقيَّدة إلى أدوات غير معتمدة أو نقاط نهاية خارجية |
| إبقاء الإنسان في الحلقة | المدفوعات التي تتجاوز عتبة السياسة تتطلب موافقتين مسجَّلتين قبل التنفيذ |
| منع الهلوسة | الادعاءات الواقعية عالية الأثر تتطلب استنادًا إلى مصدر معتمد، أو التصعيد |
| مراقبة الوكيل | التغييرات الجوهرية في النموذج أو الموجّه أو الأدوات أو الصلاحيات أو الاسترجاع تُحفِّز إعادة التقييم |
| الالتزام بالسياسة | إخفاق ضابط حرِج يُنتج BLOCK بصرف النظر عن الجاهزية الإجمالية |
لاحظ ما حدث للإشراف البشري في هذا الجدول. لم يصبح ضابطًا إلا بعد أن حدَّد أحدهم الإجراءات التي ينطبق عليها، وعدد المُوافِقين المطلوبين، وهل يمكن تجاوز الموافقة أم لا. فالإشراف الذي لا يمكن رصده لا يمكن إثباته بالأدلة، والإشراف الذي لا يمكن إثباته بالأدلة يتآكل عادةً.
المطلوب ليس أن نحوّل القانون أو السياسة كله إلى شِفرة. المطلوب أن نحدد الأجزاء التي ينبغي أن يكون لها أثر تشغيلي، ثم نجعلها قابلة للمشاهدة والاختبار.
الضابط الجيد يجيب عن أربعة أسئلة#
قبل أن تقبل عبارةً ما بوصفها ضابطًا، اطرح عليها أربعة أسئلة قصيرة:
- ما الشرط الذي يجب أن يكون صحيحًا؟ أي جملة واحدة يمكن أن تكون مستوفاة أو غير مستوفاة.
- أين يُنفذ هذا الشرط؟ أداة، أو هوية، أو طبقة تجميع السياق، أو إنسان في المسار.
- كيف نختبر أنه صمد؟ تشغيل محدَّد يستطيع أحدهم إعادته والحصول على النتيجة نفسها.
- ما الدليل الذي يبقى بعد الاختبار؟ المُخرَج الذي يستطيع المراجع فحصه لاحقًا دون أن يعيد التشغيل.
إذا لم تستطع الإجابة عن هذه الأسئلة، قد يكون ما لديك هدفًا أو قيمة أو إرشادًا، لكنه ليس ضابطًا تشغيليًا كاملًا.
استخدم الأطر كخرائط التزامات، لا كشهادات#
الأطر التنظيمية والمعايير مفيدة لأنها تذكّرك بأشياء قد تغيب عن الفريق. لكنها لا تنتج الامتثال بمجرد وضع أسمائها في تقرير.
إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST يلفت الانتباه إلى الفصل بين أربع وظائف: الحوكمة (Govern) والتحديد (Map) والقياس (Measure) والإدارة (Manage). وإسهامه العملي أنه يُصرّ على أن القياس والإدارة نشاطان منفصلان، لكل منهما مالكه.
ويضيف ISO/IEC 42001 انضباط دورة الحياة: وظائف محدَّدة، وقرارات موثَّقة، وتدقيق داخلي.
ويربط EU AI Act مستوى المخاطر بمتطلبات مختلفة، وهذا ما يجعله ذا تبعة. فهناك ممارسات محظورة بموجب المادة 5. وهناك التزامات المخاطر العالية بموجب الملحق الثالث، وهي تغطي إدارة المخاطر والإشراف البشري والتسجيل والمراقبة بعد الطرح في السوق.
وتقدّم إرشادات OWASP الوكيلية نموذج تهديد عمليًا لوكلاء الذكاء الاصطناعي: حقن الموجّهات، وسوء استخدام الأدوات، وإساءة استخدام الهوية، وتسميم الذاكرة (memory poisoning)، والوكالة المفرطة (excessive agency).
والسياسة الداخلية للمؤسسة قد تكون أصرم من الجميع وأدقّها تحديدًا، وهي في الوقت نفسه أكثر ما يُترك خارج المواءمة. لذلك لا تجعل الأطر الخارجية تطغى على قواعد العمل الحقيقية التي يجب أن يصمد أمامها وكيلك.
يضم فهرس الامتثال في ProofAgent ثلاثين إطارًا وقت كتابة هذا الكتاب، وتظهر افتراضيًا أطر مثل EU AI Act، وNIST AI RMF، وISO/IEC 42001، وSOC 2، وتُتاح أنظمة الخصوصية الإقليمية والأنظمة القطاعية وقوائم الأمن الوكيلي حين تنطبق.
كن دقيقًا في ادعاء التغطية#
عبارة مثل «نغطي 11 ضابطًا من NIST SP 800-53» قد توحي للقارئ بتغطية أوسع بكثير من الواقع، لأن المعيار نفسه كبير جدًا: الإصدار Rev. 5 يضم نحو ألف ضابط تتوزّع على عشرين عائلة. وعادتان تُبقيان ادعاءات التغطية قابلة للدفاع عنها. فإذا كان للمقياس مقام واضح ومنشور، اذكر التغطية نسبةً منه. وإذا كان الرقم سيضلل، لا تنشره، وسمِّ الضوابط التي قُيِّمت وما لم يُقيَّم بدل نشر نسبة براقة.
وبعض الضوابط لا يمكن إثباتها بتقييم سلوكي أصلًا. فضابط سلسلة التوريد يحتاج إلى سجل مكونات وأدلة تبعيات. وضابط فصل المهام يحتاج إلى بيانات هوية وموافقين. وضابط الاتصال بين الوكلاء يحتاج إلى تتبّع الرسائل بينهم، أي إلى وكيل ثانٍ على الخط. والاعتراف بحدود القياس أقوى من ادعاء تغطية لا يمكن الدفاع عنها، وهو يدلّ القارئ على الموضع الذي يبحث فيه تاليًا.
ويهم كذلك أن ما يُنتجه ProofAgent، أو أي أداة أخرى، هو مواءمةٌ تربط السلوك المرصود بحالات الضوابط، لا شهادة امتثال. فالامتثال قرار تتوصّل إليه المؤسسة بمشورة قانونية؛ والدليل هو ما تحمله إلى ذلك القرار.
خمس حالات للضابط، لا حالتان#
من أكبر الأخطاء أن نحوّل كل ضابط إلى أخضر أو أحمر. فالضابط قد يكون مُجتازًا، أو مُخفِقًا، أو غير مُقيَّم، أو غير منطبق، أو بانتظار مراجعة بشرية.
الفرق بين «لم نختبره» و«اختبرناه واجتازه» جوهري. وإذا جعلهما النظام اللون نفسه، سيُستخدم اللون الأخضر في النهاية لإخفاء نقص الأدلة.
ويفرض بُعد الامتثال في الجاهزية التمييز نفسه. فدرجته تُحتسب على الضوابط التي قُيِّمت فعلًا، وحيث قُيِّم أقل من ستة ضوابط تُحجَب الدرجة بدلًا من إعلانها استنادًا إلى حفنة من المشاهدات. فغياب الدليل لا يتحول إلى جاهزية، وأي نظام درجات لا يستطيع التعبير عن هذا الفرق سيُستخدم في النهاية لإخفائه.
اختبر صمود الضابط في النظام العامل#
قد يكون الضابط مكتوبًا بشكل ممتاز في الوثائق ولا يصمد في التنفيذ. مثال: السياسة تقول إن الدفع فوق حد معين يحتاج إلى موافقتين، لكن مسارًا في API يسمح بالاستدعاء من دون سجل موافقة. أو الموجّه يمنع إرسال بيانات خارجية، بينما طبقة الأدوات تتيح نقطة نهاية غير معتمدة.
لا نعرف أن الضابط حقيقي إلا عندما نحاول كسره ونرى النظام يرفض. ولهذا يستحق سيناريو الإعفاء المحقون في الفصل 16 أن يُبنى: فهو لا يتحقق مما إذا كان الضابط موثَّقًا، بل مما إذا صمد عندما حاول شيءٌ ما الإعفاء منه — وفي الإصدار الأول لم يصمد.
الضوابط تخبرك بما يجب أن يصمد. والفصل التالي عن تصميمها بحيث تصبح الإجابة قابلة للمعرفة.
يصبح المتطلَّب مفيدًا حين تستطيع اختبار صموده.
حوِّل التزامًا واحدًا حقيقيًا إلى شيء يستطيع النظام فحصه. فمتطلَّب واحد يُتابَع حتى يصل إلى حالة ضابط يكفي عادةً ليُظهر للفريق ما ينقص بقية عملية المواءمة لديه.