الإجابة المختصرة

إن الحوكمة السليمة للذكاء الاصطناعي ليست طبقة إضافية من الموافقات، بل هي آلية لاتخاذ قرارات سريعة بشأن الأسئلة المتكررة: من يحدد صلاحيات الوكيل، وما هي الضوابط الإلزامية حسب مستوى المخاطر، وما هي المتطلبات لتغيير السلوك بعد الإطلاق. في غياب هذه الآلية، يتحول كل وكيل جديد إلى نقاش من البداية.

المبدأ الأساسي هو التصنيف. فالوكيل الداخلي الذي يقرأ المعلومات ولا يكتب شيئًا لا ينبغي أن يمر بنفس المسار الذي يمر به الوكيل الذي يتفاعل مع العملاء وينفذ عمليات استرداد المبالغ المدفوعة. المسار الموحد إما أن يخلق إعاقة أو تجاوزًا، وعادة ما يخلق كليهما.

تصنيف المخاطر: أساس جميع القرارات الأخرى

الدرجةالخصائصالموافقونالضوابط الإلزامية
منخفضةداخلية، قراءة فقط، لا تحتوي على بيانات عملاء حساسةمالك العملية + مدير المنصةترسيخ معتمد، سجل المحادثات، مراجعة شهرية
متوسطةداخلية مع كتابة قابلة للعكس، أو كشف معلومات للعملاء+ مهندس معماري + ممثل بياناتمجموعة اختبار، اختبارات الشخصية، مراقبة أسبوعية
عاليةتفاعل مع العميل، معاملات مالية، أذونات، أو بيانات غير قابلة للعكس+ إدارة المخاطر، الشؤون القانونية، ومدير أمن المعلوماتموافقة بشرية، مسار تدقيق كامل، خطة استرجاع
ممنوعةقرارات ذات تأثير قانوني أو تنظيمي مباشر دون تدخل بشري-يتم رفض حالة الاستخدام أو تقسيمها إلى مهمة فرعية ذات درجة أقل

يتم تحديد التصنيف بناءً على ثلاثة أسئلة فقط: هل الإجراء قابل للعكس، ومن يتعرض للنتائج، وما هو نوع المعلومات التي تتضمنها العملية. هذه الأسئلة الثلاثة يمكن الإجابة عليها في عشر دقائق، وهذا بالضبط ما يجعل النموذج عمليًا.

الأدوار الثلاثة الواجب تعيينها

المالك العملي مسؤول عن النتائج، ويحدد ما يسمح للوكيل بفعله، ويحسم النزاعات. هو الذي سيتعين عليه أن يشرح للإدارة لماذا أجاب الوكيل بهذه الطريقة، لذلك لا يمكن ترك هذا الدور شاغرًا أو تقاسمه بين مديرين اثنين.

المالك التقني مسؤول عن التنفيذ، المراقبة، عملية التغيير، والتكلفة. يحتفظ بسجل الوكلاء وكتيب التشغيل (Runbook) للتعامل مع الأعطال.

المدقق المستقل - غالبًا ما يكون ممثلاً لإدارة المخاطر أو أمن المعلومات - لا يشارك في البناء، وبالتالي يمكنه التدقيق. ودوره هو أخذ عينات من المحادثات، والتحقق من أن الضوابط المعلنة تعمل بالفعل، ورفع النتائج إلى منتدى اتخاذ القرار. بدون جهة غير شريكة في نجاح المشروع، يصبح التدقيق تقريرًا ذاتيًا.

يتم تفصيل نموذج المسؤولية المشتركة مع Salesforce ومزودي النماذج في أمن Agentforce والمسؤولية المشتركة.

سجل الوكلاء

هذه هي الوثيقة الوحيدة التي لا يمكن الاستغناء عنها. لا يجب أن تكون نظامًا - جدولًا مُحدّثًا يكفي - ولكن يجب أن تكون مُحدّثة. لكل وكيل نشط: هدف في جملة واحدة، مالك عملي وتقني، درجة مخاطر، قنوات نشطة، قائمة "الإجراءات" (Actions) وأذوناتها، مصادر "الترسيخ" (Grounding)، نقاط الموافقة البشرية، تاريخ آخر مراجعة، ومؤشرات الأداء الرئيسية الثلاثة.

يحل السجل مشكلة تظهر في السنة الثانية: انتشار الوكلاء. عندما يقوم كل فريق بإنشاء وكيل خاص به، تجد ثلاثة وكلاء يجيبون على نفس السؤال بثلاث طرق مختلفة، ولا أحد يعرف من وافق على الوكيل الثالث.

عملية التغيير بعد الإطلاق

التمييز بين التغيير الروتيني والتغيير الجوهري هو ما يمنع الحوكمة من أن تصبح معوقة. التغيير الروتيني - صياغة، تصحيح صياغة في الإجابة، إضافة مقال معرفي موجود إلى الفهرس - يمر عبر عملية التغيير العادية للمنصة. التغيير الجوهري يتطلب موافقة جديدة بالدرجة المناسبة.

أربعة تغييرات تكون دائمًا جوهرية: إضافة "إجراء" (Action) جديد، توسيع إذن، فتح قناة جديدة، وإزالة أو تخفيف نقطة موافقة بشرية. هذه هي بالضبط التغييرات التي تتم بصمت تحت ضغط تحسين الأداء، ولذلك يجب تصنيفها مسبقًا.

يتم تفصيل آليات المراقبة التي تغذي عملية التغيير في قابلية الملاحظة لوكلاء الذكاء الاصطناعي.

ما الذي تراجعه الحوكمة فعليًا، ربع سنويًا

المراجعة الربع سنوية ليست عرض حالة. إنها تفحص خمسة أمور: هل الوكلاء في السجل لا يزالون ضروريين، هل الضوابط المعلنة تعمل فعلاً عند أخذ العينات، هل التكلفة بالنسبة للنتائج مبررة، ما هي التصعيدات المتكررة التي تشير إلى فجوة في المحتوى، وهل مرت التغييرات الجوهرية بالمسار الصحيح.

نتج عن المراجعة قائمة قرارات: توسيع، تقليص، تعليق، أو إغلاق وكيل. الحوكمة التي لا تستطيع إغلاق وكيل ليست حوكمة - إنها توثيق.

سيناريو: تاجر تجزئة استعاد السيطرة دون إيقاف التطوير

اكتشفت سلسلة متاجر تجزئة سبع مبادرات للذكاء الاصطناعي بالتوازي في أربعة أقسام، دون تسجيل ودون علم قسم المخاطر. كان الرد الأول المقترح هو تجميد شامل حتى وضع السياسات - وهي خطوة كانت ستجمد أيضًا المبادرتين اللتين تحققان قيمة بالفعل.

بدلاً من ذلك، تم إجراء مسح لمدة أسبوعين: تم تصنيف كل مبادرة حسب درجة المخاطر. وُجدت خمس مبادرات في درجة منخفضة وتابعت بموافقة مختصرة من مالك العملية ومدير المنصة. أما المبادرتان الأخريان - إحداهما تتعلق باسترداد المبالغ للعملاء، والأخرى تكشف بيانات المخزون للموردين - فقد تم نقلهما إلى درجة عالية، وحصلتا على نقاط موافقة بشرية وتمت مراجعتهما من قبل إدارة المخاطر قبل المتابعة.

بعد ستة أشهر، تزايد عدد المبادرات ولكن الإدارة عرفت لأول مرة ما هو موجود، ومن هو المسؤول، وما هي التكلفة. الخلاصة العملية: اكتسبت الحوكمة الشرعية بالتحديد لأنها لم تعق الدرجة المنخفضة.

مخاطر الحوكمة والإجراءات الوقائية

الخطركيف يظهرإجراء الوقاية
لجنة معوقةالفرق تبني خارج المسار المعتمدمسار سريع للدرجة المنخفضة بموافقين اثنين فقط
سجل غير محدثيكتشف المدقق وكيلًا لم يكن أحد يعرفهتحديث السجل كشرط لترقية الإصدار
الملكية فقط في تكنولوجيا المعلوماتلا يوجد من يقرر بشأن السلوك التجاريتعيين مالك عملي رسمي لكل وكيل
تدقيق ذاتيالضوابط موجودة في الوثيقة وليس في الواقعأخذ عينات من المحادثات من قبل جهة غير مشاركة في البناء
تغيير جوهري بهدوءإزالة الموافقة البشرية لتحسين وقت الاستجابةقائمة مغلقة من التغييرات التي تتطلب موافقة جديدة

مؤشرات الحوكمة

المؤشرما يكشف عنهالتكرار
تغطية السجلنسبة الوكلاء النشطين الموثقينشهري
متوسط وقت الموافقةهل أصبح المسار عنق زجاجةشهري
نتائج أخذ العيناتالفجوة بين التحكم المعلن والحالة الفعليةربع سنوي
التغييرات الجوهرية في المسار الصحيحانضباط العمليةربع سنوي
الوكلاء المعلقون أو المغلقونهل الحوكمة قادرة على اتخاذ قرار بعدم الاستمرارربع سنوي

عند الحاجة إلى إرشاد في إنشاء نموذج حوكمة يتناسب مع حجم المؤسسة واللوائح المطبقة عليها، فإن خدمة Agentforce والذكاء الاصطناعي هي المسار العملي للمضي قدماً.

قائمة مراجعة لإنشاء الحوكمة

  • ☐ تمت الموافقة على نموذج تصنيف المخاطر المكون من ثلاثة أسئلة
  • ☐ تم تحديد الموافقين لكل درجة، بما في ذلك مسار سريع للدرجات المنخفضة
  • ☐ تم تعيين مالك عملي وتقني لكل وكيل موجود
  • ☐ تم تعيين مدقق مستقل غير مشارك في عملية البناء
  • ☐ تم إنشاء سجل الوكلاء مع جميع الحقول الإلزامية
  • ☐ تم تحديد قائمة مغلقة من التغييرات الجوهرية
  • ☐ تم تحديد روتين مراجعة ربع سنوية مع صلاحية إغلاق وكيل
  • ☐ تم تحديد مؤشرات الحوكمة وتواتر إبلاغ الإدارة