العنصر البشري في Agentforce: أين يجب على الذكاء الاصطناعي التوقف والموافقة

الإجابة المختصرة

السؤال ليس ما إذا كان يجب وجود تدخل بشري، بل أين بالضبط. المصادقة على كل خطوة تلغي التوفير وتخلق إرهاقًا يؤدي إلى توقيع تلقائي. بينما عدم المصادقة على العمليات غير القابلة للإلغاء يولد نوعًا من الأخطاء التي تصل إلى الإدارة العليا.

تبدأ المنهجية العملية بتقسيم العملية إلى خطوات فردية، وتصنيف كل خطوة بناءً على قابليتها للإلغاء وتأثيرها، واختيار نموذج مصادقة مناسب - حظر، أو بعدي، أو عشوائي. بعد ذلك، يتم تصميم شاشة القرار بحيث تكون المصادقة حكمًا حقيقيًا وليست مجرد نقرة.

الإطار الحوكمي الذي يتم بموجبه اتخاذ هذه القرارات مفصّل في حوكمة الذكاء الاصطناعي لـ Agentforce.

مصفوفة القرار: قابلية الإلغاء مقابل التأثير

تقاس قابلية الإلغاء بثلاثة أسئلة: كم من الوقت يستغرق الإلغاء، وكم يكلف ذلك، ومن تم كشفه قبل الإلغاء. الرسالة التي تم إرسالها إلى العميل غير قابلة للإلغاء حتى لو كان بالإمكان إرسال تصحيح - فقد تم تكوين الانطباع بالفعل. تحديث حقل داخلي قابل للإلغاء في ثانية واحدة وبالتالي لا يستدعي التوقف.

أنماط المصادقة الثلاثة

توقف المصادقة الحاجزة العملية حتى يتخذ الإنسان قرارًا. إنه النمط الأكثر تكلفة من حيث الوقت ولذلك يحتفظ به للعمليات غير القابلة للإلغاء أو ذات التأثير العالي. القاعدة: إذا توقفنا، يجب أن يحصل الإنسان على كل ما هو مطلوب لاتخاذ القرار في شاشة واحدة.

يتيح التدقيق بعد الإجراء للعامل التصرف وتقديم النتيجة للمراجعة ضمن نافذة زمنية محددة. يناسب العمليات القابلة للإلغاء وذات التكلفة المنخفضة، ويتطلب شرطين: نافذة زمنية قصيرة، وزر إلغاء يعمل حقًا.

أخذ العينات يراجع نسبة مئوية من الحالات وليس جميعها. هذا هو النمط الصحيح للعمليات ذات الحجم الكبير والتأثير المنخفض، وهو أيضًا آلية الجودة التي تسمح لاحقًا بتبرير إزالة مصادقة حاجز في مكان آخر.

تصميم شاشة القرار

هذا هو الجزء الذي يقرر ما إذا كان التدخل البشري حقيقيًا أم شكليًا. الشاشة التي تعرض فقط الإجراء المقترح تتلقى المصادقة تلقائيًا. الشاشة التي تتطلب فتح ثلاث علامات تبويب للتحقق تسبب تأخيرًا وتجاوزًا.

أربعة مكونات يجب أن تظهر معًا: الإجراء المقترح في سطر واحد، المبرر بلغة العمل، المصدر الذي يعتمد عليه العامل مع رابط إلى الجزء المستخرج، ومستوى اليقين أو العلامات التي تم تفعيلها. أدناه - ثلاثة خيارات وليس اثنين: مصادقة، رفض مع سبب، وتصحيح قبل التنفيذ.

سبب الرفض هو الأصول الأكثر قيمة في العملية. إنه يولد مجموعة التدريب والاختبار للإصدار التالي، ولذلك يجب أن يكون قائمة قصيرة من الأسباب الشائعة وليس حقل نص حر لا يملأه أحد.

يشرح قابلية المراقبة لوكلاء الذكاء الاصطناعي كيفية مراقبة هذه القرارات بمرور الوقت.

منع "الختم المطاطي"

إرهاق الموافقات هو فشل متوقع وليس مفاجأة. ثلاث علامات تحذيرية مبكرة: متوسط وقت القرار الذي ينخفض إلى أقل من بضع ثوانٍ، ومعدل الرفض الذي يقترب من الصفر، والموافقات المركزة في نهاية التحول.

المعالجة ليست في التدريب بل في التصميم. يتم تقليل عدد الموافقات عن طريق إزالة التوقفات غير الضرورية في العمليات القابلة للإلغاء، وإضافة أخذ عينات لاحقة تخلق المساءلة، وتقديم ملاحظات للموافق حول جودة قراراته. عندما يعلم الموافق أن نسبة مئوية من القرارات يتم مراجعتها، تعود الحاجة إلى القراءة.

مقياس رئيسي: إذا كان معدل التصحيحات صفرًا لعدة أشهر، فإما أن العامل ممتاز ويمكن تقليل التوقفات، أو أن لا أحد يقرأ. أخذ العينات هو ما يميز بين الاثنين.

متى وكيف تتم إزالة نقطة المصادقة

الإزالة قرار مبني على البيانات وليس على الشعور. ثلاثة شروط تراكمية: حجم كافٍ من القرارات الموثقة في الفئة، ومعدل تصحيح منخفض ومستقر لعدة أشهر متتالية، وآلية إلغاء أو تعليق تم اختبارها فعليًا.

تتم الإزالة على مراحل. أولاً لمجموعة فرعية ضيقة - على سبيل المثال، المبالغ التي تقل عن عتبة معينة فقط، العملاء في شريحة محددة فقط، خلال ساعات العمل فقط. ثم يتم القياس لمدة شهر. وبعد ذلك فقط يتم التوسع. في الوقت نفسه، يستمر أخذ العينات بعد الإزالة، وإلا فلا توجد طريقة لتحديد التدهور.

يجب أن يكون هناك أيضًا شرط للعودة: إذا تجاوز معدل الأخطاء عتبة محددة مسبقًا، تعود المصادقة الحاجزة تلقائيًا. بدون شرط عودة مكتوب، يصبح قرار الإزالة غير قابل للإلغاء بحد ذاته.

سيناريو: مركز خدمة قام بإزالة المصادقة الخاطئة

قامت شركة اتصالات بتشغيل وكيل يقوم بإعداد ردود على استفسارات الفواتير. في النسخة الأولى، كانت كل إجابة تخضع لمصادقة المندوب، بما في ذلك إجابات الحالة البسيطة. انخفض وقت المعالجة بشكل طفيف فقط، واشتكى المندوبون من أنهم يقرأون نفس النص مرارًا وتكرارًا.

قام الفريق بتحليل 4000 مصادقة واكتشف أن 78% منها كانت تتعلق بالردود المعلوماتية فقط - وهي قابلة للإلغاء بالكامل وذات تأثير منخفض. كان معدل التصحيح في هذه الفئة أقل من واحد بالمائة. بالمقابل، في فئة الخصومات، كان معدل التصحيح أعلى بكثير.

القرار: إزالة المصادقة الحاجزة من الردود المعلوماتية، مع أخذ عينات بنسبة مئوية منها للمراجعة الأسبوعية؛ تعزيز المصادقة في الخصومات وإضافة شرط تبرير مكتوب فوق مبلغ معين. انخفض وقت المعالجة بشكل كبير، وارتفعت حالات الرفض في فئة الخصومات - وهي علامة على أن الموافقين عادوا إلى القراءة.

المخاطر والإجراءات الوقائية

المقاييس

عند الحاجة إلى الدعم في تخطيط نقاط المصادقة وتكييفها مع اللوائح المعمول بها في المؤسسة، فإن خدمة Agentforce والذكاء الاصطناعي هي المسار العملي للمضي قدمًا.

قائمة التحقق

• ☐ تم تقسيم العملية إلى خطوات فردية
• ☐ تم تصنيف كل عملية بناءً على قابلية الإلغاء والتأثير
• ☐ تم اختيار نمط مصادقة لكل عملية: حظر، بعدي، أو عشوائي
• ☐ تم تحديد الموافق وفقًا للصلاحية الحالية في العملية
• ☐ تعرض شاشة القرار الإجراء، التبرير، المصدر، ومستوى اليقين
• ☐ تتوفر إمكانية التصحيح وليس فقط المصادقة أو الرفض
• ☐ يتم توثيق أسباب الرفض في قائمة قصيرة
• ☐ تم تحديد عتبات قابلة للقياس لإزالة المصادقة وشروط للعودة
• ☐ تم اختبار آلية الإلغاء فعليًا ولم يتم فقط تخطيطها