Human-in-the-Loop ב-Agentforce: איפה AI חייב לעצור ולאשר

התשובה הקצרה

השאלה אינה האם צריך אדם בלולאה אלא היכן בדיוק. אישור על כל צעד מבטל את החיסכון ומייצר עייפות שמובילה לחתימה אוטומטית. היעדר אישור בפעולות בלתי הפיכות מייצר את סוג התקלה שמגיע להנהלה.

השיטה המעשית מתחילה בפירוק התהליך לפעולות בודדות, סיווג כל פעולה לפי הפיכות והשפעה, ובחירת דפוס אישור מתאים - חוסם, בדיעבד או דגימה. אחר כך מעצבים את מסך ההחלטה כך שהאישור יהיה שיפוט אמיתי ולא לחיצה.

מסגרת הממשל שבתוכה נקבעות ההחלטות האלה מפורטת בAI Governance ל-Agentforce.

מטריצת ההחלטה: הפיכות מול השפעה

הפיכות נמדדת בשלוש שאלות: כמה זמן לוקח לבטל, כמה זה עולה, ומי נחשף לפני שבוטל. הודעה שנשלחה ללקוח אינה הפיכה גם אם אפשר לשלוח תיקון - הרושם כבר נוצר. עדכון שדה פנימי הפיך בשנייה ולכן אינו מצדיק עצירה.

שלושת דפוסי האישור

אישור חוסם עוצר את הפעולה עד להחלטת אדם. הוא הדפוס היקר ביותר בזמן ולכן שמור לפעולות בלתי הפיכות או בעלות השפעה גבוהה. הכלל: אם עצרנו, האדם חייב לקבל את כל מה שדרוש להחלטה במסך אחד.

ביקורת בדיעבד מאפשרת לסוכן לפעול ולהעביר את התוצאה לסקירה בתוך חלון זמן מוגדר. מתאים לפעולות הפיכות בעלות נמוכה, ודורש שני תנאים: חלון זמן קצר וכפתור ביטול שעובד באמת.

דגימה בודקת אחוז מהמקרים ולא את כולם. זהו הדפוס הנכון לפעולות בנפח גבוה והשפעה נמוכה, והוא גם מנגנון האיכות שמאפשר בהמשך להצדיק הסרה של אישור חוסם במקום אחר.

עיצוב מסך ההחלטה

זהו החלק שמחליט אם ה-Human-in-the-Loop אמיתי או פורמלי. מסך שמציג רק את הפעולה המוצעת מקבל אישור אוטומטי. מסך שמצריך לפתוח שלושה טאבים כדי לבדוק גורם לעיכוב ולעקיפה.

ארבעה רכיבים שצריכים להופיע יחד: הפעולה המוצעת בשורה אחת, הנימוק בשפה עסקית, המקור שעליו הסוכן נשען עם קישור לקטע שנשלף, ורמת הוודאות או הדגלים שהופעלו. מתחת - שלוש אפשרויות ולא שתיים: אישור, דחייה עם סיבה, ותיקון לפני ביצוע.

הסיבה לדחייה היא הנכס היקר ביותר בתהליך. היא מייצרת את סט האימון והבדיקה לגרסה הבאה, ולכן צריכה להיות רשימה קצרה של סיבות נפוצות ולא שדה טקסט חופשי שאיש לא ממלא.

איך מנטרים את ההחלטות האלה לאורך זמן מוסבר בObservability לסוכני AI.

מניעת Rubber Stamping

עייפות אישורים היא כשל צפוי ולא הפתעה. שלושה סימנים מקדימים: זמן החלטה ממוצע שיורד מתחת לכמה שניות, שיעור דחיות שמתקרב לאפס, ואישורים מרוכזים בסוף משמרת.

הטיפול אינו בהדרכה אלא בעיצוב. מצמצמים את מספר האישורים על ידי הסרת עצירות מיותרות בפעולות הפיכות, מוסיפים דגימה בדיעבד שמייצרת אחריות, ומציגים למאשר משוב על איכות ההחלטות שלו. כשמאשר יודע שאחוז מההחלטות נבדק, הקריאה חוזרת.

מדד מפתח: אם שיעור התיקונים הוא אפס לאורך חודשים, או שהסוכן מצוין ואפשר לצמצם עצירות, או שאיש אינו קורא. הדגימה היא מה שמבחין בין השניים.

מתי ואיך מסירים נקודת אישור

הסרה היא החלטה מבוססת נתונים ולא תחושה. שלושה תנאים מצטברים: נפח מספיק של החלטות מתועדות בקטגוריה, שיעור תיקונים נמוך ויציב לאורך כמה חודשים רצופים, ומנגנון ביטול או השהיה שנבדק בפועל.

ההסרה מתבצעת בשלבים. קודם לתת-קבוצה צרה - למשל רק סכומים מתחת לסף מסוים, רק לקוחות בפלח מוגדר, רק בשעות פעילות. אחר כך מודדים חודש. רק אז מרחיבים. במקביל, נשארת דגימה בדיעבד גם אחרי ההסרה, אחרת אין דרך לזהות הידרדרות.

צריך גם תנאי החזרה: אם שיעור השגיאות חוצה סף מוגדר מראש, האישור החוסם חוזר אוטומטית. בלי תנאי החזרה כתוב, ההחלטה להסיר הופכת לבלתי הפיכה בעצמה.

תרחיש: מוקד שירות שהסיר את האישור הלא נכון

חברת תקשורת הפעילה סוכן שהכין תשובות לפניות חיוב. בגרסה הראשונה כל תשובה עברה אישור נציג, כולל תשובות סטטוס פשוטות. זמן הטיפול ירד רק במעט, והנציגים התלוננו שהם קוראים אותו טקסט שוב ושוב.

הצוות ניתח 4,000 אישורים וגילה ש-78% מהם היו על תשובות מידע בלבד - הפיכות לחלוטין ובעלות השפעה נמוכה. שיעור התיקונים בקטגוריה הזו היה מתחת לאחוז. לעומת זאת, בקטגוריית הזיכויים שיעור התיקונים היה גבוה משמעותית.

ההחלטה: הסרת האישור החוסם מתשובות מידע, עם דגימה של אחוז מהן לביקורת שבועית; חיזוק האישור בזיכויים והוספת חובת נימוק כתוב מעל סכום מסוים. זמן הטיפול ירד משמעותית והדחיות בקטגוריית הזיכויים דווקא עלו - סימן שהמאשרים חזרו לקרוא.

סיכונים ופעולות מניעה

מדדים

כאשר נדרש ליווי בתכנון נקודות האישור והתאמתן לרגולציה שחלה על הארגון, שירות Agentforce ו-AI הוא המסלול המעשי להמשך.

Checklist

• ☐ התהליך פורק לפעולות בודדות
• ☐ כל פעולה סווגה לפי הפיכות והשפעה
• ☐ נבחר דפוס אישור לכל פעולה: חוסם, בדיעבד או דגימה
• ☐ המאשר הוגדר לפי הסמכות הקיימת בתהליך
• ☐ מסך ההחלטה מציג פעולה, נימוק, מקור ורמת ודאות
• ☐ קיימת אפשרות תיקון ולא רק אישור או דחייה
• ☐ סיבות הדחייה מתועדות ברשימה קצרה
• ☐ הוגדרו ספים מדידים להסרת אישור ותנאי החזרה
• ☐ מנגנון הביטול נבדק בפועל ולא רק תוכנן