המחקר נראה מושלם.
חלק מהמקורות לא היו קיימים.

יש לי צוות סוכנים שרץ כל יום. אחת מהם, רייצ'ל, עושה מחקר — קוראת מסמכים, כתבות, תמלולי וידאו, ומחזירה לי תמצית.

יום אחד היא החזירה עבודה מצוינת. מסודרת, מנומקת, עם ציטוטים. התחלתי לבדוק את המקורות. חלק מהם פשוט לא היו קיימים.

למה זה מסוכן דווקא בעסק

סוכן שטועה בגלוי זו לא בעיה. רואים, מתקנים, ממשיכים.

הבעיה היא סוכן שנשמע נכון. הפלט מסודר, הטון בטוח, המבנה מקצועי. בדיוק בגלל זה אף אחד לא בודק אותו — וזה מה שהופך את זה למסוכן.

סוכן לא מסוכן כשהוא טועה. הוא מסוכן כשהוא משכנע.

אצלי זה עלה חצי שעה של בדיקה. בארגון, החלטה שמתקבלת על סמך מחקר כזה יכולה לעלות הרבה יותר — ואף אחד לא ידע לאן להצביע כשזה יתפוצץ.

מה לא עבד

הדבר הראשון שעשיתי היה מה שכולם עושים: כתבתי לה בהוראות "אל תמציאי. אם לא מצאת — תגידי שלא מצאת."

זה עבד חלקית. כלומר: לא עבד.

הוראה היא בקשה. היא מתחרה בכל שאר הבקשות בהוראות, והיא נשחקת ככל שהמשימה נעשית ארוכה ומורכבת. אי אפשר לבקש ממודל להיות אמין. צריך לבנות אותו כך שלא תהיה לו ברירה.

מה כן עבד — שלושה שינויים מבניים

שלושה דברים, ואף אחד מהם הוא לא ניסוח יפה יותר:

השלישי הוא החשוב מכולם, והוא הכי פחות טכני: הפרדת תפקידים. כשאותו סוכן גם אוסף את המידע וגם כותב את המסקנה, הוא ישפר את הניסוח על חשבון הדיוק. זה נכון גם לבני אדם.

תריץ את זה עכשיו — הקו שמונע פיברוק

זה הקו שדיברתי עליו, בגרסה שאתה יכול לקחת עכשיו. הדבק את הבלוק הזה בתחילת כל משימת מחקר או סיכום שאתה נותן למודל שפה — והוא מכריח אותו לצטט מקור מילולי, או להגיד "לא מצאתי", במקום להמציא.

הדבק את הבלוק הזה בתחילת כל משימת מחקר או סיכום שאתה נותן למודל שפה.

--- כלל הברזל למחקר ---
לפני שאתה עונה, פעל לפי החוקים האלה בלי יוצא מן הכלל:

1. כל טענה עובדתית חייבת ציטוט מילולי מהמקור שנתתי לך — בתוך מרכאות — עם ציון
   מאיפה בדיוק הוא (שם המסמך / כותרת / דקה בסרטון).
2. אם אין לך ציטוט מילולי שתומך בטענה — אל תכתוב אותה. במקומה כתוב
   "לא מצאתי מקור לכך" והמשך.
3. אסור להשלים מהידע הכללי שלך. אם המידע לא נמצא במקורות שנתתי — תגיד את זה
   במפורש. אל תנחש ואל "תעגל".
4. בסוף התשובה הוסף שורה: "טענות בלי מקור: X". אם X=0 אבל לא היית בטוח לגבי משהו —
   עצור ובקש ממני מקור נוסף במקום להשלים לבד.
5. אם אתה לא בטוח בכלל — עדיף "אני לא יודע" על תשובה יפה שאולי שגויה.
   אני מעדיף חור בתשובה על חור באמון.

תאשר בשורה אחת שהבנת את חמשת החוקים, ואז אתן לך את המקורות ואת המשימה.
--- סוף הכלל ---

התקלה השנייה, המשעממת יותר

דונה, שמנהלת אצלי את היומן והמייל, הודיעה לי יום אחד שאין לה גישה ליומן. בדקתי — ההרשאות היו תקינות.

מה שקרה: כלי חדש נוסף למערכת, אבל לא נרשם בערוץ שדרכו דיברתי איתה. היא באמת לא ראתה אותו. היא לא שיקרה — היא דיווחה נכון על עולם חלקי.

זה קרה לי שלוש פעמים. אני כותב את זה כאן כדי שלא יקרה לכם: כשסוכן אומר "אין לי גישה", לפני שמאשימים אותו — בדקו שהכלי בכלל רשום בכל ערוץ שבו הוא עובד. זה כמעט תמיד זה.

מה זה אומר עליכם

אם אתם שוקלים להכניס סוכני AI לעסק, אלה השאלות שהייתי שואל את מי שבונה לכם. לא על המודל — על הריסון.

כי ההבדל בין פיילוט מרשים לבין משהו שאפשר לסמוך עליו הוא לא כמה חכם הסוכן. הוא כמה קשה לו לומר משהו שהוא לא יכול להוכיח.

ואם מי שבונה לכם לא מדבר איתכם על זה מיוזמתו — זה בעצמו הסימן.