Anthropic פירקה את מנגנון הזיכרון של Claude לכתיבה, חיפוש ו״חלימה״

Anthropic פרסמה ב-6 בנובמבר פירוט של ניסויי הזיכרון שהיא מפעילה עבור סוכני Claude. ההגדרה כאן צרה: מידע שהסוכן למד ממשימות קודמות ושמר כקבצים או כהקשר שניתן לקריאה במפגש הבא. החברה מפרידה אותו ממשקלי המודל, מלמידה בתוך שיחה אחת ומקומפקציה שמסכמת שיחה ארוכה כדי לפנות מקום בחלון ההקשר.

המערכת בנויה מכמה שכבות. במהלך העבודה הסוכן יכול לכתוב הערות על עובדות, כשלים וכללים שאימת. תמלילי המפגשים נשמרים לחיפוש. תהליך רקע ש-Anthropic מכנה dreaming חוזר אל התמלילים, מתקן הערות, מאחד כפילויות ובונה ייצוגים כמו wiki. שכבה קטנה של מידע נבחר נטענת מראש בתחילת המפגש הבא, והשאר נשאר לחיפוש לפי הצורך.

מה קרה בניסויים

במשימת מסד נתונים מתוך CL-Bench, כל שאלה נפתחה במפגש חדש, אך הסוכן קיבל גישה לתיקיית זיכרון משותפת. Claude Opus 5 היה הראשון מבין המודלים שנבדקו שסגר את מעגל הלמידה: הוא שמר כלל, את ההוכחה שהכלל נכון ואזהרות מפני טעויות שכבר פגש. Anthropic דיווחה על שיפור בניקוד אצל כמה דורות של Claude, אך גם מצאה שהוראה קשיחה לשמור רק כישלונות הפחיתה חלק מהתועלת.

בניסוי נוסף Claude שיחק ב-Pokémon Red במשך כ-10,000 צעדים. Sonnet 3.7 יצר 413 קבצים ב-225 תיקיות והשיג תג אחד במשחק. Fable 5 שמר תשעה קבצים בשתי תיקיות ועוד קובץ אינדקס, והשיג ארבעה תגים. זו השוואה בין הרצות יחידות, ולכן היא מדגימה הבדל בסינון מידע ואינה מדד ביצועים כללי.

Anthropic בדקה גם בניית wiki מתוך כ-350 אלף קבצים פנימיים של Stainless, בהיקף של כ-420 מיליון טוקנים. לאחר 128 מפגשי עיבוד, הציון על 25 שאלות באמצעות ה-wiki בלבד עלה מ-13% ל-48%. שילוב של חיפוש ו-wiki עלה מ-54% ל-61%, לעומת 53% לחיפוש לבדו. במשימה אחרת ה-wiki גדל ל-203 קילובייט מול 115 קילובייט של מסמכי המקור, בלי יתרון ברור.

ב-Claude Code נטענות בתחילת מפגש רק 200 השורות הראשונות או 25 קילובייט מקובץ MEMORY.md. החלק הזה משמש אינדקס, והסוכן מחפש את הפרטים בשכבות שמתחתיו. כך Anthropic מגבילה את המקום שהזיכרון הקבוע תופס בכל פנייה.

המשמעות למי שבונה סוכנים

הלקח המעשי הוא שזיכרון דורש תחזוקה. כל הערה יכולה להתיישן, וכל תיקון רקע צורך מחשוב ועלול להכניס טעות חדשה. צוות שמפעיל סוכן לאורך חודשים צריך לדעת איזו גרסת זיכרון הייתה פעילה, אילו פריטים אומתו, מתי מידע נמחק ומה נטען אוטומטית.

החברה לא פרסמה עלות מלאה של תהליכי ה-dreaming, ולא הראתה שחזור חיצוני של הניסויים. חלק מהנתונים מגיעים ממאגרים פנימיים וממודלים של Anthropic. השאלות שנותרו פתוחות נוגעות לפרטיות תמלילים, למדידת התדר המתאים לעדכון, ולהתנהגות כאשר הסביבה משתנה מהר יותר מהזיכרון.