Anthropic השיקה את Claude Haiku 5.5 ומוזילה קריאות קצרות ב-90%

Anthropic השיקה ב-7 באוקטובר את Claude Haiku 5.5, המודל הקטן והמהיר במשפחת Claude 5.5. הוא זמין דרך Claude Platform וגם דרך AWS, Google Cloud ו-Microsoft Azure, ומכוון למשימות שבהן נפח העבודה והזמן לתשובה חשובים יותר מהיכולת המרבית של Opus או Sonnet: סיווג, חילוץ מידע, ניתוב בקשות, סיכום ותפקידים קצרים בתוך מערכת של סוכנים.

המחיר ירד, אבל הסף משנה את החשבון

בבקשות קצרות מ-100 אלף tokens, מחיר המחירון הוא 0.10 דולר למיליון tokens בקלט ו-0.50 דולר למיליון tokens בפלט. אלה אותם מחירים בסיסיים ש-OpenAI מפרסמת ל-GPT-6 Luna. בהשוואה ל-Haiku 4.5 מדובר בירידה של 90% במחיר ל-token ברמה הזאת.

מעל 100 אלף tokens המחיר קופץ ל-0.50 דולר לקלט ול-2.50 דולר לפלט. גם זה זול ב-50% מ-Haiku 4.5, אך גבוה פי חמישה מהתעריף לבקשות הקצרות. לכן כותרת של 90% הנחה אינה מתארת כל עומס עבודה. שיחה ארוכה, סוכן ששומר היסטוריה גדולה או תהליך עם הרבה הקשר עשויים לעבור מהר לתעריף הגבוה.

Anthropic מעריכה שהעלות הממוצעת להפעלת המודל נמוכה בכ-75% לעומת Haiku 4.5. החישוב שלה כולל גם tokenizer חדש, שעלול להשתמש ביותר tokens לאותה משימה. בפועל, עלות של משימה תלויה גם בכמות ניסיונות, באורך הפלט, באחוז הפגיעות במטמון ובשאלה אם התוצאה דורשת תיקון.

מה נוסף למודל

Haiku 5.5 תומך בחלון הקשר של מיליון tokens ובפלט של עד 128 אלף tokens, והוא Haiku הראשון עם שליטה ברמת המאמץ. ברירת המחדל היא Medium, ומפתח יכול לבחור כמה מחשבה להקצות למשימה. Anthropic מציגה אותו כבחירה מתאימה לעבודה חוזרת וזולה, בעוד Sonnet 5.5 ו-Opus 5.5 נשארים האפשרויות שהיא ממליצה עליהן לקוד מורכב ולעבודה סוכנית ארוכה.

החברה פרסמה תוצאות שמראות שיפור גדול מול Haiku 4.5 וגם יתרון על GPT-6 Luna בחלק ממבחני הידע, תפעול המחשב והקוד שבחרה להציג. הנתונים האלה מגיעים מחומרי ההשקה של Anthropic. הם עדיין אינם מוכיחים שהמודל יקר פחות או מדויק יותר בעומס אמיתי של ארגון מסוים.

עוד שינוי במחירי Claude

לצד Haiku 5.5, Anthropic הורידה בחצי את מחיר קריאת המטמון של Sonnet 5.5, מ-0.20 ל-0.10 דולר למיליון tokens. לפי החברה, מאחר שקריאות מטמון הן חלק גדול מעלותם של תהליכים סוכניים ארוכים, השינוי מוריד את עלותם בכ-20% ברוב המקרים. גם כאן מדובר בהערכה של הספק.

למפתחים, הנקודה החשובה היא למדוד לפי משימה שלמה. Haiku 5.5 עשוי להתאים למסנן, מסווג או תת-סוכן שמטפל באלפי קריאות קצרות. מערכת שמחזיקה הקשר ארוך או דורשת דיוק גבוה צריכה להשוות את מספר ה-tokens, שיעור ההצלחות והצורך בניסיונות חוזרים לפני מעבר.