OpenAI תאחד בדצמבר את מכסות ChatGPT ו-Codex

OpenAI עדכנה את מסמך מגבלות השימוש שלה והודיעה כי החל מדצמבר משתמשי ChatGPT Plus, Pro ו-Business ישתמשו במכסה אחת משותפת עבור ChatGPT ו-Codex. המכסה תימדד בטוקנים ותכסה שימוש במודלים מתקדמים ובמשימות מורכבות בשני המוצרים.

עד היום אפשר היה להתייחס למגבלות של שיחות ב-ChatGPT ושל עבודת קוד ב-Codex כמשאבים נפרדים בחלק מהתוכניות. אחרי השינוי, עבודה כבדה ב-Codex תקטין את היתרה הזמינה למשימות מתקדמות ב-ChatGPT, ולהפך. OpenAI אומרת שמשתמשים יוכלו לראות את הצריכה המשולבת ואת מועד האיפוס באזור Settings.

המעבר למדידה משותפת מחבר שני דפוסי עבודה שונים. שיחה קצרה, ניתוח מסמך, הרצת סוכן על קוד ובדיקת מאגר שלם אינם צורכים אותה כמות טוקנים. לכן מספר הפעולות שמשתמש יקבל בכל מחזור עשוי להשתנות מאוד גם אם המכסה עצמה קבועה.

שיחות Instant נשארות מחוץ למאגר

החריג המרכזי הוא ChatGPT Instant. לפי מסמך העזרה, שיחות Instant לא יצרכו מהמכסה המשותפת. המשמעות המעשית היא שמשתמש יוכל להמשיך בשיחות מהירות גם לאחר שצרך חלק גדול מהמאגר בעבודת קוד או במודל מתקדם, בכפוף למגבלות אחרות שעשויות לחול על התוכנית.

OpenAI לא פרסמה במסמך את מספר הטוקנים שיוקצה לכל תוכנית, את יחס ההמרה בין סוגי משימות או את היום המדויק בדצמבר שבו השינוי יופעל. החברה מציינת באופן כללי שמודלים מתקדמים ומשימות מורכבות צורכים יותר. בלי טבלה מספרית, עדיין אי אפשר לחשב כמה סשנים של Codex או כמה שיחות עומק ייכנסו במכסה.

גם המונח טוקנים אינו מתרגם ישירות לזמן עבודה. משימה יכולה לקרוא קבצים רבים, לייצר כמה ניסיונות או להפעיל כלים, ולכן הצריכה תלויה בהיקף ההקשר ובאופן שבו המערכת מבצעת אותה. מסמך העזרה אינו נותן מחשבון שממיר משימה טיפוסית לעלות מהמכסה.

מה משתנה לצוותים ולמפתחים

למפתח שמשתמש באותו חשבון גם למחקר וגם לקוד, הבחירה במודל ובסוג המשימה תהיה כעת החלטת תקציב משותפת. ריצה ארוכה של Codex על מאגר גדול עלולה להשפיע על זמינות ChatGPT בהמשך אותו מחזור. מצד שני, איחוד המעקב במקום אחד עשוי להקל על הבנת הצריכה הכוללת בלי להשוות בין שני מסכי מכסות.

עבור מנהלי Business, השינוי מעלה שאלות על חלוקת שימוש בין עובדים, התראות לפני מיצוי והבדל בין שימוש אינטראקטיבי למשימות ממושכות. מסמך העזרה הנוכחי אינו מספק תשובות מלאות לכל השאלות האלה. הוא גם אינו מכריז כאן על שינוי עבור תוכניות שלא נמנו בהודעה.

צוותים שמריצים משימות ארוכות יכולים להיערך באמצעות מעקב אחר מסך השימוש לפני ואחרי ריצות גדולות. רק לאחר ההפעלה יהיה אפשר לראות אם האיפוס מוצג ברמת משתמש, סביבת עבודה או תוכנית, ומה קורה כאשר היתרה נגמרת במהלך משימה קיימת.

העדכון עדיין לא נכנס לתוקף. עד להפעלה בדצמבר, הנתונים החסרים הם אלה שיקבעו אם מדובר בעיקר בשינוי תצוגה או בשינוי מורגש בזמינות. כדאי לבדוק שוב את מסך Settings ואת מסמך המגבלות סמוך למועד ההשקה, במיוחד לפני עבודת קוד ארוכה.