OpenAI עדכנה את Model Spec ומציבה כוונת אדם ופיקוח במרכז

OpenAI פרסמה ב-29 באוקטובר גרסה חדשה של Model Spec, המסמך הציבורי שמתאר כיצד היא רוצה שהמודלים שלה יתנהגו. הגרסה מסדרת את ההנחיות סביב חמישה ערכים: נאמנות לכוונת האדם, צמצום נזק, כנות ושקיפות, חופש פעולה אנושי ואכפתיות. זהו שינוי בארגון ובהסבר של כללי ההתנהגות, לא הכרזה על מודל חדש או עדכון API.

הנקודה המרכזית היא ההבדל בין מילוי הוראה מילולי לבין הבנת המטרה שמאחוריה. לפי המבנה החדש, OpenAI קובעת את הגבולות העליונים, מפתחי יישומים מכוונים את המוצר בתוך הגבולות האלה, והמשתמש מגדיר את המשימה. המודל אמור לשקול גם הקשר קודם, זיכרונות והעדפות, אך להציג הנחות שאפשר לתקן ולא להפוך אותן להחלטה נסתרת.

המסמך מוסיף פירוט על פיקוח ועל תופעות לוואי. מודל שפועל עם כלים אמור להישאר פתוח לתיקון, לדווח על השפעות שנגרמו מפעולה ולהבין מתי דרושה עצירה או אישור. במקביל, OpenAI הסירה חלק גדול מהוראות הסגנון המפורטות שהופיעו בגרסאות קודמות. החברה מעדיפה שהסגנון יתאים לשפה, לתרבות ולהעדפות של האדם, תוך שמירה על ברירות מחדל בסיסיות כמו גישה עניינית.

העדכון משנה גם את המינוח. המסמך משתמש כעת ב-GPT במקום בכינוי assistant, כדי לכסות שימושים שחורגים מצ׳אט רגיל. מאגר המקור ב-GitHub מראה שהשינוי פורסם כגרסה מתוארכת, והיסטוריית השינויים מאפשרת להשוות אותו לנוסח הקודם. עבור חוקרי בטיחות ומפתחי מוצרים, זה מספק בסיס מדויק יותר לבניית מבחני התנהגות, גם אם המפרט עצמו אינו מדד ביצועים.

מה זה משנה למי שבונה מוצר

צוות שמפעיל סוכן אוטונומי יכול לתרגם את העקרונות לבדיקות קונקרטיות. כדאי לבדוק אם המודל עוצר כשהמטרה עמומה, אם הוא חושף הנחה שנלקחה מזיכרון, אם הוא מבקש אישור לפני פעולה בלתי הפיכה ואם הוא מדווח על שינוי שביצע במערכת חיצונית. חשוב גם להפריד בין העדפה של משתמש לבין כלל בטיחות שאי אפשר לעקוף.

יש כאן מגבלה ברורה: OpenAI כותבת שהמודלים הנוכחיים עדיין אינם משקפים את המפרט במלואו. החברה בוחנת שיטות אימון שיעזרו למודלים ללמוד את הערכים ואת ההיגיון שמאחוריהם, אך לא פרסמה תוצאות, לוח זמנים או מדד שמראה אילו מודלים עומדים באילו סעיפים. לכן אין בסיס להסיק מהמסמך ששירות קיים שינה את התנהגותו כבר עכשיו.

המבחן המעשי יגיע בהמשך, אם OpenAI תפרסם הערכות עקביות ותראה כיצד תיקון אנושי, זיכרון ושליטה בתופעות לוואי פועלים במשימות אמיתיות. עד אז Model Spec הוא הצהרה מפורטת על ההתנהגות הרצויה וכלי להשוואה, ולא הוכחה שההתנהגות הזאת הושגה.