Anthropic שחררה את FlashProve לאימות קריפטוגרפי של מודלי AI

Anthropic פרסמה את FlashProve, אבטיפוס קוד פתוח שמייצר הוכחה קריפטוגרפית לכך שפלט מסוים הגיע ממודל שהספק התחייב אליו מראש. המנגנון מבוסס על zkSNARK: הספק מפרסם טביעת אצבע של המשקלים, ולאחר יצירת תשובה מפיק קובץ הוכחה שניתן לבדוק בלי לקבל את המשקלים עצמם.

הבעיה מעשית עבור לקוחות שמשלמים על מודל מסוים דרך שירות ניתוב, עבור מעריכי בטיחות שבודקים מודל לפני ואחרי השקה, ועבור ארגונים שצריכים להוכיח איזה מודל ביצע פעולה. איכות הטקסט לבדה לא מספיקה לזיהוי. שני מודלים יכולים לייצר תשובות דומות, וספק או תוקף יכולים להחליף את זרם הטוקנים בלי סימן גלוי.

בבדיקה של Anthropic, FlashProve עבד עם גרסה מכווצת ל-4 ביט של Llama 4 Maverick, מודל MoE בעל 400 מיליארד פרמטרים. בכל טוקן מופעלת תת-קבוצה של כ-17 מיליארד פרמטרים. המערכת מנצלת את המבנה הזה כדי לחשב הוכחה רק עבור המומחים שהופעלו, תוך הסתרת הבחירה עצמה.

המספרים של האבטיפוס

לפי המדידות שפרסמה Anthropic, שרת עם GPU יחיד מסוג H100 ו-24 ליבות CPU יצר הוכחות בקצב של כ-110 טוקנים לשנייה. כל הוכחה עבור בקשה של 1,024 טוקנים שקלה כ-18.78 מגה-בייט. מחשב הבודק את ההוכחה לא נזקק ל-GPU; הבדיקה ארכה 17 שניות ב-24 תהליכונים ו-21 שניות בתהליכון יחיד.

לשלב ההכנה יש מחיר נוסף. התחייבות ראשונית למשקלי המודל ארכה כ-39 דקות, ולאחר מכן הייתה תקפה לכ-16 מיליון בקשות במבנה הניסוי. בהשוואה ל-vLLM, Anthropic מדדה עלות GPU גבוהה פי 72 עד פי 94 עבור יצירת ההוכחות. אלה מדידות של צוות המחקר על תצורה מסוימת, ועדיין אין שחזור בלתי תלוי שפורסם.

החבילה כוללת קוד למוכיח ולשני בודקים, תיאור פרוטוקול, דוח טכני ומימוש ב-Lean של הטענות המתמטיות העליונות. הקוד שוחרר ברישיון Apache 2.0. כך חוקרים וחברות יכולים לבדוק את המימוש, להריץ חלקים ממנו ולהציע שיפורים.

המגבלות שחשוב להכיר

ההוכחה מתייחסת לגרסה של המודל שעובדת בחישוב של מספרים שלמים ובבחירת הטוקן הסבירה ביותר. תשובה ממימוש נקודה צפה או מדגימה אקראית עשויה לסטות ממנה. המערכת גם אינה מסתירה את ארכיטקטורת המודל, וההקשר שנבדק מוגבל ל-1,024 טוקנים. Anthropic אינה מבטיחה בשלב זה שהקוד המהיר, התיאור והבודק ב-Lean זהים בכל פרט.

FlashProve עדיין לא משולב בשירות Claude, ולא הוכרזה תוכנית פריסה אצל ספק מודלים אחר. שימוש אמיתי ידרוש מהספק לפרסם התחייבויות למשקלים, לייצר הוכחה לכל בקשה או אצווה ולשאת בעלות החישוב. הפרסום הנוכחי נותן לקהילת הקריפטוגרפיה בסיס עובד לבדיקה, אך הוא אינו חותמת שמאמתת תשובות AI קיימות כבר היום.