NVIDIA הקימה את Open Secure AI Alliance לאבטחת מודלים וסוכני AI

NVIDIA הכריזה ב־27 ביולי על Open Secure AI Alliance, קואליציה של עשרות חברות שמבקשת לפתח ולשתף כלים פתוחים לאבטחת מודלים וסוכני AI. בין השותפות הראשונות נמצאות Microsoft, Cisco, CrowdStrike, Hugging Face, IBM, Red Hat, Cloudflare, Databricks, Salesforce, SAP ו־Linux Foundation. ההכרזה מציבה את שרשרת האבטחה המלאה של סוכן AI במרכז: זהות, הרשאות, סביבת הרצה, לוגים, בדיקות ותגובה לחולשות.

לפי NVIDIA, הברית נשענת על עבודת Akrites של Linux Foundation ועל קהילת OpenSSF. החברה תתרום מודלים פתוחים, משקולות, נתונים ומחקר על agent harnesses, שכבת התוכנה שמחברת מודל לכלים ולפעולות. היא גם פרסמה את NOOA, מסגרת מחקר בקוד פתוח שנועדה להקל על בדיקה, מעקב, ביקורת וממשל של התנהגות סוכנים.

מה Open Secure AI Alliance מביאה לשולחן

השותפות מגיעות עם רכיבים שכבר קיימים, ולא רק עם הצהרת כוונות. HPE עובדת על SPIFFE ו־SPIRE לזיהוי קריפטוגרפי של שירותים וסוכנים. Hugging Face מעבירה את פורמט Safetensors לקרן PyTorch כדי לצמצם סיכון של הרצת קוד מתוך קובצי משקולות. IBM ו־Red Hat מציגות את Lightwell לטיפול בחולשות בשרשרת האספקה, ו־Microsoft מביאה את MDASH, מסגרת סריקה שמפעילה כמה סוכנים כדי לאתר ולאמת באגים שניתן לנצל.

החיבור בין הרכיבים חשוב מפני שסוכן אינו מסתכם במודל שפה. הוא מקבל הרשאות לקבצים, ממשקי API, מאגרי קוד ולעיתים גם למערכות ארגוניות. תקלה יכולה להופיע במודל, בתוסף, בקובץ משקולות, בהרשאת שירות או בלוג שלא נשמר. כלי פתוח מאפשר לצוות אבטחה לבדוק את מנגנון ההגנה, להריץ אותו בתוך הרשת שלו ולהתאים אותו למדיניות המקומית.

המשמעות לצוותי אבטחת AI

ארגונים שמפתחים סוכני AI יכולים להשתמש ברשימת התחומים של הברית כמפת בדיקה: זהות נפרדת לכל סוכן, הרשאות קצרות טווח, בידוד סביבת הרצה, פורמט מודל בטוח, רישום פעולות, בדיקות נגד עקיפת הוראות ודרך להשבית סוכן במהירות. אין צורך לחכות למוצר מאוחד של הברית כדי להתחיל. צוות יכול לבדוק אילו מהרכיבים הפתוחים מתאימים למערך הקיים ולהגדיר מדדים קבועים לזיהוי חריגות.

המהלך רלוונטי במיוחד לחברות שרוצות להריץ מודלים מקומית. שליטה במשקולות ובסביבת ההרצה שומרת נתונים בתוך הארגון, אך מעבירה אליו גם אחריות לעדכונים, סריקה ותגובה לאירוע. קהילה פתוחה יכולה לקצר את זמן הגילוי והתיקון, בתנאי שהפרויקטים יקבלו תחזוקה, בדיקות בלתי תלויות ותהליך מסודר לדיווח חולשות.

מה עדיין חסר בהכרזה

Open Secure AI Alliance עדיין אינה תקן מחייב או חבילת אבטחה שאפשר להתקין כמוצר אחד. NVIDIA לא פרסמה לוח זמנים לאינטגרציה בין הפרויקטים, מודל ממשל מלא, רישיונות אחידים או מדדי הצלחה. גם לא ברור מי יקבע סדרי עדיפויות כשצורכי ספקיות הענן, חברות הסייבר ומפתחי המודלים יתנגשו. הערך של הברית יימדד בקוד שמתוחזק לאורך זמן, בבדיקות שניתן לשחזר ובתיקונים שמגיעים למשתמשים, ולא במספר החברות ברשימת המייסדות.