הבית הלבן השלים מסגרת לבדיקת מודלי AI, אבל לא פרסם אותה

הבית הלבן השלים ב-3 באוגוסט מסגרת וולונטרית לבדיקת מודלי AI מתקדמים בידי הממשל האמריקאי. לפי הדיווחים של Axios ו-Politico, אנשי הממשל אמורים להציג אותה לצוותים מחברות AI בתדרוך ביום שלישי. נכון למועד הפרסום, המסמך עצמו לא פורסם ולא נמסרו שמות החברות שהסכימו להשתתף.

מה הושלם

המסגרת נולדה מצו נשיאותי שפורסם ב-2 ביוני. הצו ביקש לבנות מנגנון שבו מפתחי מודלים מתקדמים יוכלו למסור מודל לבדיקה ממשלתית לפני הפצה רחבה. הוא מתאר גישה מוקדמת של עד 30 יום, בדיקות של יכולות סייבר מתקדמות ותהליך שנועד לשמור על סודיות מסחרית ועל אבטחת המודל.

יש פער חשוב בין הצו לבין העדכון הנוכחי. הצו מגדיר את הכיוון ואת גבולות הסמכות. העדכון מאשר שעבודת המטה הסתיימה, אבל אינו חושף את ספי הכניסה, סדר הבדיקות, זהות הגופים שיריצו אותן או האופן שבו תוצאה בעייתית תשפיע על השקה. לכן עדיין אי אפשר להעריך כמה מודלים ייכנסו למסלול או כמה עמוקה תהיה הבדיקה.

מי מושפע עכשיו

ההשפעה המיידית היא על מעבדות שמפתחות מודלי חזית ועל צוותי האבטחה והציות שלהן. חברה שתבחר להשתתף תצטרך להכין מסירה מאובטחת של משקלי מודל או גישה מבוקרת, להגדיר חלון בדיקה לפני ההשקה ולתאם טיפול בממצאים רגישים. ייתכן שהעבודה תשפיע גם על לוחות הזמנים של השקות, אך אין כרגע ראיה לכך שמוצר מסוים נדחה.

עבור ארגונים שרוכשים שירותי AI, המסגרת עשויה לספק בעתיד עוד שכבת מידע על סיכוני סייבר. כרגע אין תו תקן ציבורי, דירוג השוואתי או מסמך שאפשר לצרף לתהליך רכש. גם למשתמשים פרטיים אין שינוי מעשי מיידי. המשמעות בשלב הזה היא יצירת ערוץ בדיקה בין החברות לממשל, לא אישור בטיחות כללי לכל שימוש במודל.

מה אומרת הוולונטריות

הצו מדגיש שהמסלול אינו רישיון חובה ואינו דורש אישור ממשלתי מוקדם להשקת מודל. ההבחנה הזאת משאירה בידי החברות את ההחלטה אם להצטרף. במקביל, עצם קיומו של מסלול ממשלתי עשוי לייצר לחץ מסחרי וציבורי להשתתף, במיוחד אצל ספקים שעובדים עם סוכנויות פדרליות או עם תשתיות רגישות.

המסגרת תיבחן לפי הפרטים שעוד חסרים: אילו יכולות נמדדות, האם נעשה שימוש במדדי מעבר קבועים, כיצד מטפלים בממצא מסוכן, מי מקבל את התוצאות ומה מתפרסם לציבור. לא ידוע גם אם חברות יוכלו לחלוק סיכום בדיקה עם לקוחות, ואם אי-השתתפות תהיה גלויה. עד שהמסמך או תקציר מפורט יפורסמו, מדובר במנגנון שהושלם בתוך הממשל אך עדיין אינו ניתן לבחינה חיצונית.

בפועל, המבחן הראשון יהיה התדרוך עם החברות: האם המשתתפים יקבלו מסמך שאפשר לבחון, או רק הוראות תפעוליות חסויות. גם היקף ההסכמה מצד התעשייה יישאר מדד מרכזי.