NSA, FBI ו־CISA מזהירות מקמפיין זיקוק רחב נגד מודלי AI

ה־NSA, ה־FBI ו־CISA פרסמו ב־8 בספטמבר אזהרת סייבר משותפת על קמפיינים של זיקוק מודלי AI בקנה מידה תעשייתי. לפי הערכת הסוכנויות, חברות AI שמבוססות בסין שולחות כמויות גדולות של שאילתות למודלים אמריקאיים, אוספות את התשובות ומשתמשות בהן כדי לאמן או לשפר מודלים משלהן. המסמך מתאר פעילות מכוונת שמפוזרת בין כמה נתיבי גישה כדי להקשות על זיהוי.

חשוב להפריד בין הטכניקה לבין הטענה. זיקוק מודלים הוא כלי מקובל: מודל קטן לומד מתשובות של מודל גדול וכך ניתן להוזיל אימון והפעלה. האזהרה האמריקאית עוסקת בשימוש שיטתי ולא מורשה, שלטענת הסוכנויות מפר את תנאי השירות ומנסה להעתיק יכולות קנייניות תוך עקיפת מגבלות. זו הערכת ממשל והנחיית הגנה; היא אינה פסק דין או קביעה שיפוטית לגבי החברות שנזכרות בה.

איך פיזור השאילתות משנה את ההגנה

לפי המסמך והדיווח של Nextgov/FCW, התעבורה אינה מגיעה בהכרח מחשבון אחד ישירות לספק המודל. הנתיבים כוללים ממשקי API רשמיים, ספקי ענן מרוחקים ומתווכים של שירותי מודלים. שימוש בכמה ספקים ובמטא־דאטה מוסתר יכול לגרום לכל חברה לראות רק חלק קטן מהפעילות, גם כאשר התמונה המצטברת חריגה.

הסוכנויות נקבו בשמות DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun ו־Z.AI. לפי Nextgov/FCW, המודלים שהוגדרו כמטרות כללו גרסאות של Claude, ChatGPT, Gemini ו־Grok. Reuters אישרה את עצם האזהרה ואת תיאור הפעילות כזיקוק רחב של טכנולוגיית AI אמריקאית. הטענות הספציפיות נשענות על המידע שהציגו הסוכנויות; תגובות מלאות מכל החברות שנזכרו לא צורפו לפרסום הראשוני.

מי צריך לפעול עכשיו

הקהל הישיר של האזהרה הוא רחב מספקי המודלים עצמם. גם חברות ענן, שירותים שמאגדים כמה APIs וספקי תשתית רואים חלק מהזהויות, אמצעי התשלום ודפוסי השימוש. המסמך קורא לזיהוי ומיתון מקיפים, לשינויי תגובה ממוקדים ולשיתוף מודיעין בין ארגונים. המשמעות המעשית היא שחסימה אצל ספק יחיד לא מספיקה כאשר אותו גורם יכול לחלק את הפעילות בין נתיבים.

עבור מפעילי API, הבדיקה הנדרשת אינה רק ספירת אסימונים בחשבון. צריך לחבר אותות בין חשבונות, ספקי גישה ודפוסי בקשות, תוך שמירה על פרטיות לקוחות רגילים והימנעות מחסימה של מחקר לגיטימי. האזהרה אינה מפרטת בפומבי את כל הראיות או את ספי הזיהוי, ולכן יישום מדויק ידרוש עבודה משותפת והגדרות שלא ייצרו יותר מדי התרעות שווא.

מה עדיין פתוח

לא פורסם כמה מהפעילות החשודה הובילה בפועל לשיפור מדיד במודלים אחרים, אילו דגימות עומדות מאחורי כל ייחוס, או אם צפויים צעדי אכיפה. גם לא ברור כיצד יגיבו החברות הסיניות שנזכרו. בשלב זה הערך המרכזי של המסמך הוא במעבר מהאשמה כללית לתיאור של בעיית תצפית: פעילות מבוזרת שחוצה חברות דורשת הגנה שחוצה חברות.