ארה״ב הציעה לסין מנגנון התרעה על תקריות AI

ארה״ב הציעה לסין להקים מנגנון הודעה על תקריות בינה מלאכותית שעלולות להשפיע על הביטחון הלאומי. שר האוצר האמריקאי, סקוט בסנט, חשף את ההצעה לאחר פגישה בניו יורק עם סגן ראש ממשלת סין, חה ליפנג, ב-20 בספטמבר. השיחות נערכו לקראת פגישה מתוכננת בין נשיא ארה״ב דונלד טראמפ לנשיא סין שי ג׳ינפינג בבית הלבן.

לפי דיווח Associated Press שפורסם גם ב-Local 10, וושינגטון מבקשת לעבור ממגעים כלליים על AI לערוץ שבו שתי הממשלות יוכלו להודיע זו לזו כאשר אירוע חוצה רף של ביטחון לאומי. בסנט לא פרסם דוגמאות לאירועים כאלה, לא תיאר מי יפעיל את הערוץ ולא מסר אם ההודעה תהיה חובה או החלטה של כל צד.

הגרסה הסינית של סיכום השיחות מצומצמת יותר. סוכנות Xinhua דיווחה ששני הצדדים ניהלו דיון בנושאים הקשורים ל-AI, לצד מסחר, מכסים ובקרת יצוא, אך לא הזכירה מנגנון התרעה ולא הציגה הסכמה עליו. ההבדל בין הניסוחים חשוב: בשלב זה מדובר בהצעה אמריקאית שנמצאת על שולחן השיחות, לא במערכת שהוקמה ולא בהתחייבות סינית להפעיל אותה.

איזה סיכון המנגנון אמור לצמצם

תקרית AI בעלת משמעות ביטחונית יכולה ליצור לחץ לקבל החלטות במהירות, במיוחד כאשר מדינה אחת אינה יודעת אם הצד השני גרם לאירוע, נפגע ממנו או איבד שליטה על מערכת. ערוץ הודעה מסודר עשוי לתת לממשלות דרך להעביר מידע ראשוני ולצמצם פרשנות שגויה. זו המשמעות המעשית האפשרית של ההצעה, אבל היא תלויה בפרטים שעדיין לא פורסמו.

עבור חברות שמפתחות מודלים, מפעילות ענן או מספקות מערכות לתשתיות קריטיות, אין כרגע דרישה חדשה. ההצעה עשויה בעתיד להשפיע על אופן הדיווח של אירועים חריגים לממשלות, אך לא ידוע אם חברות יידרשו למסור מידע, איזה מידע ייחשב רגיש, ואיך יוגנו סודות מסחריים. גם אין סימן לכך שהערוץ יחליף נהלי דיווח מקומיים, רגולציה או טיפול של צוותי תגובה לאירוע.

מה כבר ידוע ומה עדיין פתוח

הפגישה עצמה אושרה מראש בהודעה רשמית של נציבות הסחר האמריקאית. לאחריה אמרו בכירים אמריקאים שהשיחות יצרו בסיס לפגישת המנהיגים, ו-Xinhua תיארה את הדיונים ככנים ומעמיקים. שני הצדדים מסכימים אפוא שהתקיים שיח על AI; הם עדיין לא פרסמו מסמך משותף שמגדיר את מנגנון ההתרעה.

השאלות המרכזיות הן מה ייחשב תקרית שחוצה את הרף, האם הדיווח יהיה הדדי, למי תישלח ההודעה, בתוך כמה זמן ואילו פרטים יצורפו. בלי הגדרות כאלה, אי אפשר לדעת אם מדובר בקו חירום, בנוהל דיפלומטי או רק במסגרת להמשך שיחות. גם מנגנון מוסכם לא מבטיח שכל אירוע ידווח, משום שכל צד יצטרך להחליט אילו יכולות ופרטים הוא מוכן לחשוף.

הנקודה הבאה לבדיקה היא פגישת טראמפ ושי: האם ההצעה תיכנס להודעה משותפת, תקבל לוח זמנים או תישאר נושא לדיון מקצועי. עד אז נכון להתייחס אליה כניסיון לפתוח ערוץ לצמצום סיכון בין שתי מעצמות AI, עם כוונה מוצהרת אך ללא כללי פעולה.