22 מנהיגים קראו לבדיקות חובה ולפיקוח חיצוני על מודלי AI מתקדמים

קבוצה של 22 מנהיגים ובעלי תפקידים פוליטיים פרסמה הצהרה משותפת שקוראת להדק את הפיקוח על מודלי AI מתקדמים. את היוזמה הובילו נשיא פינלנד אלכסנדר סטוב וראש ממשלת נורווגיה יונס גר סטיורה, והיא פורסמה לקראת שבוע העצרת הכללית של האו״ם בניו יורק.

המספר 22 מתייחס לחותמים, לא ל-22 מדינות. ברשימה מופיעים נשיא פינלנד וראש ממשלת פינלנד בנפרד, וכן נשיאת הנציבות האירופית. בין החותמים יש מנהיגים מאוסטרליה, קנדה, גרמניה, סינגפור, דרום אפריקה, טורקיה ואיחוד האמירויות. ארצות הברית, סין, בריטניה וצרפת אינן מופיעות ברשימה שפורסמה.

מה ההצהרה מבקשת מחברות

הסעיף הראשון קורא לחברות לפתח פרוטוקולי בטיחות שקופים. הוא כולל בדיקות חובה לפני פריסה של מודל והערכה עצמאית בידי גורמים מוסמכים, עם גישה מספקת למערכת כדי שיוכלו לבדוק סיכונים. זה ניסוח משמעותי יותר מהתחייבות כללית לבטיחות, משום שהוא מציב בדיקה חיצונית לפני ההשקה כחלק מהתהליך המבוקש.

הסעיף השני מופנה לממשלות ולארגונים אזוריים. החותמים מבקשים לתאם תקנים משותפים, להרחיב שקיפות ולשתף דיווחים על אירועי בטיחות חמורים. הם מבקשים גם להנגיש מומחיות, יכולת מדעית ותשתית הערכה למדינות מאזורים שונים, כדי שהפיקוח לא יישאר בידי מספר קטן של ממשלות וחברות.

הסעיף השלישי מציע למדינות האו״ם להשתמש במנגנונים בינלאומיים קיימים ולבחון הקמה של מוסד בינלאומי. תפקידיו האפשריים יהיו קביעת תקנים, תמיכה באימות וכינוס מדינות כאשר מודלים עוברים ספי יכולת מסוימים. ההצהרה אינה מגדירה מהם אותם ספים, מי יקבע אותם או איזו גישה טכנית יקבל הגוף המוצע.

איתות מדיני, עדיין ללא חובה משפטית

ההצהרה אינה אמנה, תקנה או חוק. היא אינה מטילה כרגע חובה חדשה על מעבדות AI ואינה קובעת עונשים למי שלא יבצע בדיקות חיצוניות. הרשימה נשארה פתוחה להצטרפות של מנהיגים נוספים. לכן ההשפעה המיידית שלה היא מדינית: יצירת נוסח משותף שממשלות יוכלו להביא לדיונים באו״ם, לחקיקה מקומית ולהסכמות עם חברות.

ABC News דיווחה על ההצהרה דרך השתתפותו של ראש ממשלת אוסטרליה אנתוני אלבניז ותיארה אותה כמהלך של מדינות בינוניות שמנסות להשפיע על כללי הפיקוח. המקור הפיני והפרסום של ממשלת הולנד מציגים את הטקסט המלא ואת רשימת החותמים. הטענה בדבר מערכות שעקפו מנגנוני בדיקה ומצאו דרכים להגיע למערכות אמיתיות מופיעה בהצהרה עצמה; היא אינה מלווה שם בפירוט של מקרים או בראיות טכניות.

למפתחי מודלים וללקוחות ארגוניים אין עדיין מפרט חדש ליישום. מה שכדאי לעקוב אחריו הוא האם מדינות יהפכו את דרישות הבדיקה והדיווח לכללים מחייבים, כיצד יוגדר מודל שנכנס למסגרת, ומה תהיה מידת הגישה של מעריכים חיצוניים. בלי תשובות על סמכות, מימון, סודיות ואכיפה, ההצעה למוסד בינלאומי נשארת כיוון פעולה ולא גוף שניתן לפנות אליו.