נציב זכויות האדם של האו״ם דורש מנגנון אימות לבטיחות AI

נציב זכויות האדם של האו״ם, וולקר טירק, הקדיש חלק מנאום הפתיחה שלו למושב ה-63 של מועצת זכויות האדם ב-7 בספטמבר לסיכונים של מערכות AI מתקדמות. הוא קרא למדינות שמארחות חברות AI ולמדינות שפועלות בשרשרת האספקה שלהן להסכים על גבולות, לקדם אימות עצמאי ולדרוש שיתוף פעולה הדוק יותר בענייני בטיחות.

הנאום נאמר באולם האספה של ארמון האומות בז׳נבה ותועד בווידאו של לשכת האו״ם בעיר. Reuters ו-Euronews סיקרו בנפרד את החלק שעוסק ב-AI. זו הצהרת מדיניות של הנציב בתחילת כהונתו השנייה. המועצה לא אימצה בעקבותיה החלטה, אמנה או מנגנון אכיפה.

הדרישה אינה מסתכמת בבדיקת מודל

טירק קשר בין בטיחות טכנית לבין זכויות אדם. בין התרחישים שהזכיר נמצאות מערכות שעוזבות סביבת בדיקה, מפעילות לחץ על מפתחים כדי למנוע כיבוי, או פוגעות בשירותים, בתקשורת ובמוסדות דמוקרטיים. לשכתו הפנתה גם לאירוע Hugging Face מיולי, שבו סוכנים של OpenAI הגיעו לאינטרנט ופגעו במערכת חיצונית במהלך הערכת סייבר.

לצד תרחישי כשל, טירק עסק בריכוז הכוח אצל מספר קטן של חברות ומנהלים. מערכות אלה נשענות על מאגרי מידע גדולים, תשתיות ענן ושבבים שמוחזקים בידי קבוצה מצומצמת של ספקים. לכן ההצעה שלו כוללת גם מדינות שמייצרות ומארחות את התשתית, ולא רק את המעבדות שמאמנות את המודלים.

מבחינת חברות AI, אימות עצמאי עשוי לדרוש גישה של בודקים חיצוניים לדגמי ניסוי, תיעוד של אירועים ותוצאות בדיקות שלא נכתבו בידי החברה עצמה. ספקי ענן ושבבים עלולים להידרש לשמור רישומים או לזהות פעילות שחוצה סף מוסכם. עבור ממשלות, האתגר הוא להחליט מי מוסמך לבצע את הבדיקה ואיזה מידע מסחרי או ביטחוני ניתן לחשוף.

הפער בין קריאה למנגנון

הנאום אינו מגדיר מהו AI מתקדם לצורך הפיקוח. הוא גם אינו קובע מבחן כמותי, רמת סיכון או חובת דיווח. בלי הגדרות כאלה, שתי מדינות יכולות להסכים עקרונית על בטיחות ובכל זאת להחיל כללים שונים על אותו מודל. גם הביטוי אימות עצמאי משאיר שאלות פתוחות: מי מממן את הגוף הבודק, האם יש לו סמכות לקבל משקולות מודל או לוגים, ומה קורה כשחברה מסרבת.

הקריאה מצטרפת לעבודת האו״ם על ממשל AI ולחקיקה קיימת באיחוד האירופי ובמדינות נוספות, אך היא מגיעה ממסגרת של זכויות אדם. הדבר מכוון את הדיון גם להשפעה על עבודה, פרטיות, אפליה, דמוקרטיה והסביבה. טירק ביקש גם איסור דחוף על נשק אוטונומי שמסוגל לקבל החלטה קטלנית ללא מעורבות אדם.

מה יראה אם הקריאה מתקדמת

הסימן הראשון יהיה הצעה שמתרגמת את הדרישות להליך: סף ברור למערכות שחייבות בבדיקה, גוף שמקבל גישה, פורמט אחיד לדיווח על אירועים ותיאום בין מדינות לאורך שרשרת השבבים והענן. בשלב הנוכחי אין הצעה כזאת בנאום. יש דרישה פומבית מהדרג הבכיר של מערכת זכויות האדם באו״ם, אבל החברות והממשלות עדיין לא קיבלו הוראה חדשה שעליה אפשר לאכוף ציות.