OpenAI מציעה תקנים בינלאומיים לדיווח על תקריות AI

OpenAI פרסמה ב-21 בספטמבר הצעה לתקנים טכניים בינלאומיים עבור מערכות AI מתקדמות. היא קוראת לארצות הברית להוביל עבודה עם מדינות אחרות על מדידה משותפת של יכולות, פיקוח על מחקר AI אוטומטי וכללים לדיווח על תקריות. זו עמדה של חברה פרטית, שפורסמה בזמן כינוס מנהיגי העולם בניו יורק. היא עדיין אינה תקן מוסכם או החלטת ממשלה.

המסמך מפריד בין שני צרכים. הראשון הוא מנגנון שיחבר גופי תקינה ומכוני בטיחות לאומיים, ובהם המרכז האמריקאי לתקני AI ולחדשנות, כדי לבנות בסיס טכני שניתן להשוות בין מדינות. השני הוא שפה משותפת למדידת התקדמות של מחקר AI אוטומטי, לקביעה מתי אדם חייב לבחון פעולה, ולסיווג חומרת תקרית וסף הדיווח עליה.

OpenAI מציינת במפורש שהתקנים שהיא מציעה לא יהיו רישיון למודל, בדיקת חובה לפני השקה או אישור מוקדם. ממשלות יחליטו אם וכיצד לאמץ אותם בדין המקומי. ההבחנה חשובה למפתחי מודלים ולגופים שמשתמשים בהם: כללי מדידה אחידים יכולים להקל על בדיקה של תוצאות וסיכונים, אבל נוסח ההצעה לבדו אינו יוצר חובת דיווח חדשה.

המחקר האוטומטי נמצא במרכז ההצעה

חלק ניכר מהמסמך עוסק במצב שבו מערכות AI מסייעות לבנות את הדור הבא של מערכות AI. לדברי החברה, מחקר אוטומטי יכול להתקדם ברמות שונות של פיקוח אנושי. היא טוענת ששיפור עצמי רקורסיבי עצמאי לחלוטין אינו מתרחש כיום, ושאין לחתור אליו כל עוד לא ניתן לבצעו בבטחה. זו הערכתה והמדיניות שהיא מציעה, לא מדידה עצמאית של כל התעשייה.

מבחינה מעשית, התקנים עשויים להגדיר איזה חלק מעבודת המחקר נעשה ללא אדם, איזו פעולה צריכה לעצור לבדיקה, ואיזה מידע נשמר כדי להבין בדיעבד אירוע חריג. OpenAI מפנה למסגרת הדיווח שלה על התנהגות מודלים כצעד ראשוני משלה. הגדרה משותפת יכולה לעזור לרגולטורים ולמעבדות לדבר על אותו סוג אירוע, גם כאשר מערכותיהם ודרכי הבדיקה שלהן שונות.

בדיווח של Reuters ובסיקור של Axios נקשרה ההצעה לשיחות המתנהלות השבוע על סיכוני AI בין ארצות הברית לסין. OpenAI כותבת שערוצי תקשורת מאובטחים בין ממשלות ומפעילי תשתיות חיוניות יכולים לסייע בשיתוף חששות ביטחוניים ופגיעויות. אין במסמך הודעה על ערוץ כזה שכבר הוקם, ואין בו הסכמה סינית לתנאים שהציעה החברה.

מי שבונים מערכות AI, בודקים אותן או נדרשים לדווח לרשויות צריכים לעקוב כעת אחרי הנוסח שיתגבש, אם יתחיל תהליך תקינה רשמי. שאלות מרכזיות עדיין פתוחות: מי יקבע את ספי החומרה, כיצד יאומת דיווח שחברה הגישה על עצמה, ואיך יישמר מקום למפתחים קטנים ולמודלים פתוחים. OpenAI מבקשת לשתף גם אותם בתהליך, אך לא הציגה לוח זמנים מחייב או מנגנון אכיפה.