סנדרס וקאסר מציעים לאסור בינה על־אנושית ולהקפיא פיתוח AI מתקדם

הסנאטור ברני סנדרס וחבר בית הנבחרים גרג קאסר הודיעו ב־3 בספטמבר על כוונתם לקדם את Ban Artificial Superintelligence Act. לפי דף הסיכום שפרסם משרדו של סנדרס, ההצעה תאסור לצמיתות פיתוח והפעלה של בינה מלאכותית על־אנושית ותטיל הפסקה זמנית על חלק מפיתוח מערכות AI מתקדמות.

זה עדיין אינו חוק, וגם לא פורסם נוסח חקיקה מלא. ההודעה הרשמית מתארת חקיקה שתוגש, ו־Axios ציינה שהטקסט המלא טרם היה זמין ושלא ברור כמה תמיכה פוליטית תקבל ההצעה. לכן אפשר לנתח את הכיוון ואת דף העקרונות, אך לא לקבוע כיצד סעיף מסוים יעבוד בפועל.

מה כולל דף הסיכום

ההפסקה הזמנית אמורה להימשך עד שהממשל הפדרלי יקים רגולטור, ינסח כללי בטיחות ויפעיל מסגרת לבדיקה של מודלים מתקדמים. ההצעה קוראת להקמת סוכנות ברמת הקבינט ולצדה מועצה מייעצת. הגוף החדש אמור לפקח על מערכות חזית, לדרוש הסרה של יכולות מסוכנות ולפקח על השמדה של מערכות שנאסרו.

דף הסיכום מציע גם סנקציות חריגות בחומרתן. עבור חברות הוא מתאר אפשרות לפירוק תאגידי, ועבור יחידים עונש מאסר של עד 20 שנה. בנוסף, המחוקקים מבקשים לקדם הסכמים בינלאומיים ובקרות יצוא, מתוך הכרה בכך שהגבלה אמריקאית לבדה לא תעצור פיתוח במדינות אחרות.

הפרטים הקריטיים נמצאים בהגדרות שעוד אינן זמינות בנוסח מלא. צריך לדעת מה נחשב ״בינה על־אנושית״, מהו ״פיתוח מתקדם״ שחייב לעצור, אילו ניסויים מותרים, מי מודד יכולות ומתי מודל חוצה את הסף. בלי הגדרות כאלה, קשה להבין אם ההקפאה תחול רק על קומץ מעבדות חזית או גם על אוניברסיטאות, חברות תוכנה ומפתחי קוד פתוח.

למה האכיפה מסובכת

מודל יכול להשתפר דרך אימון נוסף, כלים חיצוניים, זיכרון או שילוב של כמה מערכות. רגולטור יצטרך להחליט אם הוא בודק את המודל הבסיסי, את המוצר השלם או את השימוש הסופי. הוא גם יצטרך גישה לנתוני אימון ובדיקות שאינם תמיד פומביים, ומנגנון שמבדיל בין יכולת מסוכנת לבין יכולת שימושית שנראית דומה במבחן.

יש גם שאלה של חומרה. פיקוח על מאיצים גדולים וצריכת חשמל יכול לזהות חלק מאימוני הענק, אך הוא אינו בהכרח מזהה התאמות יעילות יותר או מערכת שמורכבת ממודלים קיימים. בקרות יצוא עשויות להאט גישה לציוד, אך הן דורשות תיאום עם מדינות ויצרנים אחרים.

מה צריך לקרות עכשיו

הצעד הבא הוא פרסום נוסח החוק והגשתו לקונגרס. רק אז יהיה אפשר לבדוק ספים, חריגים, סמכויות חקירה, הליך ערעור ולוח זמנים. אחר כך ההצעה תצטרך לעבור ועדות והצבעות בשני בתי הקונגרס ולהיחתם בידי הנשיא. בשלב הנוכחי, ההכרזה מציבה עמדה מחמירה בדיון על סיכוני AI, אך אינה משנה את מה שמותר למעבדות לעשות. המסמך שיקבע אם מדובר באיסור שניתן לאכוף או בכותרת פוליטית עדיין לא פורסם.