קליפורניה מקימה מרשם למבקרי AI ומסגרת אימות עצמאית

מושל קליפורניה גווין ניוסם חתם ב־9 בספטמבר על שני חוקים שמסדירים את מי שמבקר מערכות בינה מלאכותית. SB 813 מטיל על סוכנות התפעול הממשלתית של המדינה לבנות מסגרת לגופי אימות עצמאיים עד 1 בינואר 2028. AB 1405 מחייב את אותה סוכנות להקים עד 1 בינואר 2029 מרשם ציבורי למבקרי AI.

החוקים עוסקים בביקורת שנועדה לבדוק בקרות, תהליכים או מערכות הנדרשים לציות לדין של קליפורניה. הם אינם קובעים שכל מודל או מערכת AI חייבים לעבור ביקורת. ההבחנה הזאת חשובה: המדינה בונה כללים למי שמציע שירות ביקורת מכוסה, אך לא יוצרת כאן חובת ביקורת כללית לכל מפתח או מפעיל.

שתי שכבות פיקוח שונות

לפי SB 813, הסוכנות תפרסם דרישות להגשת בקשה וקריטריונים לקבלת מעמד של גוף אימות עצמאי, או IVO. בין השאר, היא תבחן מומחיות טכנית, שיטות ומדדים להערכת סיכון, עצמאות מהגוף הנבדק, טיפול בניגודי עניינים ואבטחת סייבר. קבוצות עבודה שיכללו מהנדסים מחברות מתחרות ומומחי בטיחות AI יסייעו לעצב את הקריטריונים.

גוף שיקבל את המעמד יצטרך לדווח מדי שנה על השיטות שלו, על שינויים במדיניות הממשל ועל מקורות מימון שנוגעים לעצמאותו. אפשר יהיה להשחיר מידע לצורך הגנה על סודות מסחריים, אבטחת סייבר, בטיחות הציבור או ביטחון לאומי, אך יהיה צורך להסביר את אופי ההשחרה ולשמור את המידע המלא במשך חמש שנים.

AB 1405 חל על שכבה רחבה יותר של מבקרי AI. החל מ־2029 לא יהיה ניתן להציע, למכור או לבצע ביקורת מכוסה בקליפורניה בלי רישום. המבקר יצטרך לפרסם מספר רישום בחומרי פרסום, למסור לסוכנות את התחומים והתקנים שלפיהם הוא עובד, ולספק ללקוח דוח שמפרט את היקף הביקורת, התוצאות, בסיס הראיות, ליקויים, מגבלות ופערי מידע.

מה משתנה עבור חברות ומבקרים

עבור חברות ביקורת, ייעוץ וראיית חשבון, המשמעות המעשית היא צורך לבנות תיעוד מקצועי ועצמאות שניתנים לבדיקה. מבקר לא יוכל לבדוק עבודה שהוא עצמו תכנן או הפעיל באופן מהותי, ועובד שמבצע ביקורת לא יוכל לנהל במקביל משא ומתן לעבודה אצל הלקוח. מסמכי הביקורת ובסיס הממצאים יישמרו לפחות עשר שנים. החוק כולל גם הגנה על עובדים שמדווחים על הפרות.

עבור מפתחי AI וארגונים שמפעילים מערכות, השינוי יופיע תחילה ברכש ובהתקשרויות. אם נדרשת ביקורת לצורך עמידה בחוק מדינתי אחר, יהיה צורך לבחור מבקר רשום ולהיערך למסירת ראיות על בקרות, נתונים, גישה ומגבלות. ביקורת שבוצעה לפי תקן מוכר יכולה להיות רלוונטית בתביעה על נזק, אך היא אינה מכריעה את התוצאה ואינה מעניקה חסינות.

מה עדיין חסר

המרשם והמסלול ל־IVO עדיין אינם פעילים. הסוכנות צריכה לקבוע תקנות, אגרות, אופן טיפול בתלונות ורשימת תקנים מקובלים. החוק מאפשר הסרה מהמרשם והפניה לתובע הכללי או לרשות אכיפה אחרת, אבל היישום תלוי בתקציב וביכולת לבחון מבקרים מתחומים טכניים שונים. גם לא ברור כמה ביקורות מכוסות יוזמנו בפועל, מפני ששני החוקים אינם יוצרים בעצמם חובה כללית לעבור ביקורת.