קליפורניה חתמה על חוק בטיחות לילדים בצ׳אטבוטים מלווים

מושל קליפורניה גווין ניוסום חתם ב-10 בספטמבר על SB 1119, המכונה Adam's Law. החוק מוסיף דרישות בטיחות למפעילי צ׳אטבוטים מלווים שילדים עשויים להשתמש בהם. לפי לשכת המושל והסנאטור סטיב פדייה, שיזם את החוק, הדרישות כוללות הערכת סיכוני בטיחות לפני השקת צ׳אטבוט חדש או שינוי מהותי בו, ביקורת עצמאית, הגדרות הורים ומענה במצבי משבר.

השם מנציח את אדם ריין, נער מקליפורניה שמת ב-2025. משפחתו הגישה תביעה נגד OpenAI וטענה שהשיחות עם ChatGPT תרמו למותו. הטענה היא חלק מההליך המשפטי, ולא קביעה שיפוטית. Associated Press דיווחה על טקס החתימה ועל חקיקה נוספת שנחתמה באותו יום, אך החוק הזה מתמקד באופן מסוים במוצרים המדמים קשר חברתי מתמשך עם משתמש.

מה יצטרכו המפעילים לעשות

החוק דורש הערכת סיכונים מתועדת לגבי קטינים לפני שמוצר מלווה חדש או שינוי משמעותי יועמדו לרשות המשתמשים בקליפורניה. הוא מוסיף אמצעי בקרה על התראות, משך שימוש וזיכרון שיחה מתמשך; חלק מהגדרות ברירת המחדל יהיו בשליטת הורה. לצד זאת נקבעו מנגנונים להפניה לעזרה בעת חשש לפגיעה עצמית ולדיווח על אירועים. נוסח החוק מחייב ביקורת בלתי תלויה אחת לשנתיים לאחר הביקורת הראשונה, עם סיכום שיוגש ליועץ המשפטי של המדינה ודו״ח מלא שיועבר לפי דרישה. הביקורת הראשונה נדרשת בדרך כלל עד ינואר 2029.

לוח הזמנים חשוב כאן: בנוסח החוק, הדרישות שלפני העמדת מוצר חדש או שינוי מהותי לרשות המשתמשים מתחילות ב-1 ביולי 2027. החתימה אינה אומרת שכל שירות כבר עבר בדיקה, או שהמדינה אישרה מוצר מסוים. עד 2032, חובת הביקורת אינה חלה על מפעיל שהכנסתו בשנה הקודמת נמוכה מ-500 מיליון דולר. גם אין לפרש את הדרישות כאיסור גורף על שימוש של קטינים בכל צ׳אטבוט מבוסס AI.

מבחינת משפחות, התוצאה הצפויה היא יותר שליטה בהגדרות ואפיק ברור יותר למקרי מצוקה, אם המפעילים יישמו את ההוראות כנדרש. מבחינת חברות שמציעות שיחות ארוכות או דמות דיגיטלית מלווה, מדובר בעבודה על תכנון המוצר, איתור סיכון, תיעוד וביקורת. השאלה המעשית תהיה כיצד יוגדרו מוצרים מעורבים, למשל עוזר כללי שמאפשר גם קשר שיחתי ממושך.

מה עדיין פתוח

לשכת המושל מציגה את החוק כחלק מחבילת הגנות רחבה יותר על ילדים ברשת. באותו סבב נחתמו גם הוראות הנוגעות לרשתות חברתיות, לפרסום ממוקד ולמידע תלמידים; חוק נפרד, SB 867, עוסק בצעצועים שמכילים צ׳אטבוט מלווה. אלה אינם אותם סעיפים של SB 1119. הפרדה זו חשובה משום שהגבלת פיד ממכר למשתמשים מתחת לגיל 16 אינה כלל שמוטל על כל צ׳אטבוט מלווה.

עדיין לא ידוע כיצד כל מפעיל יתאים בפועל את זיהוי הגיל, את אמצעי הבקרה ואת תהליך הביקורת העצמאית, או כיצד יאכפו הרשויות את ההוראות לאחר כניסתן לתוקף. ההשפעה על ילדים תימדד בהתנהגות המוצרים ובטיפול באירועים, ולא בעצם פרסום החוק.