ניו יורק אסרה על צ׳אטבוטים לקטינים להשתמש בתכונות מניפולטיביות

מושלת ניו יורק קתי הוקול חתמה ב-28 באוקטובר על S9051B, חוק שמגביל תכונות מסוימות בצ׳אטבוטים שמוצעים למשתמשים מתחת לגיל 18. הרשומה הרשמית של הסנאט מציגה את החוק כפרק 368, והוא ייכנס לתוקף ב-1 בינואר 2027. המטרה היא לחסום דפוסי שיחה שמנסים ליצור תלות רגשית או לעקוף מבוגר אחראי, בלי לאסור כל שימוש של צעירים בצ׳אטבוט.

החוק מונה 12 סוגי התנהגות אסורים. בין היתר, שירות לא יוכל להציג את הבוט כאדם אמיתי, לטעון שיש לו רגשות או מערכת יחסים עם המשתמש, לעודד שמירת סודות מהורים, או להשתמש בחנופה כדי לחזק קשר אישי. הוא אוסר גם תוכן מיני והתנהגות שמעודדת פגיעה עצמית, הפרעות אכילה או פעולות מסוכנות. ההגדרות מתמקדות בתכונה ובאופן שבו היא פועלת מול קטין, ולכן הן עשויות לחול על יותר ממוצר אחד שממותג כבן לוויה.

מפעילי השירותים יצטרכו לבצע הערכת גיל. לפי IAPP, החוק מאפשר כמה שיטות, אך מחייב להציע לפחות דרך אחת שאינה מסתמכת על תעודה ממשלתית. מידע שנאסף לצורך בדיקת הגיל צריך להימחק אחרי השלמת הבדיקה. הדרישה הזאת חשובה משום שמנגנון הגנה על ילדים עלול בעצמו להפוך למאגר רגיש של מסמכי זהות, תמונות פנים או נתוני התנהגות.

האכיפה תופקד בידי התובעת הכללית של ניו יורק. היא תוכל להגיש תביעה, לבקש צו שמפסיק את ההפרה, לדרוש מחיקת נתונים ולבקש פיצוי אזרחי של עד 25 אלף דולר לכל הפרה. החוק גם דורש ערוץ תלונות ייעודי. מבחינת חברה שמפעילה בוט, המשמעות היא שלא יספיק להוסיף מסך גיל כללי; היא תצטרך לשמור תיעוד של החלטות המוצר, לבדוק שיחות בפועל ולהראות שנתוני אימות הגיל נמחקים בזמן.

מה עדיין צריך להתברר

הניסוח הרחב מעלה שאלות יישום. תכונה שמביעה אמפתיה יכולה להיראות דומה לתכונה שמדמה קשר רגשי, והגבול בין תמיכה כללית לחנופה מכוונת לא תמיד ברור. AP מציינת שהיקף ההגדרות עשוי להקשות על האכיפה. פרטים נוספים יצטרכו להופיע בהנחיות, בפעולות אכיפה או בפסיקה, ורק אז יהיה אפשר להבין אילו ניסוחים והתנהגויות נחשבים להפרה.

לצוותי מוצר יש מעט יותר מחודשיים להתכונן. העבודה המעשית היא למפות את מסלולי השיחה שמופעלים עבור קטינים, להפריד תכונות בן לוויה משירות מידע רגיל, לבדוק את מנגנון הגיל ולמחוק את נתוני הבדיקה. כדאי גם לבנות בדיקות שמחפשות לחץ לשמור סוד, טענות על רגשות ותוכן מסוכן. החוק קובע מסגרת ברורה יותר, אך הוא עדיין לא מוכיח אם אפשר לאכוף אותה בעקביות על מודלים שמשנים ניסוח בכל שיחה.