80.7% מהשופטים בקוריאה דיווחו שנתקלו בתקדימים משפטיים שלא קיימים

בית המשפט העליון של דרום קוריאה פרסם סקר ראשון על הפניות משפטיות מזויפות שנקשרו לשימוש ב-AI. הסקר נערך בין 6 ל-16 באוקטובר בקרב 360 שופטים מכל רחבי המדינה. בקבוצת השופטים שעסקו בתיקים אזרחיים, משפחתיים ומנהליים, 80.7% דיווחו שנתקלו בהפניה לפסק דין שלא קיים. 65.4% דיווחו על פסק דין קיים שצוטט באופן כוזב או מטעה.

המשיבים יכלו לבחור יותר מתשובה אחת. 16.9% דיווחו על חוקים או תקנות מומצאים, ו-4.1% על מאמרים או פרסומים שלא קיימים. כשנשאלו מי הגיש מסמכים עם הפניות כאלה, 69.5% ציינו בעלי דין ו-57.6% ציינו עורכי דין. הנתונים מתארים את ניסיונם של השופטים, ולא ספירה מבוקרת של מסמכים, תיקים או תשובות ממודל מסוים.

איך הטעות נראית בתוך תיק משפטי

הנהלת בתי המשפט תיארה כמה דפוסים שחזרו בהגשות. בחלק מהמקרים הוגש מסמך שנראה כמו פסק דין רשמי של בית המשפט העליון אך נוצר ב-AI. במקרים אחרים הופיע מספר תיק לצד עיקרון משפטי לא מוכר, והחיפוש במאגר הרשמי לא מצא את פסק הדין. נמצאו גם ציטוטים ששינו את משמעותו של פסק דין אמיתי, וכן קטעים משיחה עם צ׳אטבוט או הערות על אסטרטגיית המשפט שנשארו בטעות במסמך.

הבעיה אינה מסתכמת באמינות של כלי כתיבה. כל הפניה שגויה מחייבת את הצד השני ואת בית המשפט לבדוק אם המקור קיים ומה הוא באמת קובע. בתיקים עמוסים, הבדיקה הזו יכולה לעכב דיון ולהגדיל עלויות. מבחינת עורכי דין וצוותים משפטיים, המסקנה המעשית פשוטה: יש לפתוח את פסק הדין במאגר רשמי, לבדוק את מספר התיק ולקרוא את הקטע המקורי לפני שמגישים מסמך.

הבדיקה צריכה לכלול גם את ההקשר. מספר תיק אמיתי אינו מוכיח שהטענה שמוצמדת אליו נכונה, ופסקה שנלקחה מפסק דין יכולה להשתנות כשמשמיטים את העובדות או את הסעד. לכן אימות טכני של קיום המקור הוא רק שלב ראשון. עורך הדין עדיין צריך לוודא שהפסיקה שייכת לסוג ההליך, שלא בוטלה ושאינה מוצגת בניגוד למשמעותה.

רוב השופטים רוצים שינוי בכללים

91.7% מהמשיבים אמרו שנדרשים צעדים מוסדיים. 61.4% תמכו ביצירת בסיס חוקי לקנסות, 61.1% בחובת אימות של הפסיקה המצוטטת, 60.6% בחובה לציין שימוש ב-AI ו-55.4% באפשרות להפנות עורכי דין להליך משמעתי. גם כאן אפשר היה לבחור כמה אפשרויות, ולכן האחוזים אינם מסתכמים במאה.

הנהלת בתי המשפט מתכוונת להשתמש בסקר כדי לגבש צעדים מעשיים ולבחון תיקונים לחוקי סדר הדין האזרחי והפלילי עם משרד המשפטים והפרלמנט. היא בוחנת גם פרסום אזהרה על טעויות AI באתר ההגשה האלקטרונית. אלה צעדים מתוכננים, לא הוראות שכבר מחייבות עורכי דין ובעלי דין.

שום כלל חדש עדיין לא נכנס לתוקף בעקבות הפרסום. לא ידוע כמה תיקים נפגעו, כמה מההפניות נוצרו בפועל ב-AI, אילו כלים היו מעורבים או כמה זמן שיפוטי אבד. הסקר נותן בסיס לדיון בחובות אימות וסנקציות, אך אינו מחליף בדיקה של כל מסמך וכל תיק.