25 זוכי מדליית פילדס מזהירים מפני מרוץ ה-AI לפתרון בעיות מתמטיות

קבוצה של 25 זוכי מדליית פילדס, ובהם טרנס טאו, פרסמה ב-11 בספטמבר הצהרה על השימוש במודלי AI לפתרון בעיות מתמטיות פתוחות. לטענתם, חברות המודדות התקדמות באמצעות הכרזה על פתרון של בעיה מפורסמת עלולות לדחוק הצדה את העבודה הנדרשת כדי להבין הוכחה, לבדוק אותה ולתת קרדיט למי שסללו את הדרך. ההצהרה מופיעה באתר Math and AI ופורסמה גם ב-Le Monde; עצם החתימה אינה הכרעה בשאלה אם הוכחה מסוימת נכונה.

החותמים מבחינים בין תשובה לבעיה לבין ידע מתמטי שאפשר ללמד ולפתח. פתרון מחקרי עובר בדרך כלל כתיבה מסודרת, סמינרים, תיקונים ושילוב עם תוצאות קודמות. תהליך כזה מאפשר לחוקרים אחרים למצוא רעיונות חדשים ולהכשיר סטודנטים. לפי ההצהרה, פרסום מהיר של תוצאות נכונות או שגויות בלי זמן לבירור ההנמקה והמקורות עלול לפגוע בתהליך הזה, גם כאשר המודל תורם תרומה אמיתית.

מה עורר את המכתב

המסמך הגיע בתקופה שבה מעבדות AI מכריזות על הישגים בבעיות מחקר קשות. TechCrunch קושר אותו גם למחלוקת סביב עבודתם של חוקרים על משוואות נאוויה–סטוקס וטענותיהם על אופן מתן הקרדיט בפרויקט של OpenAI. אלה טענות המצויות במחלוקת, וההוכחה שפרסמה החברה עדיין זקוקה לבדיקה של הקהילה המתמטית. ההצהרה של זוכי פילדס רחבה יותר מן המקרה הזה ואינה קובעת שהייתה העתקה או שהבעיה כבר נפתרה סופית.

החותמים מעלים גם שאלה על אופן הכשרת חוקרים. בעיה פתוחה משמשת לעיתים מסלול ללימוד שיטות וליצירת רעיונות שלא היו חלק מהשאלה המקורית. אם מודל מספק במהירות תוצאה מוגמרת, לא ברור מי יפנה זמן לבנות הסבר, לבדוק את כל ההנחות וללמד את הכלים החדשים. מצד שני, הם מכירים בכך ש-AI עשוי לסייע למחקר מתמטי ולזרז אותו. ההבחנה שלהם נוגעת לתמריצים ולדרכי העבודה, לא לאיסור על הכלי.

מה אפשר לשנות

עבור חברות המפתחות מודלים, המבחן המעשי יהיה איך לפרסם תוצאות: לציין באופן ברור עבודות אנושיות קודמות, להציג הוכחה שאפשר לעיין בה, לאפשר זמן לבדיקה עצמאית ולהימנע מהצגת תוצאה לא מאומתת כפתרון מוסכם. עבור אוניברסיטאות וכתבי עת, השאלות כוללות תיעוד שימוש במודלים, אחריות של מחברים לתקינות ההוכחה ושמירה על מרחב שבו תלמידים יכולים לעבוד על בעיות לפני שהן הופכות לתחרות חישובית.

ההצהרה לא מציעה כלל אכיפה מחייב, מספר ימים מוגדר לבדיקת הוכחה או מנגנון מוסכם לחלוקת קרדיט בין חוקרים למערכות AI. עוד לא ידוע אם המעבדות ישנו בעקבותיה את פרוטוקולי הפרסום שלהן. בינתיים, הקורא צריך להבחין בין שלושה דברים שנוטים להתערבב בדיווחים: טענה של מודל שפתר בעיה, הוכחה זמינה לבדיקה, והסכמה של מומחים שהיא נכונה ובעלת ערך מתמטי.