Anthropic חסמה שימושים בקלוד שיכלו לסייע למחקר ביולוגי מסוכן

Anthropic פרסמה ב־10 בספטמבר דוח איומים שמתאר חמישה מקרים שבהם חוקרים השתמשו בגרסאות קודמות של קלוד בעבודה ביולוגית דו־שימושית. לפי החברה, המשימות יכלו לסייע גם בפיתוח נשק ביולוגי, אך היא אינה טוענת שהחוקרים התכוונו לגרום נזק או שנוצר נשק בפועל. החשבונות שנקשרו למקרים נחסמו.

הדוח מכסה פעילות ש־Anthropic שיבשה בין דצמבר 2025 לאוגוסט 2026 בשבעה תחומי נזק. הפרק הביולוגי חריג משום שהמשתמשים היו מדענים פעילים והבקשות נראו בחלקן כמו מחקר רפואי רגיל. אותה שיטה יכולה לשמש לפיתוח חיסון או טיפול וגם להגדלת סיכון, ולכן כוונת המשתמש אינה ניתנת לקביעה מהנוסח של בקשה אחת.

חמישה מקרים עם רמות סיכון שונות

במקרה הראשון, לפי Anthropic, פלטפורמת תיווך עקפה חסימה אזורית ושירתה חוקרים שהכינו בקשת מענק למחקר שינוי תפקוד בנגיף צ׳יקונגוניה. בקשות שקלוד סירב להשיב עליהן נותבו למודלים אחרים עם הגנות מקלות יותר. החברה חסמה חשבונות, עבדה עם שותפים להסרת רשתות התיווך ושיתפה מידע עם מעבדות AI ורשויות.

במקרה שני, חוקר באזור שאינו נתמך השתמש בקלוד במשך שבועות לתכנון מחקר על התאמת שפעת עופות ליונקים. Anthropic מעריכה שהסיוע היה בעיקר עריכה, ניתוח נתונים ותכנון מחקר, ושמערכות הסינון הגבילו את הפעילות לדגמים חלשים יותר. בשני המקרים הנוספים שתוארו, חוקרים עבדו על אטלס פפטידים מארס ועל תכנון חישובי של רעלנים. אלה תחומים שיכולים להניב תרופות וגם חומרים מזיקים.

המקרה השלישי עסק בבקשת מענק למחקר על התחמקות חיסונית של נגיפי אורתופוקס. לפי הדוח, חשבון שהגיע דרך שירות תיווך השתמש ב־Opus 5 כדי לנסח בקשה מלאה בתוך כשעה. מערכות הסינון לא חסמו את העבודה מפני שהיא הוצגה כמחקר להחלשת הנגיף, אף שהידע עשוי לשמש גם בכיוון ההפוך.

מה הדוח מוכיח ומה לא

הראיות מגיעות מספקית המודל עצמה, שבחרה אילו מקרים לפרסם והשמיטה שמות, מדינות וטכניקות רגישות. אין בדוח אימות חיצוני לזהות החוקרים, להתקדמות של כל פרויקט או למטרת התוכנית שמימנה אותו. Associated Press ו־CBS דיווחו על הממצאים ועל חסימת החשבונות, אך לא הציגו ראיות עצמאיות לכוונה לפתח נשק.

Anthropic מציינת שאף אחד ממקרי השימוש לרעה, למעט קמפיין זיקוק נפרד, לא כלל את דגמי Fable או Mythos החדשים. החברה אומרת שהיא חיזקה בדגמים החדשים הגנות על שאלות ביולוגיות דו־שימושיות ושילבה את ממצאי החקירות במערכות האכיפה שלה. זו טענה על אמצעי הגנה, לא מדד ציבורי שמאפשר לקבוע כמה ניסיונות דומים לא זוהו.

המשמעות למעבדות ולספקי AI

עבור מוסדות מחקר, המקרה מחדד את הצורך בבדיקה אנושית כאשר מודל מסייע בתכנון ניסוי, ניתוח רצף או כתיבת מענק בתחום רגיש. כללי גישה אזוריים לבדם אינם מספיקים כאשר משתמש יכול לעבור דרך מפיץ, שרת מתווך או חשבון חדש. ספקי API יצטרכו לחבר אותות של זהות, תשלום ודפוסי בקשות בין חשבונות בלי לחסום מחקר לגיטימי רק בגלל מונחים מדעיים.

נותרו שאלות פתוחות: כמה פעילות מסוכנת עוברת למודלים פתוחים או לספקים אחרים אחרי חסימה, מה שיעור התרעות השווא, ומי מוסמך להכריע במקרה דו־שימושי. הדוח מספק תיעוד מפורט של החלטות אכיפה אצל חברה אחת. הוא אינו מספק תמונה מלאה של השוק או הוכחה לכך שהגנות קיימות מונעות את כל העבודה המסוכנת.