Gimlet Labs גייסה 300 מיליון דולר לענן AI שמערב כמה סוגי שבבים

Gimlet Labs גייסה 300 מיליון דולר בסבב B בהובלת Andreessen Horowitz, לפי הודעת החברה שפורסמה ב־4 בספטמבר. Bloomberg ו־Reuters דיווחו שהסבב משקף לחברה שווי של 3 מיליארד דולר. בין המשקיעים החדשים נמצאים Arm ו־M12 של Microsoft, לצד משקיעים קיימים ובהם Sapphire Ventures, Menlo Ventures ו־645 Ventures.

החברה מפתחת תשתית להסקת AI שמחברת כמה סוגי מעבדים ומאיצים תחת שכבת תזמון אחת. הכסף מיועד להרחבת הענן הרב־שבבי שלה, להוספת קיבולת ולגיוס עובדים. Gimlet אומרת שמאז מרץ חתמה על חוזים בהיקף של מיליארדי דולרים ושיש לה צבר פוטנציאלי של ג׳יגה־ואטים. אלה נתוני חברה, והם אינם שקולים להכנסה שכבר הוכרה או לקיבולת שכבר פועלת.

מה פירוש ״ענן רב־שבבי״

הרצת מודל אינה פעולה אחידה. שלב קליטת הבקשה והקשר ארוך, שלב יצירת הטוקנים ועבודות עיבוד נוספות יכולים לדרוש יחס שונה בין זיכרון, רוחב פס וכוח חישוב. Gimlet מציעה לפצל את העבודה ולשלוח כל שלב לחומרה המתאימה לו, גם כאשר מדובר במאיצים מיצרנים שונים.

הרעיון עשוי להפחית תלות בסוג שבב יחיד ולנצל חומרה שכבר מותקנת אך אינה עמוסה. הוא גם מוסיף שכבת מורכבות. מעבר מידע בין מאיצים, תמיכה בגרסאות שונות של מודלים, תקלות ברשת ובקרת איכות יכולים למחוק חלק מהחיסכון. מדד מרשים במעבדה אינו מבטיח זמני תגובה יציבים בשירות שמטפל בתעבורה משתנה.

השתתפות Arm בסבב מעניינת משום שהחברה מנסה להרחיב את מקומה בתשתיות AI מעבר למעבדים כלליים. לפי Bloomberg, Gimlet ו־Arm משתפות פעולה. עם זאת, הודעת הגיוס אינה מפרטת איזה חלק מהקיבולת החדשה ירוץ על ארכיטקטורת Arm או אילו מאיצים יהיו זמינים בכל אזור.

מה לקוחות צריכים למדוד

צוות שרוכש שירות הסקה צריך לבדוק את המודל שלו על עומס אמיתי: זמן לטוקן ראשון, קצב יצירת טוקנים, עלות לבקשה, ביצועים בהקשר ארוך ושיעור שגיאות. במקרה של תזמון בין שבבים חשוב למדוד גם את עלות העברת הנתונים ואת עקביות התוצאות בין מסלולי חומרה שונים.

כדאי לבדוק מראש אם אפשר לקבע עומס לסוג מאיץ מסוים, כיצד השירות מתנהג כאשר שבב מסוים אינו זמין, ואיזה מידע מקבל הלקוח על המיקום והחומרה ששימשו להרצה. דרישות פרטיות או ריבונות נתונים עשויות להגביל את החופש להעביר עבודה בין אתרים וספקים.

השווי אינו מבחן הביצוע

הסבב נותן ל־Gimlet משאבים לרכוש קיבולת ולהתחרות בשוק שבו אספקת חשמל, חיבורי רשת ושבבים הם צווארי בקבוק. הוא אינו מוכיח שהמערכת מספקת יתרון על פני ענן שמבוסס על מאיץ אחד. הנתונים הבאים שכדאי לחפש הם אזורי שירות פעילים, התחייבויות SLA, מחיר לפי סוג עומס ותוצאות השוואה שניתנות לשחזור. עד אז, השווי של 3 מיליארד דולר מתאר את ציפיות המשקיעים; המבחן הטכני יישאר אצל הלקוחות.