מעבר מפיילוט לייצור: כך פלטפורמת Amphix פותרת את צווארי הבקבוק של תשתיות בינה מלאכותית

פרויקטים רבים בתחום הבינה המלאכותית נכשלים במעבר משלב הפיילוט לשלב הייצור משום שהם נבנים במעבדות שאינן משקפות את העומסים האמיתיים, צורכי האנרגיה או התשתיות הארגוניות. כדי לפתור את הבעיה הזו, חברת Ravel פיתחה את פלטפורמת Amphix, שנועדה לאפשר לארגונים ולמרכזי נתונים לבחון ולמתג עומסי עבודה אמיתיים על תשתית מוכנה לייצור, עוד בטרם ההשקעה הכספית המשמעותית. המערכת עוזרת לחברות לזהות מראש את דרישות ההספק, העלויות והתצורה הנכונה עבור יישומים שונים כמו מודלי שפה גדולים או כלי ג'נרטיב AI.

לאחר שלב ההוכחה והוולידציה, הפלטפורמה מסייעת לבנות תכנית עבודה סקלבילית המבוססת על גודל הקבצים, סוג המנועים והמודלים שבהם נעשה שימוש. חברת RT1, חברת מרכזי נתונים וענן מברזיל, בחרה לדלג על שלבי הניסוי המסורתיים ועברה ישירות לפיילוט משותף עם Ravel כדי לייעל את ניהול העומסים והעלויות שלה. יכולת זו מאפשרת לארגונים לצמצם את בזבוז ההון והאנרגיה באמצעות התאמת החומרה הנכונה לצרכים המדויקים, כגון שבבים מתקדמים ממגוון ספקים כמו NVIDIA, AMD ו-Intel.

רובד התוכנה של Ravel, הכולל את Orchestrate AI, משמש כמערכת חכמה המנהלת את כל מרכיבי התשתית ומאפשרת פעילות פדרטיבית בין אתרים שונים. במקום להשקיע סכומי עתק בהרחבת רשתות החשמל או גנרטורים, התוכנה מנתבת את עומסי העבודה בצורה חכמה למיקומים שבהם יש קיבולת אנרגטית זמינה. גישה זו פותרת את אתגרי מורטוריום החשמל ומאפשרת למרכזי נתונים ולארגונים להפיק את המקסימום מהציוד שרכשו בצורה אחראית, יעילה וחסכונית.