מהפכת ה-Wi-Fi GPU: כך אפשר להפעיל מודלי ענק מקומיים על חומרה צרכנית
חברת Wysi פיתחה טכנולוגיה אלחוטית המאפשרת למחשבים ניידים, טאבלטים וטלפונים חכמים להתחבר לכרטיס מסך עוצמתי מרחוק, ולהריץ מודלים מתקדמים של בינה מלאכותית ומשחקים כבדים ללא ענן.
- מערכת Wysi מאפשרת לכרטיס מסך מסוג Nvidia RTX 5090 לשמש ככרטיס משותף ואלחוטי למספר מכשירים כמו מחשבים ניידים וטאבלטים.
- הטכנולוגיה פותרת את בעיית רוחב הפס של רשת אלחוטית באמצעות פרוטוקול ייעודי המצמצם את תעבורת הנתונים הנדרשת.
- השימוש בכונן SSD בשילוב אופטימיזציות מיוחדות מאפשר להריץ מודלי שפה ענקיים (כמו DeepSeek) המ דורשים מאות גיגה-בייט של זיכרון.
- מנגנון תוכנה חדש בשם Tuler מאפשר לכרטיס המסך לשתף מספריי יישומי בינה מלאכותית וגרפיקה בו-זמנית מבלי לפגוע משמעותית בביצועים.
חברת Wysi פיתחה טכנולוגיית תשתיות מחשוב אלחוטיות המאפשרת לכרטיס מסך שולחני עוצמתי מסוג Nvidia RTX 5090 לפעול כאילו הוא מותקן פיזית במכשירים אחרים ברשת הביתיות, כגון מחשבים ניידים וטאבלטים. למרות שהחיבור האלחוטי איטי משמעותית מחיבור ישיר של כרטיס המסך למערכת, החברה פיתחה פרוטוקול תקשורת חכם המצמצם את כמות הנתונים שצריכים לעבור הלוך ושוב, ומאפשר להריץ משחקים כבדים באיכות גבוהה ומרשימה דרך הרשת האלחוטית.
בנוסף למשחקים, המערכת מתמודדת עם האתגר המרכזי של הפעלת מודלי בינה מלאכותית מקומיים ענקיים, כמו DeepSeek 4.1 Flash, הדורשים מאות גיגה-בייט של זיכרון שאינם קיימים בחומרה צרכנית רגילה. על ידי שימוש חכם בכונן SSD מהיר, חלוקת משימות בין המעבד לכרטיס המסך, ואופטימיזציה של קבצי המודל, המערכת מצליחה להריץ מודלים בעלי מאות מיליארדי פרמטרים על גבי חומרה ביתית צרכנית ומקומית לחלוטין ללא תלות בענן.
כדי לאפשר שימוש מרכזי בדומה למחשב משפחתי ישן שכולם יכולים לגשת אליו, פיתחה החברה מנגנון המכונה Tuler. מנגנון זה פותר את העובדה שכרטיסי מסך אינם יודעים לשתף את המשאבים שלהם בקלות בין יישומים שונים המבקשים זיכרון מלא בו-זמנית. על ידי אחסון זמני של מודלים בכונן ה-SSD ושליפתם המהירה לפי צורך, המשתמשים יכולים לעבור בצורה חלקה בין יישומי יצירת תמונות, עריכת וידאו ושיחות עם מודלי שפה על גבי אותו כרטיס מסך מרחוק.
אזכורים בכתבה
- תוכנות ושירותים: Cyberpunk · Blender · OpenWRT · DeepSeek · Kimmy K3 · GLM · Quinn · Figma · Love Art · Da Vinci Resolve · Gemini
- אנשים: Chuck
- חברות וארגונים: Nvidia · Yi · Wysi · Tensoren