DeepSeek מציגה ארכיטקטורת סופר-אוונט קוד פתוח לניהול משימות מרובות

ה-Harness team של DeepSeek שחררה אב-טיפוס בקוד פתוח המציג מערכת ניהול מבוססת ראוטר ועובדים, שמטרתה לפתור את עומס הניהול וההתראות הנובע משימוש בסוכני בינה מלאכותית מרובים.

  • DeepSeek
  • AI Agents
  • Open Source
  • Automation
  • Software Architecture
  • חלוקת תפקידים בין ראוטר מרכזי שמנהל את הפניות לבין עובדים נפרדים שמבצעים את המשימות בסביבות עבודה מבודדות.
  • שימוש במנגנוני טריגרים המבוססים על אירועים כדי לאתחל משימות באופן אוטומטי מבלי להצטרך לפרומפט ידני חדש כל פעם.
  • ארכיטקטורה אסינכרונית המאפשרת להריץ פקודות ארוכות ברקע מבלי לנעול את המשתמש או את המערכת בפני הודעות חדשות.
  • שמירת היסטוריית מפגשים בבסיס נתונים נפרד כדי להבטיח עמידות בפני קריסות של סביבת הריצה או כיבוי המחשב.
  • תוצאות בנצ'מרק המראות כי ארכיטקטורת הסופר-אייג'נט מקצרת את זמן השלמת המשימות ומצמצמת את זמני השיהוי במקרי קיצון בהשוואה לסוכנים חד-מפגשיים.

צוות ה-Harness של DeepSeek פיתח מערכת סופר-אייג'נט בקוד פתוח שמטרתה להתמודד עם הבעיה שבה ניהול מספר רב של סוכני בינה מלאכותית דורש תשומת לב רבה מדי מהמשתמש. במקום לרכז את כל העבודה בשיחה אחת, המערכת מחלקת את המשימות באמצעות ראוטר שאחראי לנתב את הבקשות אל עובדים ייעודיים. כל עובד פועל עם הקשר משלו, וכך נמנע ערבוב של משימות שונות כמו בדיקת באגים במערכת במקביל לפיתוח פיצ'ר חדש. המערכת מנוהלת באמצעות אירועים וטריגרים אוטומטיים המגיבים להודעות צ'אט או לבדיקות שנכשלו, וכוללת מצב תצפית שבו ניתן לבחון את פעילות הסוכן טרם אישור הביצוע המלא.

כדי למנוע מצבים שבהם המשתמש ננעל מחוץ למערכת בזמן הרצת פקודות ארוכות, המערכת משתמשת בטריקים אסינכרוניים שמעבירים תהליכים ארוכים לרקע ומאפשרים למשתמש להכניס הוראות חדשות תוך כדי תנועה. בנוסף, הארכיטקטורה מפרידה בין תוכנת ניהול הלולאה, התיעוד ההיסטורי שנשמר בבסיס נתונים לשימור מידע במקרה של קריסה, לבין סביבת הביצוע המקומית. פיצ'ר נוסף הוא מנגנון 'Chain of recall', המאפשר לסוכן לשלוף סיכומים ברמה גבוהה וקישורים לקוד או ללוגים במקום להעמיס את כל היסטוריית הפרויקט על חלון ההקשר של המודל בכל פעם מחדש.

בבנצ'מרק שנערך, שכלל הדמיה של מאות הודעות ועשרות משימות, ארכיטקטורת הסופר-אייג'נט הציגה זמן השלמתי חציוני של 12.4 דקות לעומת מעל 20 דקות בסוכנים חד-מפגשיים, וצמצמה משמעותית את זמני העיכוב במקרי קיצון (P95). יחד עם זאת, השימוש במערכת דורש צריכת טוקנים מנוהלים גבוהה יותר. אב-הטיפוס ששוחרר בקוד פתוח כולל גם הגדרות אבטחה והרשאות קפדניות דוגמת 'Mandates', ומתוכנן לצמצם את עייפות ההתראות על ידי שליחת הודעות רק כאשר נדרשת החלטה אנושית או כאשר מתרחשת תקלה קריטית.

אזכורים בכתבה

  • תוכנות ושירותים: DeepSeek Chorus · DSH super agent prototype · Gmail · Slack · ChatGPT
  • אירועים: Harness episode · Attention Span
  • אנשים: קסניה
  • חברות וארגונים: DeepSeek · Turing Post · OpenAI · Anthropic · Axiom
thebuzz · חדשות ורעיונות על בינה מלאכותית