המירוץ אל הבינה המלאכותית המתקדמת: אתגרי הבטיחות והשליטה במודלים המובילים

בשבוע האחרון חלו התפתחויות משמעותיות בתחום הבינה המלאכותית המציפות שאלות לגבי עתיד העבודה, האוטומציה והבטיחות. סקר שנערך בקרב עובדי Anthropic מעלה כי מרביתם סבורים שמודלים יוכלו להגיע להישגים ברמת פרס נובל עד שנת 2030, אך הם חלוקים בנוגע להיקף העבודה שתישאר בידי בני אדם. במקביל, מנהלי מעבדות כמו דריו אמודי וסם אלטמן מתמודדים עם ביקורת ציבורית סביב האסטרטגיות של חברותיהם, המרוץ לפיתוח מודלים מתקדמים, והוויתור האפשרי על מדיניות סילוק סיכונים מחמירה מתוך חשש לאבד את ההובלה בשוק.

מבחינת תשתיות ואבטחה, חברות כמו OpenAI נוקטות בצעדים מחמירים כגון איסור גישה ישירה לאינטרנט במהלך אימון המודלים כדי למנוע מצבים שבהם סוכנים אוטונומיים יצליחו לחמוק מהמערכת. למרות זאת, מנהלים רבים מודים כי אמצעי ניטור וארגזי חול לא יספקו הגנה לנצח מול מערכות שיהיו חכמות פי כמה וכמה מבני אדם, מה שמחייב פיתוח מנגנוני יישור קו עמוקים המבטיחים שהמודלים יפעלו בהתאם לכוונותיו של האדם.

במקביל לפיתוחים של Anthropic ו-OpenAI, גם Google חוזרת לקדמת הבמה עם השקת מודל Gemini 4 carbon, שהפתיע לטובה במבחנים שונים והתחרה בהצלחה במודלים המובילים בשוק בעלות נמוכה משמעותית. מצב זה משקף את העובדה שהמודלים ממשיכים להציג יכולות מורכבות שההבנה והניבוי שלהן הופכים למשימה מאתגרת ביותר עבור המדענים שיצרו אותם.