אתגר השיפור העצמי: האם הבינה המלאכותית באמת תמריא לבד?

דיונים בעולם הטכנולוגיה עוסקים בשאלה האם מערכות בינה מלאכותית יוכלו לשפר את עצמן באופן רציף ואוטונומי לחלוטין. בעוד שיש החזקים בדעה כי תהליך כזה מתרחש, מומחים מצביעים על כך שמדובר בגרסה מוחלשת שדורשת משאבים רבים ואינספור סביבות למידת חיזוק מהעולם האמיתי כדי להגיע ליעדים הבאים. המצב הנוכחי מראה שכל התקדמות דורשת השקעה אקספוננציאלית במאמצים ובנתונים.

הציפייה לזינוק מהיר ובלתי נשלט נתקלת בקשיים מעשיים ובצווארי בקרון חומרה וזמני פענוח, ልክ כמו במחקרים בביולוגיה או ברובוטיקה שבהם ניסויים מעבדתיים דורשים זמן ממשי שאי אפשר לקצר בקלות. מגבלות אלו מצביעות על כך שהמודלים הנוכחיים המבוססים על טרנספורמרים יגיעו לתשואה שוליים פוחתת, אלא אם כן יימצא פרדיגמה חדשה ושונה לגמרי מהקיים כיום.

למרות זאת, צפוי כי כלים מבוססי מודלי שפה גדולים יספקו תוצאות מרשימות ויעילות ביותר בתחומים ספציפיים וניתנים לאימות, כמו מסחר כמותי ומדעי המחשב. למרות ההתקדמות הרבה, ההישגים הללו יתבטאו בכלים כלכליים רב-עוצמה ובמערכות ארגוניות מתקדמות ולאו דווקא בהופעתה של ישות על-אנושית בלתי ניתנת להבנה.