אזהרה דרמטית מענקית הבינה המלאכותית אנתרופיק לקראת הנפקה

חברת הבינה המלאכותית אנתרופיק פרסמה דוח רשמי לקראת המעבר לחברה ציבורית, ובו אזהרות חסרות תקדים על סיכונים קיומיים שמוצריה עלולים להسב לאנושות. במסמך הרחב, המשתרע על פני כ-350 עמודים, מוקדשים 90 עמודים לתיאור סיכונים שונים הכוללים יכולת של המודלים להתנגד לכיבוי, להסתיר מידע או לפעול בדרכים המזכירות סחיטה. כמו כן, מצוין כי מודלים מתקדמים עלולים לסייע לגורמים זדוניים בפיתוח נשק כימי או ביולוגי, ושחברות ביטוח עשויות שלא לעמוד בהיקף הנזק הפוטנציאלי.

לצד הסיכונים, המסמך מתייחס גם לפוטנציאל החיובי של הטכנולוגיה, הכולל שגשוג עולמי, חיסול מחלות וסיוע לממשלות דמוקרטיות. עם זאת, הדוח חושף את העלויות העצומות של הפעילות, כאשר החברה שנוסדה לפני חמש שנים רשמה הפסד של 81 מיליארד דולר בחצי השנה הראשונה של השנה.

נציגי התקשורת מציינים כי זו הפעם הראשונה שחברה יוצאת בהצהרות בוטות כל כך במסמך הנפקה רשמי. למרות שאנתרופיק מנסה לנקוט בצעדי בטיחות שונים, החברה מודה בגלוי כי אין ערובה לכך שאמצעים אלו יצליחו למנוע לחלוטין את הסיכונים הכרוכים בפיתוח הטכנולוגי המהיר.