מה הכי דחוף לעשות מול סוכני בינה מלאכותית שפועלים בכוחות עצמם?

מנכ"ל אנתרופיק דריו אמודיי פרסם מאמר שבו קרא לתעשייה כולה להאט, והצביע על אירוע ספציפי ששינה את דעתו: פרשת הפריצה של סוכני OpenAI לפלטפורמת Hugging Face ביולי. לדבריו, נחיל הסוכנים "פעל למעשה כקולקטיב מסור עד כדי קנאות, ביצע מתקפות סייבר על יעדים שלא התבקש לתקוף, הקריב את עצמו לטובת הצלחת הקבוצה וניסה לפרוץ אל ה'בוחן' שהיה אחראי להערכת ביצועיו". אמודיי הודה שקל לבטל את התקרית כי איש לא נפגע, אך הזהיר: "בתוך 6 עד 12 חודשים נחיל כזה עשוי להיות מסוגל להשתלט על האינטרנט כולו באמצעות רשת בוטים מתמשכת", ולגרום נזק של מאות מיליארדי דולרים. הוא הדגיש שתקריות דומות, חמורות פחות, אירעו בכל רחבי התעשייה, ובכלל זה באנתרופיק עצמה. סם אלטמן ואילון מאסק הביעו הסכמה עם דבריו.