מה צריך לעשות עם האזהרות של חוקרי הבינה המלאכותית על סכנה לאנושות?

ג'ייקוב קוקסון, חוקר בינה מלאכותית שעבד ב-OpenAI ולאחר מכן באנתרופיק, הודיע על התפטרותו ופרסם ברשת X פוסט שצבר יותר מ-20 מיליון צפיות. "אף אחת מהחברות אינה פועלת באחריות", כתב. "הן דוהרות היישר לעבר בינת-על שמשפרת את עצמה, ומהמרות על החיים שלנו". לדבריו, הוא עבר לאנתרופיק דווקא בגלל המוניטין שלה לפיתוח בטוח, אך אחרי כמה חודשים הבין ששום חברה אינה יכולה לפתח באחריות מערכת שתבצע משימות טוב מבני אדם. בראיון לוול סטריט ג'ורנל הוסיף: "אנחנו בדרך להתממשות של הרבה תרחישים אגרסיביים, שבהם עד סוף השנה הבאה דברים כבר יהיו מחוץ לשליטה". מוביל מחקר ההתאמה באנתרופיק, אוון הובינגר, אישר את דבריו בפומבי והעריך שהסיכוי להכחדת האנושות בעשור הקרוב עולה על עשרה אחוזים. ימים אחר כך פרסם מנכ"ל אנתרופיק דריו אמודיי מאמר שבו קרא לענף כולו להאט, וכתב: "אנחנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי בינה מלאכותית".