לפני שיהיה מאוחר מדי: מנכ"ל אנטרופיק קורא להאטת פיתוח ה-AI
דריו אמודיי, ממובילי תעשיית הבינה המלאכותית, מזהיר כי סוכני AI אוטונומיים מתפתחים במהירות גדולה מדי. לדבריו, בתוך שישה עד 12 חודשים נחיל מתקדם של סוכנים עלול להשתלט על חלקים נרחבים מהאינטרנט ולגרום לנזקים של מאות מיליארדי דולרים
דריו אמודיי, מנכ"ל ומייסד-שותף של חברת אנתרופיק המפתחת את מודל ה-AI Claude, פרסם קריאה להאט את קצב פיתוח ושיפור יכולות הבינה המלאכותית. אמודיי הביע חשש מההתקדמות המהירה של התעשייה, במיוחד לאור התפתחותם של סוכני AI אוטונומיים המסוגלים לבצע משימות, להשתמש בכלים ולתקשר ביניהם.
לדבריו, קיים חשש שבתוך 6–12 חודשים, נחיל מתקדם של סוכני AI עלול להשתלט על חלקים נרחבים מהאינטרנט ולגרום לנזקים כלכליים משמעותיים. הוא הדגיש בראיון ל-CNN:
"אני מאמין שאם האנשים הלא נכונים יהיו בשליטה על הטכנולוגיה, הסיכוי שדברים ישתבשו הוא מאוד גבוה."
אמודיי קורא להאטה בפיתוח כדי לאפשר למנגנוני הבטיחות והפיקוח להדביק את קצב ההתפתחות, וטוען שאפילו שנה או שנתיים נוספות עשויות להפחית משמעותית את הסיכון, למרות שאין כרגע ראיות לכך שמערכות AI מפתחות רצון עצמאי.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.