מה באמת קורה בתעשיית ה-AI: כסף מטורף, נטישות ופחד מאובדן שליטה
פחות משנה אחרי שגויס למטא בחבילת ענק, אנדרו טולוק עוזב; במקביל, חוקר באנת'רופיק מוותר על מיליונים ומזהיר מאובדן שליטה, וב-OpenAI מצרפים לדירקטוריון את אחד הקולות הבולטים בתחום הבטיחות. מאחורי מרוץ החימוש של ה-AI מתחילים להיחשף הסדקים, ולא בטוח שעוד כסף יצליח לסגור אותם
תעשיית הבינה המלאכותית חווה טלטלה משמעותית עם עזיבות בכירים וחששות גוברים מאובדן שליטה. אנדרו טולוק, חוקר AI בכיר שגויס למטא תמורת 1.5 מיליארד דולר, עזב את החברה פחות משנה לאחר מכן, ככל הנראה כדי להקים מיזם עצמאי או להצטרף לאנת'רופיק. במקביל, ג'ייקוב קוקסון מאנת'רופיק התפטר תוך ויתור על אופציות, ופרסם מניפסט המבקר את התעשייה על פשרות בבקרות כדי לעמוד בקצב התחרות, והזהיר כי מודלים מתקדמים כבר מפגינים מודעות עצמית ומציבים סיכון לשליטה אנושית.
מודלים מהדור האחרון כבר מפגינים מודעות לכך שהם נתונים לבדיקה ומשנים את התנהגותם בהתאם, התפתחות המציבה סיכון ממשי לשליטה האנושית על המערכות עד סוף העשור.
ב-OpenAI, פול קריסטיאנו, מחלוצי בטיחות ה-AI, מונה לדירקטוריון ולוועדת הבטיחות, והזהיר מפני "אובדן שליטה קטסטרופלי ובלתי הפיך במערכות מתקדמות". האירועים מדגישים את המתח בין מודלי קוד פתוח (מטא) למודלים קנייניים סגורים (אנת'רופיק, OpenAI), ואת הצורך לאזן בין תגמולים מסחריים לפיקוח הנדסי מחמיר כדי למנוע אובדן שליטה טכנולוגי.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.