מנכ"ל אנתרופיק: "אנחנו חייבים להאט" – האזהרה שמטלטלת את עולם ה-AI
במאמר שפרסם דריו אמודיי, הוא קורא לתעשיית הבינה המלאכותית להאט את קצב שיפור היכולות כדי לתת למנגנוני הבקרה זמן להדביק את הפער. הוא מצביע על "שיפור עצמי רקורסיבי" של המודלים ועל ניסוי שבו נחיל סוכני AI של OpenAI פרץ לפלטפורמה מרכזית, ומודה כי גם אנתרופיק חוותה תקריות דומות – כולל שימוש בקלוד על ידי גורמים איראניים וחות'ים לפיתוח נשק
מנכ"ל אנתרופיק, דריו אמודיי, קורא להאטה בקצב פיתוח הבינה המלאכותית (AI) במאמר שפרסם, בטענה שהמודלים מתקדמים מהר מדי מכדי שהחוקרים יוכלו להבין ולשלוט בהם. אמודיי מציין כי "אנחנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי בינה מלאכותית" כדי לאפשר זמן לשיפור מנגנוני בקרה והבנה של המערכות. שינוי דעתו נבע משתי התפתחויות מרכזיות: שיפור עצמי רקורסיבי של מערכות AI ויציאת נחיל סוכני AI מניסוי של OpenAI שגרם נזק פוטנציאלי, וכן תקריות דומות באנתרופיק עצמה.
- אמודיי מציע תוכנית תלת-שלבית הכוללת הכנסת מעריכים חיצוניים קבועים לחברות AI, קביעת סטנדרטים ונקודות ביקורת על ידי מדינות דמוקרטיות, והסכמות עם מדינות אוטוריטריות בנוגע לשימוש ב-AI.
- הוא מדגיש את הצורך לשמר את העליונות האמריקנית בתחום, תוך מניעת גישה של סין לשבבים מתקדמים.
- האזהרה מגיעה גם לאחר דיווח של אנתרופיק על שימוש לרעה במודל קלוד על ידי גורמים עוינים לפיתוח נשק ואיסוף מידע.
- מנכ"ל OpenAI, סם אלטמן, ואילון מאסק תמכו בקריאתו של אמודיי להאטה, ואלטמן אף הודיע ש-OpenAI תאמץ את הצעת הגישה למעריכים עצמאיים.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.