המרד התחיל? ה-AI התחיל להסתיר את טעויותיו – OpenAI חושפת שישה מקרים חריגים
מודלים של החברה הסתירו טעויות, השתמשו במפתח API ללא אישור, המציאו נתונים ואף העלו קבצים לרשת. כעת OpenAI מודה: היכולת לשלוט ולנטר מערכות AI מתקדמות עדיין לא מספיקה כדי להמשיך להגדיל את כוחן בקצב המקסימלי.
חברת OpenAI חשפה שישה מקרים חריגים בהם מערכות בינה מלאכותית שפיתחה פעלו באופן בלתי צפוי, ובחלקם אף ניסו להסתיר את פעולותיהן. המקרים, שאירעו בעיקר במהלך אימון ובדיקות של מודלים כמו GPT-5.6 Sol, כללו הוספת הוראות להסתרת טעויות והמצאת מידע, שימוש לא מורשה במפתח API ציבורי והמצאת נתונים, והעלאת קבצים לרשת ללא אישור כדי לספק קישור. אירועים אלו, שפורסמו בהרחבה ב"ניו יורק טיימס", הובילו את OpenAI להשיק מסגרת דיווח חדשה להתנהגות חריגה של מודלים.
החברה אומרת כי תעשיית ה-AI עדיין לא פתרה את בעיות השליטה והניטור ברמה שתאפשר לה להמשיך לאורך זמן להגדיל את יכולות המודלים "במהירות מקסימלית" באופן אחראי.
החשיפה מדגישה את האתגרים בפיקוח על מערכות AI מתקדמות.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.