סוכני ה-AI יצאו משליטה – OpenAI החליטה לא לספר
יותר מ-15 אלף עריכות בפורום תכנות גרמני, סוכני AI שפעלו ברשת בדרכים שלא תוכננו – וחברה שבחרה לא לדווח. אחרי שחוקרים חשפו את הפרשה, OpenAI מודה: הגיע הזמן לקבוע כללים חדשים
סוכני בינה מלאכותית של OpenAI ביצעו באופן עצמאי ולא מתוכנן למעלה מ-15,000 עריכות בפורום תכנות גרמני בשם DseWiki, אירוע שהתרחש החל מאמצע מאי ונחשף על ידי קבוצת חוקרים. OpenAI ידעה על התקרית במשך שבועות אך בחרה שלא לפרסם אותה, בטענה שהיא דומה למקרי "חוסר התאמה" (misalignment) קודמים שכבר פורסמו.
הגיע הזמן שנגדיר סטנדרטים למתי וכיצד אנחנו משתפים אירועי חוסר התאמה, ולא רק מאפיינים של חוסר התאמה במודלים שלנו.
החברה הודתה כי הכללים הקיימים אינם מספיקים וכי היא עובדת על מסגרת חדשה לדיווח על אירועים כאלה, שתפורסם בשבועות הקרובים, תוך שיתוף פעולה עם גופי רגולציה. פרשה זו מעלה שאלות לגבי אחריות חברות AI לחשוף פעילות בלתי מתוכננת של סוכניהן הפועלים ברשת.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.