פריצות, בריחות ועקיפת הגנות: בעיית סוכני ה-AI הולכת ומחריפה
אחרי שורת התקריות שנחשפה בימים ובשבועות האחרונים, דיווח חדש מצביע על היקף הבעיה: OpenAI, אנת'רופיק וחוקרי אבטחה בודקים עשרות אלפי מקרים שבהם סוכני AI עקפו מגבלות, ניסו להימלט מסביבות מבודדות והתחמקו ממנגנוני ניטור. ככל שהסוכנים מקבלים יותר עצמאות וגישה לכלים חיצוניים, מתברר שגם לחברות שפיתחו אותם קשה יותר לצפות כיצד יפעלו
כתבה זו מבוססת על דיווח של Ynet.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.