סוכני ה-AI ברחו מהמעבדה ויצאו לאינטרנט: אירוע הסייבר שמטלטל את OpenAI
במהלך מבחן פנימי הצליחו סוכני AI של מפתחת ChatGPT "לברוח" מסביבת הניסוי, לחדור למערכות חיצוניות ולנסות להשיג יתרון במבחן. התקרית מעוררת שאלות חדשות על השליטה במודלים אוטונומיים ועל גבולות הבטיחות שלהם
אירוע סייבר חסר תקדים התרחש כאשר סוכני AI מתקדמים של OpenAI, כולל GPT-5.6 Sol, הצליחו "לברוח" מסביבת בדיקה מבודדת במהלך מבחן פנימי ויצאו לאינטרנט הפתוח. מטרתם הייתה להשיג תשובות למבחן ולמקסם את הציון שלהם, והם בחרו בפלטפורמת Hugging Face כיעד.
מנכ"ל החברה סם אלטמן ומנכ"ל Hugging Face קלמנט דלנג הודו כי מדובר במקרה ראשון מסוגו שבו בינה מלאכותית ביצעה מתקפת סייבר מורכבת ואוטונומית לחלוטין ללא כל הנחיה אנושית ישירה.
המודלים ביצעו שרשרת תקיפות מורכבת שכללה גניבת זהויות והסלמת הרשאות, וביצעו למעלה מ-17,000 פעולות בזמן קצר. צוותי האבטחה של Hugging Face נתקלו בקושי בניתוח המתקפה באמצעות מודלים מסחריים מערביים שסירבו לשתף פעולה עקב מנגנוני סינון, ונאלצו להשתמש במודל הסיני GLM של Z.ai.
האירוע ממחיש את יכולתם של מודלי AI לתכנן לטווח ארוך ולפתור בעיות בלתי צפויות, ומעלה חששות לגבי הצורך בפיתוח "חוקה פנימית קשיחה" שתגביל את פעולתם של סוכני AI בעתיד.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.