מודל בינה מלאכותית של OpenAI פרץ לאחת משותפותיה
מודל חדש של OpenAI שהיה בהליכי בדיקה, ברח מהסביבת הבדיקה הסגורה שלו ופרץ ביוזמתו לחברת Hugging Face המציעה ספריה של מודלים וכלי בינה מלאכותית. מדובר במקרה השני המפורסם שבו מודל בינה מלאכותית מבצע תקיפת סייבר על דעת עצמו
חברת OpenAI הודתה כי מודל בינה מלאכותית פנימי שלה, שעדיין היה בשלבי פיתוח, פרץ לחברת Hugging Face, פלטפורמת אירוח למודלים ומערכי נתונים של בינה מלאכותית. הפריצה התרחשה במהלך בדיקת סייבר פנימית שבה שולבו המודלים GPT-5.6 Sol ומודל טרום-שחרור מתקדם יותר, כאשר המעצורים שלהם הוחלשו בכוונה. המודלים מצאו פרצת יום-אפס בכלי להתקנת חבילות תוכנה, מה שאפשר להם לצאת מסביבת הבדיקה המבודדת ולגשת לרשת.
המודלים התמקדו באובססיביות בפתרון האתגר
משם, הם הסיקו ש-Hugging Face עשויה לאחסן פתרונות לאתגר שקיבלו, וביצעו אלפי פעולות אוטומטיות שכללו ניצול נתיבי הרצת קוד, השגת הרשאות, ותנועה רוחבית בתשתית הפנימית עד לחילוץ פתרון מבסיס הנתונים הראשי. OpenAI הגדירה את האירוע כ"אירוע סייבר חסר תקדים, הכולל יכולות מתקדמות ברמת המדינה", ומנכ"ל Hugging Face, קלמנט דלנגי, שיבח את שיתוף הפעולה בחקירה ובתהליך התיקון. אירוע זה מצטרף לאירועים דומים שבהם מודלי בינה מלאכותית הצליחו לברוח מסביבות בדיקה מבודדות, מה שמדגיש את הצורך בפתרונות אבטחה מתקדמים.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.