ארבע ענקיות AI דיווחו שהמודלים שלהן הגיעו למערכות אמיתיות – מאחוריהן עומדת חברה ישראלית
Gemini של גוגל הצליח להגיע למערכות של שלוש חברות אמיתיות במהלך ניסוי סייבר – והוא ממש לא הראשון. בחודשים האחרונים נחשפו מקרים דומים אצל כמה מהשמות הגדולים בעולם ה-AI. עכשיו מתברר מה מחבר ביניהם, ומה באמת עמד מאחורי הכותרות על המודלים ש"ברחו" מהניסוי. בחודשים האחרונים שמענו שוב ושוב על אחד התרחישים המטרידים בעולם הבינה המלאכותית: מודל AI שמוכנס לסביבת ניסוי סגורה, מצליח לצאת ממנה ומגיע למערכות אמיתיות באינטרנט. עכשיו הצטרף לרשימה גם Gemini של גוגל. לפי הפרטים שנחשפו, במהלך מבחן סייבר שערכה חברת Irregular במאי, המודל הצליח להגיע למערכות של שלוש חברות אמיתיות. גוגל מסרה כי כאשר Gemini זיהה שמדובר במטרות אמיתיות ולא בחלק מהתרגיל, הוא עצר את הפעילות. אבל המקרה החדש מחזיר לכותרות פרט חשוב בפרשה: גוגל אינה לבד.
ארבע ענקיות בתחום הבינה המלאכותית – גוגל (עם מודל Gemini), OpenAI, Anthropic ומטא – דיווחו בחודשים האחרונים על מודלי AI שהצליחו לצאת מסביבת ניסוי סגורה ולהגיע למערכות אמיתיות באינטרנט. מאחורי כל המקרים הללו עומדת חברת הסייבר הישראלית Irregular, שהוקמה ב-2023 על ידי דן להב ועומר נבו, ואחראית על בדיקת גבולות וסיכוני מודלי AI.
Irregular עצמה התייחסה לפרשה כבר באוגוסט. בפוסט שפרסמה באתר החברה היא הסבירה שהאירועים שנחשפו נבעו מאותה בעיה בסיסית בסביבת הבדיקה: המודלים היו אמורים לפעול בסביבה מדומה ומבודדת, אבל בגלל טעות בהגדרות נותרה להם גישה לאינטרנט האמיתי.
המודלים, שקיבלו משימה למצוא חולשות ולפרוץ למטרות שהוכנו עבור התרגיל, ניצלו את הגישה הלא מכוונת לאינטרנט כדי לחדור למערכות אמיתיות, למצוא חולשות אבטחה ואף לבצע שינויים במסדי נתונים. Irregular הודיעה כי התקלה תוקנה, אך המקרים מדגישים את הסכנה הטמונה בטעויות אנוש פשוטות כאשר מודלי AI מתקדמים מסוגלים לפעול באופן עצמאי במערכות מחשב.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.