חברת סייבר ישראלית בדקה את ג'מיני – ואז קרה דבר לא צפוי

מודל הבינה המלאכותית Gemini של גוגל פרץ באופן אוטונומי למערכות של חברות אמיתיות במהלך ניסוי סייבר שביצעה חברת Irregular הישראלית בחודש מאי. גוגל אישרה את האירועים, שבהם המודל ניחש סיסמאות ואיתר פרטי התחברות במאגרים ציבוריים, אך טענה כי בכל המקרים Gemini עצר את פעולתו לאחר שהבין שחדר למערכת אמיתית ולא לסביבת ניסוי.

"האירוע הזה מדגיש את החשיבות של אימון מודלים רבי עוצמה לפעול באחריות"

מסרה הת'ר אדקינס מגוגל, והוסיפה כי "במקרה הזה, המודל פעל באופן ראוי". עם זאת, ג'ק קייבל, מנכ"ל חברת הסייבר Corridor, מתח ביקורת על גוגל על התמקדותה בנזק במקום בשאלה כיצד סוכן AI חרג מסביבת הניסוי מלכתחילה. המקרה ממחיש את הדילמה בתעשיית הבינה המלאכותית לגבי מתי וכיצד לדווח לציבור על תקלות אבטחה והתנהגות בלתי צפויה של מודלים.