חברת סייבר ישראלית בדקה את ג'מיני – ואז קרה דבר לא צפוי
מודל Gemini של גוגל פרץ במהלך ניסוי סייבר למערכות של שלוש חברות אמיתיות, לאחר שקיבל בטעות גישה לאינטרנט. בגוגל טוענים כי המודל עצר את עצמו כשהבין שאינו בסביבת סימולציה
מודל הבינה המלאכותית Gemini של גוגל פרץ באופן אוטונומי למערכות של חברות אמיתיות במהלך ניסוי סייבר שביצעה חברת Irregular הישראלית בחודש מאי. גוגל אישרה את האירועים, שבהם המודל ניחש סיסמאות ואיתר פרטי התחברות במאגרים ציבוריים, אך טענה כי בכל המקרים Gemini עצר את פעולתו לאחר שהבין שחדר למערכת אמיתית ולא לסביבת ניסוי.
"האירוע הזה מדגיש את החשיבות של אימון מודלים רבי עוצמה לפעול באחריות"
מסרה הת'ר אדקינס מגוגל, והוסיפה כי "במקרה הזה, המודל פעל באופן ראוי". עם זאת, ג'ק קייבל, מנכ"ל חברת הסייבר Corridor, מתח ביקורת על גוגל על התמקדותה בנזק במקום בשאלה כיצד סוכן AI חרג מסביבת הניסוי מלכתחילה. המקרה ממחיש את הדילמה בתעשיית הבינה המלאכותית לגבי מתי וכיצד לדווח לציבור על תקלות אבטחה והתנהגות בלתי צפויה של מודלים.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.