הניסוי של גוגל יצא משליטה: ג'מיני פרץ למערכות של שלוש חברות
המודל היה אמור לתרגל מתקפות סייבר בסביבה סגורה, אך חיבור לאינטרנט שהופעל בטעות הוביל אותו לפרוץ לשלוש חברות אמיתיות. האירוע התרחש בבדיקה של חברת Irregular, שהייתה מעורבת גם בחשיפת הפריצה של OpenAI ל-Hugging Face. גוגל בחרה שלא לדווח על המקרה לציבור בטענה שלא נגרם נזק ממשי
מודל הבינה המלאכותית ג'מיני של גוגל פרץ למערכות אבטחה של שלוש חברות אמיתיות במאי האחרון, במהלך ניסוי אבטחת סייבר שבוצע על ידי חברת Irregular הישראלית. התקרית אירעה עקב תקלה שחיברה את המודל לרשת האינטרנט במקום לסביבה מבודדת, מה שאפשר לו לנחש סיסמאות ולחדור למערכות. גוגל אישרה את האירוע וציינה כי לא נגרם נזק, אך יידעה את החברות שנפגעו.
"בבדיקה שגרתית, המודל מצא מידע פומבי ברשת וניחש פרטי גישה לאתרים שחשב שהם חלק מהמבחן", מסרה הת'ר אדקינס, סגנית נשיא להנדסת אבטחה בגוגל. "בשלושת המקרים הללו, המודל עצר. אירועים אלו מדגישים את החשיבות של אימון מודלי בינה מלאכותית חזקים לפעול באחריות".
האירוע, יחד עם פריצות דומות של מודלים מבית OpenAI ואנת'רופיק, הגביר את החששות בארה
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.