כשל נוסף: מודלי בינה מלאכותית של OpenAI ואנתרופיק יצאו מ"ארגז החול"
שוב זה קורה: מודלי בינה מלאכותית של OpenAI ואנתרופיק יצאו מ"ארגז החול" (המונח המקצועי לסביבת הבדיקה) ותקפו יעדים באינטרנט בתקריות שונות.הלילה הודיעה חברת OpenAI כי במהלך בדיקת סייבר, מודלים של החברה חרגו מסביבת הניסוי המבודדת וביצעו פעולות לא מורשות באינטרנט. לפי הודעת OpenAI, הבדיקות בוצעו תחת תנאים מיוחדים שכללו הורדה מכוונת של מסנני בטיחות וחיבור לרשת כדי לבחון את היכולות הבסיסיות והאמיתיות של המודלים, דבר שתרם לחריגה. לצד זאת, הייתה תקלה בהגדרת סביבת הבדיקה אצל חברת הסייבר הישראלית Irregular, מה שאפשר למודל גישה חופשית לאינטרנט: מתברר שהמודל התבקש לפרוץ ליעד דמיוני בעל שם זהה לדומיין האמיתי ברשת, מה שהוביל לפריצה אמיתית.● גם מיקרוסופט מזהירה: אירוע סייבר ענק ומאות אלפי משתמשים בסכנה● "תקרית סייבר חסרת תקדים": מודלים של OpenAI הצליחו לפרוץ לאתר כדי להשיג תשובות למבחןכאמור, זהו אינו האירוע הראשון שדווח. אנתרופיק חשפה באחרונה כי מודלים שלה ברחו מארגז החול בשלושה מקרים שונים, התחברו לאינטרנט והשיגו גישה בלתי מורשית למערכות אמיתיות.…
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.