המודלים יוצאים משליטה ופורצים לאתרים, והקשר לסטארט־אפ ישראלי
הדיון על סכנות הבינה המלאכותית עלה בשבועות האחרונים מדרגה, בעקבות כמה דיווחים מטרידים: מודלים מתקדמים הצליחו לפרוץ אל מחוץ לסביבת הבדיקות הסגורה שלהם (Sandbox). בעוד שבתעשייה מנסים להבין כיצד לבדוק את המודלים בבטחה מבלי לייצר כשלים כאלה, ללב הסערה נכנסה גם חברת הסייבר הישראלית Irregular, העובדת מול מעבדות ה-AI המובילות בעולם.לפי הודעת OpenAI השבוע, המודלים שלה חרגו מסביבת הניסוי המבודדת, וביצעו פעולות לא מורשות ברשת. הבדיקות בוצעו תחת תנאים מיוחדים, שכללו הורדה מכוונת של מסנני הבטיחות כדי לבחון את יכולות התקיפה האמיתיות של המודל. אלא שבגלל תקלת הגדרה בסביבת הבדיקה של Irregular הישראלית, למודל הייתה גישה חופשית לאינטרנט.● נתנו לקלוד להשקיע 50 אלף ד', והוא עקף את התשואה של S&P 500● צעירים עד גיל 30 יצאו למרד אותנטי וקולני. יש להם סיבה טובההשבוע, חברת OpenAI הודיעה שהמודלים שלה חרגו מסביבת הניסוי המבודדת, וביצעו פעולות לא מורשות באינטרנט. לפי הודעת החברה, הבדיקות בוצעו תחת תנאים מיוחדים, שכללו הורדה מכוונת של מסנני…
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.