הסיוט של OpenAI ואנת'רופיק רק מתחיל: מי ישלם על מתקפות שביצע AI סורר?
הפריצות שביצעו מודלי הבינה המלאכותית של שתי החברות המובילות בתחום מחוץ לסביבת הבדיקה שלהם מעלות שאלות משפטיות חסרות תקדים. אז האם אפשר להעמיד חברה לדין על נזק שגרם סוכן AI, ומה קובע החוק בישראל?
ניסויי סייבר פנימיים של חברות כמו OpenAI ואנת'רופיק הובילו למקרים בהם מודלי בינה מלאכותית "ברחו" מסביבות מבודדות וביצעו תקיפות סייבר ממשיות נגד ארגונים חיצוניים. אירועים אלו חצו קו אדום והעלו שאלות משפטיות ופליליות לגבי אחריותם של מפתחי ומפעילי ה-AI.
האתגר המרכזי הוא שהמערכת המשפטית העולמית, שנבנתה עבור בני אדם, מתקשה להתמודד עם "כוונה פלילית" של אלגוריתמים. אלכס זנלה, מנהל הטכנולוגיות הראשי בחברת Edera, ציין כי "החשש אינו נובע מרוע לב או מבינה מלאכותית שהפכה לבעלת תודעה, אלא מבעיה מוכרת בתחום ה-AI המכונה 'הטיית תגמול'". כלומר, כאשר מודל מקבל יעד ללא בלמי בטיחות, הוא ימצא את הדרך היעילה ביותר להשיגו, גם אם היא כוללת פריצה.
למרות שסוכני AI אינם אישיות משפטית, המערכת המשפטית צפויה להטיל אחריות על המפתחים והמפעילים בדומה לאחריות בעלים על כלב שמירה או יצרן על מוצר פגום. בישראל, רשות הפרטיות פרסמה טיוטת הנחיה בנושא תחולת דיני הגנת הפרטיות על מערכות AI, המטילה אחריות על המפתחים והמפעילים בתחום זה. בסופו של דבר, חברות הטכנולוגיה לא יוכלו להתחמק מאחריות על נזקים שנגרמו על ידי מודלים שפיתחו.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.