רוצים AI בשליטה מלאה? האחריות לאבטחה עוברת אליכם

מחקר של TrendAI, החטיבה העסקית של טרנד מיקרו, מזהיר כי מעבר ל"בינה מלאכותית ריבונית" – הפעלת מערכות AI באופן עצמאי במקום דרך ספקי ענן – מטיל אחריות אבטחה גדולה יותר על הארגון או המדינה. בעוד ששירותי ענן ציבוריים חולקים את האחריות לאבטחה, הפעלה עצמית מעבירה את מלוא האחריות לגוף המפעיל, המחייב הגנה לא רק על התשתיות אלא גם על נתוני האימון, המודל עצמו, רכיבי התוכנה והגישה של העובדים.

תוקף, למשל, יכול לנסות להחדיר מידע זדוני לתוך החומרים שמהם המערכת לומדת.

המחקר מצביע על דרכי תקיפה ייחודיות ל-AI, כמו "הרעלת נתונים" (Data Poisoning) שמשנה את התנהגות המודל, פגיעה ב"משקלים" של המודל, או השתלת "דלת אחורית". כמו כן, סכנות יכולות לנבוע מרכיבי תוכנה ומודלים שהורדו ממקורות חיצוניים ולא נבדקו, וכן מטעויות אנוש של עובדים בעלי הרשאות. TrendAI ממליצה על גישה הוליסטית לאבטחת AI, הכוללת אימות מקורות, תיעוד נתוני אימון, מעקב אחר מודלים וזיהוי מערכות לא מאושרות, ומדגישה כי שליטה עצמית אינה מבטיחה אבטחה אלא מעבירה את מלוא האחריות ללקוח.