הרשות להגנת הפרטיות יוצאת נגד ה-AI שלכם | בלעדי

הרשות להגנת הפרטיות פרסמה מסמך חדש המציג כללים והמלצות לשימוש אחראי בסוכני בינה מלאכותית (AI), על מנת לאפשר למשתמשים ליהנות מהטכנולוגיה תוך שמירה על פרטיותם. סוכני AI, בניגוד למערכות AI יוצרות, פועלים באוטונומיה גבוהה, מנתחים מידע, מקבלים החלטות ומבצעים משימות מורכבות באופן עצמאי, ולעיתים קרובות מקבלים גישה רחבה למערכות המידע של המשתמשים (כגון מיילים ויומנים).

ד"ר אלכס בלכמן, ה-CTO של הרשות להגנת הפרטיות, מסביר כי "סוכני AI יכולים לאסוף מידע מסביבתם ולפעול באופן אוטונומי כדי לבצע משימות מורכבות... היכולת של סוכני AI להפעיל אמצעים באופן אוטונומי בהתאם להוראות ולהקשר היא זו שמאפשרת להם להיות כל כך יעילים ושימושיים, אבל ביחד עם זה יוצרת סיכונים לפרטיות ולשליטה במידע האישי".

המסמך מזהיר מפני סיכונים כמו יצירת פרופיל אישיותי חודרני, שיתוף מידע רגיש עם צדדים שלישיים, ועריכה או מחיקה של מידע חיוני ללא אישור מפורש. הכלל המנחה הוא "צמצום": יש להעניק לסוכן גישה והרשאות הכרחיות בלבד לביצוע משימתו, לפרק זמן מוגבל, ולהימנע מאימון הסוכן על מידע אישי. הרשות קוראת למשתמשים לשמור על שליטה אקטיבית, לא לאפשר לסוכן להעביר מידע לגורמים חיצוניים ללא אישור, ולהפעיל מנגנוני בקרה ברורים.