"מטריד ומסוכן במיוחד": "צבא הבוטים" של איראן – והחברה הישראלית שבמוקד

גורמי מודיעין ואבטחה בארצות הברית מזהירים מפני התפתחות מסוכנת בלוחמת התודעה ברשת, עם הפעלת קמפיינים אוטונומיים של בינה מלאכותית על ידי מדינות כמו איראן וסין, וגם על ידי חברות פרטיות מישראל. קמפיינים אלו משתמשים ב"צבאות בוטים" שמסוגלים לפתוח פרופילים מזויפים, לייצר תכנים ולהלהיט את הדיון הציבורי ברשתות החברתיות ללא מגע יד אדם, תוך שימוש במודלי בינה מלאכותית בקוד פתוח. החשש העיקרי הוא שהטכנולוגיה תשמש להטיית דעת הקהל לקראת בחירות האמצע בארצות הברית.

IntelEye אינה מפעילה קמפיינים של השפעה. העבודה שלנו עם DeepSeek נעשתה במסגרת ניסוי מחקרי והגנתי בלבד, שמטרתו הייתה להבין כיצד מודלים ללא מנגנוני בטיחות מספקים עלולים להיות מנוצלים לרעה, וכדי לשפר את היכולת לזהות פעילות כזו בעתיד.

חברת IntelEye הישראלית, שהוקמה על ידי יוצאי NSO, זוהתה כאחת החברות שהפעילו קמפיינים כאלה, תוך שימוש במודל הסיני DeepSeek כדי להשתלט על אלפי חשבונות ולהתערב בדיונים סביב הבחירות בישראל, חלקם תמכו בנתניהו וחלקם התנגדו לו. מאור סלק, מייסד-שותף ב-IntelEye, אישר את השימוש במודל הסיני ובשליטה בחשבונות, אך טען כי מדובר בניסוי מחקרי והגנתי בלבד. מטא, לעומת זאת, הגדירה זאת כ"ניסיון מתואם ליצור חשבונות לא אותנטיים" והסירה את רובם. במקביל, מחקר של MIT מזהיר כי שימוש בבינה מלאכותית על ידי סטודנטים מוביל ל"כניעה קוגניטיבית" ופוגע בלמידה.