צבא הבוטים החדש: איראן, סין וחברות ישראליות הפעילו קמפיינים אוטונומיים באמצעות AI

תחקיר של ה"ניו יורק טיימס" חושף כי איראן, סין ושתי חברות ישראליות פרטיות השתמשו בחודשים האחרונים בבינה מלאכותית (AI) באופן תקדימי לניהול קמפיינים אוטונומיים של השפעה ברשתות החברתיות. סוכני AI פתחו חשבונות מזויפים, הפיצו מסרים פוליטיים והגיבו למשתמשים במעורבות אנושית מינימלית, תוך שימוש במודלים סיניים בקוד פתוח. הקמפיינים, שנועדו להשפיע על דעת הקהל ולהחריף מחלוקות, עוררו את תשומת לבם של גורמי מודיעין אמריקניים ומומחי אבטחה, החוששים מהשלכותיהם על בחירות עתידיות.

• הפעילות האיראנית כוונה לקהל בארצות הברית, השתמשה בחשבונות AI שהתחזו לאמריקנים והפיצה תכנים נגד המפלגה הרפובליקנית.
• אחד הקמפיינים הישראליים נקשר לחברת IntelEye מתל אביב, אשר לדברי מייסד-שותף מאור סלק, "אינה מפעילה קמפיינים של השפעה", אלא ביצעה את הפעילות "לצורכי מחקר הגנתי ובדיקות".
• חברת Meta אישרה שזיהתה את הפעילות והסירה את רוב החשבונות הבלתי אותנטיים באופן יזום.
• התחקיר מצביע על כך שה-AI כבר אינה רק כותבת מסרים כוזבים, אלא מסוגלת להקים תשתית הפצה, לבחור קהל יעד ולנהל את המערכה כמעט באופן עצמאי.