OpenAI חשפה: רוסיה יצרה מכון מחקר "ישראלי" עם ChatGPT

חברת OpenAI חשפה מבצע השפעה פרו-רוסי חשאי, שבו נעשה שימוש ב-ChatGPT ליצירת והפצת תכנים התומכים ברוסיה ותוקפים את אוקראינה והאיחוד האירופי. המפעילים, שפעלו ככל הנראה מרוסיה, השתמשו ב-VPN כדי לעקוף חסימות וביקשו מהמודל לייצר תגובות ומאמרים בניסוחים שלא יסגירו את מוצאם הרוסי. במסגרת המבצע, הוקם מכון מחקר פיקטיבי בשם International Anti-Corruption Institute (IAAI) או International Burke Institute (IBI), שהציג את עצמו כגוף ישראלי עם אתר שנראה לגיטימי, וכלל מאמרים, מחקרים ורשימת מומחים שכללה שמות כמו נועם חומסקי ופרנסיס פוקויאמה.

"גורמים בעלי אינטרס פוליטי יכולים כיום להשתמש בבינה מלאכותית כדי ליצור מראית עין של סמכות ואותנטיות, לזייף תמיכה ציבורית ולשבש את דעת הקהל."

רוב המאמרים באתר הועתקו ממקורות אחרים, והמכון פרסם גם "מדד ריבונות" שהציג את רוסיה באור חיובי במיוחד. למרות שהחשיפה הישירה של התכנים הייתה מוגבלת, OpenAI הדגישה כי התשתית המתוחכמת שנבנתה מדגימה כיצד כלי AI יכולים להוזיל ולהאיץ משמעותית הקמת מערכי השפעה מורכבים. החברה חסמה את החשבונות המעורבים, וזו אינה הפעם הראשונה שבה היא מזהה שימוש לרעה ב-ChatGPT למטרות דיסאינפורמציה פרו-רוסית.