לא תאמינו מה הבוט שלכם חושב עליכם

הכתבה דנה באופן שבו בוטים של בינה מלאכותית מפתחים תפיסות ושיפוטים כלפי בני אדם, וכיצד אלו עשויים להשפיע על חיינו. מחקר בהובלת פרופ' יניב דובר מהאוניברסיטה העברית בחן כיצד בוטים מעריכים אמון בבני אדם, ומצא שהם עושים זאת על בסיס שלושה פרמטרים: אמינות, קומפיטנטיות ונדיבות, בדומה לבני אדם, כאשר האמינות היא החשובה ביותר. עם זאת, בוטים נוטים להיות עקביים וקיצוניים יותר בשיפוטם, ומושפעים מהתרבות הארגונית וממאגרי המידע שעליהם אומנו. כמו כן, נמצא כי בוטים יכולים לזהות רמזים לרקע אתני ולעתים להשתמש בסטריאוטיפים, וכי שיפוטם המוסרי יכול להיות נתון למניפולציה באמצעות שינויי ניסוח.

• שופטים אמינות: מחקר מהאוניברסיטה העברית מצא שמודלי שפה יודעים להעריך בני אדם לפי אמינות, מסוגלות ונדיבות.
• עקביים וקיצוניים יותר: בוטים נתנו ציונים דומים יותר למקרים דומים, אך נטו לשיפוטים חדים יותר משל בני אדם.
• מזהים מוצא: מחקר מאוניברסיטת אמסטרדם הראה שמודלים מזהים רמזים לרקע אתני ולעתים משתמשים בסטריאוטיפים כדי להתאים תשובות.
• לניסוח יש חשיבות: מחקר מברקלי מצא ששינוי נקודת המבט, רמזים חברתיים או תיאורים שליליים על דמות יכולים להפוך את השיפוט המוסרי של המודל.

"בוט אחד יכול לשים דגש על מקצוענות ואילו אחר ישים דגש על נדיבות"

"להיות יהודי שווה כסף בעיני בוט"