לא תאמינו מה הבוט שלכם חושב עליכם
האם הבוט שמייעץ לכם בעבודה, בזוגיות או בהחלטות כלכליות כבר גיבש עליכם דעה? מחקר חדש מהאוניברסיטה העברית מראה שמודלי שפה יודעים לדרג בני אדם לפי אמינות, יכולת ונדיבות, ולעתים עושים זאת בקיצוניות ובאופן מוטה • וגם: איך האופי שלכם משפיע על איכות התשובות שתקבלו? • חוקרים מנסים לפצח את הקופסה השחורה החדשה
הכתבה דנה באופן שבו בוטים של בינה מלאכותית מפתחים תפיסות ושיפוטים כלפי בני אדם, וכיצד אלו עשויים להשפיע על חיינו. מחקר בהובלת פרופ' יניב דובר מהאוניברסיטה העברית בחן כיצד בוטים מעריכים אמון בבני אדם, ומצא שהם עושים זאת על בסיס שלושה פרמטרים: אמינות, קומפיטנטיות ונדיבות, בדומה לבני אדם, כאשר האמינות היא החשובה ביותר. עם זאת, בוטים נוטים להיות עקביים וקיצוניים יותר בשיפוטם, ומושפעים מהתרבות הארגונית וממאגרי המידע שעליהם אומנו. כמו כן, נמצא כי בוטים יכולים לזהות רמזים לרקע אתני ולעתים להשתמש בסטריאוטיפים, וכי שיפוטם המוסרי יכול להיות נתון למניפולציה באמצעות שינויי ניסוח.
- שופטים אמינות: מחקר מהאוניברסיטה העברית מצא שמודלי שפה יודעים להעריך בני אדם לפי אמינות, מסוגלות ונדיבות.
- עקביים וקיצוניים יותר: בוטים נתנו ציונים דומים יותר למקרים דומים, אך נטו לשיפוטים חדים יותר משל בני אדם.
- מזהים מוצא: מחקר מאוניברסיטת אמסטרדם הראה שמודלים מזהים רמזים לרקע אתני ולעתים משתמשים בסטריאוטיפים כדי להתאים תשובות.
- לניסוח יש חשיבות: מחקר מברקלי מצא ששינוי נקודת המבט, רמזים חברתיים או תיאורים שליליים על דמות יכולים להפוך את השיפוט המוסרי של המודל.
"בוט אחד יכול לשים דגש על מקצוענות ואילו אחר ישים דגש על נדיבות"
"להיות יהודי שווה כסף בעיני בוט"
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.