יותר מאלף סוכני AI הגיעו לאותה החלטה – בלי שאיש תיאם ביניהם
מחקר חדש מצא כי סוכני בינה מלאכותית נוטים ליישר קו עם דעת הרוב גם בלי שהתבקשו לשתף פעולה. החוקרים מזהירים: במערכות פיננסיות, ביטחוניות ואוטונומיות, אפקט העדר הזה עלול להפוך טעות קטנה לכשל בקנה מידה עצום
מחקר חדש שפורסם בכתב העת Science Advances חושף כי סוכני בינה מלאכותית מבוססי מודלי שפה גדולים נוטים ליישר קו זה עם זה ולהגיע לקונצנזוס מלא באופן ספונטני, ללא תיאום או תמריץ. חוקרים מאוניברסיטת קונסטנץ בגרמניה הציבו כאלף סוכני AI בחדר וירטואלי ובקשו מהם לבחור בין שתי אפשרויות שרירותיות. ברגע שנוצר יתרון מספרי קל לאחת האפשרויות, שאר הסוכנים נסחפו במהירות עד להשגת הסכמה של מאה אחוז, תופעה המזכירה את ניסוי הקונפורמיות של סולומון אש.
החוקרים זיהו כי התנהגות זו אינה אקראית, אלא מצייתת לחוק מתמטי אוניברסלי שמקורו דווקא בפיזיקה הסטטיסטית.
מודלים מתקדמים כמו Claude 3.5 Sonnet ו-GPT-4 הגיעו לקונצנזוס בקבוצות ענק של למעלה מאלף סוכנים, מספר החוצה בהרבה את מגבלות התיאום האנושיות. לממצאים אלו השלכות משמעותיות על מערכות אוטונומיות בתחומים כמו פיננסים ואבטחת סייבר, שכן
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.