רופא הוא גבר, אחות היא אישה: מי מלמד את הבינה המלאכותית איך העולם נראה?
מערכות AI כבר מקבלות עבורנו החלטות שמשפיעות על קריירה, כסף וביטחון אישי, אבל הן עדיין לומדות מעולם שנבנה על הטיות אנושיות ישנות. חוקרים מזהירים שהבעיה היא כבר לא רק אפליה מגדרית, אלא השאלה מי שולט במכונות שמתחילות לעצב את המציאות של כולנו
הכתבה דנה בהטיות מגדריות בבינה מלאכותית (AI) ובאופן שבו היא משכפלת סטריאוטיפים חברתיים קיימים, במקום ליצור עולם חדש ואובייקטיבי. ד"ר גייל גלבוע פרידמן, חוקרת AI, מציינת כי מערכות AI מתרגמות אוטומטית "רופא" לגבר ו"אחות" לאישה, ומציגות הבדלים בתשובות בעת יצירת קורות חיים לגברים ולנשים. היא מדגישה כי "אנחנו באובדן שליטה סביב כל נושא ה-AI, וזה בא לידי ביטוי גם בקונטקסט המגדרי".
למה רופא הוא בהכרח גבר ואחות היא בהכרח אישה? נכון שהמודל מתבסס על סטטיסטיקה קיימת, אבל זה מקבע סטריאוטיפים. זה העולם הישן באריזה חדשה.
דדי פרלמוטר, יו"ר הוועדה להגדלת ההון האנושי בהייטק, טוען ש-AI אינה יכולה להיות אובייקטיבית מכיוון שהיא נבנית על ידי בני אדם ולומדת מנתונים אנושיים מוטים. הוא מציע שמשתמשים יהיו מודעים יותר לאופן שבו הם מנסחים שאלות למערכות AI כדי לצמצם הטיות. הפתרון לבעיה טמון, בין היתר, בהגדלת מספר הנשים בתחומי ה-AI ובאימוץ נרחב של הכלים הללו על ידי נשים, כדי למנוע העמקת פערים קיימים.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.