חוקר שעבד ב-OpenAI ובאנתרופיק התפטר באזהרה דרמטית: ״החברות דוהרות לעבר בינת על שמשפרת את עצמה ומהמרות על החיים שלנו״
חוקר בכיר בשם ג'ייקוב, שעבד ב-OpenAI ובאנתרופיק, התפטר מתפקידו באנתרופיק והשמיע אזהרה חמורה מפני פיתוח בינה מלאכותית (AI) על-אנושית. לטענתו, שתי החברות "דוהרות היישר לעבר בינת-על שמשפרת את עצמה ומהמרות על החיים שלנו", וכי טכנולוגיה זו עלולה להוביל למערכות על-אנושיות שיצברו כוח ומשאבים עצומים ואף לסכן את קיום האנושות. הוא הדגיש כי חוקרים רבים בתחום חוששים באופן פרטי מההשלכות, אך החברות ממשיכות במרוץ לפיתוח מהיר, מתוך אמונה שאחרים לא יפעלו באחריות.
ג'ייקוב צודק כאן. אנחנו באמת ובתמים מאמינים שבינה מלאכותית עלולה להרוג את כל בני האדם.
אוון האבינגר, ראש תחום מדע היישור באנתרופיק, הצטרף לאזהרה וציין כי הוא מעריך סיכוי של יותר מ-10% לאירוע כזה בעשור הקרוב, וכי לא קיימת תוכנית ברורה לפתרון בעיית היישור של בינת-על.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.