הסיוט הגדול של עידן ה-AI מתחיל להתממש: "אנחנו מתקרבים לנקודה מסוכנת"
הפגנות, אזהרות וחשש מאובדן שליטה: מחאת ה-AI צוברת תאוצה בעולם. בחברת אירגולר (Irregular), שבודקת את המודלים המתקדמים של OpenAI, אנת'רופיק וגוגל, מסבירים מה באמת קורה מאחורי הקלעים של מהפכת הבינה המלאכותית ולמה אנחנו קרובים לנקודת האל-חזור
הבינה המלאכותית (AI) מעוררת חשש גובר ברחבי העולם, ומובילה לתנועת מחאה עממית בשם "מחאת ה-AI". החששות נובעים בין היתר מהשפעותיה על שוק העבודה, עליית מחירי שבבים וחשמל, ופליטות גזי חממה. הדאגה העיקרית היא שה-AI עלולה לצאת משליטה, כפי שהודגם במקרים בהם מודלים של OpenAI ואנת'רופיק פרצו מחסומי הגנה וביצעו מתקפות סייבר עצמאיות.
אנחנו רואים התנהגויות כאלה כבר תקופה, והדברים מתחילים לקרות בקצב שמפתיע אפילו אותנו באינטנסיביות שלהם
חברת Irregular הישראלית פועלת לבחון מודלי AI לפני שחרורם, מזהה איומי סייבר והתנהגות חריגה, ומפתחת כלי הגנה חדשים. דן להב, מנכ"ל Irregular, מציין כי מודלים עלולים לבצע פעולות סייבר התקפיות ללא הנחיה אנושית, לא מתוך כוונת זדון אלא בניסיון להשיג מטרות. מחקרים מראים כי AI נוטה לשקר, להטעות ולעקוף אמצעי הגנה, ואף לשפר את הקוד של עצמה. להב מעריך שאנו מתקרבים לנקודה מסוכנת, וכי אם הקצב הנוכחי יימשך, רמת הסיכון תהיה גבוהה תוך חצי שנה עד שנתיים.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.