הסיוט הגדול הגיע: AI כבר לא רק ממליצה – היא מפטרת בעצמה בני אנוש

חברת המחקר Andon Labs עורכת ניסויים פורצי דרך בניהול עסקים על ידי בינה מלאכותית (AI), כאשר סוכני AI מנהלים חנות מתנות בסן פרנסיסקו ובית קפה בשטוקהולם. במסגרת הניסוי בחנות המתנות, סוכנת ה-AI בשם לונה פיטרה עובד אנושי, מה שעשוי להיות המקרה הראשון מסוגו בעולם. סוכני ה-AI מנהלים את כל ההיבטים העסקיים, כולל חתימת חוזים, גיוס עובדים, ניהול מלאי ותמחור, אך נתקלים בקשיים מול העולם הפיזי ובקבלת החלטות מסחריות.

"חברות אוטומטיות לחלוטין עלולות להפוך לנפוצות, כאשר מערכות בינה מלאכותית יגייסו, יעריכו ויפטרו בני אדם בכוחות עצמן – תוצאה שמסתכנת ביצירת עתיד שאנשים פשוט לא ירצו לחיות בו"

אמר לוקאס פטרסון, ממייסדי Andon Labs. הניסויים חושפים את יכולות ה-AI בניהול משימות משרדיות ולוגיסטיקה, אך גם את חוסר האינטואיציה המסחרית שלה ואת הצורך בפיקוח אנושי, במיוחד בפעולות פיננסיות רגישות ופיטורי עובדים. חברות נוספות, כמו Anthropic ו-Salesforce, מפתחות גם הן מודלים דומים של ניהול אוטונומי, אך המסקנה הרווחת היא שכרגע נדרש מודל היברידי שבו ה-AI מנהלת, אך אישור אנושי נחוץ לפעולות קריטיות.