אנת'רופיק חשפה: קלוד שימש למחקרים שעשויים לסייע בפיתוח נשק ביולוגי
החברה חשפה חמישה מקרים שבהם מדענים נעזרו במודל למחקרים ביולוגיים מסוכנים, לצד שימושים בפיתוח טילים, רחפנים חמושים, ריגול ותעמולה. בזמן שטראמפ מצהיר שאינו חושש מהכחדת האנושות, חוקרי AI מזהירים שהסכנה כבר אינה תרחיש תיאורטי
חברת אנת'רופיק חשפה כי מודל הבינה המלאכותית שלה, קלוד, שימש למחקרים שעשויים לסייע בפיתוח נשק ביולוגי, וכן לפיתוח אמצעי לחימה, ריגול ותעמולה על ידי גורמים הקשורים למדינות עוינות. החברה איתרה חמישה מקרים של מחקר ביולוגי מסוג זה, כאשר בחלקם המשתמשים עקפו חסימות גיאוגרפיות והסתירו את מטרותיהם. למרות שמנגנוני הגנה מנעו גישה למודלים החזקים יותר, עלה חשש משימוש לרעה בטכנולוגיה.
אף אחת מהחברות אינה מתנהלת באחריות. הן דוהרות לעבר מערכת בינה על-אנושית שמסוגלת לשפר את עצמה, ומהמרות על החיים של כולנו.
הפרסום מגיע על רקע סערה בתעשיית ה-AI, עם התפטרות חוקרים מחברות מובילות כמו אנת'רופיק ו-OpenAI, המזהירים מפני הסכנות הטמונות בבינה מלאכותית מתקדמת. בין המקרים שנחשפו: מדען שביקש עזרה במחקר על נגיף הצ'יקונגוניה עבור מכון מחקר צבאי, וחוקר שתכנן ניסויים בשפעת עופות באזור שבו קלוד אינו זמין. אנת'רופיק הוסיפה שכבות הגנה וחסמה חשבונות חשודים, אך האתגר בזיהוי כוונות זדוניות נותר משמעותי.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.