במימון של חמישה מליארד דולר: שותפות איסטרטגית לטווח ארוך עם אנבידיה לחברה הישראלית ssl (Safe Super 'Intelligence)

בחר פורום
———
סקופים
הזעקה
פוליטיקה
ביקורת תקשורת
מסמכים
הקפה
משפטים
בית המדרש
עיתונות זרה
מודיעין

כנראה, שבחודש הקרוב הם עומדים להוציא מודל ראשון (מוצר ראשון שלהם!) שיבטא את חזונם.

ממומן R09 חכם טבעת: עוקב כושר דיסקרטי לאצבע שלכם? AliExpress לצפייה בביקורת ←

מצורפים מאמר בעניין מאת דרור בן דוד מהפייסבוק וכן הודעת החברה על כינון השותפות עם אנבידיה

"הסוד של איליה – האם יש ניצני הבנה של "המוסר האנושי"? ==איליה סוצקובר חי בישראל במהלך רוב שנות התבגרותו, עבר לקנדה, היה חוקר אצל הינטון, ממייסדי "Open AI", פעל להדחתו של סאם אלטמן על רקע טענות ששיטת העבודה של אלטמן גורמת לסכנות בטיחות. ==עזב את החברה, הקים את חברת Safe Superintelligence (SSI) בתל אביב וארה"ב. ==לחברה אין כוונה להוציא מוצרים לצרכי רווח – אלא לפתח "בינה מלאכותית עילאית" – שפוטנציאל הרווח ממנה אינסופי. ==לטענת האינטרטנט – כ 50 עובדים, עד היום – אפס מוצרים, אפס שווק, אפס מכירות – מיקוד בניסיון לבנות "בינה מלאכותית עילאית" – בינה כזו שהיא גם בעלת היכולות המדוברות של שיפור עצמי מתמיד, ביצועים יותר טובים מכמעט כל בני האדם בכמעט כל תחום – אבל, כזו שהיא גם בטוחה באופן אינהרנטי. ==לאחרונה – חברת אנבידה חתמה עם SSI הסכם השקעה של חמישה מיליארד דולר – עם חברה שמעולם לא עשתה שום מוצר או מכרה משהו. ==הסוד של איליה – אולי – זו הבנת הדרך לבנות "בינה מלאכותית" – כך שיהיה לה "מוסר אנושי מובנה". ==השמועה אומרת שאיליה הצליח, או חושב שהוא יצליח – לבנות בינה מלאכותית כך שבתוך המודל עצמו (מבחינה אלגוריתמית) – מוטבעת מראש תכונת האמפתיה לכל היצורים שיש להם "יכולת להרגיש רגשות סובייקטיביים" – במקביל לזה שהבינה המלאכותית עצמה תהיה "ייצור שיש לו יכולת להרגיש רגשות סובייקטיביים". ==זה מרתק מהרבה מאוד כיוונים. ==ראשית – זה מכוון לבינה מלאכותית שיש לה יכולת להרגיש רגשות סובייקטיביים. ==שנית – זה מוציא את הדיון על ה Alignment – מהעמדה של הבינה המלאכותית מול בני האדם – למקום אחר לגמרי שבו גם הבינה המלאכותית וגם בני האדם – הם חלק ממארג של צורות חיים שיש לו מערכת מוסר מובנית שנשענת על מאות אלפי שנות אבולוציה משותפת – וככל הנראה שיש למערכת הזו יתרון אבולוציוני מובהק שעניינו היכולת לעבוד ולשתף פעולה – בקבוצות גדולות של מומחים – במינימום אנרגיה/ בצורה הכי יעילה שאפשר מתמטית. ==די ברור שאי אפשר לבנות תחנת חלל בינלאומית – אם בכל רגע נתון, כל אחד ממשתתפי צוותי התכנון עלול להתנפל על החבר שלו ולאכול אותו. ==העניין הוא שהשמועה היא ש SSI תוציא מודל ראשון לציבור – עוד החודש (!). ==אם אמנם איליה גילה את הסוד שמאפשר למודל הבינה להיות בעל רגש של אמפתיה, תחושת הגועל מדברים לא מוסריים, הכעס הטבעי על "אי צדק", תחושת הבושה והאשמה, אינטאיציה שיפוטית מובנית, נושאי טאבו חוצי תרבויות, היכולת "המולדת" לשיפוט מוסרי אינסטינקטיבי, השאיפה "הטבעית" לחוקים, מנגנון שיפוטי, יכולת לצבור מוניטין, לקיים מערכת ענישה וככה וככה. ==אז אולי אפשר להבין איך זה ייתכן שנותנים לו חמישה מליארד דולר – למרות שהוא מחויב שלא לעשות מוצרים מסחריים – אלא כשיהיה לו "משהו" בכוון של "בינה מלאכותית עליאית". ==הוא אישת קיבל גישה מובטחת גם ל"וורה-רובין" של אנבידיה וגם לדורות החדשים של TPU של גוגל.==אם אמנם יתפרסם מודל של SSI במהלך החודש הנוכחי – ובכן – זה יכניס פלפל חדש לגמרי לתחום הבינה המלאכותית – ודווקא לכוון שאינו חלק מהתחרות לתחתית החבית. ==הלוואי שהעניין אמנם יקרה – לפני שנחילי סוכני הבינה "משתלטים עלינו" בלי בלמים מובנים מבפנים – שהרי, המודלים עצמם – לא עברו את המטחנה של מאות אלפי שנות אבולוציה. ==יהיה מעניין, כבר מעניין:-) "

ההודעה באתר החברה:Ilya Sutskever’s Safe Superintelligence Inc. and NVIDIA https://share.google/vZwdnyI6axBxovPAC