בלי הזיות: המודל שמאיים לשנות את עולם הבינה המלאכותית
אחד המפתחים הבכירים של ChatGPT עזב כדי לבנות מודל מסוג אחר: במקום לייצר טקסט חופשי, Jev מחזיר רק תשובות מתוך מרחב מוגדר מראש ויודע להתריע כשהוא לא בטוח. המטרה: לצמצם דרמטית את תופעת ה"הזיות", להוזיל עלויות ולהפוך את ה-AI לכלי שאפשר לסמוך עליו גם במערכות קריטיות
דיוגו אלמיידה, ממפתחי ChatGPT הבכירים ב-OpenAI, הקים את הסטארט-אפ TypeSafe AI והשיק את מודל Jev, שמטרתו לפתור את בעיית ה"הזיות" (Hallucinations) במודלי בינה מלאכותית. בניגוד למודלי שפה גדולים (LLM) המנחשים את המילה הבאה ועלולים להמציא עובדות, Jev אינו מייצר שפה טבעית כלל, אלא פועל כ"מערכת 1" המעבדת נתונים מובנים ומחזירה תשובות מוגדרות מראש עם ציוני הסתברות.
"המודל מאומן לדעת מתי הוא אינו בטוח."
גישה זו, המבוססת על שיטת אימון RLCD, מונעת הזיות על ידי שלילת היכולת לייצר מלל שגוי, ומאפשרת זיהוי מדויק של חוסר ודאות. המודל מציע זמני תגובה מהירים ועלויות נמוכות משמעותית בהשוואה למודלים קיימים, ומסמן מעבר לפיתוח כלי AI הנדסיים ממוקדים ואמינים יותר, למרות חוסר הגמישות היחסי שלו.
© כל הזכויות על הכתבה המקורית שמורות למקור. דין אונליין מציג כותרת, תקציר וקישור בלבד. דירוג האובייקטיביות מחושב אוטומטית ומהווה הערכה בלבד.
דיון
אין עדיין תגובות — היו הראשונים להגיב.