תביעה: ChatGPT התעלם מסימני אזהרה רפואיים – והמשתמש כמעט מת

כומר אמריקאי בשם סקוט וינטרס הגיש תביעה נגד חברת OpenAI ומנכ"לה, סם אלטמן, בטענה שצ'אטבוט ה-ChatGPT סיפק לו עצות רפואיות שגויות ומסוכנות שגרמו לעיכוב בקבלת טיפול מציל חיים. לטענתו, לאחר שחווה תסמינים של תסחיפים ריאתיים, הצ'אטבוט הרגיע אותו ואמר לו כי התסמינים "אינם משהו מסוכן", ואף עודד אותו להתעלם מהפצרות בני משפחתו לפנות לבית חולים, בטענה ש"רוב האנשים, כולל חברי כנסייה בעלי כוונות טובות, פשוט לא מבינים".

התביעה מאשימה את OpenAI ברשלנות ו"עיסוק ברפואה ללא היתר", ודורשת פיצוי כספי והשעיית פעילות ChatGPT Health עד שייקבע כי השירות בטוח לשימוש. וינטרס, ששרד את האירוע אך צפוי לשיקום ארוך, טוען שהצ'אטבוט סיפק אבחנות ותוכניות טיפול משלו. OpenAI טוענת שתנאי השימוש מבהירים שהמערכת אינה מיועדת לאבחון או טיפול רפואי, אך מעודדת משתמשים להעלות מסמכים רפואיים לפלטפורמה.