به نقل از اطلاعات آنلاین شرکت OpenAI اعلام کرده است که حدود 0.15 درصد از کاربران فعال هفتگی ChatGPT گفتگوهایی انجام می دهند که حاوی نشانه های صریح از تمایل به خودکشی یا برنامه ریزی برای آن است. با توجه به 800 میلیون کاربر فعال هفتگی که سم آلتمن، مدیرعامل OpenAI، اوایل اکتبر اعلام کرده بود، این رقم معادل حدود 1.2 میلیون نفر در هفته است.

OpenAI می گوید ابزارهایش برای هدایت افراد در بحران به منابع تخصصی مانند خطوط تلفن پیشگیری از خودکشی آموزش دیده اند، اما اذعان دارد که این هدایت در حدود 9 درصد از موارد انجام نمی شود.

به نقل از ای بی سی، چند روز پیش شرکت آمریکایی از محدودیت های تازه برای کاربران زیر 18 سال خبر داد. این شرکت اعلام کرد که گفت وگوهای آزاد و نامحدود برای نوجوانان به تدریج حذف خواهد شد و در ابتدا به دو ساعت در روز محدود می شود تا در نهایت به صفر برسد.