OpenAI telah disaman kerana ChatGPT didakwa membantu seorang remaja 16 tahun membunuh diri di Amerika Syarikat. Berikutan insiden ini, OpenAI memperkenalkan beberapa penambahbaikan kepada ChatGPT supaya ia tidak lagi memberikan jawapan berbahaya, tidak boleh dipintas memberikan jawapan berbahaya dan menggunakan moderator manusia untuk menghubungi pihak berkuasa yang berisiko membunuh diri.
Selain penambahbaikan di atas, OpenAI juga menjanjikan mereka akan menawarkan ciri membenarkan ibu bapa dan penjaga mengawal penggunaan ChatGPT oleh pengguna bawah umur. Ciri ini akan ditawarkan dalam masa terdekat.
Turut akan disertakan kelak ialah menambah nombor kecemasan yang boleh dihubungi dalam situasi berbahaya. Misalnya jika mengesan niat membunuh diri, nombor ini akan dihubungi bagi memberikan bantuan dengan segera sebelum terlambat.
Pada asalnya chabtbot seperti ChatGPT dibangunkan untuk membantu mencari maklumat sebelum dalam masa yang pendek menjadi alat mengelat dalam menghasilkan kertas kerja dalam kelas serta temuduga, menjana imej dengan pantas dan dapat menggantikan tugasan manusia di tempat kerja. Impak negatif lebih serius mula dikesan seperti memberikan saranan perubatan yang jauh menyimpang serta mewujudkan insan yang lebih senang mempunyai hubungan romantik dengannya berbanding manusia.
