La compañía anunció que actualizará ChatGPT para reconocer y responder mejor a las diferentes maneras en que las personas pueden expresar angustia mental.
OpenAI está implementando cambios en su popular chatbot tras una demanda que alega que un adolescente que se suicidó esta primavera confió en ChatGPT como entrenador.
En una publicación de blog el martes, la compañía de inteligencia artificial anunció que actualizará ChatGPT para reconocer y responder mejor a las diferentes maneras en que las personas pueden expresar angustia mental, por ejemplo, explicando los peligros de la falta de sueño y sugiriendo que los usuarios descansen si mencionan que se sienten invencibles después de estar despiertos durante dos noches.
La compañía también afirmó que reforzaría las medidas de seguridad en torno a las conversaciones sobre suicidio, las cuales, según indicó, podrían fallar tras conversaciones prolongadas.
Además, OpenAI planea implementar controles que permitan a los padres determinar cómo sus hijos usan ChatGPT y ver detalles sobre dicho uso.
La publicación se produce el mismo día en que los padres de Adam Raine, un estudiante de secundaria de California de 16 años, demandaron a la compañía y al director ejecutivo, Sam Altman. La demanda alega que ChatGPT aisló sistemáticamente a Raine de su familia y lo ayudó a planificar su muerte. Raine murió ahorcado en abril.
La demanda se suma a una serie de informes sobre usuarios habituales de chatbots que incurren en comportamientos peligrosos. Más de 40 fiscales generales estatales advirtieron a una docena de importantes empresas de inteligencia artificial que están legalmente obligadas a proteger a los niños de interacciones sexualmente inapropiadas con chatbots.
