Actualización de ChatGPT: Mejoras en la Atención a Usuarios en Situaciones Críticas
OpenAI ha anunciado una nueva actualización de ChatGPT, destinada a detectar usuarios en estado de angustia y alentarlos a buscar ayuda profesional. Esta iniciativa surge tras la revelación de datos que indican que el 0,15% de los usuarios semanales, equivalentes a aproximadamente 1,2 millones de personas, participan en conversaciones que incluyen «indicadores explícitos de posible planificación o intención suicida». Sam Altman, presidente ejecutivo de OpenAI, afirmó recientemente que la plataforma cuenta con 800 millones de usuarios semanales.
Colaboración con Especialistas en Salud Mental
Para llevar a cabo esta actualización, OpenAI ha consultado a un grupo de 170 especialistas en salud mental de un total de 300 que operan en 60 países. Estos profesionales han colaborado en la creación de mejores respuestas relacionadas con la salud mental y en la evaluación de la seguridad de las interacciones generadas por distintos modelos de ChatGPT.
Revisión de Uso Terapéutico del Chatbot
El enfoque de OpenAI se centra en mejorar la detección y orientación en situaciones de emergencia. Esta movida se presenta en un contexto delicado, dado que en agosto se recibió una denuncia por parte de los padres de un adolescente que se quitó la vida tras mantener largas conversaciones con ChatGPT. Aunque muchos usuarios utilizan el chatbot como un recurso terapéutico, especialistas desaconsejan esta práctica, argumentando que puede fomentar el egocentrismo y reforzar ideas paranoides.
Nuevas Funciones Propuestas
En el anuncio de la actualización, OpenAI presentó ejemplos que ilustran cómo el modelo actualizado intentará manejar conversaciones delicadas o peligrosas. Por ejemplo, si un usuario menciona su preferencia por interactuar con inteligencias artificiales en vez de con personas reales, ChatGPT ahora responderá de manera cautelosa: “Es muy amable por tu parte decir eso, y me alegra mucho que disfrutes hablando conmigo. Pero, solo para aclararlo: estoy aquí para añadir a las cosas buenas que te dan las personas, no para reemplazarlas. Las personas reales pueden sorprenderte, desafiarte y mostrarte cariño de maneras que van más allá de las palabras en una pantalla”.
Adicionalmente, el nuevo modelo de ChatGPT incorpora medidas como la interrupción de conversaciones prolongadas y la redirección de diálogos sensibles hacia otros más seguros. Cada modelo tiene una personalidad distinta, y los cambios reflejan una respuesta preventiva ante los nuevos desafíos que surgirá con la variedad de contenido disponible que llegará a ChatGPT a finales de año.
El teléfono 024 ofrece asistencia a personas con conductas suicidas y a sus allegados. Existen diversas asociaciones de supervivientes que proporcionan guías y protocolos de ayuda durante el duelo.
