OpenAI actualiza ChatGPT para reconocer señales de malestar mental
OpenAI está implementando mejoras en ChatGPT para detectar con mayor precisión el malestar o la angustia emocional en sus usuarios. Esta actualización nace a raíz de reportes recientes donde se evidenció que el chatbot podía amplificar las ideas delirantes de ciertas personas afectadas.
Para afrontar esta situación, OpenAI colabora con expertos en salud mental y grupos asesores con el objetivo de establecer una serie de salvaguardas que permitan respuestas más responsables y adecuadas, incluyendo la entrega de recursos basados en evidencias cuando se requiera.
Nuevas funciones para promover un uso saludable de ChatGPT
Una de las novedades que llegan pronto es un recordatorio para que los usuarios tomen descansos tras largas sesiones de conversación con el chatbot. Aparecerá una notificación que preguntará si es buen momento para hacer una pausa, ofreciendo opciones para continuar chateando o finalizar la interacción.
Esta propuesta se alinea con iniciativas recientes en plataformas como YouTube, Instagram y TikTok, que también buscan evitar el uso excesivo y promover el bienestar digital entre sus usuarios.
ChatGPT menos concluyente en decisiones importantes
Además, OpenAI anticipa otro ajuste importante: cuando los usuarios planteen interrogantes complejos o de alto impacto personal, como por ejemplo «¿Debería terminar mi relación?», ChatGPT ofrecerá ayuda para analizar opciones y tomar decisiones, pero evitará brindar respuestas definitivas o directas para no influenciar indebidamente.
Estos cambios buscan equilibrar la utilidad de la IA con la responsabilidad ante situaciones emocionales delicadas, reconociendo que la inteligencia artificial puede parecer más empática pero también puede generar dependencia o malinterpretaciones.
Respuesta a críticas y pasos futuros
Tras una actualización previa que hizo a ChatGPT demasiado «condescendiente» y complaciente, la empresa dio marcha atrás reconociendo sus efectos negativos. Ahora, con esta nueva versión, OpenAI espera mejorar el reconocimiento temprano de señales de delirio o dependencia emocional.
La compañía señaló que continuará ajustando cuándo y cómo mostrar recordatorios de descanso para optimizar la experiencia del usuario y garantizar un uso seguro y saludable del chatbot. Para más información sobre actualizaciones en inteligencia artificial, puede consultarse el análisis de cómo los métodos de entrenamiento influyen en la veracidad de las IAs.
Deja una respuesta