ChatGPT presenta ‘Trusted Contact’ para la seguridad de adultos
OpenAI ha desarrollado una nueva función opcional llamada Trusted Contact para ChatGPT, destinada a mejorar la seguridad de los usuarios mayores de 18 años. Esta herramienta permite que los usuarios designen a un contacto de confianza, quien será alertado si se detectan señales preocupantes relacionadas con la salud mental, como indicios de autolesiones o pensamientos suicidas durante una conversación con el chatbot.
¿Cómo funciona Trusted Contact?
Este servicio se basa en un mecanismo validado por expertos, que reconoce la importancia de conectar a una persona en crisis con alguien cercano que pueda brindarle apoyo inmediato. Cuando los sistemas automáticos de OpenAI detectan posibles signos de alarma en un diálogo, animan al usuario a contactar a su persona de confianza y notifican a esta última mediante un mensaje breve que podrá llegar por correo electrónico, SMS o notificación dentro de la aplicación.
¿Quiénes pueden usar esta función?
La opción está disponible para cualquier adulto que use ChatGPT, quienes podrán añadir en su configuración el contacto de una persona mayor de edad (18 años en la mayoría de países y 19 en Corea del Sur). Este contacto debe aceptar la invitación en un plazo de una semana para activar la función. Además, tanto el usuario como el contacto designado tienen la flexibilidad de modificar o eliminar esta relación en cualquier momento.
Privacidad y límites de la función
OpenAI enfatiza que las alertas se envían sin compartir detalles específicos de las conversaciones, garantizando la privacidad del usuario. Un pequeño equipo especializado revisará las alertas para confirmar que se trate de situaciones graves antes de contactar al Trusted Contact, sin divulgar información personal.
Contexto y comparaciones
Esta herramienta amplía las opciones de seguridad inicialmente diseñadas para adolescentes y es similar a funciones implementadas por otras plataformas. Por ejemplo, Meta introdujo alertas para padres cuando sus hijos buscan contenido relacionado con autolesiones en Instagram de forma reiterada. La iniciativa de OpenAI busca agregar una capa más de respaldo y protección para usuarios adultos.
Para profundizar en temas similares, te recomendamos leer Modelos de IA para imágenes impulsan el crecimiento de aplicaciones, superando las mejoras en chatbots, que aborda avances en inteligencia artificial relacionados.
Conclusión
La función Trusted Contact representa un avance significativo en la integración de inteligencia artificial con medidas de bienestar y seguridad de usuarios. Este sistema refuerza la red de apoyo para situaciones de riesgo emocional, demostrando cómo la tecnología puede contribuir positivamente en temas de salud mental.
Deja una respuesta