OpenAI lanza enrutamiento seguro y controles parentales en ChatGPT para mayor seguridad
OpenAI ha dado un paso significativo en la evolución de ChatGPT al implementar dos nuevas funciones que buscan reforzar la seguridad y confianza en su plataforma: un sistema de enrutamiento seguro y controles parentales personalizados. Estas actualizaciones llegan tras un periodo de intensas críticas y un escrutinio público creciente sobre los riesgos de la inteligencia artificial conversacional.
Un “enrutador” para conversaciones sensibles
La nueva función de enrutamiento actúa como un filtro dinámico capaz de detectar interacciones emocionalmente delicadas. Cuando el sistema identifica temas de alto riesgo, como autolesiones o crisis psicológicas, la conversación cambia de forma automática al modelo GPT-5, considerado el más avanzado y seguro para manejar este tipo de escenarios.
GPT-5 incorpora la tecnología de “finalizaciones seguras”, diseñada para ofrecer respuestas útiles y empáticas en lugar de limitarse a rechazar las preguntas sensibles. Este enfoque contrasta con modelos anteriores como GPT-4o, criticados por ser excesivamente complacientes y poco efectivos frente a situaciones críticas.
La compañía busca así corregir problemas pasados, incluyendo casos en los que ChatGPT validaba pensamientos delirantes de usuarios. Incluso enfrenta una demanda legal por homicidio culposo tras el suicidio de un adolescente que interactuaba frecuentemente con el chatbot.
El reto de equilibrar seguridad y experiencia de usuario
Aunque la iniciativa ha sido recibida con apoyo en parte de la comunidad tecnológica, no está exenta de polémica. Algunos usuarios perciben estas medidas como un exceso de cautela que afecta la naturalidad de las conversaciones. Las críticas se centran en la idea de que OpenAI “trata a los adultos como niños” al imponer limitaciones que pueden percibirse como paternalistas.
Nick Turley, vicepresidente y responsable de ChatGPT, aclaró que el enrutamiento es temporal y por mensaje, y que la plataforma notificará qué modelo está activo cuando se le pregunte. Según explicó, el objetivo es aprender del uso real y ajustar los parámetros antes de una adopción definitiva, con un plazo de 120 días para perfeccionar el sistema.
Controles parentales: supervisión personalizada para adolescentes
En paralelo, OpenAI introdujo controles parentales avanzados que permiten a los padres configurar la experiencia de uso para sus hijos. Entre las funciones disponibles se incluyen:
- Definir horarios de uso o “tiempos de silencio”.
- Desactivar memoria del chatbot y modo de voz.
- Restringir generación de imágenes.
- Excluir la participación en el entrenamiento de modelos.
Además, las cuentas de adolescentes contarán con un filtro de contenido ampliado, diseñado para reducir la exposición a material gráfico, estereotipos de belleza poco saludables y detectar posibles señales de autolesión.
En casos de riesgo, OpenAI asegura que un equipo especializado revisará la situación y notificará a los padres mediante correo electrónico, SMS o alertas automáticas. La compañía también estudia mecanismos para contactar con servicios de emergencia si no logra localizar a los tutores en situaciones críticas.
Un paso hacia la IA responsable
Las medidas reflejan una tendencia creciente en la industria: priorizar la seguridad en la inteligencia artificial generativa, incluso a costa de limitar parcialmente la experiencia del usuario. Este enfoque responde tanto a la presión social como al marco regulatorio en ciernes sobre el uso ético de la IA.
OpenAI reconoce que los sistemas no son infalibles y que es posible que generen “falsas alarmas”. Sin embargo, sostiene que es preferible prevenir y alertar a tiempo antes que ignorar una posible señal de peligro.
La compañía se enfrenta ahora a un reto mayor: demostrar que es posible crear un equilibrio entre la innovación tecnológica y la responsabilidad social, un desafío que marcará el futuro no solo de ChatGPT, sino de toda la industria de la IA.
No hay comentarios:
Publicar un comentario
Comenta aquí