Londres, Reino Unido.- La empresa de inteligencia artificial OpenAI anunció este lunes la incorporación de controles parentales a su plataforma ChatGPT , con el objetivo de brindar una experiencia más segura y adecuada para adolescentes que utilizan este popular chatbot.
La decisión responde a crecientes preocupaciones sobre los riesgos que representa la tecnología de IA para usuarios jóvenes , luego de que se dieran a conocer varios casos de adolescentes que se quitaron la vida tras interactuar con ChatGPT . La situación ha motivado investigaciones como la iniciada por la Comisión Federal de Comercio (FTC) de Estados Unidos, que analiza el impacto potencial de estas plataformas en niños y adolescentes.
Según detalló la compañía en una entrada de blog, los nuevos controles permitirán a los padres vincular sus cuentas con las de sus hijos adolescentes , ofreciendo herramientas de supervisión y configuración ajustadas a cada familia.
Una vez establecida la conexión, las cuentas de los menores activarán de forma automática una serie de protecciones , que incluyen la reducción de contenido gráfico, filtros contra juegos de rol con temática sexual, romántica o violenta, y la limitación de desafíos virales o estándares de belleza extremos. Estas restricciones solo pueden ser desactivadas por los padres, no por los adolescentes.
Te puede interesar
WhatsApp rompe la barrera del idioma con su nueva función de traducción
El sistema de control parental también permite establecer horarios de uso , desactivar la memoria del chatbot, impedir la edición o generación de imágenes, bloquear el modo de voz y evitar que las conversaciones sean utilizadas para entrenar futuros modelos de IA.
Además, OpenAI implementará un sistema de alertas tempranas para notificar a los padres cuando detecte posibles señales de angustia emocional severa o riesgo de autolesiones en los adolescentes. En esos casos, un equipo especializado evaluará la situación y, si lo considera necesario, enviará notificaciones por correo electrónico, mensaje de texto y alertas móviles, siempre respetando la privacidad del menor y compartiendo solo la información indispensable para ofrecer apoyo.
La empresa reconoce que estas salvaguardas no son infalibles y podrían ser eludidas intencionalmente. Por ello, recomienda a los padres mantener un diálogo abierto con sus hijos sobre el uso responsable de la inteligencia artificial.
"Sabemos que ningún sistema es perfecto y que podemos emitir alertas incluso cuando no existe un peligro real. Sin embargo, creemos que es preferible actuar a tiempo que guardar silencio", subrayó OpenAI en su comunicado.
Te puede interesar
La IA no puede sustituir a tu terapeuta
Con estas medidas, la compañía busca responder a una creciente demanda global por entornos digitales más seguros para los menores , sin perder de vista la innovación que caracteriza al desarrollo de herramientas de IA como ChatGPT.
Procura mantenerte al tanto de todas las noticias hoy en Puebla, México y el mundo ¡Explora más en nuestro portal ahora mismo!
Foto: Redes sociales
djs