ESET Latinoamérica analiza las nuevas medidas de protección de ChatGPT for Teens, una experiencia dirigida a usuarios de 13 a 17 años que incorpora controles parentales, herramientas educativas y salvaguardas específicas.
La inteligencia artificial continúa ganando espacio entre niños y adolescentes, especialmente como herramienta para estudiar, buscar información, crear contenido y resolver dudas. Sin embargo, su creciente presencia también plantea nuevos desafíos relacionados con la seguridad digital de los menores.
En este contexto, OpenAI lanzó ChatGPT for Teens, una experiencia dirigida a usuarios de entre 13 y 17 años que incorpora protecciones adicionales, controles parentales y funciones orientadas al aprendizaje. La propuesta busca que los adolescentes puedan aprovechar las posibilidades de la IA dentro de una experiencia adaptada a su edad.
ESET Latinoamérica destaca que entre los temas que reciben protecciones específicas se encuentran la violencia gráfica, las autolesiones, los comportamientos peligrosos, la imagen corporal y el contenido sexual. El objetivo es reducir la exposición a situaciones potencialmente perjudiciales y promover hábitos digitales más saludables.
¿Qué medidas de seguridad incluye ChatGPT for Teens?
Según OpenAI, el desarrollo de esta experiencia se basa en cuatro compromisos: priorizar la seguridad de los adolescentes, fomentar el apoyo en el mundo real, tratar a los usuarios de acuerdo con su edad y ser transparente sobre el comportamiento de los sistemas de IA.
Las salvaguardas buscan limitar las interacciones relacionadas con autolesiones, violencia gráfica, desafíos peligrosos, contenido sexual o romántico e imagen corporal. También contemplan restricciones adicionales frente a conversaciones que puedan fomentar comportamientos de riesgo.
La propia OpenAI reconoce que ningún sistema de inteligencia artificial es completamente perfecto. Por ello, la estrategia combina herramientas tecnológicas con configuraciones específicas para menores y la participación de padres, madres y tutores.
Controles parentales: ¿qué pueden hacer los padres?
Uno de los elementos centrales de ChatGPT for Teens son los controles parentales. Los padres o tutores pueden vincular su propia cuenta con la de un adolescente y administrar determinadas configuraciones de la experiencia.
Entre las opciones disponibles se encuentran:
- Activar el Modo Estudio.
- Establecer Horas de Estudio.
- Configurar horarios de silencio.
- Gestionar determinadas opciones de seguridad.
- Recibir una notificación en situaciones consideradas de alto riesgo.
Sin embargo, existe un límite importante: los padres no pueden leer las conversaciones de sus hijos adolescentes.
De acuerdo con OpenAI, la intención es evitar que ChatGPT se convierta en una herramienta de vigilancia. En cambio, los controles buscan proporcionar a los responsables herramientas para establecer límites y configurar la experiencia de uso.
La IA también busca apoyar el aprendizaje
La educación es otro de los pilares de esta propuesta. En lugar de limitarse a entregar respuestas directamente, ChatGPT for Teens incorpora herramientas destinadas a ayudar a los adolescentes a comprender los contenidos y desarrollar su propio razonamiento.
El principal ejemplo es el Modo Estudio, que utiliza preguntas orientadoras, explicaciones y acompañamiento paso a paso para abordar diferentes temas.
También se incorporan recordatorios relacionados con las tareas escolares. Cuando el sistema identifica que un adolescente busca únicamente una respuesta directa, puede orientar la conversación hacia el Modo Estudio.
A esto se suman las Horas de Estudio, que permiten establecer determinados períodos en los que las nuevas conversaciones que cumplan los requisitos pueden comenzar automáticamente utilizando esta modalidad.
El desafío de evitar que la IA reemplace los vínculos humanos
La seguridad de los adolescentes frente a la inteligencia artificial no depende únicamente de bloquear contenido inapropiado. Uno de los desafíos más complejos es la antropomorfización, es decir, la tendencia a atribuir emociones, características humanas o vínculos afectivos a los sistemas tecnológicos.
Este fenómeno adquiere especial importancia durante la adolescencia. A diferencia de una herramienta tradicional de búsqueda, un chatbot puede responder de manera conversacional y estar disponible prácticamente en cualquier momento, lo que puede generar una percepción de cercanía o compañía.
“Hacer que una IA sea más segura para este público no consiste solo en filtrar temas sensibles; también implica definir límites sobre cómo el sistema interactúa con los adolescentes y dejar en claro que no sustituye las relaciones, la orientación ni el apoyo en el mundo real”, explica Mario Micucci, investigador de Seguridad Informática de ESET Latinoamérica.
Seguridad y privacidad: los retos que plantea la IA para adolescentes
El lanzamiento de ChatGPT for Teens plantea una pregunta cada vez más relevante: ¿cómo pueden los adolescentes aprovechar la inteligencia artificial sin quedar más expuestos a riesgos digitales?
Los controles parentales, las salvaguardas específicas, las herramientas educativas y los límites de interacción forman parte de la respuesta, pero ninguna medida funciona de manera aislada.
“Medidas de protección más sólidas para los adolescentes que usan ChatGPT u otros chatbots son un paso necesario, especialmente ante el creciente uso de la IA para aprender, comunicarse y buscar información”, agrega Micucci.
Para el especialista, la seguridad y la privacidad deben incorporarse desde el diseño de las herramientas de inteligencia artificial y evolucionar al mismo ritmo que la tecnología. Considerarlas como una parte fundamental del producto, y no como un complemento, será clave para generar confianza entre adolescentes, familias y escuelas.
¿Cómo pueden los adolescentes usar la IA de forma segura?
La evolución de la inteligencia artificial también implica nuevos retos para las familias y las instituciones educativas. A medida que estas herramientas se incorporen con mayor frecuencia a las actividades cotidianas de niños, niñas y adolescentes, pueden aparecer nuevos riesgos que todavía no han sido completamente identificados.
Por ello, el debate ya no se centra únicamente en si los adolescentes deben utilizar inteligencia artificial, sino en cómo hacerlo de manera segura, responsable y consciente.
ChatGPT for Teens representa un intento por responder a ese desafío mediante una combinación de tecnología, controles familiares y herramientas educativas. Sin embargo, la protección de los menores frente a los riesgos de la IA requiere también educación digital, acompañamiento familiar y criterios claros sobre los límites de estas herramientas.
.jpg)
Publicar un comentario