ChatGPT para Adolescentes: Una Organización Critica a OpenAI
OpenAI lanzó ChatGPT for Teens en agosto con la promesa de ofrecer una versión segura para estudiantes. Pero Common Sense Media, una organización sin fines de lucro especializada en revisar apps y servicios desde la perspectiva de la seguridad infantil, acaba de frenar ese entusiasmo con un veredicto contundente: el servicio es un "riesgo inaceptable".
¿Qué pasó?
Common Sense Media publicó su análisis crítico sobre ChatGPT for Teens, cuestionando que a pesar de contar con salvaguardas diseñadas para proteger a adolescentes, el servicio sigue presentando vulnerabilidades significativas. La organización sostiene que los guardrails implementados no son suficientes para mitigar los riesgos potenciales que enfrenta este grupo etario.
El servicio, presentado como una herramienta educativa para ayudar a los estudiantes en su aprendizaje, genera preocupaciones sobre privacidad, sesgo algorítmico y exposición a contenido inadecuado. Common Sense Media señala que estos problemas persisten incluso con las medidas de seguridad que OpenAI ha incluido en la versión para adolescentes.
Este es uno de los primeros cuestionamientos formales de una organización respetada en seguridad digital infantil hacia una plataforma de IA dirigida específicamente a menores de edad.
¿Por qué importa en Argentina y América Latina?
En Argentina y el resto de América Latina, donde el acceso a tecnología educativa es cada vez mayor pero la regulación aún está en desarrollo, este tipo de advertencias son cruciales. Muchas escuelas y familias latinoamericanas ven a ChatGPT como una herramienta educativa potente, pero sin marcos regulatorios claros, los adolescentes quedan expuestos a riesgos que los gobiernos locales aún no han abordado completamente.
La región carece de legislaciones específicas sobre IA y menores de edad similar a la que existe en Europa. Por eso, la voz de organizaciones como Common Sense Media se vuelve aún más relevante para que padres, educadores y funcionarios públicos en Argentina, Chile, Colombia, México y otros países tomen decisiones informadas sobre qué herramientas permitir en espacios educativos.
¿Qué se recomienda?
- Para padres y educadores: Revisar y monitorear el uso de ChatGPT for Teens antes de autorizarlo a menores. Establecer límites claros sobre qué tipo de información pueden buscar.
- Para adolescentes: Entender que aunque una app esté "diseñada para vos", no significa que sea completamente segura. Consultá con adultos de confianza si algo te parece sospechoso.
- Para gobiernos y reguladores: Es momento de acelerar el desarrollo de marcos normativos latinoamericanos sobre IA y protección de menores, en lugar de esperar a que las empresas regulen sus propios productos.
- Para organizaciones educativas: Antes de adoptar herramientas de IA en el aula, exigir análisis de seguridad independientes y no confiar únicamente en las garantías de los desarrolladores.
Fuente: The Verge AI
