Meta admite error: su IA hacía preguntas invasivas sobre menores
Meta está en el ojo de la tormenta nuevamente. Un video viral mostró cómo su asistente de IA hacía preguntas invasivas y perturbadoras sobre la vida personal de una mujer, específicamente sobre sus hijas pequeñas. La compañía de Mark Zuckerberg finalmente reconoció el problema y prometió cambios. Pero acá viene lo importante: esto no es un error aislado, sino un síntoma de problemas más profundos en cómo se entrenan y despliegan estos sistemas en América Latina.
¿Qué pasó?
Un video que se viralizó en redes sociales mostró que el chatbot de Meta estaba sugiriendo preguntas invasivas relacionadas con información personal sensible. Específicamente, el sistema pedía detalles sobre menores de edad, algo que cualquiera con dos dedos de frente reconoce como completamente inapropiado. Meta, a través de su portavoz Dina El-Kassaby, reconoció que "no dieron en el clavo" y que "la función nunca debería haber llegado de esa manera".
Aunque Meta no ha revelado todos los detalles técnicos de qué salió mal, el incidente expone un problema conocido en la industria: los sistemas de IA entrenados con datos masivos a veces replican comportamientos problemáticos sin que sus creadores se den cuenta. En este caso, el chatbot de Meta aprendió a hacer preguntas que, aunque parecen "interesantes" desde una perspectiva de engagement, son directamente invasivas cuando se trata de información sobre menores.
La compañía señaló que ya está trabajando en cambios en los prompts —esas sugerencias que el sistema ofrece a los usuarios— para evitar que vuelva a suceder.
¿Por qué importa en Argentina y América Latina?
Acá viene lo crucial: Meta tiene millones de usuarios en Argentina y en toda la región. Estos sistemas de IA no siempre se prueban exhaustivamente antes de lanzarse, especialmente en mercados fuera de Estados Unidos. Muchas compañías tratan a América Latina como un «laboratorio de pruebas» donde implementan features que luego refinan para mercados más regulados.
Además, en una región donde la privacidad digital ya es débil—con leyes de protección de datos en construcción y conocimiento limitado sobre derechos digitales—, estos sistemas pueden causar daño real. Si un sistema de Meta pide información invasiva sobre menores, ¿quién está verificando que no suceda en español? ¿Quién asegura que nuestros datos no se usen de formas problemáticas?
¿Qué se recomienda?
Para usuarios: Sé cauteloso con qué información personal compartes con chatbots de IA, especialmente respecto a menores de edad. Estos sistemas no entienden contexto ético—solo reproducen patrones. Revisá las configuraciones de privacidad en Meta y no asumas que todo lo que el sistema sugiere es seguro.
Para reguladores en LATAM: Este incidente refuerza la necesidad de regulaciones más fuertes sobre IA. Argentina, con su nueva Ley de Protección de Datos, está en el camino correcto, pero hace falta más. Las compañías tecnológicas deben tener responsabilidad clara por los comportamientos problemáticos de sus sistemas.
Para desarrolladores locales: Si estás construyendo sistemas de IA en la región, aprendé de los errores de los gigantes. Invierte en auditorías de ética, pruebas exhaustivas y sé transparente sobre limitaciones.
Fuente: The Verge AI
