¿Quién decide cuándo la IA es demasiado peligrosa?
En el mundo de la inteligencia artificial, las cosas se mueven rápido. A veces demasiado rápido. La semana pasada, una tormenta perfecta entre Anthropic, la administración Trump y el lanzamiento del nuevo modelo Fable 5 nos recordó que todavía no tenemos claro quién decide cuándo una IA cruza la línea de lo demasiado peligroso. Y para nosotros en América Latina, esa pregunta es cada vez más urgente.
¿Qué pasó?
Anthropic, la empresa detrás del famoso Claude, presentó su nuevo modelo Fable 5 en medio de una tensión política creciente. La administración Trump cuestionó públicamente si esta nueva IA representa un riesgo para la seguridad nacional, especialmente después de hallazgos sobre cómo podría usarse en contextos militares y de ciberseguridad. El debate no es académico: estamos hablando de quién tiene autoridad para decidir si una tecnología es demasiado poderosa para existir.
Lo interesante es que no hay un árbitro claro. No es la administración. No es necesariamente la empresa desarrolladora. No es un organismo internacional. Cada actor tira para su lado, y mientras tanto, la tecnología sigue avanzando. Anthropic, por su parte, insiste en que Fable 5 tiene controles de seguridad robustos, pero la pregunta sigue en el aire: ¿es suficiente?
¿Por qué importa en Argentina y América Latina?
Acá en la región, este debate tiene implicaciones concretas. Argentina está intentando posicionarse como un polo tecnológico importante, con empresas y startups trabajando en IA. ¿Qué regulaciones vamos a adoptar? ¿Seguiremos el modelo de Trump y seremos restrictivos? ¿O seremos más permisivos como Europa, con su IA Act?
Además, la mayoría de los países latinoamericanos dependen de tecnologías desarrolladas en otros lados. Si no participamos en estas decisiones sobre seguridad de la IA, seremos consumidores pasivos de sistemas cuya gobernanza decidieron otros. Eso incluye riesgos de ciberseguridad: si un modelo de IA potencialmente peligroso se usa para desarrollar malware o ataques sofisticados, nos afecta directamente. Y nuestras capacidades de defensa digital siguen siendo más limitadas que las de países desarrollados.
¿Qué se recomienda?
Para empresas y desarrolladores en Argentina: mantenerse actualizado sobre los estándares de seguridad. No todas las innovaciones en IA van a pasar los filtros de regulación. Para gobiernos: es hora de empezar a pensar seriamente en marcos regulatorios propios, en lugar de reaccionar cuando otros ya tomaron decisiones. Y para usuarios: entender qué pueden hacer estas herramientas es fundamental para usarlas de forma responsable. La IA no es intrínsecamente buena o mala. La pregunta de Anthropic—¿quién decide cuándo es peligrosa?—es la pregunta correcta. Pero necesitamos respuestas claras, y rápido.
Fuente: The Verge AI
