OpenAI disolvió su equipo de seguridad en IA: ¿qué significa?
Una decisión sorprendente en OpenAI está generando alarma en la comunidad de seguridad tecnológica mundial. La empresa que desarrolla ChatGPT disolvió su equipo de "preparedness" (preparación), justamente el grupo responsable de identificar y mitigar los riesgos más serios que podrían generar sus modelos de inteligencia artificial. En un momento donde la IA avanza a velocidad vertiginosa, cerrar el equipo que vela por su seguridad parece contraproducente.
¿Qué pasó?
Según reportes de Financial Times, OpenAI disolvió su equipo de preparedness a fines del mes pasado. Este grupo tenía una misión crítica: evaluar si los modelos de IA podían representar riesgos graves para la sociedad y desarrollar estrategias para mitigarlos. Estamos hablando de escenarios preocupantes como la posibilidad de que estos modelos sean utilizados maliciosamente para hackear sistemas, crear desinformación a escala masiva o ser empleados en ataques cibernéticos sofisticados.
La disolución del equipo significó que sus responsabilidades fueron redistribuidas entre otros departamentos de la empresa. Sin embargo, expertos en seguridad cuestionan si esta reorganización mantiene el mismo nivel de escrutinio y especialización que requiere evaluar riesgos existenciales vinculados con sistemas de IA cada vez más poderosos.
Esta noticia llega en un contexto donde OpenAI ha enfrentado múltiples críticas sobre su gobernanza de seguridad, incluyendo la salida de algunos ejecutivos clave que se preocupaban por estos temas. La decisión de disolver un equipo dedicado específicamente a preparedness suena como un paso atrás en materia de responsabilidad corporativa.
¿Por qué importa en Argentina y América Latina?
Si bien OpenAI es una empresa estadounidense, sus decisiones sobre seguridad afectan globalmente. En América Latina, donde la adopción de IA crece exponencialmente en empresas, gobiernos y servicios críticos, cualquier debilidad en las medidas de seguridad de los principales proveedores de modelos de IA nos impacta directamente.
Argentina, en particular, es blanco frecuente de ataques cibernéticos. Si los modelos de OpenAI pueden ser utilizados más fácilmente para fines maliciosos (sin un equipo robusto evaluando esos riesgos), aumenta la amenaza para nuestras infraestructuras bancarias, gubernamentales y de servicios esenciales. Además, la desinformación generada por IA es una preocupación creciente en elecciones y debates públicos de toda la región.
¿Qué se recomienda?
Para usuarios y empresas: Mantengan escepticismo con respecto a información generada por IA. No confíen ciegamente en outputs de ChatGPT o similares sin verificación independiente. Implementen controles sobre cómo se usan estas herramientas internamente.
Para organismos de seguridad y gobiernos: Es momento de que reguladores en Argentina y América Latina exijan transparency reports sobre cómo las empresas de IA evalúan riesgos de seguridad. No podemos dejar que decisiones corporativas estadounidenses determinen nuestro nivel de exposición a amenazas.
Para profesionales de ciberseguridad: Prepárense para nuevos vectores de ataque que incorporen IA. Los atacantes ciertamente estarán explorando usos maliciosos de estos modelos ahora que hay menos supervisión interna.
Fuente: The Verge AI
