TikTok lanza herramienta para detectar deepfakes de creadores
Los deepfakes y las imitaciones generadas por IA se convirtieron en un problema cada vez más serio en las redes sociales. Ahora TikTok quiere ponerse firme con una nueva herramienta que apunta directamente a proteger a sus creadores: una función de detección de imitaciones por IA que permite reportarlas directamente a la plataforma.
¿Qué pasó?
TikTok comenzó a probar una herramienta opt-in (es decir, que los usuarios deben activar voluntariamente) que detecta imitaciones de IA de creadores y les permite reportarlas directamente a la empresa. El descubrimiento fue hecho por Matt Navarra, consultor de redes sociales, y confirmado por Zachary Kizer, vocero de TikTok US, quien indicó que la prueba se está llevando a cabo con "algunos" creadores estadounidenses de manera inicial.
Esta movida no es aislada: YouTube ya trabaja en una herramienta similar desde hace tiempo, así que estamos viendo una tendencia clara entre las grandes plataformas de video por enfrentar este desafío. La función escanea el contenido para identificar imitaciones generadas con inteligencia artificial y ofrece a los creadores un sistema directo para denunciarlas sin tener que pasar por procesos complicados.
Por el momento, TikTok no ha dado detalles sobre cuándo se expandirá esta herramienta a más creadores o si llegará a otras regiones como América Latina, pero la compañía indicó que continuarán refinándola durante la fase de prueba.
¿Por qué importa en Argentina y América Latina?
En la región, la amenaza de los deepfakes y las imitaciones por IA es especialmente relevante. Argentina, Brasil, México y otros países latinoamericanos tienen comunidades enormes de creadores de contenido en TikTok, muchos de los cuales dependen de su reputación y su imagen para monetizar su trabajo. Un deepfake bien hecho puede dañar la carrera de un creador, afectar sus ingresos y, peor aún, ser utilizado para estafas o suplantación de identidad.
Además, la región se ha visto impactada por casos de suplantación de identidad y fraude usando IA generativa. Una herramienta así podría ser crucial para proteger a los creadores latinoamericanos mientras espera que las regulaciones locales evolucionen para acompañar estos avances tecnológicos.
¿Qué se recomienda?
Para creadores: Aunque la herramienta aún está en prueba, aprovechá para entender cómo funcionan los deepfakes y la IA generativa. Documentá cualquier imitación que encuentres y conservá pruebas (capturas de pantalla, URLs). Si sos creador de contenido, monitoreá regularmente menciones de tu nombre en TikTok y otras plataformas.
Para usuarios en general: Desconfiá del contenido sospechoso. Los deepfakes de buena calidad pueden ser engañosos, especialmente si no conocés bien a la persona. Verificá fuentes, buscá signos de manipulación (movimientos extraños, inconsistencias en la luz, parpadeos anormales) y no compartas contenido cuestionable sin verificación.
Para plataformas: Esta es una buena medida, pero es solo el primer paso. Las detecciones automáticas de IA generativa son útiles, pero también se necesitan políticas claras de castigo a quienes crean deepfakes maliciosos, acción rápida en denuncias y transparencia sobre cómo se investigan estos casos.
Fuente: The Verge AI
