ChatGPT como prueba: cómo la IA se convierte en testigo en juicios
Imaginá que cada conversación que tenés con una IA podría terminar siendo presentada ante un juez. Eso es exactamente lo que pasó en California, donde los registros de ChatGPT se convirtieron en una herramienta clave para condenar a un sospechoso de incendio premeditado. La noticia abre un debate incómodo sobre privacidad, vigilancia digital y cómo los datos que generamos con la IA pueden ser usados en tu contra.
¿Qué pasó?
Jonathan Rinderknecht enfrentaba cargos por incendio premeditado tras provocar un fuego el 1 de enero de 2025 que se convirtió en uno de los incendios más mortíferos de la historia de Los Ángeles. Los fiscales construyeron su caso combinando múltiples fuentes de evidencia: datos de ubicación del iPhone del acusado, footage de cámaras de seguridad, testimonios de testigos y, sorpresivamente, sus registros de conversaciones en ChatGPT.
Los fiscales argumentaron que los logs de la IA demostraban intención previa y conocimiento sobre cómo provocar el incendio. Aunque no está completamente claro qué preguntas específicas realizó Rinderknecht al chatbot, la fiscalía consideró que estas conversaciones eran suficientemente incriminatorias como para incluirlas en el expediente.
Este caso marca un punto de inflexión en cómo las autoridades judiciales entienden la evidencia digital en la era de la IA. Ya no se trata solo de mensajes de texto o búsquedas en Google, sino de las interacciones con sistemas de inteligencia artificial entrenados para responder (casi) cualquier pregunta.
¿Por qué importa en Argentina y América Latina?
Aunque este caso ocurrió en Estados Unidos, sus implicaciones llegan directamente a tu puerta. En Argentina y en toda América Latina, el uso de ChatGPT y otras herramientas de IA está creciendo exponencialmente. Desde estudiantes que usan estas plataformas para hacer tareas hasta abogados que las implementan en sus despachos, millones de latinoamericanos generan datos de conversación diariamente.
Aquí está el problema: nuestras jurisdicciones no tienen marcos legales claros sobre cómo OpenAI, Google o Microsoft deben manejar los datos de usuarios cuando las autoridades solicitan acceso. ¿Qué pasa cuando una corte argentina solicita los logs de ChatGPT de un sospechoso? ¿Quién autoriza el acceso? ¿Hay notificación previa? Estas preguntas aún no tienen respuesta.
Además, en países donde la corrupción judicial es un problema documentado, la idea de que los registros de IA puedan usarse como evidencia sin protecciones suficientes es francamente aterradora. El potencial para abuso es enorme.
¿Qué se recomienda?
- Entendé qué datos compartís: Recordá que cada conversación con ChatGPT, Gemini o Claude se almacena. Leé los términos de servicio de las plataformas que usás.
- Cuidado con lo que preguntás: No es paranoia; es sentido común. Evita hacer preguntas que podrían incriminarte o ser malinterpretadas fuera de contexto, especialmente en temas legales, médicos o financieros sensibles.
- Presiona por regulación: En Argentina, esto es momento para que legisladores, abogados y activistas de privacidad comiencen a debatir cómo proteger los datos de IA. Otros países están adelantados en esto.
- Usa herramientas con privacidad: Si tu privacidad es prioritaria, considerá alternativas que ofrecen mayor confidencialidad o que permiten chats sin historial.
- Documentá acceso no autorizado: Si creés que tus datos de IA fueron accedidos sin consentimiento, guardá evidencia y consultá con un abogado especializado en derecho digital.
Fuente: The Verge AI
