Un abogado pagó $5K por usar testigos inventados por IA en un juicio
Imaginá que tu abogado defensor usa testigos que nunca existieron, policías ficticios y pruebas inventadas por una IA. Suena a película de ciencia ficción, pero acaba de pasar en Estados Unidos. Y es un aviso que deberían leer todos los profesionales legales de América Latina.
¿Qué pasó?
La Corte Suprema de Nuevo México multó al abogado Stephen Aarons con $5.000 e lo declaró en desacato después de que incluyera testigos y testimonios policiales completamente fabricados por inteligencia artificial en una apelación por homicidio. El letrado usó ChatGPT para fortalecer su caso, pero la IA no solo generó texto convincente: directamente inventó nombres, detalles y declaraciones que nunca ocurrieron.
El tribunal fue claro en su resolución: Aarons incumplió su obligación profesional fundamental de verificar los hechos que presentaba ante la corte. No se trata solo de una metida de pata. Es un quiebre grave de la ética legal que pone en riesgo todo un juicio, la credibilidad del sistema y los derechos de la defensa.
El caso evidencia un peligro real: la tendencia de algunos profesionales a usar herramientas de IA sin entender sus limitaciones. ChatGPT no consulta bases de datos reales, no verifica hechos y puede generar información plausible pero completamente falsa, un fenómeno que se conoce como "alucinación" en el mundo de la IA.
¿Por qué importa en Argentina y América Latina?
Acá en Argentina y en toda América Latina, el sistema judicial ya enfrenta desafíos: saturación de casos, plazos extensos, recursos limitados. Es tentador para un abogado decir "bueno, voy a dejarle esto a ChatGPT para ganar tiempo". Pero como vemos, eso puede terminar mal. Muy mal.
En países como México, Colombia y Brasil, donde la profesión legal está en transformación digital, estos casos funcionan como señal de alerta. No se trata de prohibir la IA en el derecho (la tecnología es valiosa para búsquedas legales, análisis de jurisprudencia, automatización de trámites), sino de establecer límites claros: las decisiones críticas, los hechos presentados ante tribunales, las estrategias de defensa, siguen siendo responsabilidad 100% humana.
¿Qué se recomienda?
Para abogados y profesionales legales: Si vas a usar herramientas de IA, que sea solo para tareas auxiliares verificables (búsqueda de jurisprudencia, resúmenes de documentos, borrador de escritos que luego editás). Verificá todo lo que genere. Entendé que ChatGPT y similares pueden inventar citas, casos y hechos. Nunca uses IA para crear "pruebas" o testimonios.
Para colegios de abogados: Es urgente crear guías éticas sobre uso de IA en la profesión legal. Argentina, México, Colombia: necesitan regulaciones locales antes de que pase acá lo que pasó en Nuevo México.
Para litigantes: Si tu abogado te dice que está usando IA para tu defensa, preguntá específicamente cómo y dónde. Exigí transparencia sobre qué partes del caso están siendo procesadas por máquinas.
Fuente: The Verge AI
