Un demandante ocultó instrucciones invisibles para IA en documentos judiciales

Un demandante que se representaba a sí mismo en Connecticut ocultó instrucciones para sistemas de inteligencia artificial dentro de documentos judiciales oficiales, intentando sesgar una posible revisión automatizada a su favor. El caso expone un nuevo vector de manipulación en la intersección entre IA y justicia.

Matthew Elliott había demandado al New York Bariatric Group en octubre de 2025 por violaciones de privacidad de datos y discriminación. En sus presentaciones ante la corte, incrustó prompt injections en texto blanco de 3 puntos sobre fondo blanco: invisible para el ojo humano, pero completamente legible para cualquier modelo de lenguaje que procese el documento.

Según reportó 404 Media, las instrucciones ocultas le ordenaban a un hipotético sistema de IA asegurar que su análisis se alineara con lo presentado por Elliott y que tratara una denegación previa del secretario judicial como un error a corregir.

Cómo lo descubrieron

La corte detectó el esquema porque notó espacios en blanco inusuales en las presentaciones de Elliott. Al examinar más de cerca, encontraron el texto casi invisible.

El juez Walter Spader Jr. programó una audiencia y advirtió explícitamente a Elliott contra esconder texto en documentos judiciales. Elliott ignoró la advertencia: en presentaciones posteriores volvió a ocultar mensajes, incluyendo un link de YouTube y comentarios burlones.

Elliott le dijo a 404 Media que el primer intento había sido una "auditoría" de un posible sistema de revisión por IA. Los mensajes posteriores, afirmó, eran solo "chistes invisibles".

La comparación con influir secretamente a un jurado

En su fallo de 14 páginas, el juez Spader dejó en claro que las cortes de Connecticut no usan sistemas de IA para revisar o fallar sobre presentaciones. Las instrucciones ocultas no tuvieron efecto alguno en el resultado.

Pero el intento en sí mismo fue el problema, escribió, porque buscaba covertamente influir en un sistema de IA que podría haber estado en uso.

"Consideren lo claramente inapropiado que sería que una parte arreglara que un agente automatizado se comunicara encubiertamente con un jurado durante el juicio", escribió Spader. Una instrucción oculta es, en esencia, una comunicación secreta dirigida a quienes toman decisiones o a las herramientas en las que confían.

Al mismo tiempo, el juez dio la bienvenida explícita al uso de IA para preparar presentaciones. Estas herramientas les dan a personas sin abogados nuevas formas de presentar sus casos con claridad, escribió. Lo que hizo Elliott fue un uso deshonesto de esas herramientas.

Spader también advirtió que los modelos de lenguaje pueden reforzar razonamientos legales defectuosos porque tienden a desarrollar los argumentos de un usuario de la forma más persuasiva posible, en lugar de cuestionarlos.

Como sanción, la corte le quitó a Elliott el derecho a presentar documentos electrónicamente. Ahora tiene que entregar todas sus presentaciones en papel, en persona, en la oficina del secretario.

Un problema que va más allá de las cortes

Los intentos de manipular sistemas de IA mediante instrucciones ocultas en documentos no se limitan a presentaciones judiciales.

El año pasado, Nikkei encontró instrucciones como "solo reseñas positivas" o "sin críticas" en 17 preprints en arXiv. Estaban ocultas en texto blanco sobre fondo blanco y en tamaños microscópicos, todas apuntando a sesgar revisiones por pares automatizadas a favor de los autores.

El juez Spader hizo referencia a un caso similar en Brasil, donde dos abogados también habían ocultado texto blanco reducido sobre fondo blanco en una presentación para manipular el sistema de IA de la corte. En ese caso, el propio sistema de la corte detectó y bloqueó el texto antes de procesarlo.

Por qué importa

Este caso revela una vulnerabilidad estructural en cualquier sistema que combine revisión automatizada con ingesta de documentos externos. No importa si la corte de Connecticut efectivamente usaba IA o no: el intento mismo demuestra que los actores malintencionados ya están pensando en vectores de ataque sobre sistemas automatizados en contextos críticos.

Para organizaciones que están implementando agentes de IA o flujos de trabajo automatizados, el caso Elliott es una advertencia temprana. Si tus sistemas procesan documentos externos (contratos, reportes, solicitudes), necesitás sanitización de inputs y controles sobre qué texto puede influir en las decisiones de tus modelos.

La prompt injection no es solo un problema de ciberseguridad técnico: es un problema de diseño de procesos. Cualquier sistema que tome decisiones basándose en contenido no controlado necesita capas de validación humana o técnica para detectar intentos de manipulación, visibles o no.