El primer caso de “prompt injection” en sede judicial, amerita un análisis desde la inteligencia artificial, la lealtad procesal y la integridad de la administración de justicia

La incorporación de sistemas IA en la administración de justicia ha creado nuevas oportunidades para la eficiencia judicial, pero también nuevas superficies de ataque. El reciente caso conocido como el primer supuesto de “prompt injection” en una demanda judicial, reportado en Brasil, marca un punto de inflexión para el derecho procesal, disciplinario y tecnológico. Las noticias del caso refieren que en un escrito de demanda se habrían introducido instrucciones ocultas (en color blanco, dentro de una hoja blanca) en una demanda laboral, dirigidas a manipular el comportamiento de una herramienta de IA utilizada en el entorno judicial (instrucciones dirigidas a que procesara el documento, para que respondiera de forma superficial y no cuestionara los documentos aportados). El tribunal calificó la conducta como un atentado contra la dignidad de la justicia, impuso multa y ordenó remitir los hechos a instancias disciplinarias.

Casos como este, dejan claro que la justicia digital ya no se limita al expediente electrónico, las notificaciones virtuales o las audiencias remotas. El nuevo escenario incorpora sistemas de inteligencia artificial capaces de resumir expedientes, clasificar documentos, asistir en la redacción de providencias, identificar patrones jurisprudenciales, sesgos de género y por supuesto apoyar tareas administrativas. En Colombia, la Corte Constitucional reconoció en la Sentencia T-323 de 2024 que la IA puede ser empleada en labores propias de la justicia, siempre que no sustituya el razonamiento judicial humano ni comprometa derechos fundamentales.

Es decir que el problema jurídico trascendió, no consiste únicamente en determinar si la inteligencia artificial puede ser usada por jueces o abogados. Ese debate ya se encuentra zanjado en Colombia. La pregunta más compleja es qué ocurre cuando un sujeto procesal intenta manipular una herramienta de IA mediante instrucciones ocultas en un memorial, demanda, prueba documental o escrito judicial; ¿cómo debe reaccionar el derecho disciplinario cuando una parte, abogado o servidor judicial intenta manipular de manera encubierta una herramienta de inteligencia artificial que interviene en el trámite, análisis o decisión de un proceso?

La particularidad del “prompt injection” es que no ataca necesariamente la infraestructura tecnológica mediante malware, acceso no autorizado o intrusión informática clásica. Su operación es semántica: usa lenguaje natural como vector de manipulación. IBM define estos ataques como entradas maliciosas disfrazadas de instrucciones legítimas, capaces de inducir a sistemas de IA generativa a filtrar información, producir desinformación o alterar su comportamiento. Es decir que, estas conductas comportan una nueva modalidad que, desde una dimensión procesal, puede alterar la igualdad de armas, la contradicción y la buena fe, desde una mirada disciplinaria, puede constituir una conducta contraria a la lealtad, honradez y respeto debido a la administración de justicia y desde una óptica institucional, afecta la confianza pública en la justicia digital y en los sistemas de apoyo algorítmico.

Esto cambia el análisis tradicional de la responsabilidad disciplinaria frente al uso indebido de la IA, ya no se trata de usarla para construir una argumentación persuasiva dirigida al juez, sino de una instrucción encubierta dirigida a la máquina, para intervenir en el procesamiento del documento, condicionando el insumo que eventualmente llegará a quien toma decisión. En otras palabras, el ataque se dirige a la mediación tecnológica del proceso.

Por ahora, mientras llegamos a una construcción normativa sólida, el llamado a quienes imparten justicia no es a limitar el uso de la IA, sino a controlar que su uso este sometido a criterios de transparencia, responsabilidad, verificación y respeto del debido proceso, protegiendo la actuación de estos intentos de manipulación algorítmica.