En reciente decisión, la Sala de Casación Penal de la Corte Suprema de Justicia inadmitió un recurso de casación presentado en un caso de fraude procesal. De tal forma, la Corte consideró que este no había cumplido con la técnica requerida para el recurso extraordinario, pero además añadió que tras la “sospecha de uso de IA”, sometió el escrito del defensor a dos herramientas de detección (Winston AI y Copyleaks), las cuales arrojaron, respectivamente, un 7% de contenido humano y un 100% de probabilidad de un texto no humano.

Ante este escenario, la decisión respectiva plantea una pregunta que trasciende al análisis del caso concreto, como es: ¿Puede una “sospecha” convertirse en el fundamento de una decisión judicial sin explicar cómo funciona la herramienta que la sustenta?

Conviene hacer una precisión importante, y es que la decisión de inadmisión de la Corte, en sí misma, es correcta, debido a que la casación se trata de un medio procesal de técnica rigurosa que solo es procedente por los motivos expresados en el Artículo 181 de la Ley 906 de 2004. Pero el problema no radica ahí, sino en la forma en que estas herramientas de detección fueron utilizadas sin reparo a las imprecisiones prácticas con las que éstas cuentan.

Para sustentar dicha afirmación, es necesario hacer referencia al reciente estudio publicado por Hadra y otros (2026), donde sus hallazgos revelaron las deficiencias de este tipo de detectores, debido a los avances en el lenguaje natural de las IAs y las cantidades alarmantes de falsos positivos a textos 100% humanos. Por lo tanto, a pesar de que las compañías afirmen que estas herramientas son fiables, la realidad muestra todo lo contrario, pues no pueden cumplir con lo que se promete.

De tal manera, cuando un Tribunal, o en este caso, la Corte Suprema de Justicia, emplea este tipo de herramientas sin justificar su funcionamiento, impide la contradicción y coloca a la defensa en una posición de desventaja estructural frente al proceso. Dicho de otra forma: la Corte condenó sobre una sospecha que ella misma no puede explicar.

En este orden de ideas, puede traerse a colación el concepto de transparencia algorítmica, el cual fue desarrollado por la Corte Constitucional en Sentencia T-067 de 2025, y que consiste en un desarrollo del derecho fundamental al acceso a la información pública, por medio del cual debe comunicarse los sistemas tecnológicos que adopta el Estado y cómo funcionan éstos. Sin embargo, esta exigencia resulta insuficiente cuando se está frente a la afectación de derechos fundamentales.

Para resolver esta cuestión, Ximena Andrés (2025) propone ir más allá de esta exigencia, para empezar a hablar de “transparencia antropológica”, esto es, que las explicaciones sobre el funcionamiento de los sistemas automatizados no solo sean técnicamente auditables, sino comprensibles para los ciudadanos que son afectados por ellas.

Esta distinción entre la transparencia algorítmica y antropológica puede ser más sutil de lo que parece. Por lo tanto, un sistema puede ser matemáticamente auditable, en cuanto a cómo funciona, qué algoritmos contiene o qué variables maneja, pero resultar hermenéuticamente opaco para la persona afectada. En el caso del Auto AP760-2026, la Corte pudo presentar porcentajes con aparente precisión técnica (7% de contenido humano, 100% de probabilidad de generación por IA) y, sin embargo, el abogado afectado no contó con ningún elemento para controvertir esos resultados, pues ni se explicó el entrenamiento de las herramientas utilizadas, ni sus márgenes de error, ni su idoneidad para el contexto jurídico, nada.

La transparencia antropológica, entonces, no exige que el justiciable comprenda la arquitectura técnica del modelo, sino que pueda entender qué consecuencias produce sobre su situación procesal y contar con canales reales para impugnarla. Por lo tanto, en su esquema propositivo Ximena Andrés (2025) propone tres condiciones mínimas para que esta exigencia pueda realizarse: i. una explicación breve del sistema que se utiliza y su fiabilidad; ii. una traducción de los resultados arrojados por el sistema y; iii .una motivación sobre la idoneidad de la decisión del sistema en el caso concreto. Ninguna de estas tres condiciones estuvo presente en el auto de la Sala de Casación Penal.

Este estándar no es un capricho, pues tiene raíces en prerrogativas constitucionales tan importantes como lo son el debido proceso, consagrado en el Artículo 29 de la Constitución Política, la tutela judicial efectiva, en el Artículo 229 y el principio pro personae, que obliga a interpretar las garantías procesales de la manera más favorable al justiciable (Corte Constitucional. Sentencia T-369 de 2015) y que encuentra fundamento en el Artículo 1o de la Carta Política.

En definitiva, la decisión de la Sala de Casación Penal, invita a una reflexión que va más allá de si el detector de IA es fiable o no. Puesto que ofrece una oportunidad valiosa para evaluar la importancia de construir estándares más rigurosos en consideración del uso concreto de tecnologías en los despachos judiciales.

Así mismo, permite estudiar los riesgos de que, ante una sospecha, se invalide un escrito sin la utilización de criterios humanos, tras la revisión técnica de herramientas externas como detectores de IA. Debido a que una motivación no puede descansar en porcentajes cuya metodología no se explica ni se somete a contradicción. Todo lo anterior permite concluir que la regulación que se construya deberá responder, al menos, tres preguntas: qué herramientas pueden usarse en sede judicial, cómo deben documentarse y comunicarse sus resultados, y de qué manera puede la defensa controvertirlos en condiciones reales de igualdad.

Esta reflexión hace parte del proyecto “Transparencia antropológica y la legitimidad de los algoritmos en la justicia”, desarrollado en conjunto con Ximena Andrés para el grupo de investigación en Derecho de la Universidad Nacional de Mar del Plata.

Referencias

Andrés, X. (2025). De la auditabilidad técnica a la transparencia antropológica: agenda humana y legitimidad en la justicia algorítmica iberoamericana. Working paper Evento de Cierre 2025 – Jóvenes y Noveles Investigadores FIADI Primeros en FIADI. Temática: Justicia en la era algorítmica / Transparencia en sistemas automatizados

Colmenares Ramírez, J. (2025). La transparencia algorítmica como nuevo elemento del derecho fundamental de acceso a la información pública. en Blog Columnas Interactivas, 22 de marzo de 2025. Disponible en: https://derechointeractivo.com/la-transparencia-algoritmica/

Congreso de la República. Constitución Política de Colombia (20, junio, 1991). Segunda edición corregida. Publicada en la Gaceta Constitucional No. 116 de 20 de julio de 1991. Santa Fe de Bogotá, D.C.: Diario Oficial No. 52.762. Disponible en: http://www.secretariasenado.gov.co/snado/basedoc/constitucion_politica_1991.html

Corte Constitucional. Sentencia T-369 de 2015

Corte Constitucional. Sentencia T-067 de 2025

Corte Suprema de Justicia. Sala de Casación Penal. Auto AP760-2026. Radicación N° 70927. Disponible en: https://www.ambitojuridico.com/sites/default/files/2026-03/Auto-AP7602026%2870927%29-26.pdf

Hadra, M., Cambridge, K. & Mesbah, M. (2026). Evaluating the accuracy and reliability of AI content detectors in academic contexts. Int J Educ Integr 22, 4 (2026). https://doi.org/10.1007/s40979-026-00213-1

El término deepfake se utiliza para designar contenidos audiovisuales (imágenes, audios o videos) que han sido manipulados o generados mediante herramientas basadas en inteligencia artificial (IA), con el fin de inducir al engaño, suplantar identidades o atentar contra el honor de las personas al situarlas en situaciones comprometedoras. Esta tecnología permite, entre otras posibilidades, reemplazar rostros, clonar voces o generar escenarios falsos, lo que la convierte en una herramienta susceptible de usos ilícitos.

Este tipo de falsificaciones digitales son más comunes de lo que se suele percibir y ha logrado comprometer la seguridad nacional de otros países. En Estados Unidos, por ejemplo, ha encendido las alarmas frente a múltiples ataques orquestados por bandas criminales que suplantaron la identidad de funcionarios de la administración Trump.

De manera similar, empresas de distintos sectores han sido víctimas de estos ciberataques, en los cuales logran engañar a directivos y empleados al mediante videollamadas o comunicaciones por voz falsas. Esta situación ha sido descrita por Brian Long, CEO de Adaptive Security, de la siguiente manera: “Ya no se trata de hackear sistemas, se trata de hackear la confianza”.

Frente a este complejo escenario, se destaca una reciente novedad regulatoria que se posiciona como la primera ley en Colombia que trata exclusivamente sobre IA. Se trata de la Ley 2502 de 2025, por medio de la cual se modifica y establece un agravante al artículo 296 de la Ley 599 de 2000 (Código Penal Colombiano). En ella, se definió por primera vez términos como deepfake, identidad, imagen e individualidad digital (Artículo 2)

La modificación del tipo penal introduce un agravante al delito de falsedad personal cuando este sea cometido mediante herramientas de IA. Con esto, se aumentaría la pena hasta en una tercera parte cuando se utilicen estas tecnologías para la creación de videos, imágenes o audios falsos destinados a suplantar la identidad de una persona. Esto representa un fundamental avance en el control de delitos digitales (Artículo 3).

De igual modo, la ley establece directrices para la formulación de políticas públicas en materia de prevención y control del uso indebido de la IA en la suplantación de identidad. Dicha política pública estará dirigida a la promoción de un marco ético, colaboración interseccional, capacitación y desarrollo tecnologías que permitan combatir este tipo de delitos (Artículo 4).

No obstante, surgen diversas interrogantes entorno a la capacidad de esta política pública frente a los vertiginosos avances tecnológicos que facilitan la generación de deepfakes. Debido a lo anterior, es necesaria la formulación de competencias técnicas que permitan el control de estas conductas, de modo que puedan detectarse con mayor facilidad este tipo de manipulaciones.

Para fortalecer la investigación de casos vinculados al uso de IA para cometer el delito de falsedad personal, la ley previó la creación de registros que garanticen la trazabilidad de la información sobre metodologías utilizadas, su impacto y las medidas judiciales aplicadas en estos casos. Sin embargo, su acceso será de uso exclusivo para entidades que ejerzan funciones de policía judicial, entidades de la rama judicial y de seguridad (Artículo 5).

Si bien, la modificación comenzará a regir a partir de un año después de su sanción y promulgación, constituye un avance significativo en la intersección de ciberdelitos cometidos mediante herramientas como la IA (Artículo 6).

En definitiva, la Ley 2502 de 2025 es una respuesta clave a necesidad contemporáneas, al tiempo que refuerza la protección de la identidad e individualidad digital como un complemento de la identidad física. En estos momentos, el panorama se mantiene expectante y fija la mirada hacia los próximos desarrollos regulatorios de la IA en demás aspectos de la vida social.

El derecho fundamental de acceso a la información pública es una prerrogativa de orden constitucional contenida en los Artículos 20, 23 y 74 de la Constitución Política. Se trata, tal como lo establece la Ley 1712 de 2014, del derecho que tiene toda persona para conocer sobre la existencia y acceder a la información pública en posesión o bajo control del Estado, de conformidad con el principio de máxima publicidad[1].

En virtud de ello, los datos públicos contenidos en sistemas tecnológicos deben poder ser consultados, por lo que la disponibilidad es una parte inescindible del acceso a la información pública. De ahí que Colombia cuente con un repositorio dedicado a recopilar grandes cantidades de datos en formatos que permiten su uso sin restricciones legales para su aprovechamiento a través de Datos Abiertos.

En este contexto, la Corte Constitucional profirió la Sentencia T-067 de 2025, misma que se emite en el proceso de revisión de los fallos de tutela dictados en respuesta de la acción promovida por el ciudadano Juan Carlos Upegui Mejía, profesor de la Universidad Externado de Colombia, en contra de la Agencia Nacional Digital, el Instituto Nacional de Salud y el Ministerio de Salud y Protección Social.

En su momento, el profesor Upegui solicitó a las entidades mencionadas que fuera público el código fuente de la aplicación CoronApp – Colombia[2], lo cual le fue negado bajo el argumento de que la información se encontraba bajo reserva de confidencialidad, y su publicación comprometería grandes cantidades de datos personales, así como la seguridad de las medidas de salud pública adoptadas para atender la crisis sanitaria de la Covid-19. Dicha tesis sería adoptada por los jueces de primera y segunda instancia, quienes negaron el amparo solicitado al aducir la sensibilidad de la información que el accionante solicitaba fuese publicada.

No obstante, al examinar dichas decisiones, la Corte concluyó que se había vulnerado el derecho fundamental a la información pública, ya que dicha justificación no era razonable. De tal modo, introdujo el concepto de transparencia algorítmica como un elemento que hace parte sustancial del derecho fundamental al acceso a la información pública.

Asimismo, ordenó a diferentes entidades del Estado a expedir lineamientos sobre la transparencia algorítmica y las obligaciones del Estado en el desarrollo de herramientas digitales que garanticen el principio de máxima divulgación.

En sí, la transparencia algorítmica, en concordancia con la definición de la Corte, es la disponibilidad de información sobre sistemas de algoritmos que permite conocer su operación y valorar su rendimiento. En el caso concreto, la Corte constató que las entidades pudieron tomar medidas de seguridad que conservasen la intimidad de los datos que contenían información de los usuarios, al separar estos del código fuente de la referida aplicación.

Dicho de otra forma, la inclusión de este nuevo elemento al derecho fundamental de acceso a la información pública conlleva a que todo ciudadano pueda ser informado de cómo funcionan los sistemas que sean puestos en marcha, tales como CoronApp.

En esta visión, el desarrollo del concepto de transparencia algorítmica es un gran avance en la democratización de los datos y la Administración Pública. Por el momento, es cuestión de observar los avances de los lineamientos ordenados por la Corte que desarrollen este concepto, pero este es un paso importante hacia el desarrollo aplicación ética de sistemas tecnológicos en el sector público.

[1] Al respecto, el Artículo 2. de la Ley 1712 de 2014 establece: “Toda información en posesión, bajo control o custodia de un sujeto obligado es pública y no podrá ser reservada o limitada sino por disposición constitucional o legal…”

[2] Esta aplicación móvil fue anunciada a principios de marzo de 2020 por el exmandatario Iván Duque Márquez, la cual tenía por objeto compartir información con respecto a medidas preventivas relacionadas con la pandemia de Covid-19 y otros protocolos relacionados. Algunos de los datos más relevantes recopilados por la App son los relacionados con el registro de atención a pacientes y vacunación masiva. Ministerio de Salud y Protección Social (07, marzo, 2020). CoronApp – Colombia, la aplicación para que conocer la evolución del coronavirus en el país. Disponible en: https://www.minsalud.gov.co/Paginas/CoronApp.aspx