Fundador Derecho interactivo

X: @CristianS05

Para: Ambito Jurídico

En un mundo donde la tecnología avanza a un ritmo vertiginoso, el arte de lo humano se alza como un baluarte de autenticidad y, sobre todo, sensibilidad. Escuchar la forma en que Yo-Yo Ma interpreta una suite de Bach, contemplar los matices de una pintura de Van Gogh, o descubrir el realismo mágico de García Márquez, en general, son experiencias que trascienden lo ordinario, casi como si la misma pudiese transmitir un lenguaje que solo nuestra esencia humana comprende.

Parece existir un consenso generalizado sobre nuestra inclinación a valorar el arte creado por el ser humano. Lo artesanal, con su carga de autenticidad y singularidad, suele despertar una apreciación mayor que lo producido de manera artificial. Pero, ¿podemos extender este mismo criterio a las decisiones jurídicas? ¿Podrían considerarse, al igual que el arte, una expresión tan profunda de la humanidad que no deberían ser reemplazadas por máquinas?

El riesgo de delegar decisiones fundamentales a las máquinas es una preocupación creciente, especialmente cuando esas decisiones afectan los derechos humanos y la dignidad de las personas. Si bien la inteligencia artificial (IA) ha demostrado su potencial para procesar grandes cantidades de datos y realizar tareas repetitivas con rapidez y eficiencia, aun nos preguntamos sobre su capacidad para comprender principios tan complejos y profundamente humanos como la dignidad, la justicia y la equidad.

Aunque nuestras codificaciones no contemplan explícitamente la posibilidad de que un ente no humano adopte decisiones jurídicas, el verdadero riesgo no radica en un reemplazo directo del juez, sino en la aplicación soterrada o encubierta de la IA. Este riesgo se amplifica en procesos donde la decisión final se adopta por escrito, ya que podría dar lugar a una sustitución o sesgo en el análisis realizado por la autoridad decisora, hasta el punto de que, en la práctica, la decisión la tome la máquina, aunque se presente bajo la apariencia de una intervención humana.

Desde un punto de vista práctico surge la pregunta: ¿qué sucedería si una decisión sancionatoria o absolutoria se deriva de una intervención no supervisada de IA? ¿Sería posible invocar una nulidad o una acción de tutela?

Nuestra respuesta es afirmativa para ambas. Una decisión de estas características podría no solo comprometer su legitimidad, sino también vulnerar el derecho al debido proceso en dimensiones como la imparcialidad, la independencia y la debida motivación. Esto adquiere especial relevancia en el ámbito del derecho sancionatorio, donde el decisor no solo administra justicia en casos concretos, sino que además actúa como garante de los fines estatales.

Aunque establecer límites a la intervención de la IA pueda parecer prematuro, incluso innecesario, ignorar esta cuestión sería un error. En un contexto donde la justicia enfrenta serios retrasos, es factible que la sociedad, adoptando una visión práctica, se muestre indiferente al origen de las decisiones, siempre y cuando estas sean rápidas y razonablemente estructuradas, lo cual abriría la puerta a la deshumanización del derecho.

No obstante, es fundamental que, en este escenario, la IA no sustituya sino que complemente la labor humana. Esto permitirá contar con un enfoque mixto, que promueva el uso de la IA en áreas técnicas que requieren un alto volumen de procesamiento de información, mientras que el ser humano con su sensibilidad y capacidad de juicio crítico, adopte la decisión final.

Es evidente que existe una gran dificultad para probar el uso no ético de la IA en la toma de decisiones. Ante esto, fomentar la oralidad en los procesos jurídicos, especialmente en los sancionatorios (judiciales y administrativos), se convierte en una medida clave para garantizar un filtro humano. La oralidad fortalecerá la inmediación y reducirá el riesgo de confiar en exceso en la máquina o en sustanciadores que, en sus proyectos, puedan prescindir del análisis humano.

En esta visión, es crucial reconocer y positivizar el “derecho a una decisión no artificial”, asegurando que las decisiones que impacten significativamente la vida, la dignidad y los derechos fundamentales de las personas, sean fruto de un análisis humano informado, que contemple el contexto, la proporcionalidad y la razonabilidad del caso, evitando una mera reproducción mecánica de las sugerencias generadas por sistemas artificiales.

CRISTIAN DAVID SALAZAR CHAVARRO

Fundador Derecho Interactivo

Publicado en Ambito Jurídico

Hemos leido y escuchado que uno de los riesgos latentes en la utilización de la inteligencia
artificial (IA), es la posible aparición de sesgos en la generación de sus resultados, los cuales parten
de la existencia de actitudes y visiones discriminatorias que muchas veces pasan inadvertidas. Estos
pueden reflejar desigualdades históricas, culturales o sociales presentes en los datos, lo que resulta
en decisiones perjudiciales e injustas.

Además de los riesgos éticos que pueden surgir en el abordaje de casos puntuales, una de
las circunstancias que tienden a ser mayormente puestas a prueba, es la amplificación y
perpetuación de desigualdades existentes. Si los algoritmos toman decisiones basadas en datos
sesgados, podrían continuar o incluso exacerbar patrones discriminatorios en áreas tan sensibles
como la justicia.

¿Y qué tal si lo hacemos al contrario? Si partimos de la base que la IA esta alimentada por
la data generada por la misma humanidad, ¿por qué no utilizar a la IA para contribuir en la
detección de los sesgos humanos?

Gracias a la capacidad de la IA para analizar grandes cantidades de datos y detectar
patrones complejos, esta herramienta tiene la posibilidad de identificar sesgos sutiles que podrían
pasar inadvertidos para las personas. Por ejemplo, la IA podría alertar a una autoridad judicial o
disciplinaria sobre posibles sesgos humanos involucrados en la resolución de un caso específico,
encaminando así su abordaje bajo parámetros acordes con la dignidad humana.

Con el fin de observar esta interesante capacidad tecnológica, realizamos un análisis de la
sentencia T-400 de 2022 emitida por la Corte Constitucional, por medio de la cual se emitieron unos
lineamientos medulares en la interpretación de casos bajo la “perspectiva de género”.

En este sentido, el alto tribunal al revisar una conducta relacionada con un presunto acoso
sexual laboral en una entidad pública, destacó: i) a pesar de su coherente narración sobre el acoso
sexual, la Procuraduría General de la Nación (PGN) había cuestionado la credibilidad del testimonio
de la víctima por detalles irrelevantes. ii) Requerir pruebas en situaciones privadas fomenta la
impunidad y la tolerancia institucional hacia violaciones de los derechos de la mujer. iii) Se criticaron
las opiniones basadas en estereotipos sexistas que minimizan las respuestas de las mujeres ante
propuestas sexuales.

Siguiendo un esquema estructurado para la formulación de los prompts (preguntas
realizadas a la IA), se le consultó a ChatGPT que, actuando como un profesional del derecho y bajo
una interpretación sustentada en la perspectiva de género (contexto), emitiera su opinión (acción)
respecto si las conclusiones alcanzadas por la PGN en la construcción inferencial realizada dentro
del proceso, eran racionalmente correctas o presentaban algún tipo de sesgo (tarea). La respuesta,
debía ser proporcionada en una extensión de máximo 40 palabras por cada ítem (formato).

La respuesta obtenida por parte de la IA, claramente fue coincidente con el planteamiento
esgrimido por la Corte Constitucional en la sentencia analizada, en tanto privilegió una interpretación
alejada de prejuicios y estereotipos. La IA concluyó: “i) afirmar que las mujeres suelen rechazar con
firmeza propuestas inapropiadas de hombres ignora las complejas dinámicas de poder, miedo e
intimidación que pueden influir en sus respuestas. ii) Requerir detalles precisos en testimonios es
válido, pero en casos de acoso y violencia de género, el trauma puede distorsionar la coherencia de
las narrativas, revictimizando a las personas. iii) Atribuir responsabilidad basada en testimonios
únicos es válido, pero en contextos de desigualdad de género, la falta de pruebas tangibles o testigos
puede perpetuar la impunidad y debilitar la lucha contra el acoso y la violencia de género.”

Es fundamental resaltar que la inclusión del “enfoque diferencial de género” en el contexto
del prompt, no tiene la intención de ser un factor sugestivo o indicativo de cuál debería ser la
respuesta anticipada. De manera análoga a las inferencias realizadas por intérpretes humanos, estos
parámetros funcionan como cláusulas hermenéuticas que promueven una interpretación coherente
con la dignidad humana. En contraste, al presentar la misma consulta sin contexto, las respuestas
resultaron aleatorias y carecieron de una perspectiva que valorara los derechos reconocidos
constitucionalmente.

Si bien un uso inadecuado de algoritmos y datos puede perpetuar prejuicios humanos, este
análisis muestra cómo la IA puede ser un valioso aliado en la prevención y abordaje de casos que
involucran temáticas asociadas a la discriminación por género, origen étnico, edad, estatus
socioeconómico, entre otras. Esto promueve que el análisis probatorio sea más inclusivo, y sopese
diversas perspectivas.

Fundador Derechointeractivo.com

En el marco de un ejercicio académico (y también por curiosidad), le consulté a GPT4 (inteligencia artificial de Open IA), acerca de si el derecho disciplinario en Colombia es autónomo o no, y esto fue lo que respondió:

Pregunta: ¿El derecho disciplinario es un área autónoma del derecho en Colombia?

“En Colombia, el derecho disciplinario es un área del derecho administrativo y, por lo tanto, no es considerado como una rama autónoma del derecho. El derecho disciplinario se ocupa de las infracciones cometidas por los servidores públicos en el desempeño de sus funciones y es regulado por el Código Disciplinario Único (Ley 734 de 2002) y otras normas y regulaciones que establecen las obligaciones y responsabilidades de los servidores públicos, así como las sanciones por el incumplimiento de estas obligaciones.

El derecho disciplinario tiene como objetivo garantizar el buen funcionamiento del servicio público, proteger los derechos de los ciudadanos y prevenir el abuso de poder por parte de los servidores públicos. En Colombia, la Procuraduría General de la Nación es la entidad encargada de investigar y sancionar las infracciones disciplinarias cometidas por los servidores públicos en todo el territorio nacional.”

Esta respuesta me dejó las siguientes conclusiones:

Más allá de la discusión dogmática que vaya por una u otra vertiente (autonomía o no del DD), o las imprecisiones normativas advertidas, nos percatamos que la IA solo repite conocimiento, el cual es tomado de fuentes limitadas, sin que se sepa a ciencia cierta de qué textos extrajo la información. En este sentido -por el momento- la IA no crea conocimiento, ni lo analiza o lanza juicios de valor sobre el mismo.

Si bien es una herramienta que puede resultar útil para casos específicos, debemos ser conscientes de sus “peligros”, y no hablo de aquellos que sugieren un futuro apocalíptico en el que los abogados seremos reemplazados por las máquinas, sino en el latente y progresivo riesgo de confiar exclusivamente en los resultados de la herramienta, que nos lleve hasta el punto de limitar nuestras propias capacidades de consulta, reflexión y análisis. ¡Este es el verdadero peligro!

De no hacerse algo con esta dependencia humana a la simplificación “extrema” de información, nos pondremos en bandeja de plata para que la IA, en efecto, pueda reemplazar a los abogados del futuro (o del presente), no porque hubiese superado las capacidades humanas, sino porque nosotros mismos decidimos dejar de pensar.