Fundador Derecho interactivo

X: @CristianS05

Para: Ambito Jurídico

En un mundo donde la tecnología avanza a un ritmo vertiginoso, el arte de lo humano se alza como un baluarte de autenticidad y, sobre todo, sensibilidad. Escuchar la forma en que Yo-Yo Ma interpreta una suite de Bach, contemplar los matices de una pintura de Van Gogh, o descubrir el realismo mágico de García Márquez, en general, son experiencias que trascienden lo ordinario, casi como si la misma pudiese transmitir un lenguaje que solo nuestra esencia humana comprende.

Parece existir un consenso generalizado sobre nuestra inclinación a valorar el arte creado por el ser humano. Lo artesanal, con su carga de autenticidad y singularidad, suele despertar una apreciación mayor que lo producido de manera artificial. Pero, ¿podemos extender este mismo criterio a las decisiones jurídicas? ¿Podrían considerarse, al igual que el arte, una expresión tan profunda de la humanidad que no deberían ser reemplazadas por máquinas?

El riesgo de delegar decisiones fundamentales a las máquinas es una preocupación creciente, especialmente cuando esas decisiones afectan los derechos humanos y la dignidad de las personas. Si bien la inteligencia artificial (IA) ha demostrado su potencial para procesar grandes cantidades de datos y realizar tareas repetitivas con rapidez y eficiencia, aun nos preguntamos sobre su capacidad para comprender principios tan complejos y profundamente humanos como la dignidad, la justicia y la equidad.

Aunque nuestras codificaciones no contemplan explícitamente la posibilidad de que un ente no humano adopte decisiones jurídicas, el verdadero riesgo no radica en un reemplazo directo del juez, sino en la aplicación soterrada o encubierta de la IA. Este riesgo se amplifica en procesos donde la decisión final se adopta por escrito, ya que podría dar lugar a una sustitución o sesgo en el análisis realizado por la autoridad decisora, hasta el punto de que, en la práctica, la decisión la tome la máquina, aunque se presente bajo la apariencia de una intervención humana.

Desde un punto de vista práctico surge la pregunta: ¿qué sucedería si una decisión sancionatoria o absolutoria se deriva de una intervención no supervisada de IA? ¿Sería posible invocar una nulidad o una acción de tutela?

Nuestra respuesta es afirmativa para ambas. Una decisión de estas características podría no solo comprometer su legitimidad, sino también vulnerar el derecho al debido proceso en dimensiones como la imparcialidad, la independencia y la debida motivación. Esto adquiere especial relevancia en el ámbito del derecho sancionatorio, donde el decisor no solo administra justicia en casos concretos, sino que además actúa como garante de los fines estatales.

Aunque establecer límites a la intervención de la IA pueda parecer prematuro, incluso innecesario, ignorar esta cuestión sería un error. En un contexto donde la justicia enfrenta serios retrasos, es factible que la sociedad, adoptando una visión práctica, se muestre indiferente al origen de las decisiones, siempre y cuando estas sean rápidas y razonablemente estructuradas, lo cual abriría la puerta a la deshumanización del derecho.

No obstante, es fundamental que, en este escenario, la IA no sustituya sino que complemente la labor humana. Esto permitirá contar con un enfoque mixto, que promueva el uso de la IA en áreas técnicas que requieren un alto volumen de procesamiento de información, mientras que el ser humano con su sensibilidad y capacidad de juicio crítico, adopte la decisión final.

Es evidente que existe una gran dificultad para probar el uso no ético de la IA en la toma de decisiones. Ante esto, fomentar la oralidad en los procesos jurídicos, especialmente en los sancionatorios (judiciales y administrativos), se convierte en una medida clave para garantizar un filtro humano. La oralidad fortalecerá la inmediación y reducirá el riesgo de confiar en exceso en la máquina o en sustanciadores que, en sus proyectos, puedan prescindir del análisis humano.

En esta visión, es crucial reconocer y positivizar el “derecho a una decisión no artificial”, asegurando que las decisiones que impacten significativamente la vida, la dignidad y los derechos fundamentales de las personas, sean fruto de un análisis humano informado, que contemple el contexto, la proporcionalidad y la razonabilidad del caso, evitando una mera reproducción mecánica de las sugerencias generadas por sistemas artificiales.

CRISTIAN DAVID SALAZAR CHAVARRO

Fundador Derecho Interactivo

Publicado en Ambito Jurídico

Hemos leido y escuchado que uno de los riesgos latentes en la utilización de la inteligencia
artificial (IA), es la posible aparición de sesgos en la generación de sus resultados, los cuales parten
de la existencia de actitudes y visiones discriminatorias que muchas veces pasan inadvertidas. Estos
pueden reflejar desigualdades históricas, culturales o sociales presentes en los datos, lo que resulta
en decisiones perjudiciales e injustas.

Además de los riesgos éticos que pueden surgir en el abordaje de casos puntuales, una de
las circunstancias que tienden a ser mayormente puestas a prueba, es la amplificación y
perpetuación de desigualdades existentes. Si los algoritmos toman decisiones basadas en datos
sesgados, podrían continuar o incluso exacerbar patrones discriminatorios en áreas tan sensibles
como la justicia.

¿Y qué tal si lo hacemos al contrario? Si partimos de la base que la IA esta alimentada por
la data generada por la misma humanidad, ¿por qué no utilizar a la IA para contribuir en la
detección de los sesgos humanos?

Gracias a la capacidad de la IA para analizar grandes cantidades de datos y detectar
patrones complejos, esta herramienta tiene la posibilidad de identificar sesgos sutiles que podrían
pasar inadvertidos para las personas. Por ejemplo, la IA podría alertar a una autoridad judicial o
disciplinaria sobre posibles sesgos humanos involucrados en la resolución de un caso específico,
encaminando así su abordaje bajo parámetros acordes con la dignidad humana.

Con el fin de observar esta interesante capacidad tecnológica, realizamos un análisis de la
sentencia T-400 de 2022 emitida por la Corte Constitucional, por medio de la cual se emitieron unos
lineamientos medulares en la interpretación de casos bajo la “perspectiva de género”.

En este sentido, el alto tribunal al revisar una conducta relacionada con un presunto acoso
sexual laboral en una entidad pública, destacó: i) a pesar de su coherente narración sobre el acoso
sexual, la Procuraduría General de la Nación (PGN) había cuestionado la credibilidad del testimonio
de la víctima por detalles irrelevantes. ii) Requerir pruebas en situaciones privadas fomenta la
impunidad y la tolerancia institucional hacia violaciones de los derechos de la mujer. iii) Se criticaron
las opiniones basadas en estereotipos sexistas que minimizan las respuestas de las mujeres ante
propuestas sexuales.

Siguiendo un esquema estructurado para la formulación de los prompts (preguntas
realizadas a la IA), se le consultó a ChatGPT que, actuando como un profesional del derecho y bajo
una interpretación sustentada en la perspectiva de género (contexto), emitiera su opinión (acción)
respecto si las conclusiones alcanzadas por la PGN en la construcción inferencial realizada dentro
del proceso, eran racionalmente correctas o presentaban algún tipo de sesgo (tarea). La respuesta,
debía ser proporcionada en una extensión de máximo 40 palabras por cada ítem (formato).

La respuesta obtenida por parte de la IA, claramente fue coincidente con el planteamiento
esgrimido por la Corte Constitucional en la sentencia analizada, en tanto privilegió una interpretación
alejada de prejuicios y estereotipos. La IA concluyó: “i) afirmar que las mujeres suelen rechazar con
firmeza propuestas inapropiadas de hombres ignora las complejas dinámicas de poder, miedo e
intimidación que pueden influir en sus respuestas. ii) Requerir detalles precisos en testimonios es
válido, pero en casos de acoso y violencia de género, el trauma puede distorsionar la coherencia de
las narrativas, revictimizando a las personas. iii) Atribuir responsabilidad basada en testimonios
únicos es válido, pero en contextos de desigualdad de género, la falta de pruebas tangibles o testigos
puede perpetuar la impunidad y debilitar la lucha contra el acoso y la violencia de género.”

Es fundamental resaltar que la inclusión del “enfoque diferencial de género” en el contexto
del prompt, no tiene la intención de ser un factor sugestivo o indicativo de cuál debería ser la
respuesta anticipada. De manera análoga a las inferencias realizadas por intérpretes humanos, estos
parámetros funcionan como cláusulas hermenéuticas que promueven una interpretación coherente
con la dignidad humana. En contraste, al presentar la misma consulta sin contexto, las respuestas
resultaron aleatorias y carecieron de una perspectiva que valorara los derechos reconocidos
constitucionalmente.

Si bien un uso inadecuado de algoritmos y datos puede perpetuar prejuicios humanos, este
análisis muestra cómo la IA puede ser un valioso aliado en la prevención y abordaje de casos que
involucran temáticas asociadas a la discriminación por género, origen étnico, edad, estatus
socioeconómico, entre otras. Esto promueve que el análisis probatorio sea más inclusivo, y sopese
diversas perspectivas.

Fundador: DerechoInteractivo.com

Artículo publicado por la Universidad de Manizales

La forma de comunicación entre los entre los seres humanos, paulatinamente ha ido cambiando de acuerdo a las necesidades de cada época. Hoy por hoy, por cuenta del uso de la red, encontramos que los medios a través de los cuales se comparte información se han diversificado, de tal manera, que hasta solo hace unos 30 años era casi impensable que pudiéramos interactuar en tiempo real con personas –y hasta con cosas-, estableciendo un diálogo horizontal e instantáneo entre el emisor y el receptor, que permite la sustitución vertiginosa de estos roles según la velocidad con que viaja el mensaje.

Esta dinámica ha generado un crecimiento exponencial en los datos que son compartidos, tanto, que quien funge como emisor ya no centra sus esfuerzos únicamente en la calidad de la información, sino –y mayormente- en la forma en que esta va a ser comunicada. Por poner algunos ejemplos, según el informe Data Never Sleeps 10.0[1], en la actualidad cada minuto se generan más de 16 millones de mensajes de texto, 231.4 millones de correos electrónicos, 500 horas de contenido cargadas en YouTube, 104.6 mil horas de reuniones de Zoom. Ante esta cantidad de información, y pasando al campo del derecho, nos preguntamos: ¿Cómo garantizamos que la información jurídica sea entendible y accesible para el público al que va dirigido?

En esta carrera acelerada contra la “obsolescencia informativa”, se requiere de iniciativas que tiendan a generar un cambio frente al diseño y difusión de aquellos artefactos con lenguaje encriptado a los que llamamos autos, sentencias, contratos, memoriales… convirtiéndolos en verdaderos vehículos que propendan por la eficaz aprehensión del mensaje, los cuales pongan su foco no en quien emite la información, sino diferencialmente en cada receptor.

Aquí es donde cobra relevancia el concepto de Legal Design, que surge como una poderosa herramienta que se nutre de una serie de principios y metodologías, que armonizan el diseño, el derecho y la tecnología en pro de la resolución de un determinado problema en el campo jurídico.

A pesar de que en Colombia en los últimos años ha ganado popularidad este concepto, gracias a casos exitosos como PretorIA de la Corte Constitucional, el Laboratorio de Diseño para la Justicia de la Universidad de los Andes, y Legalapp del Ministerio de Justicia y del Derecho -solo por mencionar algunos-, aun se presentan precarias cifras en materia de iniciativas e investigaciones que aborden la eficacia de la comunicación jurídica, lo cual, termina impactando negativamente en el acceso a la justicia.

Bajo este panorama, existe, entonces, una enorme responsabilidad para las nuevas generaciones de abogados, dirigida a cuestionar y replantear las formas en que tradicionalmente se ha comunicado el derecho y, consecuentemente, proponer soluciones legales pensadas en las necesidades del usuario, para lo cual el Legal Design será un gran aliado.

[1] https://www.businesswire.com/news/home/20220921005308/en/Domo-Releases-10th-Annual-%E2%80%9CData-Never-Sleeps%E2%80%9D-Infographic