CRISTIAN DAVID SALAZAR CHAVARRO

Fundador Derecho Interactivo

Publicado en Ambito Jurídico

Hemos leido y escuchado que uno de los riesgos latentes en la utilización de la inteligencia
artificial (IA), es la posible aparición de sesgos en la generación de sus resultados, los cuales parten
de la existencia de actitudes y visiones discriminatorias que muchas veces pasan inadvertidas. Estos
pueden reflejar desigualdades históricas, culturales o sociales presentes en los datos, lo que resulta
en decisiones perjudiciales e injustas.

Además de los riesgos éticos que pueden surgir en el abordaje de casos puntuales, una de
las circunstancias que tienden a ser mayormente puestas a prueba, es la amplificación y
perpetuación de desigualdades existentes. Si los algoritmos toman decisiones basadas en datos
sesgados, podrían continuar o incluso exacerbar patrones discriminatorios en áreas tan sensibles
como la justicia.

¿Y qué tal si lo hacemos al contrario? Si partimos de la base que la IA esta alimentada por
la data generada por la misma humanidad, ¿por qué no utilizar a la IA para contribuir en la
detección de los sesgos humanos?

Gracias a la capacidad de la IA para analizar grandes cantidades de datos y detectar
patrones complejos, esta herramienta tiene la posibilidad de identificar sesgos sutiles que podrían
pasar inadvertidos para las personas. Por ejemplo, la IA podría alertar a una autoridad judicial o
disciplinaria sobre posibles sesgos humanos involucrados en la resolución de un caso específico,
encaminando así su abordaje bajo parámetros acordes con la dignidad humana.

Con el fin de observar esta interesante capacidad tecnológica, realizamos un análisis de la
sentencia T-400 de 2022 emitida por la Corte Constitucional, por medio de la cual se emitieron unos
lineamientos medulares en la interpretación de casos bajo la “perspectiva de género”.

En este sentido, el alto tribunal al revisar una conducta relacionada con un presunto acoso
sexual laboral en una entidad pública, destacó: i) a pesar de su coherente narración sobre el acoso
sexual, la Procuraduría General de la Nación (PGN) había cuestionado la credibilidad del testimonio
de la víctima por detalles irrelevantes. ii) Requerir pruebas en situaciones privadas fomenta la
impunidad y la tolerancia institucional hacia violaciones de los derechos de la mujer. iii) Se criticaron
las opiniones basadas en estereotipos sexistas que minimizan las respuestas de las mujeres ante
propuestas sexuales.

Siguiendo un esquema estructurado para la formulación de los prompts (preguntas
realizadas a la IA), se le consultó a ChatGPT que, actuando como un profesional del derecho y bajo
una interpretación sustentada en la perspectiva de género (contexto), emitiera su opinión (acción)
respecto si las conclusiones alcanzadas por la PGN en la construcción inferencial realizada dentro
del proceso, eran racionalmente correctas o presentaban algún tipo de sesgo (tarea). La respuesta,
debía ser proporcionada en una extensión de máximo 40 palabras por cada ítem (formato).

La respuesta obtenida por parte de la IA, claramente fue coincidente con el planteamiento
esgrimido por la Corte Constitucional en la sentencia analizada, en tanto privilegió una interpretación
alejada de prejuicios y estereotipos. La IA concluyó: “i) afirmar que las mujeres suelen rechazar con
firmeza propuestas inapropiadas de hombres ignora las complejas dinámicas de poder, miedo e
intimidación que pueden influir en sus respuestas. ii) Requerir detalles precisos en testimonios es
válido, pero en casos de acoso y violencia de género, el trauma puede distorsionar la coherencia de
las narrativas, revictimizando a las personas. iii) Atribuir responsabilidad basada en testimonios
únicos es válido, pero en contextos de desigualdad de género, la falta de pruebas tangibles o testigos
puede perpetuar la impunidad y debilitar la lucha contra el acoso y la violencia de género.”

Es fundamental resaltar que la inclusión del “enfoque diferencial de género” en el contexto
del prompt, no tiene la intención de ser un factor sugestivo o indicativo de cuál debería ser la
respuesta anticipada. De manera análoga a las inferencias realizadas por intérpretes humanos, estos
parámetros funcionan como cláusulas hermenéuticas que promueven una interpretación coherente
con la dignidad humana. En contraste, al presentar la misma consulta sin contexto, las respuestas
resultaron aleatorias y carecieron de una perspectiva que valorara los derechos reconocidos
constitucionalmente.

Si bien un uso inadecuado de algoritmos y datos puede perpetuar prejuicios humanos, este
análisis muestra cómo la IA puede ser un valioso aliado en la prevención y abordaje de casos que
involucran temáticas asociadas a la discriminación por género, origen étnico, edad, estatus
socioeconómico, entre otras. Esto promueve que el análisis probatorio sea más inclusivo, y sopese
diversas perspectivas.

Fundador Derechointeractivo.com

En el marco de un ejercicio académico (y también por curiosidad), le consulté a GPT4 (inteligencia artificial de Open IA), acerca de si el derecho disciplinario en Colombia es autónomo o no, y esto fue lo que respondió:

Pregunta: ¿El derecho disciplinario es un área autónoma del derecho en Colombia?

“En Colombia, el derecho disciplinario es un área del derecho administrativo y, por lo tanto, no es considerado como una rama autónoma del derecho. El derecho disciplinario se ocupa de las infracciones cometidas por los servidores públicos en el desempeño de sus funciones y es regulado por el Código Disciplinario Único (Ley 734 de 2002) y otras normas y regulaciones que establecen las obligaciones y responsabilidades de los servidores públicos, así como las sanciones por el incumplimiento de estas obligaciones.

El derecho disciplinario tiene como objetivo garantizar el buen funcionamiento del servicio público, proteger los derechos de los ciudadanos y prevenir el abuso de poder por parte de los servidores públicos. En Colombia, la Procuraduría General de la Nación es la entidad encargada de investigar y sancionar las infracciones disciplinarias cometidas por los servidores públicos en todo el territorio nacional.”

Esta respuesta me dejó las siguientes conclusiones:

Más allá de la discusión dogmática que vaya por una u otra vertiente (autonomía o no del DD), o las imprecisiones normativas advertidas, nos percatamos que la IA solo repite conocimiento, el cual es tomado de fuentes limitadas, sin que se sepa a ciencia cierta de qué textos extrajo la información. En este sentido -por el momento- la IA no crea conocimiento, ni lo analiza o lanza juicios de valor sobre el mismo.

Si bien es una herramienta que puede resultar útil para casos específicos, debemos ser conscientes de sus “peligros”, y no hablo de aquellos que sugieren un futuro apocalíptico en el que los abogados seremos reemplazados por las máquinas, sino en el latente y progresivo riesgo de confiar exclusivamente en los resultados de la herramienta, que nos lleve hasta el punto de limitar nuestras propias capacidades de consulta, reflexión y análisis. ¡Este es el verdadero peligro!

De no hacerse algo con esta dependencia humana a la simplificación “extrema” de información, nos pondremos en bandeja de plata para que la IA, en efecto, pueda reemplazar a los abogados del futuro (o del presente), no porque hubiese superado las capacidades humanas, sino porque nosotros mismos decidimos dejar de pensar.