El dato que lo cambia todo
En junio de 2025, la OCDE publicó el análisis multilateral más completo disponible sobre inteligencia artificial en funciones de gobierno: Governing with Artificial Intelligence: The State of Play and Way Forward in Core Government Functions. El informe revisó más de 200 casos reales de uso de IA en países miembros y socios, incluyendo sistemas de administración de justicia penal. No es un ejercicio prospectivo. No especula sobre el futuro. Documenta lo que ya está ocurriendo.
Y lo que está ocurriendo es esto: algoritmos propietarios, entrenados con datos históricos cargados de sesgo, están influyendo en decisiones de libertad bajo fianza, sentencia y libertad condicional. El sistema COMPAS, utilizado en varias jurisdicciones de Estados Unidos, evalúa la probabilidad de reincidencia de un acusado analizando historial delictivo, historial de abuso de sustancias, conexiones sociales y datos demográficos, y clasifica a las personas en categorías de riesgo bajo, medio o alto. Esas categorías llegan a la mesa del juez. El algoritmo que las produce es una caja negra. Su código no se audita. Su lógica no se explica al acusado.
La investigación de ProPublica de 2016, que sigue siendo el análisis de referencia sobre COMPAS, encontró que, entre los acusados que no reincidieron, las personas afrodescendientes fueron clasificadas erróneamente como de alto riesgo casi el doble de veces que el grupo de comparación: 44,9% frente a 23,5%. La literatura académica revisada por pares lo confirma: Javed y Li (2025), en PLOS ONE, verifican que cuando los sistemas de IA no se gestionan correctamente, los sesgos incorporados en los datos de entrenamiento resultan negativos principalmente para comunidades ya marginalizadas. No es una posibilidad teórica. Es un patrón documentado.
Lo que la lectura habitual no ve
El debate público sobre IA en justicia suele encallarse en dos posiciones simétricamente inútiles: los que celebran la eficiencia procesal que la tecnología puede aportar, y los que la rechazan en bloque invocando la dignidad humana. Ambas posiciones eluden la pregunta real.
La pregunta real no es si la IA debe usarse en el sistema de justicia. Ya se está usando. La pregunta es quién responde cuando el algoritmo se equivoca, y qué mecanismos existen para detectar ese error antes de que destruya una vida.
Aquí es donde el análisis de la OCDE resulta incómodo para los entusiastas de la automatización judicial: el informe advierte explícitamente que los datos sesgados en sistemas de IA causan decisiones dañinas, que la falta de transparencia erosiona la rendición de cuentas, y que la sobredependencia en estos sistemas puede reducir la confianza ciudadana en las instituciones. No lo dice una ONG de activistas. Lo dice el organismo que reúne a las economías más desarrolladas del mundo.
El segundo punto ciego es geográfico. El debate sobre sesgo algorítmico en justicia se libra casi exclusivamente en el Norte Global, con datos de sistemas norteamericanos o europeos. Pero la publicación en dos volúmenes del PNUD The Algorithm in the Courtroom, lanzada en Bangkok en junio de 2026 junto al Thailand Institute of Justice y la Universidad Chulalongkorn, documenta que las herramientas de IA (sistemas de gestión de casos, chatbots de asistencia legal, aplicaciones predictivas) ya están en uso activo en tribunales, servicios policiales y programas de asistencia jurídica en toda Asia y el Pacífico. Se estima que 150 millones de adultos en el Sudeste Asiático permanecen excluidos digitalmente, lo que significa que la IA judicial puede estar sistematizando la exclusión de las personas que más necesitan acceso a la justicia.
El tercer punto ciego es financiero. El Banco Mundial, a través de su Programa Global de Justicia y Estado de Derecho, ha presentado evidencia de que en contextos frágiles, los sistemas de justicia cotidiana reciben menos del 2% de la AOD sectorial, mientras miles de millones fluyen hacia reformas del sector seguridad. Se debate con urgencia cómo introducir IA en sistemas que no tienen financiamiento para funcionar sin ella.
Y el cuarto punto ciego, quizás el más grave: una encuesta de la UNESCO en 96 países encontró que el 44% de los operadores judiciales ya usa herramientas de IA en su trabajo, pero solo el 9% ha recibido formación institucional o guía sobre cómo hacerlo. Los jueces están usando algoritmos que no entienden para tomar decisiones que no pueden revertirse fácilmente. Eso no es transformación digital. Es improvisación sistémica con consecuencias irreversibles para personas reales.
Una dirección concreta
No existe una solución única. Pero sí existe una secuencia lógica que cualquier proyecto de cooperación internacional en este nodo debería respetar, y que conecta directamente con el diseño y gestión de proyectos de cooperación en justicia.
El primer paso es abandonar la fantasía de que la tecnología es neutral. Todo sistema de IA en el ámbito penal requiere una evaluación de impacto en derechos humanos antes de su despliegue, no después. El PNUD publicó en diciembre de 2025 el AI Human Rights Impact Assessment Toolkit, una herramienta diseñada específicamente para que organizaciones identifiquen, evalúen y mitiguen riesgos de derechos humanos antes de desplegar IA en sectores críticos, incluyendo explícitamente la justicia penal. Existe la herramienta. El problema es que en países de renta media-baja y contextos frágiles, su adopción es prácticamente inexistente. Esa es la brecha programática concreta que la cooperación debe cerrar.
El segundo paso es reconocer que la literacidad algorítmica de los operadores judiciales no es un lujo formativo: es una condición de validez del sistema. La iniciativa Judges Initiative de la UNESCO, activa en más de 160 países, capacita a jueces y operadores judiciales en inteligencia artificial y Estado de derecho, incluido un curso abierto en línea sobre IA y justicia. Un juez que no puede interrogar críticamente el puntaje de riesgo que tiene frente a sí no puede ejercer su función. Esa formación debería ser condición de entrada en cualquier proyecto que introduzca IA en el sistema de justicia, no un componente opcional de cierre.
El tercer paso es resolver el problema de financiamiento de base. Introducir IA en sistemas judiciales subfinanciados sin antes reencuadrar la justicia cotidiana como infraestructura preventiva del desarrollo, y no como un costo reactivo, es construir sobre arena. El argumento de HiiL, presentado en el marco del Programa Global de Justicia del Banco Mundial, es precisamente ese: la justicia merece ser tratada como infraestructura, con la lógica de inversión que eso implica.
Lo que está en juego de verdad
El ODS 16 consagra el acceso a la justicia y la igualdad ante la ley como objetivos de desarrollo. Un sistema que clasifica sistemáticamente a personas de comunidades marginalizadas como de mayor riesgo, usando datos que reflejan discriminación histórica, no falla a pesar del ODS 16: lo contradice activamente, con presupuesto público y autoridad estatal.
El informe del PNUD The Next Great Divergence advierte que la IA, sin políticas robustas, puede ampliar las brechas de desarrollo entre naciones por las posiciones de partida absolutamente desiguales. En justicia, esa divergencia tiene una geometría específica: los países con mayores recursos desarrollan marcos de auditoría, regulación y gobernanza de sus sistemas de IA judicial; los países con menores recursos los importan sin esos marcos, asumiendo los sesgos de origen junto con la tecnología.
La pregunta de fondo que le queda al sector no es tecnológica. Es constitucional: ¿puede un Estado delegar en un algoritmo opaco una función que, por definición, requiere motivación explícita, contestabilidad y responsabilidad individual? Y si la respuesta es no, como sugiere la arquitectura básica del Estado de derecho, entonces la pregunta siguiente es por qué la cooperación internacional sigue financiando la digitalización de sistemas judiciales sin exigir como condición mínima la auditabilidad de las herramientas que los componen.
Si estás diseñando proyectos en este cruce entre IA, justicia, cooperación y derechos humanos, o evaluando el impacto de herramientas algorítmicas en tus programas, hablemos en Consultoría. También puedes usar el Generador de Política de Uso de IA para empezar a estructurar ese análisis antes de nuestra conversación.
Fuentes
- OCDE (2025): Governing with Artificial Intelligence: The State of Play and Way Forward in Core Government Functions
- OCDE (2025): AI in Justice Administration and Access to Justice
- PNUD (2025): The Next Great Divergence: Why AI May Widen Inequality Between Countries
- PNUD (2025): AI Human Rights Impact Assessment Toolkit
- PNUD / Thailand Institute of Justice / Chulalongkorn University (2026): The Algorithm in the Courtroom: How Artificial Intelligence Is Reshaping Justice and the Rule of Law Across Asia and the Pacific
- UNESCO (2025): AI and the Rule of Law: Judges Initiative / MOOC AI, Justice & the Rule of Law
- HiiL / Programa Global de Justicia del Banco Mundial (mayo 2026): Justice Is Infrastructure: The Overlooked Foundation of Stability and Economic Growth
- Javed, K. y Li, J. (2025): Bias in adjudication: Investigating the impact of artificial intelligence, media, financial and legal institutions in pursuit of social justice. PLOS ONE. DOI: 10.1371/journal.pone.0315270
- ProPublica (mayo 2016): Machine Bias
