¿Puede la IA impartir justicia?

Cita:

¿Puede la IA impartir justicia? La inteligencia artificial puede ser una aliada poderosa de la justicia, pero no su sustituta. La eficiencia no puede costar el discernimiento ético. Julián Molina Gómez Algunos expertos e incluso juristas reconocidos han planteado que una IA puede dar veredictos sin sesgo ni emociones. ¿Puede la IA ser realmente imparcial y reemplazar al juez? ¿Estamos ante una justicia algorítmica? Desde la filosofía del derecho, Dworkin sostiene que el derecho es más que reglas y que el juez debe considerar principios morales. Alexy afirma que toda decisión judicial conlleva una “pretensión de corrección” moral. Para Raz y Nino, el razonamiento judicial es práctico-moral, no automático. Trasladar esa exigencia a la IA es difícil. Carece de empatía y conciencia; puede seguir patrones, pero no ejercer virtud, base del discernimiento en la justicia aristotélica. Así, el juicio algorítmico puede ser formalmente correcto, pero sustancialmente injusto. La experiencia muestra cómo la IA puede reproducir o amplificar sesgos judiciales. El sesgo algorítmico nace de los datos de entrenamiento: si contienen discriminación racial, de género o socioeconómica, la IA perpetúa estas desigualdades. También hay sesgos en el diseño (los criterios reflejan supuestos del programador) y en la interpretación: aunque el algoritmo sea neutral, su uso puede estar sesgado. Un caso emblemático es el de Compas, usado en EE. UU. para evaluar riesgo en decisiones judiciales. Un estudio de ProPublica reveló que clasificaba a personas afroamericanas como de alto riesgo de reincidencia el doble de veces que a personas blancas con antecedentes similares. Además, estudios del Nist mostraron que sistemas de reconocimiento facial son menos precisos con mujeres y personas de color, especialmente mujeres negras, lo que puede generar errores en investigaciones y afectar el debido proceso. Estos casos evidencian que la IA judicial no es inmune a sesgos humanos. La automatización no los elimina, solo los oculta tras una apariencia de objetividad. Su uso sin supervisión puede comprometer principios como la equidad, la presunción de inocencia y el debido proceso. La falta de transparencia algorítmica también dificulta apelar decisiones, como ha ocurrido en tribunales chinos en Hangzhou y Pekín que usan IA para casos de comercio electrónico y propiedad intelectual. Muchos algoritmos son cajas negras: no explican cómo llegan a sus decisiones, lo que impide que los afectados entiendan o impugnen una sentencia automatizada. Sin supervisión humana, la IA se convierte en juez sin rostro ni responsabilidad. ¿Quién responde por el fallo, el juez, el programador o el sistema? Esta responsabilidad difusa abre un complejo debate. Implementar IA en la justicia busca eficiencia, rapidez y reducir carga operativa, pero estos sistemas están expuestos a reproducir sesgos humanos, estructurales y algorítmicos, y no garantizan transparencia ni responsabilidad procesal. Por eso, la Unión Europea ha clasificado los sistemas de IA judicial como de alto riesgo, exigiendo supervisión humana y prohibiendo decisiones solo basadas en algoritmos. "La IA judicial no es inmune a sesgos humanos. La automatización no los elimina, solo los oculta tras una apariencia de objetividad" Avanzar hacia una justicia algorítmica requiere más que código: exige compromiso ético y marcos legales acordes con la innovación. Los modelos deben ser transparentes, auditables y explicables. Las decisiones deben ser comprensibles y auditadas periódicamente. Jueces, fiscales y defensores deben comprender la tecnología y sus límites éticos. Los equipos que diseñan estos sistemas deben ser diversos, para evitar que la automatización consolide discriminaciones estructurales. Y siempre debe haber supervisión humana a través de revisión judicial: la IA puede asistir, pero no reemplazar al juez. Una justicia híbrida combina velocidad y precisión técnica con empatía, adaptabilidad y compromiso con los derechos fundamentales. La IA puede ser una aliada poderosa de la justicia, pero no su sustituta. La eficiencia no puede costar el discernimiento ético. La imparcialidad no se programa: se vigila, se corrige y se construye colectivamente.

Fuente: El Tiempo