La inteligencia artificial (IA) ha comenzado a permear diversos sectores, y el ámbito judicial no es la excepción. La «justicia algorítmica» se refiere al uso de sistemas de IA para asistir en la toma de decisiones judiciales, desde la evaluación de riesgos de reincidencia hasta la predicción de resultados de casos. Aunque la promesa de mayor eficiencia y objetividad es tentadora, su implementación plantea complejos desafíos éticos y jurídicos.
En México, el uso de herramientas de IA en el sistema de justicia aún se encuentra en etapas incipientes en comparación con otras jurisdicciones, pero el debate sobre su regulación y aplicación es cada vez más relevante. La idea es que algoritmos puedan analizar grandes volúmenes de datos, como historiales de sentencias, para identificar patrones y ofrecer recomendaciones. Por ejemplo, un sistema podría sugerir una fianza adecuada o incluso predecir la probabilidad de que un acusado comparezca ante el tribunal.
Sin embargo, la principal preocupación radica en la transparencia y la equidad. ¿Cómo aseguramos que los algoritmos no perpetúen o exacerben sesgos preexistentes en los datos históricos? Si un sistema se entrena con datos que reflejan discriminación, sus decisiones podrían replicarla. La «caja negra» de algunos algoritmos, donde el proceso de decisión no es fácilmente comprensible, dificulta la rendición de cuentas y la posibilidad de impugnar una resolución basada en ellos.
El Pleno de la Suprema Corte de Justicia de la Nación (SCJN) ha enfatizado la importancia de garantizar el debido proceso y la protección de los derechos humanos en cualquier innovación tecnológica aplicada a la justicia. Si bien no existe una jurisprudencia específica sobre «justicia algorítmica» como tal, los principios constitucionales de igualdad, no discriminación y acceso a un recurso efectivo son fundamentales para guiar cualquier desarrollo en esta área. El Poder Judicial de la Federación ha manifestado su interés en explorar herramientas tecnológicas, pero siempre bajo un estricto escrutinio ético y jurídico.
La discusión actual se centra en cómo equilibrar la innovación tecnológica con la protección de los derechos fundamentales. Es imperativo que cualquier implementación de IA en la justicia se realice con un marco regulatorio robusto que garantice la auditabilidad, la explicabilidad y la responsabilidad algorítmica.
