De lo escrutable que deben ser los sistemas automatizados que utilizan Inteligencia Artificial (IA) en el sector justicia
Por: Jesús Ramón Rodríguez
Especialista en Derecho Penal, Informático y Gerencia Pública
Comité XVI FIA – @juristelseg
Ningún sistema automatizado alimentado con Inteligencia Artificial (IA) —experto o no— que no sea posible ser explicado en su funcionamiento, interpretado en sus expresiones y cuestionado en sus resultados, debería ser usado o admitido como herramienta de apoyo para actuaciones policiales, forenses, de la función fiscal o judicial en cualquiera de las etapas del proceso, mucho menos en la preparación de decisiones o sentencias.
Como tema de interés probatorio, debe garantizarse que a la otra parte se le mantenga incólume el derecho a la defensa, permitiéndole revisar íntegramente las posibilidades del sistema automatizado empleado que sustenta los resultados con ayuda de IA.
Si existe la posibilidad de practicar y contradecir un medio de prueba derivado del procesamiento por IA, deben tenerse en cuenta varios elementos: los requisitos de validez del mensaje de datos, la profesionalidad del experto que legitime los hallazgos, informes y deposiciones, así como los fundamentos de la construcción del sistema (diseño, arquitectura, fuentes certificadas que lo alimentan), y el funcionamiento del mismo (procesamiento algorítmico u otras formas de solución de respuesta que utiliza o consulta el operador).
Persiste en muchos casos el problema de las llamadas cajas negras: procesamientos internos de sistemas automatizados inescrutables para las partes y el juzgador. Ante ello, debe garantizarse el acceso a información calificada sobre el sistema de información automatizado que utiliza IA y que produce el “dato o información” que, posteriormente, podría convertirse en:
i) una evidencia procesada,
ii) un razonamiento de convicción fiscal,
iii) un órgano de prueba para ser admitido y evacuado, o
iv) una sentencia devenida en algo casi incontrovertible, precisamente porque no se ha puesto en riesgo el debido proceso.
