{"id":2717,"date":"2025-04-09T07:00:27","date_gmt":"2025-04-09T07:00:27","guid":{"rendered":"https:\/\/pcdd-global.org\/?p=2717"},"modified":"2025-04-08T21:52:24","modified_gmt":"2025-04-08T21:52:24","slug":"garantias-y-debido-proceso-ante-el-uso-de-ia-en-el-sistema-judicial","status":"publish","type":"post","link":"https:\/\/pcdd-global.org\/es\/derecho-digital-ia\/garantias-y-debido-proceso-ante-el-uso-de-ia-en-el-sistema-judicial\/","title":{"rendered":"Garant\u00edas y debido proceso ante el uso de IA en el sistema judicial"},"content":{"rendered":"

De lo escrutable que deben ser los sistemas automatizados que utilizan Inteligencia Artificial (IA) en el sector justicia<\/strong>

\nPor: Jes\u00fas Ram\u00f3n Rodr\u00edguez<\/a><\/strong>

\nEspecialista en Derecho Penal, Inform\u00e1tico y Gerencia P\u00fablica<\/em>

\nComit\u00e9 XVI FIA – @juristelseg<\/em><\/p>\n

Ning\u00fan sistema automatizado alimentado con Inteligencia Artificial (IA) \u2014experto o no\u2014 que no sea posible ser explicado en su funcionamiento, interpretado en sus expresiones y cuestionado en sus resultados, deber\u00eda ser usado o admitido como herramienta de apoyo para actuaciones policiales, forenses, de la funci\u00f3n fiscal o judicial en cualquiera de las etapas del proceso, mucho menos en la preparaci\u00f3n de decisiones o sentencias.<\/p>\n

El derecho a la defensa ante la prueba automatizada<\/h2>\n

Como tema de inter\u00e9s probatorio, debe garantizarse que a la otra parte se le mantenga inc\u00f3lume el derecho a la defensa, permiti\u00e9ndole revisar \u00edntegramente las posibilidades del sistema automatizado empleado que sustenta los resultados con ayuda de IA.<\/p>\n

Qu\u00e9 hay que acreditar para poder contradecirla<\/h2>\n

Si existe la posibilidad de practicar y contradecir un medio de prueba derivado del procesamiento por IA, deben tenerse en cuenta varios elementos: los requisitos de validez del mensaje de datos, la profesionalidad del experto que legitime los hallazgos, informes y deposiciones, as\u00ed como los fundamentos de la construcci\u00f3n del sistema (dise\u00f1o, arquitectura, fuentes certificadas que lo alimentan), y el funcionamiento del mismo (procesamiento algor\u00edtmico u otras formas de soluci\u00f3n de respuesta que utiliza o consulta el operador).<\/p>\n

El problema de las cajas negras<\/h2>\n

Persiste en muchos casos el problema de las llamadas cajas negras<\/em>: procesamientos internos de sistemas automatizados inescrutables para las partes y el juzgador. Ante ello, debe garantizarse el acceso a informaci\u00f3n calificada sobre el sistema de informaci\u00f3n automatizado que utiliza IA y que produce el \u201cdato o informaci\u00f3n\u201d que, posteriormente, podr\u00eda convertirse en:<\/p>\n

i) una evidencia procesada,

\nii) un razonamiento de convicci\u00f3n fiscal,

\niii) un \u00f3rgano de prueba para ser admitido y evacuado, o

\niv) una sentencia devenida en algo casi incontrovertible, precisamente porque no se ha puesto en riesgo el debido proceso.<\/p>\n","protected":false},"excerpt":{"rendered":"

Especialista en Derecho Penal, Inform\u00e1tico y Gerencia P\u00fablica Comit\u00e9 XVI FIA – @juristelseg Ning\u00fan sistema automatizado alimentado con Inteligencia Artificial (IA) \u2014experto o no\u2014 que no sea posible\u2026<\/p>\n","protected":false},"author":16,"featured_media":2719,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"pcdd_idioma":"es","wds_primary_category":0,"wds_primary_pcdd_pais":0,"footnotes":""},"categories":[2,2,2],"tags":[255,359,450],"pcdd_pais":[20,20,20],"class_list":["post-2717","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-derecho-digital-ia","tag-inteligencia-artificial-en-justicia","tag-prueba-digital-y-debido-proceso","tag-transparencia-algoritmica","pcdd_pais-venezuela"],"_links":{"self":[{"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/posts\/2717","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/users\/16"}],"replies":[{"embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/comments?post=2717"}],"version-history":[{"count":0,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/posts\/2717\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/media\/2719"}],"wp:attachment":[{"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/media?parent=2717"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/categories?post=2717"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/tags?post=2717"},{"taxonomy":"pcdd_pais","embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/pcdd_pais?post=2717"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}