{"id":2910,"date":"2025-05-11T20:16:32","date_gmt":"2025-05-11T20:16:32","guid":{"rendered":"https:\/\/pcdd-global.org\/?p=2910"},"modified":"2025-05-11T20:33:16","modified_gmt":"2025-05-11T20:33:16","slug":"lo-que-la-ia-no-sabe-no-recuerda-y-no-hace-el-vacio-que-solo-la-gobernanza-puede-llenar","status":"publish","type":"post","link":"https:\/\/pcdd-global.org\/es\/derecho-digital-ia\/lo-que-la-ia-no-sabe-no-recuerda-y-no-hace-el-vacio-que-solo-la-gobernanza-puede-llenar\/","title":{"rendered":"Lo que la IA no sabe, no recuerda y no hace: El vac\u00edo que solo la gobernanza puede llenar"},"content":{"rendered":"

Por Antonio Tejeda Encinas<\/em>

\nInvestigador doctoral en Estudios Digitales (European University Viadrina Frankfurt- Oder) | Presidente del Comit\u00e9 Euro Americano de Derecho Digital \u2013 CEA Digital Law | CEO de Meta Channel Corp.<\/p>\n

\nEn el imaginario colectivo, la inteligencia artificial aparece como una tecnolog\u00eda todopoderosa, capaz de responderlo todo, recordarlo todo y hacerlo todo. Pero basta con ponerla a prueba en entornos reales para que surjan las primeras fisuras. No hablamos de errores espectaculares ni de colapsos t\u00e9cnicos, sino de algo m\u00e1s sutil y profundo: una serie de vac\u00edos funcionales<\/strong> que revelan hasta qu\u00e9 punto la IA generativa, por s\u00ed sola, no basta.

\nEste texto parte de una constataci\u00f3n emp\u00edrica: la IA falla no porque sea defectuosa, sino porque carece de estructura. Y esa estructura no puede improvisarse con c\u00f3digo. Tiene que dise\u00f1arse, gobernarse y sostenerse.

\nA partir de una experiencia concreta \u2014repetida ya en decenas de organizaciones\u2014 vamos a recorrer los tres l\u00edmites fundamentales de la IA actual, y c\u00f3mo solo un marco de gobernanza deliberada puede enfrentarlos de forma responsable.<\/p>\n

    \n
  1. El l\u00edmite silencioso de la IA actual<\/b><\/li>\n<\/ol>\n

    En una empresa mediana del sector legal y tecnol\u00f3gico, se implementa un asistente conversacional basado en uno de los modelos de lenguaje m\u00e1s avanzados del mercado. Todo parece funcionar al principio: respuestas veloces, redacci\u00f3n impecable, incluso cierta \u201cempat\u00eda sint\u00e9tica\u201d en la conversaci\u00f3n. Pero basta con someter al sistema a una prueba real para que empiecen a aparecer los vac\u00edos.<\/span><\/i><\/p>\n

    Una clienta solicita informaci\u00f3n sobre la nueva regulaci\u00f3n europea de inteligencia artificial aplicada a su sector, con una precisi\u00f3n que exige conocer cambios publicados hace apenas unos d\u00edas. El modelo responde con datos obsoletos. Otro cliente pregunta por el seguimiento de un tr\u00e1mite iniciado semanas atr\u00e1s, pero el sistema no recuerda nada. Finalmente, una tercera usuaria solicita automatizar una gesti\u00f3n entre dos plataformas conectadas por API. El modelo dice que \u201cno puede hacerlo\u201d.<\/span><\/i><\/p>\n

    La empresa no ha fracasado. Simplemente ha descubierto algo que muchas organizaciones est\u00e1n empezando a comprender: la inteligencia artificial generativa, por s\u00ed sola, no es suficiente. No porque sea mala, sino porque \u2014como toda tecnolog\u00eda\u2014 tiene l\u00edmites estructurales. Y esos l\u00edmites no se resuelven simplemente entrenando mejor al modelo, sino suplement\u00e1ndolo con una arquitectura funcional bien dise\u00f1ada: lo que la IA no sabe, se suple con <\/span>RAG<\/b>; lo que no recuerda, con <\/span>MCP<\/b>; lo que no puede hacer, con <\/span>Agentes<\/b>. Pero incluso esa soluci\u00f3n t\u00e9cnica plantea una pregunta m\u00e1s profunda: \u00bfqui\u00e9n decide c\u00f3mo y cu\u00e1ndo usar cada componente?<\/span><\/p>\n

    Ah\u00ed es donde entra la gobernanza<\/em>
    \n<\/b>Lo digo no desde la teor\u00eda, sino desde el trabajo diario en contextos donde estos dilemas son reales. En mi investigaci\u00f3n doctoral en la Europa-Universit\u00e4t Viadrina, centrada en los modelos regulatorios y la legitimidad de los sistemas algor\u00edtmicos, y tambi\u00e9n en el acompa\u00f1amiento directo a organizaciones que buscan desplegar IA en entornos complejos, (Meta Channel Corp), he comprobado que lo dif\u00edcil no es la tecnolog\u00eda, sino el marco que la sostiene. Y cuando ese marco no existe \u2014o es solo ret\u00f3rico\u2014, el riesgo no est\u00e1 en el algoritmo, sino en la falta de estructura humana que lo oriente\u00a0<\/span><\/p>\n

    Porque el verdadero debate no est\u00e1 en si la IA puede hacerlo.<\/span>
    \n<\/span>Est\u00e1 en qui\u00e9n, c\u00f3mo y por qu\u00e9 se decide que lo haga.
    \n<\/span>El verdadero debate es si sabemos gobernarla.<\/span><\/em><\/p>\n

    \u00a0 \u00a0 2<\/b>. Lo que<\/span> la IA no sabe<\/b>: el rol de <\/span>RAG<\/b><\/p>\n

    Uno de los primeros desencantos que experimentan las empresas al integrar IA generativa es este: el modelo \u201chabla bonito\u201d, pero no sabe. No en el sentido profundo del t\u00e9rmino. Sabe patrones, estad\u00edstica, lenguaje, estructura. Pero no tiene acceso real al conocimiento vivo, actualizado, din\u00e1mico. No consulta bases de datos en tiempo real, no navega en legislaci\u00f3n emergente, no lee el BOE de ayer.<\/span><\/p>\n

    El modelo es, en esencia, un espejo estad\u00edstico de lo que ha aprendido hasta la fecha de corte de su entrenamiento. Puede simular conocimiento, pero no lo tiene. Y cuando el contexto exige precisi\u00f3n \u2014como en una consulta legal, t\u00e9cnica o m\u00e9dica\u2014 ese vac\u00edo no es un fallo menor: es un riesgo estructural.<\/span><\/p>\n

    Aqu\u00ed es donde entra en escena el primer componente de una arquitectura funcional: el RAG (Retrieval-Augmented Generation). En lugar de confiar ciegamente en lo que el modelo \u201ccree recordar\u201d, el sistema se conecta a fuentes externas en tiempo real, recupera informaci\u00f3n espec\u00edfica y luego la introduce en la generaci\u00f3n de la respuesta.<\/span><\/p>\n

    \u00bfFunciona? S\u00ed. \u00bfResuelve el problema? Parcialmente.<\/span><\/i>
    \n<\/span><\/i>RAG ampl\u00eda el alcance del modelo, lo saca de su burbuja de entrenamiento y le permite dialogar con el presente. Pero esa conexi\u00f3n con fuentes externas no es neutra. Supone una decisi\u00f3n pol\u00edtica, t\u00e9cnica y jur\u00eddica.<\/span><\/p>\n

      \n
    • \u00bfQu\u00e9 fuentes son v\u00e1lidas?<\/span><\/li>\n
    • \u00bfQui\u00e9n las v\u00e1lida?<\/span><\/li>\n
    • \u00bfSe arrastra sesgo desde la fuente externa al output final?<\/span><\/li>\n
    • \u00bfPuede el sistema distinguir entre un documento oficial y una interpretaci\u00f3n sesgada publicada en un blog personal?<\/span><\/li>\n<\/ul>\n

      El problema aqu\u00ed ya no es t\u00e9cnico, sino institucional. No basta con conectar el modelo a una base de datos: alguien debe decidir qu\u00e9 entra, qu\u00e9 se queda fuera, y bajo qu\u00e9 criterios. Esa es una decisi\u00f3n de gobernanza. Porque cada fuente externa es tambi\u00e9n un vector de riesgo: de desinformaci\u00f3n, de contaminaci\u00f3n sem\u00e1ntica, de fallo operativo.<\/span><\/p>\n

      Un ejemplo claro: si se implementa RAG para responder a clientes sobre ayudas p\u00fablicas disponibles, y se conecta sin filtro a foros o res\u00famenes no oficiales, el sistema puede generar una recomendaci\u00f3n que acabe provocando perjuicios jur\u00eddicos al usuario. Lo que parec\u00eda una soluci\u00f3n inteligente, se convierte en una trampa peligrosa.<\/span><\/p>\n

      Por eso, usar RAG no es simplemente una mejora funcional. Es una elecci\u00f3n estrat\u00e9gica que debe pasar por un marco de gobernanza claro, con criterios de selecci\u00f3n, validaci\u00f3n y auditor\u00eda de fuentes.<\/span><\/p>\n

        \n
      1. 3<\/b>. Lo que la <\/span>IA no recuerda:<\/b> la funci\u00f3n cr\u00edtica de<\/span> MCP<\/b><\/li>\n<\/ol>\n

        Imagina que cada vez que hablas con tu abogado, \u00e9l te escucha con atenci\u00f3n, responde con solvencia… y luego lo olvida todo. La siguiente vez que acudes, no recuerda ni tu nombre, ni el tema, ni las decisiones ya tomadas. \u00bfLe confiar\u00edas la resoluci\u00f3n de un conflicto complejo? Probablemente no.<\/span><\/p>\n

        Eso mismo ocurre con los sistemas de IA tradicionales. Salvo que se les haya configurado una memoria de contexto extendida, cada conversaci\u00f3n comienza desde cero. Puede que parezca coherente en el momento, pero carece de continuidad cognitiva. Y cuando se busca construir relaciones, asesoramiento prolongado o seguimiento de tareas, eso es un problema grave.<\/span><\/p>\n

        La soluci\u00f3n t\u00e9cnica que ha surgido para compensar esta limitaci\u00f3n es la Memoria de Contexto Prolongada (MCP). En lugar de procesar \u00fanicamente los \u00faltimos miles de tokens \u2014como hac\u00edan los primeros modelos\u2014 ahora es posible conservar, integrar y reinterpretar fragmentos anteriores de la interacci\u00f3n, incluso a lo largo de sesiones distintas. Algunos modelos ya integran capacidades de memoria de cientos de miles de tokens o incluso persistencia entre d\u00edas.<\/span><\/p>\n

        Pero esto no es solo un avance t\u00e9cnico: es un punto de inflexi\u00f3n funcional.<\/span><\/em>
        \n<\/span>Una IA con MCP ya no solo genera texto, sino que construye trayectoria. Puede acompa\u00f1ar procesos, integrar correcciones pasadas, anticipar necesidades. Puede entender que una usuaria est\u00e1 tramitando un expediente, que ayer pidi\u00f3 informaci\u00f3n complementaria, y que hoy busca avanzar un paso m\u00e1s.<\/span><\/p>\n

        Sin embargo, esta ventaja abre una nueva dimensi\u00f3n de riesgos:<\/span><\/p>\n

          \n
        • Privacidad: \u00bfqu\u00e9 ocurre con los datos que la IA recuerda? \u00bfD\u00f3nde se almacenan? \u00bfBajo qu\u00e9 condiciones?<\/span><\/li>\n
        • Caducidad del contexto: \u00bfla IA sigue actuando sobre una instrucci\u00f3n pasada que ya no es v\u00e1lida?<\/span><\/li>\n
        • Reidentificaci\u00f3n: \u00bfpuede el sistema reconstruir perfiles sensibles a partir de fragmentos dispersos?<\/span><\/li>\n<\/ul>\n

          Un ejemplo evidente: una IA jur\u00eddica con MCP mal gobernada podr\u00eda almacenar involuntariamente antecedentes confidenciales de diferentes clientes, mezclarlos o usarlos fuera de contexto. El resultado no ser\u00eda solo un fallo t\u00e9cnico, sino una violaci\u00f3n directa de derechos fundamentales.<\/span><\/p>\n

          Por eso, como en el caso de RAG, el problema no es solo implementar MCP, sino gobernarla. La memoria no es neutra: es selecci\u00f3n, es persistencia, es poder.<\/span><\/p>\n

            \n
          • \u00bfQui\u00e9n decide qu\u00e9 se guarda y qu\u00e9 se olvida?<\/span><\/li>\n
          • \u00bfQui\u00e9n establece la caducidad del recuerdo?<\/span><\/li>\n
          • \u00bfQu\u00e9 l\u00edmites impone la ley al uso de memoria persistente por sistemas automatizados?<\/span><\/li>\n<\/ul>\n

            Estas preguntas no se resuelven en el c\u00f3digo. Se resuelven en el <\/span>marco pol\u00edtico de decisiones,<\/span><\/i> roles, documentaci\u00f3n y control. En una palabra: gobernanza.<\/span><\/p>\n

            Para quienes todav\u00eda creen que estos elementos son solo mejoras t\u00e9cnicas, conviene detenerse un momento y observar su peso real. Cada uno de estos componentes no solo a\u00f1ade capacidad, tambi\u00e9n multiplica los vectores de riesgo.<\/span><\/p>\n

            Componente: Qu\u00e9 resuelve | Qu\u00e9 a\u00f1ade Qu\u00e9 exige en gobernanza<\/span><\/i>
            \n<\/span><\/i>RAG (Retrieval-Augmented Generation)<\/b><\/p>\n

            Qu\u00e9 resuelve:<\/b> El modelo no sabe lo actual o espec\u00edfico<\/span>
            \n<\/span>Qu\u00e9 a\u00f1ade:<\/b> Acceso a fuentes externas en tiempo real<\/span>
            \n<\/span>Qu\u00e9 exige en gobernanza:<\/b> Validaci\u00f3n de fuentes, trazabilidad, control de sesgo y licencias<\/span><\/p>\n

            MCP (Memoria de Contexto Prolongada)<\/b><\/p>\n

            Qu\u00e9 resuelve:<\/b> El modelo no recuerda<\/span>
            \n<\/span>Qu\u00e9 a\u00f1ade:<\/b> Persistencia de contexto entre interacciones<\/span>
            \n<\/span>Qu\u00e9 exige en gobernanza:<\/b> Pol\u00edticas de retenci\u00f3n, anonimizaci\u00f3n, derechos de acceso y supresi\u00f3n<\/span><\/p>\n

            Agentes<\/b><\/p>\n

            Qu\u00e9 resuelve:<\/b> El modelo no act\u00faa<\/span>
            \n<\/span>Qu\u00e9 a\u00f1ade:<\/b> Capacidad de ejecutar tareas y decisiones<\/span>
            \n<\/span>Qu\u00e9 exige en gobernanza:<\/b> L\u00edmites operativos, auditor\u00eda, intervenci\u00f3n humana y atribuci\u00f3n de responsabilidad<\/span><\/p>\n

            N<\/b>o es solo un resumen: es un mapa de decisiones. Cada uno implica una cadena de responsabilidades. Y sin un marco de gobernanza s\u00f3lido, lo que hoy parece una ventaja competitiva, ma\u00f1ana puede convertirse en un esc\u00e1ndalo regulatorio o un fallo \u00e9tico irreversible.<\/span><\/p>\n

              \n
            1. Lo que la IA a\u00fan no puede hacer: el salto operativo de los Agentes<\/b><\/li>\n<\/ol>\n

              Hasta ahora, la inteligencia artificial ha demostrado ser notablemente eficaz en tareas de an\u00e1lisis, redacci\u00f3n o conversaci\u00f3n. Pero cuando se trata de hacer, el modelo se detiene. No puede reservar una sala, enviar un informe, iniciar un proceso entre plataformas o ejecutar tareas concretas dentro de un flujo real de trabajo. En otras palabras: puede decir lo que hay que hacer, pero no puede hacerlo.<\/span><\/p>\n

              Ah\u00ed es donde entran los <\/span>agentes inteligentes.<\/b>
              \n<\/span>A diferencia del modelo base, que genera texto o c\u00f3digo pero no act\u00faa sobre entornos externos, un agente es un sistema aut\u00f3nomo que recibe una misi\u00f3n, accede a herramientas, se comunica con APIs o interfaces, toma decisiones parciales y act\u00faa para lograr un objetivo concreto. Puede integrarse en un CRM, mover archivos en la nube, coordinar con otros sistemas o incluso interactuar con otros agentes.<\/span><\/p>\n

              Ejemplo pr\u00e1ctico: una asesor\u00eda fiscal integra un agente que recoge datos de distintos sistemas internos, accede al portal tributario correspondiente, rellena formularios, valida los datos y presenta la declaraci\u00f3n sin intervenci\u00f3n humana directa. El usuario s\u00f3lo valida al final.<\/span><\/p>\n

              Funciona. Y fascina. Pero tambi\u00e9n preocupa.<\/span><\/i>
              \n<\/span><\/i>Porque a diferencia de RAG o MCP, que ampl\u00edan capacidades internas del modelo, el agente act\u00faa hacia fuera, con <\/span>consecuencias reales.<\/b> Y eso significa que ya no estamos en el terreno de la generaci\u00f3n de lenguaje, sino en el de la delegaci\u00f3n de agencia.<\/span><\/p>\n

                \n
              • \u00bfQu\u00e9 ocurre si el agente toma una decisi\u00f3n err\u00f3nea?<\/span><\/li>\n
              • \u00bfQui\u00e9n responde si act\u00faa fuera del marco esperado?<\/span><\/li>\n
              • \u00bfEst\u00e1 habilitado para frenar ante una situaci\u00f3n ambigua o cr\u00edtica?<\/span><\/li>\n<\/ul>\n

                Esto ya no es ciencia ficci\u00f3n. Modelos como AutoGPT, BabyAGI o sistemas m\u00e1s sofisticados en entornos corporativos ya lo est\u00e1n haciendo. Automatizan ciclos completos, gestionan tareas complejas e incluso optimizan decisiones basadas en criterios din\u00e1micos.<\/span><\/p>\n

                Pero ah\u00ed est\u00e1 la frontera: cuando el modelo deja de ser herramienta y empieza a ser operador, la gobernanza deja de ser opcional. Un agente necesita m\u00e1s que c\u00f3digo: necesita un marco de control, un protocolo de intervenci\u00f3n humana, una pol\u00edtica de rendici\u00f3n de cuentas. Debe poder ser auditado, pausado, corregido. Y sobre todo, debe operar dentro de l\u00edmites definidos no por su capacidad t\u00e9cnica, sino por decisiones humanas conscientes.<\/span><\/p>\n

                Si no se gobierna, el agente no es una soluci\u00f3n: es un riesgo operacional con autonom\u00eda opaca.<\/span>
                \n<\/span>Para comprender la magnitud del salto que suponen los agentes, basta con contrastarlos con los modelos generativos cl\u00e1sicos:<\/span><\/p>\n

                Diferencias clave entre modelo generativo cl\u00e1sico y agente aut\u00f3nomo<\/b><\/h3>\n
                  \n
                1. Capacidad funcional<\/b><\/li>\n<\/ol>\n
                    \n
                  • Modelo generativo cl\u00e1sico:<\/span><\/i> produce lenguaje o c\u00f3digo.<\/span>
                    \n<\/span><\/li>\n
                  • Agente aut\u00f3nomo:<\/span><\/i> ejecuta acciones directamente en el entorno.<\/span>\n

                    <\/span><\/li>\n<\/ul>\n

                      \n
                    1. Dependencia de instrucciones humanas<\/b><\/li>\n<\/ol>\n
                        \n
                      • Modelo generativo cl\u00e1sico:<\/span><\/i> espera siempre una instrucci\u00f3n humana.<\/span>
                        \n<\/span><\/li>\n
                      • Agente aut\u00f3nomo:<\/span><\/i> puede tomar la iniciativa y actuar por s\u00ed mismo.<\/span>\n

                        <\/span><\/li>\n<\/ul>\n

                          \n
                        1. Gesti\u00f3n de memoria<\/b><\/li>\n<\/ol>\n
                            \n
                          • Modelo generativo cl\u00e1sico:<\/span><\/i> no tiene memoria funcional persistente (salvo si se le a\u00f1ade MCP).<\/span>
                            \n<\/span><\/li>\n
                          • Agente aut\u00f3nomo:<\/span><\/i> puede dise\u00f1ar, retener y ejecutar flujos de trabajo complejos.<\/span>\n

                            <\/span><\/li>\n<\/ul>\n

                              \n
                            1. Rol operativo<\/b><\/li>\n<\/ol>\n
                                \n
                              • Modelo generativo cl\u00e1sico:<\/span><\/i> act\u00faa como un asistente.<\/span>
                                \n<\/span><\/li>\n
                              • Agente aut\u00f3nomo:<\/span><\/i> se comporta como un operador funcional.<\/span>\n

                                <\/span><\/li>\n<\/ul>\n

                                  \n
                                1. Requisitos de control<\/b><\/li>\n<\/ol>\n
                                    \n
                                  • Modelo generativo cl\u00e1sico:<\/span><\/i> requiere supervisi\u00f3n constante.<\/span>
                                    \n<\/span><\/li>\n
                                  • Agente aut\u00f3nomo:<\/span><\/i> exige una gobernanza estructurada.<\/span><\/li>\n<\/ul>\n

                                    La diferencia no es cuantitativa, es cualitativa. El paso de herramienta a actor operativo transforma el marco entero de responsabilidad, supervisi\u00f3n y control.<\/span><\/p>\n

                                      \n
                                    1. La arquitectura funcional no es suficiente sin gobernanza<\/strong><\/li>\n<\/ol>\n

                                      Llegados a este punto, puede parecer que tenemos la soluci\u00f3n perfecta:<\/span><\/p>\n

                                        \n
                                      • Lo que la IA no sabe, lo suple el RAG.<\/span><\/li>\n
                                      • Lo que no recuerda, lo guarda la MCP.<\/span><\/li>\n
                                      • Lo que no puede hacer, lo ejecutan los agentes.<\/span><\/li>\n<\/ul>\n

                                        Pero esa arquitectura, por muy sofisticada que sea, no decide por s\u00ed misma c\u00f3mo, cu\u00e1ndo ni por qu\u00e9 se activa cada componente. Y ese es precisamente el n\u00facleo de la cuesti\u00f3n: la arquitectura funcional no basta. Hace falta gobernanza.<\/span><\/p>\n

                                        \u00bfQu\u00e9 entendemos por gobernanza de la IA en este contexto?<\/span><\/i>
                                        \n<\/span><\/i>– <\/span><\/i>No es una checklist \u00e9tica ni un manual t\u00e9cnico.<\/span>
                                        \n<\/span>– Tampoco es un simple cumplimiento normativo.<\/span>
                                        \n<\/span>– Es una estructura deliberativa y operativa que responde a estas preguntas clave:<\/span><\/p>\n

                                          \n
                                        • \u00bfQui\u00e9n decide si una fuente externa es v\u00e1lida para el RAG?<\/span><\/li>\n
                                        • \u00bfQu\u00e9 criterios definen qu\u00e9 recuerda la MCP y durante cu\u00e1nto tiempo?<\/span><\/li>\n
                                        • \u00bfBajo qu\u00e9 condiciones un agente puede ejecutar una acci\u00f3n automatizada?<\/span><\/li>\n
                                        • \u00bfQu\u00e9 l\u00edmites se imponen a cada uno de estos m\u00f3dulos?<\/span><\/li>\n
                                        • \u00bfC\u00f3mo se registran y auditan esas decisiones?<\/span><\/li>\n
                                        • \u00bfQui\u00e9n responde si algo sale mal?<\/span><\/li>\n<\/ul>\n

                                          Estas no son preguntas para un ingeniero. Son decisiones institucionales. Implican al responsable de cumplimiento, al comit\u00e9 \u00e9tico, al \u00e1rea legal, a la direcci\u00f3n t\u00e9cnica. Requieren dise\u00f1o organizativo, documentaci\u00f3n, asignaci\u00f3n de roles, evaluaci\u00f3n de riesgos, definici\u00f3n de protocolos de control y trazabilidad.<\/span><\/p>\n

                                          La arquitectura funcional responde al \u201cc\u00f3mo\u201d. La gobernanza responde al \u201cpor qu\u00e9\u201d, \u201cpara qu\u00e9\u201d y \u201ccon qu\u00e9 consecuencias\u201d.<\/span>
                                          \n<\/span>Y esa diferencia lo cambia todo. Porque no hay soluci\u00f3n tecnol\u00f3gica que funcione sin contexto humano, pol\u00edtico, normativo.<\/span>
                                          \n<\/span>Una IA capaz de hacer cosas sin estructura de gobernanza es como una empresa sin administraci\u00f3n: puede operar, pero no puede rendir cuentas.<\/span><\/p>\n

                                          Por eso, quienes ven en la IA una caja m\u00e1gica que todo lo soluciona est\u00e1n perdiendo de vista lo esencial: no se trata solo de lo que una m\u00e1quina puede hacer, sino de c\u00f3mo se decide que lo haga, bajo qu\u00e9 condiciones y con qu\u00e9 control.<\/span><\/p>\n

                                            \n
                                          1. Gobernanza IA aplicada: del marco \u00e9tico a la supervisi\u00f3n funcional<\/b><\/li>\n<\/ol>\n

                                            Hablar de gobernanza IA no es teorizar sobre principios abstractos ni redactar manifiestos \u00e9ticos que nadie aplica. Es, ante todo, construir un sistema funcional de control, supervisi\u00f3n y toma de decisiones en torno a la inteligencia artificial desplegada. Un sistema que no solo impida el da\u00f1o, sino que d\u00e9 sentido y legitimidad al uso de la tecnolog\u00eda.<\/span><\/p>\n

                                            La gobernanza empieza con una pregunta inc\u00f3moda:<\/span><\/i>
                                            \n<\/span><\/i>\u00bfQu\u00e9 parte de la IA est\u00e1 realmente bajo control humano, y cu\u00e1l ya opera en piloto autom\u00e1tico?<\/span>
                                            \n<\/span>A partir de ah\u00ed, se despliegan mecanismos concretos:<\/span><\/p>\n

                                              \n
                                            1. Registro y trazabilidad<\/span><\/i>
                                              \n<\/span>Toda decisi\u00f3n t\u00e9cnica relevante (activar RAG, configurar una MCP, delegar en un agente) debe estar documentada:<\/span><\/p>\n
                                                \n
                                              • \u00bfQu\u00e9 se hace?<\/span><\/li>\n
                                              • \u00bfQui\u00e9n lo decide?<\/span><\/li>\n
                                              • \u00bfQu\u00e9 riesgos se evaluaron?<\/span><\/li>\n
                                              • \u00bfCon qu\u00e9 respaldo jur\u00eddico o \u00e9tico?<\/span>
                                                \n<\/span>No se trata de burocracia, sino de responsabilidad verificable.<\/span><\/li>\n<\/ul>\n<\/li>\n
                                              • Validaci\u00f3n de fuentes y datos<\/span><\/i>
                                                \n<\/span>RAG no puede operar sobre cualquier cosa. No basta con que una web exista.<\/span>
                                                \n<\/span>Se requiere una pol\u00edtica clara de:<\/span><\/p>\n
                                                  \n
                                                • validaci\u00f3n de fuentes (fiabilidad, oficialidad, actualidad),<\/span><\/li>\n
                                                • revisi\u00f3n peri\u00f3dica de integridad y licencias,<\/span><\/li>\n
                                                • exclusi\u00f3n de contenidos contaminantes o manipuladores.<\/span><\/li>\n<\/ul>\n<\/li>\n
                                                • Control de persistencia y olvido<\/span><\/i>
                                                  \n<\/span>Una MCP mal gestionada puede convertirse en un archivo ilegal.<\/span>
                                                  \n<\/span>Se debe establecer:<\/span><\/p>\n
                                                    \n
                                                  • pol\u00edtica de caducidad de memoria,<\/span><\/li>\n
                                                  • reglas de seudonimizaci\u00f3n\/anonimizaci\u00f3n,<\/span><\/li>\n
                                                  • mecanismos de purgado y acceso para los usuarios.<\/span>
                                                    \n<\/span>La memoria debe ser gobernada, no solo habilitada.<\/span><\/li>\n<\/ul>\n<\/li>\n
                                                  • L\u00edmites operativos para agentes<\/span>
                                                    \n<\/span>Ning\u00fan agente debe actuar sin una arquitectura de l\u00edmites:<\/span><\/p>\n
                                                      \n
                                                    • definici\u00f3n de qu\u00e9 puede y qu\u00e9 no puede hacer,<\/span><\/li>\n
                                                    • escenarios que exigen intervenci\u00f3n humana,<\/span><\/li>\n
                                                    • registro de logs de actividad,<\/span><\/li>\n
                                                    • sistema de alertas y parada de emergencia.<\/span>
                                                      \n<\/span>El agente no es libre: es delegado, y como tal, debe tener instrucciones, supervisi\u00f3n y consecuencias.<\/span><\/li>\n<\/ul>\n<\/li>\n
                                                    • Atribuci\u00f3n de responsabilidad<\/span>
                                                      \n<\/span>Todo fallo debe tener un responsable claro.<\/span>
                                                      \n<\/span>Eso exige:<\/span><\/p>\n
                                                        \n
                                                      • mapas de responsabilidad funcional (qui\u00e9n responde por qu\u00e9 m\u00f3dulo),<\/span><\/li>\n
                                                      • procedimientos de revisi\u00f3n post-incidente,<\/span><\/li>\n
                                                      • protocolos de notificaci\u00f3n interna y externa.<\/span>
                                                        \n<\/span>La IA no puede ser el chivo expiatorio: el fallo de un sistema es un fallo de gobernanza, no de algoritmo.<\/span><\/li>\n<\/ul>\n<\/li>\n
                                                      • Conexi\u00f3n con normativas externas<\/span>
                                                        \n<\/span>Nada de esto opera en el vac\u00edo.<\/span>
                                                        \n<\/span>El AI Act, el RGPD, la Directiva de responsabilidad por IA o incluso normas ISO (como la ISO\/IEC 42001) son ya marcos operativos vinculantes o recomendables. <\/span>Una buena gobernanza IA no solo protege internamente: es un escudo normativo frente a reguladores y litigios.<\/span><\/li>\n<\/ol>\n

                                                        En s\u00edntesis: gobernar una arquitectura <\/span>RAG\u2013MCP\u2013Agente<\/b>s no es un lujo, es una obligaci\u00f3n estructural. Y quien no lo hace, est\u00e1 jugando a ciegas con un sistema que puede aprender, recordar y actuar\u2026 sin supervisi\u00f3n.<\/span><\/p>\n

                                                          \n
                                                        1. Decidir no es programar<\/b><\/li>\n<\/ol>\n

                                                          Durante a\u00f1os, las decisiones tecnol\u00f3gicas estuvieron en manos de ingenieros. Se asum\u00eda que dise\u00f1ar bien el sistema equival\u00eda a tomar buenas decisiones. Que programar bien era suficiente. Pero el despliegue real de arquitecturas inteligentes \u2014capaces de acceder a conocimiento externo, construir memoria y ejecutar acciones\u2014 ha hecho saltar por los aires esa suposici\u00f3n.<\/span><\/p>\n

                                                          Hoy, programar no es decidir.<\/span><\/i>
                                                          \n<\/span><\/i>Y decidir no es un acto t\u00e9cnico: es una responsabilidad institucional, \u00e9tica y pol\u00edtica.<\/span><\/p>\n

                                                          La combinaci\u00f3n RAG\u2013MCP\u2013Agentes representa una soluci\u00f3n brillante a los l\u00edmites funcionales de la IA. Pero esa soluci\u00f3n, sin gobernanza, es tan peligrosa como eficaz. Puede desinformar, puede invadir, puede actuar sin l\u00edmites. Y no porque est\u00e9 mal dise\u00f1ada, sino porque nadie ha definido qu\u00e9 est\u00e1 bien y qu\u00e9 no, qu\u00e9 est\u00e1 permitido y qu\u00e9 debe ser supervisado.<\/span><\/p>\n

                                                          Por eso, el futuro no se juega en el laboratorio, sino en el modelo de gobernanza que adoptemos. La verdadera transformaci\u00f3n no est\u00e1 en lo que la IA puede hacer, sino en c\u00f3mo las instituciones humanas deciden gobernarla.<\/span><\/p>\n

                                                          Porque al final del d\u00eda, no hay nada m\u00e1s poderoso \u2014ni m\u00e1s arriesgado\u2014 que una m\u00e1quina que act\u00faa\u2026 cuando nadie sabe qui\u00e9n la est\u00e1 supervisando.<\/span><\/p>\n

                                                          Sobre el autor<\/strong><\/p>\n

                                                          Antonio Tejeda Encinas es Doctor of Juridical Science (SJD) \/ Doctor iuris por la Central European University (Budapest, 2014), con la tesis \u201c<\/span>Instrumentos jur\u00eddicos de armonizaci\u00f3n normativa y soberan\u00eda regulatoria: un estudio aplicado entre la UE, Am\u00e9rica Latina y Turqu\u00eda (2008\u20132014)<\/span><\/i>\u201d. Actualmente es investigador doctoral en Estudios Digitales en la Europa-Universit\u00e4t Viadrina Frankfurt (Oder), donde desarrolla la tesis \u201c<\/span>Algorithmic Ethics and Legal Legitimacy: Regulatory Models for Digital Governance in Europe and Latin America\u201d<\/span><\/i>, centrada en la legitimidad algor\u00edtmica, la gobernanza tecnol\u00f3gica y la transformaci\u00f3n jur\u00eddica en contextos automatizados.<\/span>
                                                          \n<\/span>Es presidente del <\/span>Comit\u00e9 Euro Americano de Derecho Digital \u2013 CEA Digital Law,<\/span><\/i> y CEO de Meta Channel Corp., firma internacional con sede en Europa especializada en representaci\u00f3n jur\u00eddica, regulaci\u00f3n algor\u00edtmica y dise\u00f1o de soluciones tecnol\u00f3gicas para empresas e instituciones que operan en entornos multi jurisdiccionales.<\/span><\/p>\n

                                                          Referencias<\/strong><\/p>\n

                                                          Floridi, L., & Cowls, J. (2019).<\/em> A Unified Framework of Five Principles for AI in Society.\u00a0Harvard Data Science Review, 1<\/em>(1).<\/p>\n

                                                          High-Level Expert Group on Artificial Intelligence. (2019)<\/em>.\u00a0Ethics Guidelines for Trustworthy AI<\/em>. European Commission.\u00a0<\/p>\n

                                                          Parlamento Europeo y Consejo de la Uni\u00f3n Europea. (2024).<\/em>\u00a0Reglamento (UE) 2024\/1689 relativo a la inteligencia artificial (AI Act)<\/em>. Diario Oficial de la Uni\u00f3n Europea, 12.07.2024.\u00a0<\/p>\n

                                                          Uni\u00f3n Europea. (2016).<\/em>\u00a0Reglamento General de Protecci\u00f3n de Datos (RGPD) \u2013 Reglamento (UE) 2016\/679<\/em>.\u00a0<\/p>\n

                                                          International Organization for Standardization. (2023).<\/em>\u00a0ISO\/IEC 42001:2023 \u2013 Artificial Intelligence Management System<\/em>.\u00a0<\/p>\n

                                                          IBM. (2025).\u00a0AI Agents in 2025: Expectations vs. Reality<\/em>.\u00a0<\/p>\n

                                                          Sokolnicki, Z. (2025).<\/em> Top AI Agent Research Papers of 2025: Pioneering the Future of AI Agents.\u00a0<\/p>\n

                                                          Holistic AI. (2025)<\/em>.\u00a0AI Agents are Changing Business, Governance will Define Who Wins<\/em>.\u00a0<\/p>\n

                                                          Splunk. (2025).<\/em>\u00a0AI Governance in 2025: A Full Perspective on Governance<\/em>.\u00a0<\/p>\n

                                                          Forbes. (2025).\u00a0AI Governance In 2025: Expert Predictions On Ethics, Tech, And Law<\/em>.\u00a0<\/p>\n

                                                           <\/p>\n","protected":false},"excerpt":{"rendered":"

                                                          Investigador doctoral en Estudios Digitales (European University Viadrina Frankfurt- Oder) | Presidente del Comit\u00e9 Euro Americano de Derecho Digital \u2013 CEA Digital Law | CEO de Meta Channel\u2026<\/p>\n","protected":false},"author":7,"featured_media":2911,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"pcdd_idioma":"es","wds_primary_category":0,"wds_primary_pcdd_pais":0,"footnotes":""},"categories":[2,2,2],"tags":[30,225,239,254,290,445],"pcdd_pais":[14,14,14],"class_list":["post-2910","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-derecho-digital-ia","tag-agentes","tag-gobernanzaalgoritmica","tag-iayderecho","tag-inteligencia-artificial","tag-mcp","tag-transformacion-digital-critica-rag","pcdd_pais-espana"],"_links":{"self":[{"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/posts\/2910","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/comments?post=2910"}],"version-history":[{"count":0,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/posts\/2910\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/media\/2911"}],"wp:attachment":[{"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/media?parent=2910"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/categories?post=2910"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/tags?post=2910"},{"taxonomy":"pcdd_pais","embeddable":true,"href":"https:\/\/pcdd-global.org\/es\/wp-json\/wp\/v2\/pcdd_pais?post=2910"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}