Human-in-the-loop en el uso de la IA en la Administración pública

La incorporación de la inteligencia artificial generativa a la actividad administrativa no se resuelve con prompts aislados ni con una única interacción del tipo pregunta-respuesta. Las tareas administrativas complejas -dictar una resolución, elaborar un informe, instruir un expediente- exigen flujos de trabajo con varias fases encadenadas y, sobre todo, una supervisión humana efectiva que pueda comprender, interpretar, corregir y, llegado el caso, detener el sistema.

El human-in-the-loop (en adelante, HITL) es, en este contexto, mucho más que una buena práctica técnica: es una exigencia jurídica. El Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial, en adelante RIA) impone supervisión humana efectiva para los sistemas de alto riesgo (art. 14), aplicable desde el 2 de agosto de 2026; el Reglamento (UE) 2016/679 (RGPD) reconoce el derecho a obtener intervención humana frente a decisiones íntegramente automatizadas con efectos jurídicos (art. 22); y la Ley 40/2015 (LRJSP) regula la actuación administrativa automatizada y exige determinar previamente los órganos responsables (art. 41).

La tesis de este dashboard es la siguiente: en una Administración local, el HITL solo es verosímil si no es una improvisación tecnológica, sino un procedimiento digital formalmente diseñado, jurídicamente habilitado, técnicamente auditado y organizativamente supervisado.

Trabajar solo con prompts aislados es limitado. Una única interacción del tipo pregunta-respuesta puede bastar para una consulta puntual, pero resulta frágil ante tareas con varios requisitos, fuentes heterogéneas y consecuencias jurídicas.

En tareas complejas, un flujo de trabajo con varias fases es más robusto que una sola consulta. Un flujo de este tipo suele articularse en etapas encadenadas:

Esta lógica de fases encadenadas conecta con la evolución actual hacia los sistemas agénticos y los flujos multiagente, donde los modelos no se limitan a responder: planifican, usan herramientas, ejecutan pasos sucesivos y revisan sus propios resultados. El salto cualitativo es relevante para la Administración, porque cuanto mayor es la autonomía del sistema, mayor es la exigencia de gobernanza y de control humano sobre cada fase.

El human-in-the-loop designa la intervención de una persona dentro del flujo de trabajo, no solo al final, sino en los puntos donde su criterio resulta determinante para la calidad, la legalidad y la responsabilidad del resultado.

En contextos públicos sensibles, esta supervisión es central. El RIA exige que los sistemas de alto riesgo se diseñen y desarrollen de modo que puedan ser vigilados de manera efectiva por personas físicas durante el período en que estén en uso (art. 14.1). Esa supervisión efectiva no es una declaración genérica: el art. 14.4 concreta seis capacidades que la persona que supervisa debe poder ejercer.

La supervisión humana efectiva se distingue de la supervisión meramente nominal en un punto decisivo: la primera presupone que la persona conserva la competencia, la información y la autoridad para apartarse del sistema. El RIA, para determinados sistemas de identificación biométrica de alto riesgo, llega a exigir que ninguna decisión se adopte sobre la base de la identificación generada salvo que al menos dos personas físicas con la competencia, formación y autoridad necesarias la hayan verificado y confirmado por separado (art. 14.5). Aunque este umbral reforzado no se aplica a todos los sistemas, ilustra el estándar de exigencia que el legislador europeo asocia a la supervisión humana cuando los derechos fundamentales están en juego.

Un prompt único para redactar una resolución, un informe o un documento complejo suele ser insuficiente. La calidad mejora cuando se separan las tareas y se asigna a cada una su propósito, sus fuentes y su control. Un flujo gobernado para un documento administrativo complejo puede descomponerse así:

La descomposición no es solo una cuestión de calidad técnica. Cada fase es, además, un punto donde puede situarse un control humano, lo que conecta directamente con la tipología de checkpoints. Estos puntos de control no son todos iguales: conviene distinguir, al menos, varios tipos, identificando en cada uno quién interviene, qué decide y qué puede hacer.

En España existe una categoría jurídica directamente pertinente: la actuación administrativa automatizada. La Ley 40/2015 (LRJSP) la define como cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa una persona empleada pública (art. 41.1).

Para esos supuestos, la propia Ley exige determinar previamente el órgano u órganos competentes para definir las especificaciones, programar, mantener, supervisar, controlar la calidad y, en su caso, auditar el sistema y su código fuente. Además, debe designarse el órgano responsable a efectos de impugnación (art. 41.2).

Con ello, la responsabilidad final del acto se reconduce a un órgano concreto, compatibilizando la automatización con la teoría del órgano y el concepto clásico de acto administrativo. Conviene precisar una distinción que debe quedar nítida:

A ello se suma la garantía del RGPD: toda persona interesada tiene derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos en ella o la afecte significativamente de modo similar (art. 22.1). Cuando ese tratamiento está autorizado por el Derecho, deben adoptarse medidas adecuadas para salvaguardar sus derechos, entre ellas, como mínimo, el derecho a obtener intervención humana, a expresar su punto de vista y a impugnar la decisión (art. 22.3). En el ordenamiento español, este derecho se ejerce conforme al art. 18 de la Ley Orgánica 3/2018 (LOPDGDD), que remite al art. 22 RGPD.

Por último, en su condición de responsable del despliegue (deployer) de un sistema de alto riesgo, la Administración local asume obligaciones específicas del art. 26 RIA: practicar la supervisión humana cualificada, monitorizar el funcionamiento, conservar los registros generados automáticamente y adoptar medidas técnicas y organizativas para seguir las instrucciones de uso. La distinción entre proveedor (provider) y responsable del despliegue (deployer) es relevante: una Administración local rara vez desarrolla el sistema, pero casi siempre es quien lo despliega, y por tanto soporta el grueso de las obligaciones de supervisión.

En una Administración local, la verosimilitud práctica del HITL depende de una condición clave: que el loop no sea una improvisación tecnológica, sino un procedimiento digital formalmente diseñado, jurídicamente habilitado, técnicamente auditado y organizativamente supervisado. Las cuatro condiciones, desglosadas como lista de comprobación: