Cuaderno / IA aplicada / 13.09.2026
La revisión humana es una operación.
Poner a una persona «en el bucle» no basta. Hay que diseñar qué recibe, qué puede decidir, cuánto contexto necesita y cómo vuelve el resultado al sistema.
Un botón de aprobar no es supervisión
Cuando un modelo interpreta un documento, propone una clasificación o redacta una respuesta, la interfaz puede mostrar «aceptar» y «rechazar». Eso solo crea dos botones. La persona todavía necesita saber qué dato originó la propuesta, qué regla se aplicará después y qué consecuencias tiene una decisión equivocada.
El marco AI RMF de NIST pide definir y documentar funciones, responsabilidades y procesos de supervisión humana. También propone evaluar sistemas en condiciones próximas al despliegue y monitorizarlos mientras operan. En términos de diseño, la revisión necesita contexto y un lugar estable dentro del proceso.
Las cinco piezas de una revisión útil
- Responsable. Una función concreta, no «el equipo», recibe la excepción.
- Contexto. La fuente, los campos relevantes, la propuesta y el motivo de la duda aparecen juntos.
- Acción. La persona puede corregir, derivar, pedir información o detener el recorrido.
- Estado. El caso distingue pendiente, revisado, bloqueado y cerrado; una ausencia de respuesta no se interpreta como aprobación.
- Evidencia. El sistema registra qué cambió, cuándo y con qué criterio, respetando la minimización de datos.
Diseñar también el criterio de parada
No todos los casos deben escalar y no toda automatización debe continuar. El alcance necesita umbrales: baja calidad de entrada, ausencia de permisos, datos sensibles, cambios de formato o una decisión con impacto relevante. Ante esos límites, el comportamiento correcto puede ser detenerse y pedir revisión.
La documentación de buenas prácticas de AI FDE de Palantir recomienda comprobar recursos generados antes de producción, usar datos representativos y limitar herramientas y contexto. Son controles concretos, útiles más allá de una plataforma determinada.
Qué medir antes de ampliar
Conviene registrar cuántos casos llegan a revisión, cuánto tarda la decisión, qué tipos de error se corrigen y cuántas alertas resultan innecesarias. Estas medidas no demuestran por sí solas que el sistema sea adecuado, pero muestran dónde está desplazando trabajo o creando una nueva cola.
El objetivo es que la persona tenga más criterio y mejor contexto, no que haga clic sobre cada salida de la máquina. El diseño de la excepción forma parte del producto.