Cuaderno / IA aplicada al trabajo
Del piloto de IA a un proceso que tu equipo pueda operar.
Una respuesta convincente en una demostración no explica quién revisará el siguiente documento, cómo se resolverá una duda ni qué pasará si falla el destino. Un piloto útil debe poner a prueba ese recorrido completo.
Autoría: Kenea · Publicación y revisión: .
Interpretar también exige revisar.
- Documento
- Criterio
- Revisión
Empieza por una salida pequeña y comprobable
En vez de «poner IA en operaciones», plantea una tarea: preparar un borrador de solicitud a partir de un documento y mostrar de dónde sale cada campo. En este ejemplo hipotético, una persona decide si el borrador puede convertirse en un registro. No se envían pedidos ni se aceptan compromisos automáticamente.
Escribe qué queda fuera. Un documento ilegible, dos clientes posibles o una referencia desconocida pueden requerir revisión. Si unas reglas resuelven la tarea, no hace falta incorporar un modelo: la guía IA o automatización ayuda a distinguir ambos casos.
Prepara los datos y reserva una muestra
Utiliza documentos autorizados y solo los datos necesarios. Aclara quién puede tratarlos, qué servicio los recibirá y cuánto tiempo se conservarán. La muestra debe incluir formatos habituales y situaciones difíciles; seleccionar únicamente documentos limpios produciría una imagen incompleta del trabajo.
Separa los ejemplos que utilizas para ajustar la solución de los que emplearás para evaluarla. Para estos últimos, prepara una respuesta esperada revisada por alguien que conozca el proceso. Conserva la versión de la configuración y anota los cambios entre pruebas.
El AI Risk Management Framework de NIST es una referencia voluntaria para incorporar la gestión del riesgo al diseño, uso y evaluación de sistemas de IA. No es una certificación de este piloto ni sustituye sus pruebas.
Haz que la revisión humana sea una tarea real
«Lo revisará una persona» deja demasiadas preguntas abiertas. Esa persona necesita ver el documento, el campo propuesto y el motivo de la duda. Debe poder corregir, rechazar y dejar pendiente sin que el sistema interprete esas acciones como una aprobación.
Asigna responsable y sustituto, tiempo de atención y prioridad. Mide cuánto cuesta revisar, no solo cuánto tarda el modelo en responder. En nuestro ejemplo, una cola de borradores que crece cada día revelaría un problema de capacidad aunque la extracción pareciera rápida.
Prueba las excepciones antes de conectar acciones
Incluye un documento repetido, un campo ausente, una caída del destino y una respuesta incompleta del modelo. Cada caso debe dejar un estado visible y una acción posible. Si no llega confirmación del sistema receptor, no des por completado el trabajo ni repitas la escritura sin comprobar duplicados.
Los documentos también pueden contener instrucciones que intenten alterar al modelo. OWASP describe esta inyección indirecta y recomienda limitar permisos y aplicar controles humanos en operaciones de riesgo. Fuente: OWASP, prevención de prompt injection. En el piloto propuesto, leer un archivo no concede autoridad para ejecutar lo que diga.
Acuerda cómo se acepta y cuándo se detiene
Esta ficha es una propuesta de Kenea para el ejemplo, no un estándar universal. Define los umbrales con el responsable antes de ejecutar la muestra:
| Dimensión | Evidencia necesaria |
|---|---|
| Calidad | Campos correctos y errores separados por gravedad; no solo una media. |
| Revisión | Tiempo humano y pendientes, incluidos rechazos y correcciones. |
| Control | Ninguna escritura fuera del alcance; excepciones con responsable. |
| Recuperación | Procedimiento probado para parar y retomar sin duplicar. |
| Coste | Consumo del servicio, supervisión y mantenimiento estimados. |
Una fuga de datos o una acción no autorizada exigirían detener la prueba e investigar. Otros resultados pueden justificar ajustar el alcance. Superar una muestra pequeña no demuestra ausencia de errores futuros: documenta qué casos se probaron y cuáles siguen pendientes.
Deja preparado el día siguiente
Antes de ampliar, acuerda quién atiende incidencias, cómo se revisan cambios del modelo o del software y qué activa una nueva evaluación. La decisión puede ser continuar, reducir el alcance o descartar la vía. Esas tres salidas son válidas si se apoyan en evidencia.
El evaluador gratuito ayuda a dibujar el proceso. Una evaluación profesional por encargo permite concretar datos, dependencias y pruebas antes de construir.
Fuentes y criterio editorial
NIST AI RMF y OWASP, enlazados junto a sus afirmaciones, consultados el 8/9/2026. El recorrido y la ficha son propuestas originales de Kenea; no describen un proyecto implantado ni garantizan precisión, ahorro o seguridad absoluta.