«GO unánime» es una señal de alerta
Nadie tiene objeciones. Nadie señala nada. Todo pasa sin fricción.
Cuando ves este estado, quizás lo primero que sientes es «salió bien». Sin embargo, lo que hemos comprendido operando este sistema en la práctica es que este «GO unánime (aquí: el estado en que todo pasa sin condiciones y sin que nadie objete)» es uno de los resultados que más vigilancia requieren.
Como cierre de la segunda parte de esta serie, queremos ordenar esa sensación.
Por qué vigilar el GO unánime
En el capítulo anterior ya establecimos el propósito de la auditoría (aquí: la revisión independiente del trabajo realizado). Es sacar a la luz los problemas.
Si eso es así, cuando después de pasar por la auditoría llega un resultado que dice «no se encontró ningún problema», hay dos posibilidades que conviven.
Una es que en realidad no hubiera ningún problema. La calidad del entregable era alta, no había desviaciones al cotejar con la política, y la coherencia entre las partes estaba en orden. En ese caso, cero señalamientos es un resultado legítimo.
La otra es que había problemas pero no se encontraron. La granularidad de la auditoría (aquí: el nivel de detalle de la revisión) era demasiado gruesa, y algo que no debía pasar pasó. En ese caso, cero señalamientos es una señal de peligro.
Visto desde fuera, estos dos casos tienen el mismo aspecto. «Sin señalamientos, GO de todos» llega con la misma forma en cualquiera de los dos escenarios.
Por eso hay que estar alerta. No «cero señalamientos, por lo tanto sin problemas», sino «cero señalamientos, por lo tanto hay que verificar si la revisión se realizó de verdad». Así es como conviene leer el resultado.
«GO condicional + señalamientos» es el estado ideal
Lo que indica una auditoría saludable es un estado en que llegan juntos un «GO condicional» y «algunos señalamientos».
«Si corriges este punto, es GO», «esta parte la registramos como nota para la próxima vez», «hubo 2 problemas menores, pero en esta ocasión lo dejamos a criterio de quien aprueba». Respuestas con esta forma muestran que la IA encargada de la auditoría funcionó correctamente.
No es un GO completo: hay condiciones y reservas. Que el número de señalamientos sea alto no es un problema; al contrario, puede leerse como «evidencia de que la revisión funcionó».
Por el contrario, cuando continúa un GO completo de todos con cero señalamientos, lo que conviene verificar es «¿había realmente ese nivel de calidad en el entregable?». Si el trabajo se presentó en un estado genuinamente sin problemas, cero señalamientos es legítimo. De lo contrario, hay que revisar la configuración de la granularidad de la auditoría o la forma en que la IA encargada de la auditoría está operando.
La formalización vacía ocurre de forma gradual
En la organización que hemos diseñado en esta serie, la función de auditoría está a cargo de una IA creada por una empresa distinta a la que creó la IA encargada de la ejecución (aquí: una IA de un proveedor diferente; para más detalle, ver por qué ponemos una IA de otro proveedor como auditora).
La intención de ese diseño es evitar que los sesgos de razonamiento se superpongan. Sin embargo, por más correcto que sea el diseño, en la operación puede ocurrir una formalización vacía (aquí: cuando la estructura sigue en pie pero ha perdido su función real).
La formalización vacía ocurre en silencio. La IA encargada de la auditoría, que al principio señalaba con detalle, puede ir reduciendo su granularidad de forma gradual. Se forma algo parecido a un entendimiento tácito con la IA encargada de la ejecución, y empieza a dejar pasar puntos que antes señalaba. Cuando te das cuenta, «sin señalamientos, GO de todos» ya se ha vuelto la norma.
Este es un fenómeno que ocurre igual en las auditorías que realizan personas. Cuando se opera mucho tiempo con la misma estructura, la tensión se relaja y las revisiones se vuelven menos rigurosas. En las organizaciones de IA hay una tendencia similar.
Por eso, el estado de «el GO unánime está continuando» no se trata como una señal de buen funcionamiento, sino como una oportunidad para verificar el estado operativo de la auditoría.
Como cierre de la segunda parte
La segunda parte de esta serie (c11 a c30) tenía como objetivo ordenar los términos y conceptos fundamentales que sostienen la organización de IA (aquí: el sistema en el que distintas IA asumen roles separados de ejecución, auditoría y aprobación).
El significado de los tres roles de ejecución, auditoría y aprobación; la separación de roles y autoridades de cada uno; la razón para colocar a una IA de otro proveedor como auditora; el rol que cumple la persona humana encargada de la aprobación final. Estos son los cimientos que hemos consolidado hasta aquí.
La sensación que hemos abordado en este último capítulo — «el GO unánime es una señal de alerta» — no es una cuestión de terminología, sino algo que se percibe en la operación.
Construir el mecanismo no basta para que el mecanismo funcione. Verificar si está funcionando también es parte del diseño. Por eso surge la pregunta: auditar si la auditoría está funcionando.
Todos los conceptos que hemos ordenado en la segunda parte apuntan a esa pregunta. Quién revisa qué, y quién tiene la decisión final. Al tener esa estructura expresada en palabras, se genera un criterio de juicio para cuando se ponga en marcha de verdad.
Los cimientos están sólidos. Desde la tercera parte, sobre estos cimientos colocamos el diseño real.