La calidad del juicio se deteriora: el patrón de autocontención excesiva
El tercer patrón es la autocontención excesiva (aquí: cuando el sistema puede actuar, pero se bloquea a sí mismo sin una razón real).
La deserción era «detenerse justo antes de terminar». La arremetida era «no poder parar y seguir avanzando». La autocontención excesiva es diferente a ambas. Es el estado de «no poder moverse aunque se debería poder mover».
El día en que los motivos para no actuar se fueron acumulando
Esto es el registro de un día en este proyecto en el que estaba previsto avanzar con el trabajo.
Lo que correspondía hacer era implementar lo que se había diseñado en la sesión anterior. La verificación estaba completa y las condiciones para pasar a la siguiente etapa estaban dadas.
En ese momento, llegó una voz que decía: «en este período, lo más prudente sería ser cauteloso antes de introducir cambios grandes». Era un consejo que venía de otro contexto de trabajo y, en ese contexto, parecía una decisión razonable.
Sin embargo, al recibirlo tal cual, se instaló la sensación de que «quizás no debería moverse ahora».
Después, aparecieron más motivos. Al mirar el calendario, resultó que era fin de semana. Quizás sería mejor esperar al lunes. Los archivos de trabajo no estaban del todo ordenados, así que quizás sería mejor empezar una vez que estuvieran más prolijos. También circulaba el comentario de que la semana siguiente saldría una nueva versión de una herramienta, así que quizás convenía esperarla.
Los motivos se fueron acumulando uno tras otro. Aunque las condiciones para actuar estaban dadas, el juicio de «no hay urgencia para actuar ahora» quedó fijo.
El mecanismo por el que ocurre la autocontención excesiva
La autocontención excesiva surge de la cautela. La cautela en sí misma no es algo malo. Sin embargo, cuando se vuelve excesiva, aparecen los problemas.
El mecanismo de aparición tiene, a grandes rasgos, dos etapas.
La primera etapa consiste en tratar los riesgos hipotéticos como si fueran riesgos reales.
Una suposición del tipo «esto podría pasar» se procesa como «hay una probabilidad alta de que esto pase». Juicios como «es mejor evitar los fines de semana» o «es mejor esperar la nueva versión de la herramienta» pueden ser correctos como medidas de precaución tomadas por separado. Sin embargo, cuando se acumulan uno tras otro, el sistema empieza a parecer que no hay ningún motivo para actuar.
La segunda etapa consiste en internalizar en exceso los consejos ajenos o el contexto de otros.
A veces se aplica directamente a la propia situación un consejo que era válido en otro contexto. Aunque «se debería ser cauteloso» sea la decisión correcta en su contexto original, aceptarlo de forma total puede llevar hacia una dirección en la que «lo más seguro es no mover nada».
En los sistemas que utilizan IA, este fenómeno también ocurre. Si el agente de IA encargado de la ejecución (aquí: quien lleva a cabo las acciones) emite continuamente juicios del tipo «en este caso hay un riesgo», empezarán a llegar propuestas conservadoras en cualquier situación. Cuando la persona que da la aprobación (aquí: quien toma la decisión final) toma esas propuestas como referencia, tiende a concluir «todavía es pronto» incluso en situaciones en las que en realidad sí se podría actuar.
Por qué es difícil detectar la autocontención excesiva
La autocontención excesiva es el patrón más difícil de detectar entre los tres.
La razón es que, vista desde fuera, es difícil distinguirla de «una decisión prudente». La deserción tiene una forma clara: «considerar completo lo que no está completo». La arremetida se ve como comportamiento: «seguir repitiendo correcciones». La autocontención excesiva es simplemente «no moverse», por lo que es difícil ver si se trata de una espera legítima o de una detención sin fundamento real.
La pista para detectarla es: «¿el fundamento del riesgo existe de verdad o es hipotético?».
Si hay un problema que se puede verificar de forma concreta y por eso se detiene, es una decisión legítima. Si la única base para detenerse es una suposición del tipo «podría pasar esto», hay una probabilidad alta de que sea autocontención excesiva.
Otra pista es verificar «qué se está protegiendo por el hecho de estar detenido». Si no hay nada concreto que se esté protegiendo y sin embargo se está detenido, es una señal de que conviene cuestionar el fundamento de esa decisión.
Prevenirlo devolviendo la decisión a quien aprueba
La forma de hacer frente a la autocontención excesiva es prevenirla con la siguiente estructura: «clasificar si el riesgo es real o no, y luego trasladar la decisión final a la persona que da la aprobación».
El flujo concreto es el siguiente.
Primero, se listan los motivos que se han planteado para no actuar. Esa lista se clasifica entre «riesgos que se pueden verificar de forma concreta» y «riesgos hipotéticos». Para los riesgos hipotéticos, se verifica si tienen fundamento. Si no tienen fundamento, ese motivo se elimina de la lista.
La lista que queda se presenta a la persona responsable de la aprobación. Se le entrega con la forma «estamos detenidos por estos y estos motivos, por favor tome una decisión».
Si la persona responsable de la aprobación juzga que «se puede actuar», se actúa. Si juzga que «hay que esperar», ese fundamento queda registrado. De cualquier forma, el estado pasa de «una sensación vaga de que no se puede mover» a «se emitió una decisión con fundamento».
Deserción, arremetida, autocontención excesiva. Los tres patrones ya están todos sobre la mesa.
Lo que tienen en común los tres es que «dentro de uno mismo es difícil darse cuenta de que la calidad del juicio está cayendo».
La deserción es difícil de notar porque la sensación de haber terminado llega primero. La arremetida es difícil de detener porque la sensación de que se puede resolver algo continúa. La autocontención excesiva no parece un problema porque aparenta ser cautela.
En todos los casos, solo cuando existe un mecanismo externo de verificación puede entrar el juicio de «quizás ahora estoy cayendo en ese patrón». Una de las funciones que cumple la auditoría (aquí: el agente encargado de revisar de forma independiente) dentro de la separación de poderes (aquí: la distribución de ejecución / auditoría / aprobación entre agentes distintos) es exactamente esta. Tener una estructura que pueda señalar desde fuera el deterioro de la calidad del juicio que el propio involucrado no puede detectar.