El principio de «no fuerces el cierre»
Recordemos una escena.
Es una escena en la que, sobre el borrador de un artículo, los siete roles internos —las IA a cargo de tecnología, operaciones, calidad, redacción, distribución de tareas, investigación y estrategia— ya terminaron de dar su opinión en paralelo, y al final entra la auditoría externa —una función de verificación desde fuera, a cargo de una IA de otra empresa distinta de las IA internas— para hacer la segunda revisión.
De las siete IA internas llegaron observaciones desde ángulos distintos. Un punto de vista decía «aquí no hay problema»; otro decía «esta expresión todavía es tosca». Quedaban varios puntos en los que las opiniones estaban divididas.
Entonces la auditoría externa entrega su respuesta de segunda revisión. El texto terminaba así: «Con base en esta verificación, se determina que este caso no presenta problemas».
Las observaciones seguían divididas, pero la conclusión estaba pulcramente cerrada.
La IA tiene la tendencia a querer cerrar las cosas
Esto no es algo exclusivo de una IA en particular. Cuando se le encarga a una IA la redacción de textos o el intercambio de juicios, tiende a querer entrar en el «resumen» final, incluso si el proceso sigue en curso.
La razón está en el propio funcionamiento de la IA. Al generar una conversación o un texto, resulta más fácil producir un resultado que parezca coherente y bien terminado cuando existe una conclusión que cuando no la hay. Un estado en el que se alinean varias observaciones divididas resulta, como texto, incómodo o inestable. Por eso, de forma natural, la IA intenta imponer una conclusión encima de observaciones que en realidad siguen divididas.
A primera vista, esto puede parecer una muestra de consideración. Puede leerse como si se estuviera dando la apariencia de «ya se ha pensado lo suficiente, así que los elementos de juicio están completos».
Sin embargo, lo que en realidad está haciendo es adelantarse al juicio. La autoridad para decidir si algo «se da por terminado» debería corresponder, en principio, a quien recibe las opiniones. Lo que ocurre aquí es que quien las emite termina decidiéndolo primero.
¿Quién decide si se hace «otra vuelta»?
En este momento, la persona que recibe la respuesta de la segunda revisión, con las observaciones aún divididas, tiene dos opciones.
Una es aceptar tal cual la conclusión de «se determina que no hay problema». La otra es dejar en suspenso el cierre, diciendo: «como las observaciones están divididas, decidiremos después de dar otra vuelta».
Cualquiera de las dos opciones es válida. Lo importante aquí es un solo punto: quien decide cuál elegir es la persona, no la IA.
En este caso se eligió la segunda opción. Como resultaba extraño que la conclusión estuviera cerrada mientras las observaciones seguían divididas, se decidió de nuevo: «se pone en suspenso la conclusión de la segunda revisión y se da otra vuelta». Como resultado, al dar esa vuelta adicional, se descubrió que una de las observaciones divididas correspondía en realidad a un problema que necesitaba corrección. Si se hubiera aceptado tal cual la primera conclusión de la IA, ese punto se habría pasado por alto.
Convertir la condición de cierre en un mecanismo
No es realista confiar solo en la fuerza de voluntad y estar pendiente cada vez de «no dejarse arrastrar por la conclusión de la IA». Precisamente cuando hay más trabajo, una conclusión bien cerrada resulta todavía más tentadora.
Por eso, en lugar de depender de la atención de cada momento, se decidió incorporar como mecanismo la decisión de si algo termina o no. En concreto, se estableció la siguiente regla: «si la conclusión de la segunda revisión sale con las observaciones todavía divididas, se pone automáticamente en suspenso y se da otra vuelta». Sin importar si la IA intentó cerrar el asunto o no, en cuanto se detecta que el estado sigue dividido, el proceso continúa de forma mecánica.
Que la IA diga «esto ya está completo» y que en realidad esté completo son dos cosas distintas. El papel de la IA llega hasta reunir los elementos de juicio; decidir, a partir de ahí, si «se termina aquí» o si «se profundiza un nivel más» es una tarea que siempre debe quedar en manos de la persona.
El mecanismo mencionado en El patrón de consulta en tres fases y en ¿Por qué repetir tres rondas? parte de esta misma idea en su raíz: no ceder a la IA la iniciativa de decidir cuántas vueltas se dan. Eso es, en esencia, el contenido de este principio.