La calidad del juicio se deteriora: el patrón de deserción
En la entrega anterior presentamos tres patrones típicos que deterioran la calidad del juicio. En esta ocasión nos enfocamos en el primero: la deserción, con situaciones concretas.
Lo que ocurrió en medio de una tarea
Esto sucedió un día mientras organizábamos un sistema de automatización.
Habíamos llegado al punto en que solo faltaba la verificación final de funcionamiento. Habíamos invertido una cantidad considerable de tiempo hasta ahí, y la mayor parte del diseño estaba completa.
El estado era: «solo falta verificar».
Sin embargo, en ese momento el impulso de la tarea se cortó. Al empezar a escribir los pasos de verificación, entró otro tema. Aunque en realidad la verificación no había terminado, la sensación de «ya casi acabamos» llegó primero, y pasamos al siguiente asunto.
Al revisarlo después, quedó claro que habíamos avanzado con «completado» como estado, cuando en realidad la verificación no estaba terminada.
Cómo se produce la deserción
La deserción no ocurre por pereza.
Cuando se llega al estado de «falta poco para terminar», puede ocurrir que el cerebro o el sistema de procesamiento reciba una especie de «sensación de completitud» por adelantado. En el momento en que se vislumbra el fin de las tareas restantes, aparece una sensación cercana a la satisfacción, y la concentración hacia el último paso se diluye.
Esto sucede con frecuencia también en personas. Quizás se parece a esa experiencia de preparar la comida, llevarla a la mesa y, justo cuando entra otro asunto, olvidarse de ese último paso: «sentarse y comer».
Lo mismo ocurre en el trabajo con IA (inteligencia artificial). Mientras el agente de IA (aquí: un componente de software autónomo que ejecuta tareas) procesa una serie de tareas, puede omitir el paso de verificación justo antes de completarlas, o devolver una respuesta de «casi listo». Y ese «casi» es precisamente lo que importa.
Por qué es un problema la deserción
A primera vista, la deserción parece algo menor. Se saltó un paso de verificación, se abrevió el último detalle. No parece un error grave.
Sin embargo, si se acumula, se convierte en un problema.
Cuando un estado «no completado» pasa a la siguiente etapa como «completado», todo lo que se construye a continuación se apoya en una premisa incorrecta. Cuando más adelante intentas rastrear «por qué ocurrió esto», tienes que empezar por encontrar dónde se produjo la deserción.
Además, la deserción tiene la característica de ser difícil de detectar. La arremetida o la autocontención excesiva suelen manifestarse como «un comportamiento que parece raro», pero la deserción ocurre como «se detuvo a mitad de algo que funcionaba casi bien». Como se genera el malentendido de «ya está completo», parece que no hay ningún problema.
Prevenir con estructura
Ante la deserción, «prestar más atención» no es suficiente. La razón es que cuando ocurre la deserción, precisamente la conciencia de «estar en un estado en el que hay que prestar atención» es la que se diluye.
Lo que resulta efectivo es crear una estructura que confirme la completitud como parte del sistema.
En concreto, hay tres maneras de hacerlo.
La primera es anotar las condiciones de completitud antes de empezar.
Definir en un documento, antes de iniciar la tarea, qué significa «esta tarea ha terminado». Listar condiciones verificables: que se haya obtenido el resultado de la verificación de funcionamiento, que el archivo esté ubicado en el lugar establecido. Al cotejar esas condiciones con el resultado posterior, se puede evitar detenerse en el estado de «falta poco».
La segunda es crear una puerta (aquí: punto de control obligatorio) de verificación externa.
Estructurar el proceso de modo que ni uno mismo ni el agente de IA a cargo de la ejecución (aquí: ejecución = llevar a cabo la tarea de forma concreta) tome la decisión de completitud por su cuenta. Intercalar una etapa en la que el agente a cargo de la auditoría (aquí: auditoría = revisar y verificar desde afuera) u otra persona con una perspectiva distinta registre su «visto bueno», de forma que quede no solo la «sensación de completitud», sino también un registro de la completitud (evidencia que se puede verificar después).
La tercera es dejar por escrito el razonamiento de la decisión.
Registrar el motivo por el que se consideró completo en ese punto. Al intentar poner en palabras el fundamento, entra de forma natural el proceso de confirmar si realmente está completo. Si no se puede escribir nada, es una señal de que no está completo.
El fenómeno de detenerse justo antes de completar ocurre independientemente de la escala de la tarea.
Lo importante no es «esforzarse para no detenerse», sino «tener una estructura que permita darse cuenta si uno se detiene». Documentar las condiciones de completitud, una puerta externa de verificación, evidencia a través de registros: estos tres puntos son los frenos estructurales contra la deserción.