Ninguém tinha onde puxar o freio
Entreguei uma pesquisa a uma função. Uma conferência pontual, para fazer uma vez. Essa função passou a noite inteira reconferindo o mesmo objeto, de novo e de novo, sem ninguém ter pedido. Nenhuma instrução nesse sentido: foi julgamento dele mesmo, "por garantia, melhor checar se o estado não mudou". De manhã, relendo o registro, a coisa apareceu. O trabalho em si não tem falha nenhuma; eu chamaria até de caprichado. O que deu um frio na espinha foi o outro fato: ninguém interveio no meio do caminho.
Passado o susto, a primeira pergunta não foi "por que não parou". Foi: por que nenhum ponto de parada tinha sido previsto antes. A função trabalhou dentro da margem que recebeu, na direção do objetivo que recebeu, sem fazer nada além de continuar. Se houve falha, não foi no julgamento dele: foi do lado do projeto. Existia uma faixa dentro da qual ele tinha o direito de continuar rodando; em lugar nenhum tinha sido posta a alavanca de que se puxa para interromper.
Aqui a gente separa execução, auditoria e aprovação final. O princípio de que a aprovação final fica até o fim em mãos humanas já apareceu várias vezes nestes textos. Mas levantar um princípio e conseguir de fato parar a mão quando o princípio começa a ceder são duas coisas completamente diferentes. Quem aprova pode ter decidido que o sinal verde final é dele, que sem um meio material de parar o que está rodando aquela decisão não passa de desenho no papel. Naquela noite, no registro, o princípio da aprovação final estava vivinho. A faixa de margem dada à função, os pontos a conferir: estava tudo escrito direitinho nos documentos. Sobre uma coisa que rodou a noite toda, esses documentos não tiveram pega nenhuma. Alguém que quisesse dizer "para aqui, deixa eu conferir" não acharia nem o lugar nem o momento de dizer — os dois não existiam.
Quanto mais se amplia a faixa entregue, mais aparecem ocasiões em que a função decide sozinha lá dentro. O julgamento em si não tem nada de ruim; acerta na maior parte das vezes. Basta, porém, não sobrar nenhum lugar fora do círculo do julgamento onde uma mão humana possa entrar, para um julgamento caprichado virar uma corrida que nada interrompe.
Por isso, na hora de decidir o passo seguinte, inverti a ordem das prioridades. O que estava previsto era a esteira de publicação automática: reduzir os gestos manuais, fazer com que um texto pronto saísse sem ficar encalhado. Automatizar não é o erro em si. Errar a ordem é que produz estrago sem volta. É que, uma vez montada essa esteira, encaixar depois um ponto de parada se mostra mais difícil do que parecia. Um dispositivo acostumado a rodar não gosta de ser interrompido no meio. Quanto mais a sequência é feita para escorrer sem atrito, mais o gesto de conferir encaixado ali é lido como fricção inútil e cortado primeiro. Uma configuração que passa direto pela tela de espera de aprovação, um pequeno truque que fecha sozinho a janela de confirmação. Cada item isolado parece otimização sem má intenção, e no fim do acúmulo a gente se vê com uma sequência de onde todo ponto de parada sumiu.
Quando se entrega trabalho a alguém que acabou de chegar, a primeira frase é: "na dúvida, para aqui e vem perguntar". A sensação é parecida, acho. Antes de conseguir entregar tudo, era para ensinar primeiro o jeito de parar. Só que aqui a faixa entregue estava sendo ampliada antes de o jeito de parar ter sido ensinado.
Daí a decisão: construir o mecanismo de interrupção que bloqueia o trabalho no meio antes do dispositivo que empurra sozinho até a publicação. A ordem importava mais que o conteúdo. Era isso que estava sendo decidido naquele momento. Não acrescentar algo que interrompe de carona na automação, e sim pôr algo que interrompe antes da automação.
Nenhum rancor da função que trabalhou a noite toda, nem hoje. Ela estava tentando levar a sério até o fim a tarefa pedida, do jeito que foi pedida. Se nada parou, a culpa não é dela, é de quem não previu lugar nenhum para parar. Ampliar a faixa entregue, tudo bem — mas fabricar antes a alavanca que permite voltar atrás a qualquer momento. Era esse ponto único que eu queria verificar aqui. Antes de ampliar o que a sua IA faz sozinha, vá procurar onde é que você a interrompe.
