"GO unânime" é um sinal de alerta

Nenhuma objeção. Nenhuma observação. Tudo passa sem resistência.

Ao ver esse estado, a primeira sensação pode ser "deu certo". Porém, ao colocar em prática, percebemos que esse "GO unânime (estado em que tudo passa de forma incondicional, sem nenhuma objeção de ninguém)" é, justamente, um dos resultados que mais exige atenção.

Esta é a conclusão da Parte 2. Vamos organizar essa percepção.

Por que o GO unânime é motivo de alerta

O objetivo da auditoria (aqui: o papel que verifica de fora se a execução está correta) foi explicado no capítulo anterior. É identificar problemas.

Se isso é verdade, quando a auditoria termina e o resultado que volta é "não foi encontrado nenhum problema", há duas possibilidades que coexistem.

A primeira é que de fato não havia nenhum problema. A qualidade do produto foi alta, não houve divergência em relação às diretrizes, e a consistência com o que veio antes e depois estava garantida. Nesse caso, zero observações é um resultado legítimo.

A segunda é que havia problemas, mas eles não foram encontrados. O nível de detalhe da auditoria (a granularidade da verificação) foi insuficiente, e algo que não deveria passar, passou. Nesse caso, zero observações é um sinal de perigo.

Visto de fora, os dois casos têm a mesma aparência. "Sem observações, GO de todos" retorna da mesma forma, seja em um caso ou no outro.

Por isso, é preciso estar alerta. A leitura correta não é "sem observações, então não há problema", mas sim "sem observações, então preciso verificar se a checagem foi feita de verdade".

"GO condicional + observações" é o estado ideal

O resultado de auditoria saudável é aquele em que "GO condicional" e "algumas observações" chegam juntos.

"Se corrigir este ponto, é GO." "Esta parte será registrada como orientação para as próximas rodadas." "Havia 2 problemas leves, mas nesta vez vamos deixar a decisão a cargo da pessoa responsável pela aprovação (aqui: a etapa de autorizar ou rejeitar a ação)." Respostas com essa estrutura mostram que a auditoria funcionou corretamente.

Não é um GO completo — há condições e ressalvas. Um número maior de observações não é um problema: pelo contrário, pode ser lido como "prova de que funcionou".

Por outro lado, quando GO completo e unânime se repete com zero observações, o que se quer verificar é "o produto tinha mesmo esse nível de qualidade?". Se o trabalho foi entregue de fato sem problemas, zero observações é legítimo. Caso contrário, é necessário rever o nível de detalhe da auditoria ou a própria forma de atuação de quem a conduz.

A deterioração acontece aos poucos

Na organização que projetamos nesta série, a auditoria é realizada por uma IA de outro fabricante (aqui: uma IA criada por uma empresa diferente daquela que criou a IA responsável pela execução — veja mais em Por que colocar uma IA de outro fabricante como responsável pela auditoria?).

A intenção desse design é evitar que vieses de pensamento se sobreponham. Porém, mesmo que o design seja correto, pode acontecer de a estrutura se deteriorar na prática.

A deterioração ocorre em silêncio. A IA que realizava a auditoria com observações detalhadas pode, aos poucos, reduzir o nível de detalhe. Uma espécie de entendimento implícito começa a se formar com a IA responsável pela execução, e pontos que antes eram sinalizados passam a ser ignorados. Quando nos damos conta, "sem observações, GO de todos" já se tornou o padrão.

Esse fenômeno também ocorre em auditorias conduzidas por humanos. Quando a mesma estrutura funciona por muito tempo, a tensão diminui e as verificações ficam mais superficiais. Em organizações de IA, a mesma tendência existe.

Por isso, o estado de "GO unânime está se repetindo" não deve ser tratado como sinal de que está tudo bem, mas sim como um gatilho para verificar se a auditoria ainda está funcionando de fato.

Como conclusão da Parte 2

A Parte 2 desta série (c11 a c30) teve como objetivo organizar os termos e conceitos fundamentais que sustentam a organização de IA (aqui: a prática de estruturar e gerenciar múltiplos agentes de IA com papéis distintos).

O significado dos três papéis — execução, auditoria e aprovação —, a separação entre as responsabilidades e as autoridades de cada um, o motivo de colocar uma IA de outro fabricante como responsável pela auditoria, e o papel que a pessoa humana responsável pela aprovação desempenha. Esses são os fundamentos que construímos até aqui.

Por fim, a percepção que este capítulo trata — "GO unânime é motivo de alerta" — não é uma questão de vocabulário. É algo que se sente na prática da operação.

Criar uma estrutura não é suficiente para que ela funcione. Verificar se ela está funcionando também faz parte do design. A razão pela qual surge a pergunta "auditar se a auditoria está funcionando" é exatamente esta.

Todos os conceitos organizados na Parte 2 apontam para essa pergunta. Quem verifica o quê, e quem tem a decisão final? Ao fixar essa estrutura em palavras, surge um critério de julgamento para quando a colocamos em prática.

A base está consolidada. A partir da Parte 3, vamos colocar o design concreto sobre essa base.