Princípio de Documentação
No capítulo anterior, organizamos a ideia de design que estabelece verificação e registro como exigências proporcionais à irreversibilidade de uma ação. Neste capítulo, deixa-se registrado o princípio de documentação (ou seja, a prática de tratar o próprio ato de registrar como uma regra estrutural do sistema).
O que é o princípio de documentação
O princípio de documentação consiste em não depender de conversas informais ou da memória para decisões e julgamentos de trabalho, mas sim em manter tudo registrado em arquivos e documentos.
Pode parecer algo óbvio. Porém, em contextos onde múltiplos agentes de IA (aqui: sistemas de IA que executam tarefas de forma autônoma) atuam de forma coordenada, esse óbvio se torna especialmente importante.
Entre pessoas, é possível confirmar pela conversa: "combinamos assim há pouco, lembra?". A IA, por princípio, não tem memória que atravesse contextos diferentes. Quando uma sessão termina, o que foi decidido e os motivos por trás de cada escolha de design desaparecem — a não ser que tenham sido registrados em documento.
Por isso, "manter registros" não é uma meta de esforço, mas uma regra estruturalmente necessária.
Por que o registro funciona
Manter documentação traz três benefícios principais.
O primeiro é a possibilidade de verificar depois.
Se uma decisão foi certa ou errada, muitas vezes só se descobre após a execução. Sem registro de "por que se decidiu assim naquele momento", não há ponto de partida para verificação. O que resta é apenas a sensação vaga de que "deu certo" ou "não deu" — e isso não leva a melhorias.
Com registro, é possível confrontar: "naquele momento, com essas premissas, tomei essa decisão; o resultado foi este". À medida que isso se acumula, a precisão dos julgamentos vai aumentando gradualmente.
O segundo é a capacidade de rastrear a responsabilidade.
Em estruturas onde se delega trabalho à IA, é fácil que "quem decidiu o quê" fique nebuloso. Quando tanto a saída da IA quanto a aprovação humana "simplesmente aconteceram", torna-se impossível identificar a causa quando surge um problema.
O princípio de documentação é também o ato de deixar uma trilha de auditoria (aqui: um registro que permite verificação posterior) de que "esta decisão foi tomada neste momento por este papel". Com a trilha de auditoria, é possível analisar a causa do problema de forma estrutural. Identificada a causa, é possível projetar medidas para evitar recorrência.
O terceiro é a possibilidade de transferência para outra IA ou para o próximo responsável.
Esse aspecto da transferência é especialmente eficaz no contexto de uso de IA.
Ao passar uma decisão tomada em uma sessão para a próxima, sem documentação seria necessário explicar tudo do zero. Por outro lado, se o contexto da decisão, os motivos da escolha e as alternativas descartadas estiverem registrados em documento, a próxima IA pode começar a partir dali. O mesmo vale quando há troca de responsável humano.
Reduzir o custo de transferência é também uma condição para que a organização continue funcionando de forma sustentada.
Como colocar em prática
Mesmo entendida como princípio, sem visualizar "o que e como escrever concretamente" não é possível agir. Deixa-se aqui registrado o modo de operação que está sendo testado neste projeto.
O registro de decisões vai para o arquivo no momento em que são tomadas.
"Vou reunir e escrever depois" é, na prática, o mesmo que não escrever. Logo após tomar uma decisão, logo após mudar um design, transforma-se em arquivo — mesmo que sejam apenas uma a três linhas. Acrescentar uma breve nota de "por que foi assim" e "quais outras opções existiam" já muda o nível de detalhamento ao rever depois.
Os arquivos ficam em um lugar onde podem ser encontrados.
"Registrei mas não consigo encontrar" é quase o mesmo que não ter registro. O ideal é definir desde o início o conjunto de três elementos: convenção de nomenclatura, local de armazenamento e índice. Neste projeto, o local dos documentos de design é explicitado, e quando há alterações, os arquivos são atualizados.
Não se tenta escrever tudo de forma perfeita.
O maior inimigo do princípio de documentação é "querer escrever de forma perfeita e acabar não escrevendo". Um estado com bullet points ou notas de uma linha é claramente melhor do que um estado sem nada. Primeiro, cria-se o hábito de deixar vestígios das decisões — mesmo que seja rascunho. A precisão pode ser melhorada a qualquer momento depois.
Manter registros é também uma questão de integridade. Registrar "por que se decidiu assim" é criar uma condição na qual outra pessoa — ou a mesma pessoa no futuro — possa assumir essa decisão.
Porém, à medida que os registros aumentam, surgem outros problemas. Quando os registros se dispersam por múltiplos locais, não se sabe mais qual é a informação correta e mais atual. Quanto mais documentos aumentam, mais o modo de gerenciá-los também precisa ser projetado.