"Escravo ou fora de controle" não são as únicas opções

No capítulo anterior, vimos que escolher entre um ou vários agentes de IA não é questão de qual é melhor — é questão de qual serve melhor para cada situação.

Falamos sobre como escolher a ferramenta certa. Mas antes de chegar nesse ponto, vale olhar para algo mais fundamental: qual é a visão que você tem sobre a IA em si.

A forma como se fala sobre IA tende a ir para os extremos

Ao olhar para manchetes de notícias e publicações em redes sociais sobre IA, dá para notar uma tendência: o tom costuma ir para um dos dois lados.

Um lado é o da IA que "faz tudo por você". "É só mandar e está pronto." "O trabalho fica totalmente automático." A imagem que aparece é a de um assistente obediente que executa qualquer ordem.

O outro lado é o oposto. "A IA age por conta própria." "O controle humano deixa de funcionar." "De repente, algo irreversível acontece." A imagem aqui é a de algo que escapa do controle e age de forma descontrolada.

Filmes e romances de ficção científica também exploram muito esses dois extremos: a IA perfeitamente submissa ou a IA que se volta contra os humanos.

Talvez você já tenha sentido um pouco dos dois lados. Tentou delegar tudo para a IA achando que ia funcionar e percebeu que havia mais lacunas do que esperava. Ou usou a ferramenta com certa desconfiança, esperando que algo desse errado.

Nenhuma dessas duas imagens corresponde ao que acontece na prática. Mesmo assim, ambas parecem plausíveis e continuam circulando.

Na prática, os dois extremos não batem com a realidade

A ideia da IA como "assistente perfeito que cuida de tudo" se desfaz rapidamente quando você começa a usar.

Ao pedir para escrever um texto, podem aparecer lacunas. Ao pedir uma revisão, algo pode passar despercebido. Se a instrução for um pouco imprecisa, o resultado vai para uma direção diferente da pretendida. A realidade é mais próxima de "funciona conforme o que foi projetado, dentro do escopo definido" — não de "delega tudo e esquece".

Já o medo de que "se deixar, vai sair do controle" também não corresponde à realidade. Um agente de IA (programa que executa tarefas com certa autonomia) não age fora do que foi projetado. O que não está no projeto, não é feito. A ideia de que a IA vai adquirir objetivos próprios e agir contra a intenção humana está simplesmente fora do escopo do que é projetado. Como vimos no capítulo 11: a IA é uma máquina que funciona conforme o projeto. Ela age dentro das fronteiras definidas.

Quando surge o medo de que algo vai "sair do controle", na maioria dos casos o que está acontecendo é que o projeto estava vago. Uma instrução vaga produz um resultado inesperado. Isso parece "fora de controle", mas na prática é o resultado de um projeto impreciso.

A terceira via — a ideia de organização de IA

Nem escrava, nem descontrolada. Então como pensar a relação com a IA?

A base desta série é uma forma de construir essa relação chamada organização de IA (aqui: estruturar os agentes em papéis distintos com regras de verificação).

Não se trata de mandar e esperar que tudo seja feito (IA como serviçal), nem de deixar livre e ficar com medo (IA como algo incontrolável). A estrutura é outra: atribuir papéis, fazer com que cada parte verifique a outra e manter a decisão final nas mãos de pessoas. Esse é o eixo central da organização de IA.

Este blog funciona exatamente com esse projeto.

Há um responsável por escrever. Há um responsável por revisar o que foi escrito. A decisão final, depois da revisão, é feita por uma pessoa. Não é a mesma entidade que escreve, revisa e decide — os papéis são separados. O que vimos nos capítulos 12 e 13 sobre "combinar vários agentes com papéis distintos" é justamente a implementação prática dessa organização.

Separar papéis não é para complicar o processo. É uma resposta estrutural ao problema de que "quem escreveu tem dificuldade de perceber seus próprios erros". No trabalho humano, a razão para escritor e editor serem pessoas diferentes é a mesma.

Quando a pergunta muda, a visão também muda

A dicotomia "escravo ou fora de controle" vem de uma pergunta específica: "Como usar um único agente?" Se você tenta delegar tudo a um único agente, aparece a imagem do serviçal. Se você teme que esse único agente escape do controle, aparece a imagem do descontrolado.

Mudar a pergunta muda o que você vê.

Quando a pergunta passa a ser "como dividir papéis, criar mecanismos de verificação e manter a decisão final com pessoas", nenhum dos dois extremos aparece mais. Quem escreve não tenta fazer tudo. Quem revisa não avança até a decisão. A pessoa não faz todo o trabalho operacional, mas não abre mão da decisão final.

O que fica é uma questão de projeto: quem cuida de quê, e até onde.

Essa "mudança na forma de fazer a pergunta" é o fio que corre por baixo de tudo que esta série quer transmitir. O que é a organização de IA, por que aparece o termo separação de poderes (aqui: a divisão entre execução, auditoria e aprovação em agentes distintos) — essas questões serão desenvolvidas aos poucos nos próximos capítulos.

O registro desta vez fica por aqui.