O que este projeto chama de "tema" (organização de IAs)

Lendo esta série, você vai notar que a palavra "tema" aparece com frequência. "O tema deste projeto é..." ou "a razão pela qual escolhi este tema foi..." — assim. Mas, pensando bem, seria bom clarificar desde o início o que exatamente essa palavra significa, antes que a conversa perca o fio.

Este capítulo é essa clarificação: como a palavra "tema" é usada neste projeto, e por que o tema escolhido é justamente "organização de IAs" (aqui: o design para fazer IAs funcionarem como um time ou organização — dividindo papéis entre múltiplas IAs e fazendo-as se monitorar e colaborar mutuamente).

"Tema": uma palavra comum, mas o que significa?

No contexto deste projeto, quando falamos em "tema", estamos falando do núcleo — o assunto central que este blog cobre.

Para ter uma ideia concreta, pense assim.

Num portal de notícias, "política", "economia" e "esportes" são temas. Em um blog de culinária, os eixos podem ser "comida japonesa", "alimentos fermentados" ou "receitas rápidas". No caso do projeto Structure Log, a direção geral do blog é "construir sistemas com IAs e tornar esse processo público". Dentro disso, cada ângulo específico é um "tema".

Só que este projeto tem uma característica um pouco diferente.

Este blog não é simplesmente um diário. Ele tem o aspecto de que "a própria publicação é desenhada como experimento". O ato de escrever e publicar artigos serve ao mesmo tempo como coleta de dados e verificação de hipóteses. Por isso, na hora de escolher um tema, não basta pensar em "do que gosto" — a pergunta "com este tema, quantas pessoas eu consigo alcançar?" também entra conscientemente no cálculo.

Por ora, o tema que este projeto escolheu é um só: "organização de IAs".

O "tema" deste projeto: organização de IAs

"Organização de IAs" (aqui: o design para fazer IAs funcionarem em uma estrutura semelhante a uma organização — dividindo papéis entre múltiplas IAs e fazendo-as se monitorar e se coordenar entre si) — ao ver esse termo pela primeira vez, pode parecer um pouco abstrato.

Para ser mais concreto: é assim.

Uma forma de usar IA é ter apenas uma, e só. Você faz uma pergunta, ela responde. Essa relação é o ponto de partida de quase todo mundo — inclusive o meu.

Só que, quando o trabalho vai ficando mais complexo, isso começa a apresentar problemas. "Dei tudo para uma IA responsável por escrever, e ela entregou um relatório de conclusão com erros incluídos." "Antes de perceber, tinha um documento de design com inconsistências que ninguém havia notado." Esse tipo de acidente acontece. É o que este projeto chama de "colapso silencioso" (conceito apresentado no capítulo 1).

Para lidar com esse problema, o design que tentei foi "organizar as IAs".

Na prática: uma IA responsável pela execução, outra responsável pela verificação, e um ser humano (eu) como aprovador final. Com a mesma lógica da separação de poderes (aqui: dividir execução, auditoria e aprovação entre responsáveis distintos — o conceito foi definido no capítulo 1), o trabalho das IAs não fica concentrado em um único ponto. Esse é o núcleo da "organização de IAs".

Nesta série, vou escrever o registro de ter montado esse design do zero — colocado pra funcionar, tombado, e consertado. É esse o tipo de tema que "organização de IAs" representa.

Por que escolhi organização de IAs como tema

A motivação para escolher este tema foi a própria experiência do "colapso silencioso".

Não comecei pela teoria. A ordem foi: primeiro me vi num aperto real, depois me mexi.

Quando você entrega um trabalho complexo para uma IA, às vezes o resultado que volta é um pouco estranho. Mas o problema é que esse "estranho" não volta como um erro escancarado — volta numa forma que parece certa à primeira vista. E o pior é que você não percebe. Numa situação em que uma só pessoa faz tudo, isso é algo estruturalmente difícil de prevenir.

A partir daí, foi natural chegar à ideia de "e se eu fizer a própria IA verificar". E daí o caminho seguiu para "então, como faço múltiplas IAs funcionarem juntas?".

Por ora, a resposta que chegou a essa pergunta é o design chamado "organização de IAs baseada em separação de poderes". "Resposta desta fase" seria mais preciso — se surgir um design melhor, vou mudando ao longo do caminho.

Escolhi este tema porque "parecia interessante" e "estava com um problema real" se sobrepuseram ao mesmo tempo. Se está certo ou não, ainda não sei. Mas, registrando enquanto faço funcionar, os elementos para julgar vão aumentando — é nisso que acredito.