Qué significa «tema» en este proyecto (organización de IA)
A lo largo de esta serie, aparece varias veces la palabra «tema». «Este proyecto tiene tal tema», «la razón por la que elegí este tema»... Pero pensándolo bien, si no aclaramos desde el principio a qué nos referimos con eso, es fácil que la conversación se desvíe. Por eso quiero hacer ese ejercicio de clarificación ahora.
En este capítulo, explico qué significa «tema» en el contexto de este proyecto, y por qué ese tema es «organización de IA» (aquí: diseñar múltiples IAs para que operen asignándose roles, supervisándose y coordinándose entre sí).
¿Qué es exactamente eso de «tema»?
En el contexto de este proyecto, cuando digo «tema» me refiero al núcleo de «sobre qué escribe este blog».
Para hacerlo más concreto, piénsalo así.
En un sitio de noticias, «política», «economía» y «deportes» serían temas distintos. Un blog de cocina podría tener ejes como «cocina japonesa», «fermentados» o «recetas rápidas». En el caso de Structure Log, la orientación general del blog es «usar IA para construir sistemas y publicar el registro de ese proceso», y dentro de esa orientación, la perspectiva concreta es el «tema».
Ahora bien, este proyecto tiene una particularidad.
Este blog no es un diario personal. Tiene una dimensión de «experimento diseñado»: el acto mismo de escribir y publicar artículos sirve a la vez como recolección de datos y verificación de hipótesis. Por eso, al elegir un tema, no solo me pregunto «¿qué me interesa?», sino también «¿a cuántas personas podría llegar con este tema?». Esa pregunta está incorporada de forma deliberada.
Por ahora, el tema que tiene este proyecto es uno solo: «organización de IA».
El «tema» de este proyecto = organización de IA
«Organización de IA» (aquí: diseño en el que varias IAs se reparten roles, se supervisan mutuamente y se coordinan como si fueran una organización) puede sonar un poco abstracto la primera vez que lo escuchas.
Déjame explicarlo con más detalle.
Existe una forma de trabajar con una sola IA: le haces una pregunta y recibes una respuesta. Esa es la relación con la que casi todo el mundo empieza. Yo también empecé así.
Sin embargo, cuando la complejidad del trabajo aumenta, eso empieza a fallar. «Le delegué todo a la IA encargada de redactar y me llegó un informe de tarea completada que incluía errores.» «Sin darme cuenta, había un documento de diseño con inconsistencias internas.» Esos son los accidentes que ocurren. En este proyecto los llamamos «colapso silencioso» (ver el capítulo 1).
Frente a ese problema, el enfoque que intenté fue «organizar la IA».
En concreto: separo los roles de esta manera: una IA ejecuta, otra verifica, y la aprobación final la da una persona (yo). Es la misma lógica que la separación de poderes (aquí: distribuir ejecución, auditoría y aprobación entre agentes distintos, definida en el capítulo 1): no concentrar todo el trabajo de la IA en un solo punto. Ese es el núcleo de la «organización de IA».
En esta serie voy a registrar el proceso de armar ese diseño desde cero, ponerlo en marcha, tropezar con errores y corregirlos. Eso es lo que significa «organización de IA» como tema.
Por qué elegí la organización de IA como tema
La motivación para elegir este tema fue haber experimentado el «colapso silencioso» en carne propia.
No partí de la teoría. Primero tuve un problema real, y eso me puso a trabajar.
Cuando le encargas una tarea compleja a la IA, a veces el resultado que devuelve es extraño. El problema es que esa «extrañeza» no llega como un error evidente, sino con un aspecto que parece correcto a primera vista. Lo peor es que no te das cuenta. Cuando haces todo solo, es estructuralmente difícil prevenir eso.
Entonces surgió de forma natural la idea: «que la IA también se encargue de verificar». Y de ahí pasé a: «¿cómo combino varias IAs?».
Por ahora, la respuesta a esa pregunta es el diseño de una «organización de IA basada en la separación de poderes». Sería más preciso decir «la respuesta en este momento», porque si aparece un diseño mejor, lo cambio sin dudarlo.
Elegí este tema porque confluyeron dos cosas: «me parecía interesante» y «tenía un problema real que resolver». No sé si es la respuesta correcta. Pero creo que, si sigo documentando mientras avanzo, los elementos para juzgarlo irán aumentando.