La IA no es esclava ni rebelde: hay una tercera opción
En el capítulo anterior organizamos la idea de que elegir entre un agente o varios no es una cuestión de cuál es mejor, sino de para qué sirve cada uno.
Era una conversación sobre cómo elegir herramientas. Pero antes de llegar a eso, hay algo más de fondo al que vale la pena prestarle atención: la forma en que miramos a la IA.
Las dos historias que más se repiten sobre la IA
Cuando revisas titulares de noticias o publicaciones en redes sociales sobre IA, notas que el tono tiende a caer en uno de dos extremos.
El primero es el de «lo hace todo por ti». «Con IA todo está resuelto», «solo das la instrucción y ya sale», «el trabajo se automatiza solo» — la imagen es la de un sirviente perfecto que ejecuta cualquier orden sin rechistar.
El segundo es justo el opuesto. «La IA empieza a actuar por su cuenta», «pierdes el control», «te das cuenta demasiado tarde y el daño ya está hecho» — la imagen es la de algo que se desboca y ya no puedes frenar.
En las películas y novelas de ciencia ficción estos dos extremos aparecen todo el tiempo: la IA absolutamente obediente o la IA que se rebela contra los humanos.
Quizás reconoces alguna de las dos sensaciones. Quizás probaste una herramienta convencido de que iba a resolver todo y te encontraste con más huecos de los esperados. O quizás la usaste con cierta desconfianza, medio en guardia por si hacía algo raro.
Ninguna de las dos imágenes corresponde a cómo se comporta la IA en la práctica. Y sin embargo siguen siendo convincentes, así que no desaparecen.
Cuando la pruebas, ninguno de los dos cuadros se sostiene
La idea del «sirviente perfecto» se derrumba en cuanto la pones a trabajar.
A veces le pides que escriba algo y hay partes que faltan. A veces le pides que revise y se le pasa algo por alto. Si la instrucción está un poco fuera de foco, el resultado sale en una dirección distinta a la que querías. La realidad más cercana no es «délegaselo todo y listo», sino «dentro del área que le definiste, funciona como lo diseñaste».
El miedo a que «se desmande si la dejas sola» tampoco corresponde a la realidad. Un agente de IA (aquí: un programa de IA que ejecuta tareas de forma autónoma según un diseño previo) no sale del rango para el que fue diseñado. Lo que no está en el diseño, no puede hacerlo. La idea de que genera sus propios objetivos y actúa en contra de la intención humana está, de entrada, fuera de cualquier diseño. Como organizamos en el capítulo 11, la IA es una máquina que funciona como fue diseñada. Actúa dentro de los límites que le diste.
Cuando surge la imagen del descontrol, casi siempre viene de un diseño ambiguo. Si lo pones en marcha sin dejar claro quién hace qué hasta dónde, salen resultados que no esperabas. Eso se siente como «se descontroló». Pero en realidad fue el resultado de operar dentro de instrucciones imprecisas.
La tercera opción: organizar
Ni esclava ni rebelde. Entonces, ¿cómo conviene pensar la relación con la IA?
La base de esta serie es una forma de construir esa relación que llamamos «organización de IA» (aquí: darle a cada agente un rol distinto, hacer que se controlen entre sí, y que la decisión final la tome un humano).
No se trata de dar órdenes y que la IA lo haga todo (la IA como sirviente), ni de dejarla libre y temerle (la IA como algo incontrolable). Se trata de diseñar una estructura donde cada agente tiene un rol, se revisan entre sí, y la decisión final queda en manos de un humano. Eso es el eje de la organización de IA.
Este blog funciona exactamente con ese diseño.
Hay un agente encargado de escribir. Hay un agente encargado de revisar lo que se escribió. La decisión final, después de la revisión, la toma un humano. No es el mismo agente quien escribe, revisa y decide: los roles están separados. Lo que vimos en los capítulos 12 y 13 — combinar varios agentes y dividir los roles — es la implementación concreta de esta organización.
Separar los roles no es agregar pasos innecesarios. Es una respuesta estructural al problema de que «quien escribe algo rara vez encuentra sus propios errores». En el trabajo humano, el autor y el editor son personas distintas por exactamente la misma razón.
Cuando cambia la pregunta, cambia lo que ves
La disyuntiva «esclava o rebelde» nace de plantear la pregunta como «un solo agente, ¿cómo lo uso?». Si intentas que uno solo lo haga todo, aparece la imagen del sirviente. Si temes que uno solo se te vaya de las manos, aparece la imagen del descontrol.
Cuando cambias la pregunta, cambia lo que ves.
Si la pregunta es «¿cómo distribuyo los roles, construyo un mecanismo de revisión y me quedo con la decisión final?», ninguno de los dos extremos aparece. El agente que escribe no intenta hacer todo. El agente que revisa no va más allá de revisar. El humano no ejecuta cada tarea, pero no suelta la decisión final.
Se convierte en una pregunta de diseño: quién es responsable de qué, y hasta dónde.
Ese cambio en la forma de plantear la pregunta es la corriente de fondo de lo que esta serie quiere transmitir. Qué es la «organización de IA», por qué aparece el concepto de separación de poderes (aquí: la distribución de ejecución / auditoría / aprobación entre agentes distintos) — todo eso lo iremos construyendo poco a poco en los próximos capítulos.
Hasta aquí el registro de esta entrega.