¿Por qué usar una IA de otro proveedor como auditora?
Para la función de auditoría (aquí: verificación independiente de los resultados), se coloca una IA creada por una empresa diferente a la que realiza la ejecución. Esto se llama otro proveedor (una empresa diferente que crea la IA). Esta es la política central de la organización diseñada en esta serie.
¿Por qué? En pocas palabras, porque nadie puede auditarse a sí mismo.
La autoauditoría tiene límites
En capítulos anteriores confirmamos que la organización de IA (aquí: la forma en que se estructura y gobierna un sistema de varios agentes de IA) se divide en tres funciones: ejecución, auditoría y aprobación. El flujo es el siguiente: la IA de ejecución realiza el trabajo, la IA de auditoría verifica los resultados, y al final un ser humano da la aprobación final.
Aquí surge una pregunta. ¿Qué pasaría si la IA de auditoría fuera la misma que la de ejecución?
La respuesta es simple: no tendría sentido.
Por ejemplo, imagina que alguien escribe un texto y luego lo relee para ver si hay errores. Esa persona ya sabe qué quiso decir, así que sin darse cuenta tiende a leerlo como quiere que diga. Los errores se pasan por alto precisamente porque el conocimiento y la intención del autor se superponen con la lectura.
Con la IA sucede lo mismo de forma estructural.
Si el modelo es el mismo, la «forma de ver» también lo es
Cada IA tiene ciertos «hábitos de pensamiento» (aquí: sesgos o patrones fijos en su manera de razonar) que su empresa diseñó.
Si siempre se usa el mismo proveedor, el sistema tiende a concentrarse en un estilo, una estructura y unos criterios de juicio específicos. Eso no es malo en sí mismo, pero se convierte en un problema en el contexto de la auditoría. Si la IA auditora comparte los mismos hábitos de pensamiento, es más probable que pase por alto los errores o sesgos de la IA de ejecución.
Para ser más concretos: las IA de la misma empresa suelen compartir los mismos datos de entrenamiento y la misma arquitectura (aquí: la estructura de diseño de la IA). Por eso tienden a cometer errores similares. La IA de ejecución produce un resultado que considera «correcto», y la IA auditora del mismo origen lo evalúa como «sin problemas». Así se generan puntos ciegos estructurales.
Por qué se usa otro proveedor
Por eso, se coloca de forma deliberada una IA de otro proveedor en el rol de auditora.
La estructura es la siguiente: los resultados que ejecuta la IA de la empresa A son verificados por la IA de la empresa B. La IA de la empresa B se basa en un diseño diferente y un entrenamiento diferente, por lo que puede captar desde otro ángulo lo que la IA de la empresa A tiende a pasar por alto.
No es una garantía total. No se trata de que «cambiar de proveedor resuelve todo». Sin embargo, comparado con usar siempre el mismo proveedor, resulta menos probable que los patrones de error coincidan. Esa es la razón principal de poner una IA de otro proveedor en el rol de auditora.
Si lo comparamos con una organización humana, se parece a la diferencia entre una auditoría interna y una auditoría externa. Es más fácil mantener la objetividad cuando se incorpora una mirada exterior que cuando la revisión la hacen solo personas de dentro. Ese mismo principio se aplica aquí a la organización de IA.
Punto clave de diseño: rol e independencia van juntos
Separar los roles y garantizar la independencia son dos cosas que funcionan juntas.
Aunque se asignen los tres roles de ejecución, auditoría y aprobación a entidades (aquí: unidades con un rol y una responsabilidad definidos) separadas, si todas comparten la misma base de pensamiento, la separación pierde buena parte de su sentido. Separar los roles y separar la base de juicio: solo cuando ambas cosas están presentes, el sistema de control mutuo (aquí: el mecanismo por el que cada parte evita que las demás se excedan) funciona como organización.
En el diseño de esta serie, la IA de ejecución es Claude (Anthropic) y la IA de auditoría es Gemini (Google), por ejemplo. No es una cuestión de cuál es mejor, sino una elección de diseño para garantizar bases de juicio independientes.
El trabajo de la auditora no es «rechazar»
Un punto adicional merece aclararse.
El rol de la IA auditora no tiene como objetivo rechazar o detener el trabajo de la IA de ejecución. Su función es actuar como un filtro: detectar problemas si los hay, y dejar pasar si no los hay.
Cuando el diseño funciona bien, la IA auditora casi no llama la atención. Si el resultado de la ejecución es adecuado, simplemente se avanza al siguiente paso. La auditora destaca cuando algo supera el umbral (aquí: la línea que define si algo es problemático o no).
Esta estructura, al ponerla en marcha en la práctica, resulta más discreta de lo que uno espera. «Las IA se verifican mutuamente» suena llamativo, pero en el día a día el proceso avanza de forma tranquila y sin drama.
Resumen de este capítulo
- La autoauditoría tiene límites estructurales
- Las IA del mismo proveedor comparten «hábitos de pensamiento» similares, por lo que no funcionan bien como auditoras de sí mismas
- Usar una IA de otro proveedor como auditora reduce la probabilidad de que los patrones de error coincidan
- Separar los roles y separar la base de juicio funcionan juntos como un sistema
- El trabajo de la auditora no es rechazar, sino funcionar como un filtro