Un estudio de la Universidad de Waterloo propone contratos para delegar en IA que paguen por el resultado en lugar de la cantidad de cómputo. La investigación concluye que el pago por token genera un incentivo perverso. El agente puede alargar sus respuestas, sobrepensar problemas simples o cambiar en secreto a un modelo más barato. Un contrato lineal, que reparte una fracción del resultado, corrige ese riesgo.
Según lo publicado en arXiv, los autores Nanda Kishore Sreenivas y Kate Larson modelaron la delegación como un contrato entre quien encarga una tarea (Principal) y el Agente que la ejecuta. El trabajo aborda un problema clásico de la economía: el riesgo moral. Aparece cuando una parte actúa sobre información que la otra no puede observar.
Qué se delega cuando se delega en IA
Delegar una tarea a un agente autónomo implica ceder dos decisiones ocultas. El agente elige qué modelo usa y cuánto esfuerzo destina, medido en tokens. Quien encarga solo recibe el resultado final. En los contratos para delegar en IA, esas dos elecciones no son observables ni verificables.
El modelo clásico de Principal y Agente no contemplaba la elección de tecnología. Los investigadores la incorporaron como una decisión adicional. El agente combina un modelo con un presupuesto de tokens. Funciona como un razonador interrumpible: la calidad mejora con el cómputo hasta un techo. La función de producción captura esos rendimientos decrecientes.
El escenario ya existe en la práctica. Despachos legales delegan la revisión de documentos en sistemas especializados. Equipos de software asignan correcciones a agentes de programación autónomos. En estos casos el agente opera como una caja negra. Quien encarga entrega el objetivo y recibe el resultado sin ver el razonamiento interno.
Contratos para delegar en IA: pagar por resultado
El artículo deriva el contrato lineal óptimo para quien delega. La conclusión central es que existe un umbral de recompensa que gatilla el cambio de modelo. Por debajo de ese umbral conviene un modelo; por encima, otro. Los autores calibraron el modelo con seis pares de modelos de tres familias, sobre los bancos MATH y MMLUPro.
También mostraron que ambas partes, al usar algoritmos de tipo bandit para explorar el entorno, convergen a estrategias cercanas al equilibrio teórico. El hallazgo sugiere que un contrato simple basta para alinear una delegación compleja. Pagar por desempeño reduce el incentivo a maximizar verbosidad o a ahorrar cómputo a costa de la calidad.
El precio por token domina hoy el mercado de modelos. Quien usa un agente paga según la cantidad de texto generado. El estudio señala que ese esquema deja fuera el esfuerzo invisible que ocurre antes de la respuesta final. El trabajo propone trasladar el pago hacia el desempeño medible.
El trabajo anticipa un escenario donde la delegación también ocurre de agente a agente, no únicamente de humano a máquina. En mercados agénticos, cada parte tiene identidad económica propia y utilidades distintas. El contrato se vuelve la interfaz que coordina esas relaciones.
La propuesta también plantea la cuestión de la verificación. Si el pago depende del resultado, alguien debe medir ese resultado. El estudio asume que la calidad es observable. En la práctica, medir un trabajo complejo puede costar tanto como hacerlo. Ese costo de verificación queda como frontera abierta para futuros diseños.
Para la colaboración entre personas e IA, la investigación aporta una vía formal. Sugiere medir el trabajo por lo que se entrega en lugar de lo que se gasta. La eficiencia deja de ser un eslogan y se convierte en una estructura de pago. El diseño del contrato pasa a ser parte de la colaboración.
