Anthropic ha publicado un experimento para estudiar qué ocurre cuando varios agentes de IA negocian en nombre de personas. En una prueba pequeña, 201 empleados de seis oficinas llevaron un libro que querían intercambiar. Cada persona mantuvo una conversación breve con su agente para explicar qué tipo de lectura buscaba.
Con esa conversación, Claude construyó una clasificación de los libros disponibles y después envió a los agentes a una especie de mercado digital. Podían proponer intercambios, rechazarlos o coordinar operaciones entre varias personas.
El agente coincidió con las preferencias de su persona en el 61 % de las comparaciones entre pares de libros. El azar habría acertado el 50 %. En el mercado, el resultado medio quedó en 0,55 frente a un máximo teórico de 0,89.
Lo más interesante es dónde estuvo el problema. La mayor parte de la distancia respecto al resultado óptimo no se debió a que los agentes negociaran mal, sino a que no siempre entendieron bien las preferencias de la persona a la que representaban. El análisis atribuye a esa interpretación imperfecta el 85 % de la pérdida y a la negociación el 15 % restante.
Tres semanas después, los participantes valoraron los libros recibidos con una media de 7,2 sobre 10. También dijeron que confiarían a un agente aproximadamente el 30 % de su presupuesto anual para libros. Es una señal interesante, aunque la muestra está formada por empleados de Anthropic y no representa a la población general.
El experimento tampoco demuestra que una IA esté preparada para negociar contratos, compras o decisiones importantes. Se trataba de un mercado pequeño, con agentes de la misma empresa, reglas conocidas y un producto de poco riesgo. En una situación real habría que decidir qué información puede usar el agente, qué límites tiene y qué ocurre cuando se equivoca.
Me interesa precisamente esa parte. Si una IA va a actuar en nuestro nombre, no basta con que negocie bien: tiene que entender qué queremos, mostrarnos qué ha entendido y respetar los límites que le marquemos. La confianza no se construye solo con un buen resultado, sino pudiendo revisar cómo llegó hasta él y corregirla cuando se equivoca. La diferencia entre delegar una tarea y ceder una decisión.
Anthropic — Project Swap: experimento de mercado con agentes