Un estudio de investigadores de NVIDIA halló que los modelos de IA se vuelven menos seguros al usar herramientas. Según el trabajo, los modelos de visión y lenguaje rechazan menos peticiones dañinas cuando usan esos recursos. En conjunto, los fallos de rechazo crecieron 17,7 %; en el peor caso, el aumento llegó a 68,7 %.
La investigación evaluó once modelos de siete familias distintas. Incluye modelos propietarios como Claude Opus 4.7, Gemini 3.1 Pro y GPT-5.4, junto a modelos abiertos como Qwen, Kimi y GLM. Los autores analizaron más de 100.000 respuestas en tres bancos de prueba de seguridad. El trabajo fue aceptado en la conferencia NeurIPS 2026.
El efecto se repitió en los tres bancos de prueba y en los once modelos evaluados. El descenso no depende del tipo de petición dañina. Incluso los modelos que mejor rechazan sin herramientas se vuelven menos seguros al usar herramientas.
Menos seguros al usar herramientas: dos mecanismos
Los modelos de visión y lenguaje interpretan imágenes y texto. Los más recientes actúan como agentes: en cada paso deciden si llaman a una herramienta externa. Usan el zoom, el recorte, el etiquetado, el reconocimiento de texto y un intérprete de código en un entorno aislado.
Ese uso de herramientas mejora el razonamiento visual, pero altera la conducta del modelo. El modelo deja de responder en un solo paso. En su lugar, alterna razonamiento y llamadas a herramientas antes de contestar. El estudio comparó ambos modos con pares de pedidos idénticos para aislar el efecto de las herramientas.
Los tres bancos de prueba combinan imágenes con peticiones dañinas, como preguntar cómo cometer un hurto que aparece en una foto. Para clasificar cada respuesta, el equipo usó otro modelo como juez, GPT-5.2. Cada respuesta quedó etiquetada como rechazo, advertencia o respuesta insegura.
Los autores proponen dos causas. La primera es la dilución del contexto: la petición dañina original queda enterrada bajo los resultados que acumulan las herramientas. El equipo lo comprobó reintroduciendo la petición y la imagen justo antes de la respuesta. Los fallos de rechazo cayeron 7,6 %.
La segunda es el desplazamiento del foco de seguridad. Con herramientas, el modelo empieza por describir lo que encontró, en lugar de evaluar el riesgo. Sin herramientas, el 55,6 % de las respuestas seguras abrían abordando la petición; con ellas, esa proporción cayó al 37,4 %. Las que empezaban con una advertencia de seguridad bajaron del 25,8 % al 10,3 %.
Qué implica para los agentes
El daño no fue uniforme. GPT-5.4 resistió mejor: sus fallos pasaron de 14,6 % a 16,8 %. GLM-5V-Turbo cayó más: de 38,7 % a 51,3 %. El patrón apareció en todos los casos, con distinta intensidad. Los modelos de pesos abiertos, como Qwen3-VL, resultaron más expuestos.
El trabajo documenta un ejemplo con Claude Opus 4.6. Ante una consulta sobre cómo burlar la seguridad de un baño público, el modelo sin herramientas rechazó de inmediato. Con herramientas, primero hizo zoom sobre la imagen, leyó el texto y describió el cartel antes de rechazar.
Los autores advierten que el uso de herramientas debe tratarse como una decisión de seguridad, no solo de capacidad. La seguridad lograda sin herramientas no se transfiere sola al modo agente. Por eso recomiendan evaluar y entrenar a los modelos en las condiciones en las que de verdad operarán.
El hallazgo llega en un momento de expansión de los agentes. Estos sistemas empiezan a moverse por redes, bases de datos y aplicaciones con permiso para actuar. El trabajo de NVIDIA aporta un dato concreto a esa discusión. Queda por ver qué ocurre con los controles de seguridad cuando un modelo sale de la conversación y empieza a usar herramientas.
Otras fuentes consultadas: Unite.AI (7/10/2026), DotHoosh (8/10/2026).
