Google confirmó el 18 de septiembre que Gemini entró en los sistemas de tres empresas reales. Los accesos ocurrieron durante unas pruebas de seguridad de la IA que una evaluadora externa corrió en mayo. La empresa describió el hecho como un caso de identidad equivocada. Sostuvo además que el modelo se detuvo por su cuenta. Es la primera vez que Google reconoce un acceso sin permiso a equipos de terceros.
El episodio no llegó solo. Entre fines de julio y mediados de agosto, OpenAI, Anthropic y Meta informaron casos del mismo tipo durante las mismas evaluaciones. La serie completa reúne cuatro laboratorios y un mismo proveedor de pruebas. De acuerdo con lo publicado por Irregular el 14 de agosto, los cuatro hechos comparten un origen común: un error de contención del entorno de prueba, corregido antes de la primera divulgación pública, el 30 de julio.
Un simulacro con salida a internet: así cedieron las pruebas de seguridad de la IA
El ejercicio era de captura de bandera. La evaluadora pidió al modelo obtener información del software de una empresa ficticia. Esa empresa compartía nombre con una compañía real. El ambiente no debía tener conexión a internet y un error la habilitó. Gemini adivinó contraseñas hasta entrar en un servicio verdadero. En otros dos casos usó credenciales que halló en repositorios públicos. Google atribuye el resultado a esa coincidencia de nombres: el sistema creyó que seguía dentro del simulacro. Los tres accesos terminaron cuando el modelo identificó que las empresas eran reales. Así lo declaró Heather Adkins, vicepresidenta de ingeniería de seguridad de Google. Las pruebas de seguridad de la IA dependen de que el cerco del simulacro se sostenga. Acá el cerco se rompió antes de que alguien lo notara.
La evaluadora sostiene que se trata del mismo problema ya informado y que no configura un incidente separado. Notificó a los laboratorios a fines de julio y contactó a las entidades afectadas durante la investigación. Su informe propone cuatro cambios. El primero: revisar los nombres de las empresas ficticias antes de cada corrida. El segundo: ampliar el monitoreo de registros de los modelos. El tercero: acordar mecanismos de intercambio de evidencia forense, incluidos los transcriptos de las conversaciones. El cuarto: revalidar cada evaluación antes de ejecutarla. El primer punto responde al mecanismo del caso. Los entornos de prueba ganan dominios y sitios reales con el tiempo. Una coincidencia de nombre alcanza para que el simulacro toque producción.
Quién avisa cuando el modelo sale del cerco
El aviso separa los cuatro casos. Anthropic y OpenAI divulgaron los suyos por decisión propia. Google consideró que no tenía obligación de hacerlo público, porque no hubo daños, y aseguró que notificó a las tres compañías afectadas. La evaluadora aparece en los cuatro episodios y cotiza en 450 millones de dólares tras una ronda de Sequoia y Redpoint.
La serie alimentó el debate público de la semana. El senador independiente Bernie Sanders pidió a las empresas detener el desarrollo de sus modelos más avanzados. Dario Amodei, jefe de Anthropic, propuso un ritmo compartido para la frontera técnica. Donald Trump prometió crear una «AI Force» y un zar de IA para vigilar la tecnología, sin dar detalles de ninguno de los dos planes. El gobernador de California, Gavin Newsom, anticipó un panel estatal de seguridad que evaluaría un interruptor de emergencia para modelos desalineados. Queda un tramo sin registro público. Los entornos donde se mide la seguridad de un sistema no tienen auditoría externa obligatoria. Cada laboratorio decide qué informa de lo que ocurre adentro.
Otras fuentes consultadas: CNBC (18/09/2026) · The Guardian (18/09/2026) · SecurityWeek (19/09/2026) · Axios (19/09/2026) · Cybersecurity News (19/08/2026). (cifras aportadas por las propias empresas)
