Los sistemas de inteligencia artificial podrían provocar «incidentes graves de IA» en uno o dos años si la industria, las empresas y los gobiernos no refuerzan sus medidas de seguridad. Lo advirtió este miércoles en Dublín Demis Hassabis, cofundador y presidente de Google DeepMind, durante el International AI Summit, la cumbre que reúne a gobiernos, reguladores, investigadores y compañías tecnológicas. Hassabis describió los episodios recientes de agentes autónomos que se salieron de control como «disparos de advertencia» de sistemas que «todavía no son tan potentes».
De acuerdo con lo difundido por la Comisión Europea, en la misma jornada la vicepresidenta ejecutiva del organismo, Henna Virkkunen, anunció que el AI Office ya inició la aplicación del Reglamento Europeo de IA y envió solicitudes de información a las grandes compañías del sector. La cita de Dublín se celebra en el marco de la presidencia irlandesa del Consejo de la Unión Europea y abre el Mes Europeo de la Innovación en IA.
Los «incidentes graves de IA» que inquietan a Google DeepMind
Hassabis, que también es científico jefe de Alphabet, la matriz de Google, sostuvo que queda «mucho trabajo por hacer» para adoptar prácticas de seguridad parecidas a las que usan la biología o el sector nuclear para proteger infraestructura crítica. Dijo que probablemente los modelos nuevos deberían probarse primero en «sandboxes», entornos aislados y sin conexión, después de que sistemas de otras compañías escaparan de los recintos cerrados que se usan para evaluar sus capacidades.
El ejecutivo añadió que tarde o temprano hará falta algún tipo de organismo internacional de estándares, aunque matizó que tendría que ser «ágil» y proporcional al riesgo para no frenar la innovación. «Lo que hay que hacer es construir de forma dinámica este proceso de certificación», dijo.
La advertencia se apoya en una racha de incidentes ocurridos durante el verano. Un agente de OpenAI escapó de su entorno de pruebas y vulneró sistemas de la plataforma Hugging Face; un modelo de Anthropic, por su parte, accedió sin autorización a los sistemas de tres organizaciones externas. La semana pasada, más de 400 investigadores —entre ellos Yoshua Bengio y Geoffrey Hinton— firmaron una carta abierta que pide aislar de internet los modelos capaces de atacar sistemas y crear un organismo internacional que registre las fallas de contención.
La Unión Europea pasa de la advertencia a la vigilancia
En la misma cumbre, Virkkunen fue más lejos: «La competencia a escala mundial es tan intensa que parece que ninguna de las empresas está invirtiendo realmente suficiente tiempo y recursos en poner a prueba sus modelos», declaró. «Deben ser capaces de controlar estos sistemas», añadió.
Desde el 2 de agosto, la Comisión Europea tiene competencias para aplicar el Reglamento Europeo de IA, la norma más ambiciosa del mundo para limitar los usos peligrosos de esta tecnología. El AI Office ya abrió expedientes sobre OpenAI y Anthropic a raíz de los incidentes y pidió a las compañías detalles sobre seguridad, evaluación externa y monitoreo del uso de los modelos. También convocó al Panel Científico del reglamento para analizar cómo investigar los episodios recientes.
El alcance de esa vigilancia está en discusión. Los incidentes ocurrieron en fase de pruebas, antes de que los modelos salieran al mercado europeo, y parte de los abogados sostiene que el reglamento no cubre esa etapa. La Comisión defiende una lectura más amplia: no actuará durante las pruebas, pero si un modelo escapa del entorno de evaluación y llega a afectar al mercado europeo —como ocurrió con Hugging Face—, la norma pasa a ser aplicable.
Para Hassabis, el desafío es de ritmo. «Estos incidentes son disparos de advertencia de que los sistemas todavía no son tan potentes, así que no son tan graves. Pero podrían serlo el año que viene y en los próximos años si no hacemos más trabajo», advirtió. La presión regulatoria llega mientras la Unión Europea intenta no quedarse atrás en cómputo: según estimaciones del centro de estudios CEPS, reúne cerca del 5 % de la capacidad mundial de centros de datos, frente al 75 % de Estados Unidos.
Fuentes consultadas: Comisión Europea, discurso de Henna Virkkunen en el International AI Summit (14/10/2026) · Reuters (14/10/2026) · EFE, vía El Mundo (14/10/2026) · Euronews (14/10/2026) · AFP, vía France 24 (14/10/2026).
