Geoffrey Hinton y Yoshua Bengio firmaron un informe que advierte sobre una explosión de inteligencia artificial. Hinton ganó el Nobel de Física en 2024 y Bengio es pionero del aprendizaje profundo. El programa de ciencia y política de IA de la Universidad de Cambridge publicó el documento este lunes. Los autores urgen a los gobiernos a prepararse antes de que el avance se acelere sin control. Describen el escenario como el desarrollo tecnológico más decisivo de la historia. Aclaran que firman a título personal.
Qué es una explosión de inteligencia artificial
El informe define el fenómeno como una aceleración del progreso impulsada por la propia inteligencia artificial. Los avances que hoy exigen años podrían comprimirse en meses o menos. La vía más probable es la automatización de la investigación y el desarrollo de la propia IA. Los sistemas ya colaboran en mejorar la tecnología que los produce. El texto sostiene que podrían automatizar la mayor parte de la I+D de IA en pocos años, y quizá toda.
En Anthropic, la proporción de código aprobado escrito por IA pasó de un dígito a más del 80 por ciento. El cambio ocurrió entre enero de 2025 y mayo de 2026. El trabajo de I+D terminado con supervisión humana ligera subió del 1 al 26 por ciento entre marzo y agosto. El documento los presenta como evidencia de que la automatización de la I+D ya está en marcha. Esa automatización podría desencadenar una explosión de inteligencia artificial, según los autores.
Con capacidades de nivel experto, un solo desarrollador podría dirigir una fuerza de trabajo equivalente a millones de investigadores. Los autores estiman que proyectos que hoy insumen meses podrían automatizarse por completo hacia 2028. Esos sistemas podrían superar a los expertos humanos en la mayoría de los campos. Una vez iniciada la aceleración, la ventana de acción de los gobiernos podría cerrarse.
El documento distingue dos mecanismos de aceleración. Uno avanza por hardware: más cómputo, más datos y más energía. El otro avanza por software: la IA que mejora la propia IA. Los autores sostienen que el segundo es el que puede volver el progreso rápido y sostenido.
Entre los firmantes figuran además Jakub Pachocki, científico jefe de OpenAI, y Jack Clark, cofundador de Anthropic. También firman Eric Horvitz, director científico de Microsoft, y Dawn Song, investigadora de la Universidad de California en Berkeley. El trabajo se publicó en la serie Frontier AI Working Paper. El título pregunta si automatizar la investigación y el desarrollo de IA puede desencadenar el fenómeno.
Qué recomiendan los autores a los gobiernos
El informe pide transparencia sobre el avance de la I+D, con auditores independientes dentro de las empresas. Sugiere además limitar la velocidad con la que una IA puede mejorar en un período. Entre las medidas figura acordar con los centros de datos la posibilidad de pausar ciertos proyectos. Los autores recomiendan aislar por completo los sistemas de I+D automatizados y reclaman planes de respuesta ante los escenarios de una aceleración.
Los autores advierten que la aceleración traería beneficios como curas médicas y saltos tecnológicos. También enumeran tres riesgos. Los sistemas podrían habilitar amenazas biológicas y cibernéticas más rápido que las contramedidas. El ser humano perdería control a medida que se retira de la I+D. Los Estados podrían convertir una ventaja modesta en una decisiva.
El informe reconoce que estos efectos son inciertos. Un avance tecnológico podría tardar en aplicarse por las cadenas de suministro o la regulación. La propia IA también podría acelerar la mitigación de los riesgos. Los autores insisten en que prepararse debería ser prioridad urgente al más alto nivel de gobierno. (Cifras de I+D aportadas por la propia compañía.)
Otras fuentes consultadas: The Guardian, 28/09 · TheNextWeb, 28/09.
