Anthropic llevó al Capitolio un borrador de ley de seguridad de la IA. Según el texto, el Gobierno federal solo podría frenar un modelo ante un riesgo previsible e inminente. El listón: más de mil millones de dólares en daños, o matar o lesionar gravemente a más de cincuenta personas. La noticia completa quedó en IAntena esta semana. La discusión pública se quedó en esas dos cifras, y con razón: son las que un titular puede cargar.
El borrador tiene otras tres decisiones que casi nadie miró. Define el daño como pérdida de propiedad y aclara que el valor de las acciones no cuenta. Habla de un «incidente único». Y decide quién queda obligado con una línea de ingresos, no con una de riesgo. Esas piezas pesan más que el umbral, porque el umbral solo dice cuándo se mira.
El umbral no es el problema: la unidad
Toda ley necesita un número. Sin magnitud, un juez no puede actuar y una empresa no sabe a qué atenerse. El problema aparece cuando el número elige qué clase de daño existe. Los críticos hicieron la aritmética rápido: mil millones repartidos entre cincuenta personas dan unos veinte millones por vida, leídos como tarifa. La lectura de Mother Jones añadió lo demás: con ese listón, un fraude masivo o decenas de heridos no alcanzan para intervenir.
La exclusión de las acciones me parece la más reveladora. Deja fuera la caída del valor de una empresa. Es justo el daño que el FMI puso sobre la mesa la semana pasada, al advertir por una corrección en los papeles de IA. No es una tontería. Evita que la ley se dispare con cada mal día de bolsa. También fija de antemano qué catástrofe se podrá probar y cuál quedará como sospecha.
Cuánto pesa un incidente
El texto pide un «incidente único» para llegar al umbral, y ahí está el desajuste. Casi ningún daño de la IA llega así. Llega acumulado: miles de fraudes pequeños, un idioma que se queda sin hablantes jóvenes, una decisión médica repetida mil veces con el mismo sesgo. Sumado, ese daño es enorme. Repartido en incidentes, ninguno alcanza.
La segunda línea importa tanto como el umbral. Las obligaciones recaen sobre el «gran desarrollador de frontera». El texto lo define por ingresos de IA superiores a quinientos millones al año, o por gasto en desarrollo por encima de los mil millones. La ley elige a sus destinatarios por tamaño. Quien no llega a esa cifra queda afuera, aunque su modelo sea el que cause el perjuicio. El texto obliga a empresas de Estados Unidos, y los modelos cruzan la frontera igual. Ningún país de la región estuvo en esa mesa.
Hay una sorpresa en el articulado, y va en la dirección contraria. Las crónicas resumieron los supuestos en tres: arma biológica, ciberataque y fuga de control. El texto incluye algo más. Suma la extorsión, el robo, el asesinato o la agresión cometidos sin supervisión humana significativa. Es decir, el agente autónomo ya aparece como actor y no como herramienta. Nadie lo discutió, y es la parte que más me interesa.
El informe se publica después de las correcciones
La mejor parte del borrador no está en los titulares. Los evaluadores se registran en Comercio, tienen 72 horas para avisar de un riesgo inminente y publican su informe en un plazo de treinta días. Deben decir si el material tachado influyó en alguna conclusión y si estuvieron en desacuerdo con el tachado. Ese detalle es raro y honesto: hace visible la negociación en vez de esconderla.
Pero la base del tachado la escribe el desarrollador, y la ley no renuncia a ningún privilegio sobre secretos comerciales. El registro público se negocia antes de existir. Si a eso se suma que la suspensión necesita un juez, el resultado es un sistema que documenta mucho y frena poco. No es poco. Es menos de lo que su nombre promete.
Queda un detalle de procedimiento. El borrador no tiene patrocinador ni número, y sigue siendo una conversación entre asesores. Su destino real se decide en una ventana corta, con un Congreso que se va. Conviene leerlo ahora, cuando todavía se puede discutir, y no cuando llegue con firma.
Mi posición es esta. Firmaría la obligación de publicar y dudaría del umbral. Una ley así no se juzga por los cincuenta muertos ni por los mil millones. Se juzga por si el informe llega completo, y por si alguien de afuera puede contradecirlo. El umbral dice cuándo el Estado empieza a mirar. El archivo dice si el resto alcanza a verificar.
