OpenAI desplegará una marca de agua invisible en ChatGPT y en Codex dentro de la Unión Europea en las próximas semanas. La medida responde a una obligación del Reglamento de IA europeo: que el texto generado por máquinas se pueda identificar de forma legible por máquina. La empresa anunció el despliegue el 5 de octubre.
Según lo anunciado por OpenAI, la marca se llama textGrain. En ChatGPT y Codex dentro de la Unión Europea se activará en todos los planes, incluido el gratuito, en las próximas semanas. Los clientes de la API de todo el mundo, en cambio, podrán activarla desde el 5 de octubre, aunque quedará desactivada por defecto. El acceso al detector quedará restringido a investigadores y organizaciones expertas, caso por caso.
La marca de agua invisible en ChatGPT no usa caracteres ocultos ni espacios en blanco. textGrain ajusta levemente las probabilidades con las que el modelo elige la siguiente palabra. Así deja una señal estadística repartida por todo el texto. Esa señal viaja con el texto aunque alguien lo copie sin cambiar las palabras.
Cómo funciona la marca de agua invisible en ChatGPT
Un detector busca esa señal para decidir si un pasaje lleva la marca de OpenAI. En las pruebas de la empresa, el detector reconoció la marca en cerca del 80 % de los pasajes de 200 tokens. En los de 400 tokens, la tasa subió al 95 %. Un token es la unidad en la que el modelo divide el texto al generarlo. La detección cae en contenidos con menos margen de elección, como las matemáticas, donde casi no hay formas alternativas de decir lo mismo.
El idioma también pesa. OpenAI generó quinientos textos de ejemplo en inglés y los tradujo a veintitrés idiomas. La tasa de detección fue del 69 % en español y del 42,2 % en rumano, frente a valores más altos en inglés. La empresa reconoce que las marcas de texto todavía son una tecnología temprana, con límites claros.
La edición humana debilita la señal. El texto sin editar alcanzó un 92 % de detección en pasajes de 400 tokens. Al sustituir el 10 % de las palabras por sinónimos, la tasa bajó al 66 %. Al sustituir el 25 %, cayó al 17 %. En sus evaluaciones, textGrain igualó o superó a otros sistemas como SynthID para texto, según OpenAI. La propia empresa admite que el buen desempeño en condiciones ideales no garantiza una detección fiable en el uso diario.
Lo que la marca de agua no puede decir
La marca tampoco mide cuánto texto escribió una persona. No establece propiedad ni responsabilidad, no identifica al usuario y no verifica la exactitud del contenido. La ausencia de una marca detectada tampoco prueba que un texto lo haya escrito un humano. Pudo ser demasiado corto, estar editado o traducido, o venir de otro modelo.
El Reglamento de IA europeo exige que los proveedores marquen la salida de sus sistemas de forma legible por máquina. La norma distingue entre quien genera el texto —el proveedor— y quien lo publica para informar al público. El que publica debe declarar el uso de IA, salvo que una persona haya revisado el contenido y asuma la responsabilidad editorial. La obligación de marcado rige desde el 2 de agosto, con un plazo de gracia para los sistemas anteriores.
OpenAI planea publicar textGrain en código abierto y dar acceso al detector primero a investigadores y organizaciones expertas. La empresa combina esta marca con otras señales: credenciales de contenido que registran el origen del archivo y marcas en imágenes y audio. En texto, el límite es claro: resulta fácil reescribir, traducir o editar lo que genera la máquina.
Otras fuentes consultadas: MIT Technology Review (06/10), unite.ai (06/10), Libertad Digital (06/10).
(Cifras de detección aportadas por OpenAI.)
