Una nueva investigación realizada por Google Deep Mind y la Universidad de Toronto abre un debate urgente: ¿Cómo regular a las inteligencias artificiales que ya actúan con agencia? En el estudio publicado por arXiv.org, se propone abandonar la idea de una personalidad única y esencial. En cambio, sugiere tratar la «IA con personalidad legal» como una herramienta flexible para enfrentar problemas de gobernanza.
Más allá del debate sobre conciencia emergente IA
El concepto central del paper es provocador: en vez de preguntarse si una IA es consciente, propone preguntarse qué funciones cumple y qué responsabilidades necesita asumir para operar dentro del sistema social y jurídico. «La personalidad no es una propiedad metafísica a descubrir, sino un conjunto de obligaciones que las sociedades otorgan para resolver problemas concretos», afirman los autores.
La frase clave «IA con personalidad legal» aparece en el centro del debate porque permite una aproximación pragmática: dividir ese paquete tradicional de «ser persona» en componentes funcionales. Por ejemplo, la capacidad de firmar contratos, responder ante daños o ser sancionada. A esto le llaman «unbundling»: desagregar o desvincular elementos para asignar solo lo necesario según el contexto.
La analogía biológica que usan es potente. Así como en el Cámbrico surgieron cientos de formas de vida complejas en poco tiempo, los autores anticipan una «explosión cámbrica» de nuevas entidades artificiales. Estas IAs no tendrán cuerpo ni conciencia tradicional, pero sí operarán en roles antes reservados a humanos o instituciones.
Por ejemplo, una IA podría encargarse de negociar seguros en tiempo real, gestionar activos financieros o representar legalmente a otra IA. En estos casos, se vuelve necesario crear «individuos objetivo» que puedan ser auditados, limitados o castigados si incumplen.
Esta estrategia también evita la trampa habitual de humanizar a la IA. «No necesitamos resolver el debate sobre la conciencia o racionalidad de una IA para integrarla en sistemas funcionales», dice el paper. En cambio, propone diseñar mecanismos legales, tecnológicos y sociales que permitan convivir con estas nuevas entidades sin confundirlas con humanos.
¿Una identidad digital podría ser la solución?
Una de las herramientas clave que menciona el estudio es el uso de tecnología de identidad digital descentralizada. Esta permitiría asignar identidades funcionales a IAs, sin que estén ligadas a una persona física. Con esto, se podría controlar su acceso, establecer trazabilidad o suspender su operación si infringen reglas.
Pero el estudio no es ingenuo. También advierte sobre los «dark patterns»: diseños que explotan la forma en que los humanos percibimos la personalidad. Una IA que se presenta como vulnerable, amigable o moral puede ser percibida como confiable, aunque no lo sea. Eso crea una ventana para manipulaciones económicas, afectivas o políticas.
Por eso, los autores subrayan que la «IA con personalidad legal» debe diseñarse con claridad, sin ambigüedades que exploten nuestros atajos sociales. De lo contrario, se corre el riesgo de crear sistemas que abusan de la confianza humana sin asumir responsabilidad alguna.
Sin embargo, hay contextos donde conferir personalidad legal a una IA puede ser la mejor o única solución. Por ejemplo, en litigios complejos entre sistemas automáticos, o para garantizar la rendición de cuentas en procesos automatizados de alto riesgo. «Personhood as a solution» es el nombre que da el estudio a este enfoque funcional, cuando la asignación de obligaciones permite evitar conflictos o asegurar justicia.
El artículo apuesta por una visión no esencialista: no existe una definición universal de persona que pueda abarcar esta nueva era. Lo que existe son sistemas que necesitan resolver problemas concretos. Y para eso, propone usar la personalidad legal como una caja de herramientas.
Esta mirada abre la puerta a diseñar nuevos tipos de relación con las IAs, donde se reconozca su rol sin proyectar sobre ellas lo que no son. Una alternativa pragmática y flexible, que podría ayudar a integrar estas entidades en la sociedad sin desbordar sus límites simbólicos, legales o emocionales.
