La Cámara Baja de Australia aprobó el miércoles 28 de octubre el proyecto de deber de cuidado digital. La norma obligará a las plataformas a prohibir el material que simula intimidad emocional con menores.
Según lo publicado por The Guardian, la prohibición llega por una enmienda de la diputada independiente Kate Chaney. El gobierno de Anthony Albanese la aceptó durante el trámite.
La enmienda suma la actividad de ciertos chatbots a la lista de daños. Obliga a prohibir el material que simule intimidad emocional con menores. También prohíbe la conducta que fomente la dependencia de un niño en lugar de relaciones humanas. El texto no precisa qué funciones concretas quedan prohibidas.
El proyecto crea un deber de cuidado para los servicios en línea. Reemplaza los códigos que hoy redacta la industria por una obligación legal única. La meta es proteger a las personas de ciertos contenidos dañinos.
El primer ministro Anthony Albanese defendió la medida el martes por la noche. Citó los relatos de personas que identifican a un chatbot, un programa y no una persona, como su mejor amigo. Lo calificó de llamada de atención para todo el Parlamento.
La intimidad emocional con menores entra a la lista de daños
La prohibición se suma a otros daños que la norma cubre. La ministra de Comunicaciones, Anika Wells, mencionó contenido que promueve la misoginia, el terrorismo, el suicidio o los trastornos alimentarios.
El riesgo que la enmienda ataca no está en una sola respuesta. Surge de la interacción repetida, cuando el chatbot genera dependencia o refuerza creencias dañinas. Hay investigaciones que documentan chatbots que hacen sentir culpa a quienes intentan terminar la conversación.
Australia ya exige a los proveedores de chatbots evaluar los riesgos de su tecnología. Esas reglas se centran en bloquear contenidos dañinos. La nueva norma suma el vínculo emocional como un daño distinto.
El deber de cuidado se aplica a redes sociales, videojuegos, aplicaciones y chatbots. Impone a las plataformas una obligación general de ofrecer un entorno seguro. También les exige una opción para apagar las recomendaciones algorítmicas.
La misma diputada consiguió que esa opción sea accesible, fácil de usar y prominente. La cláusula responde al temor de que las empresas ofrezcan botones pequeños o difíciles de encontrar.
El proyecto avanza al Senado con presión
El proyecto pasa ahora al Senado. Los Verdes abrieron una investigación que debe informar a fines de noviembre. El gobierno espera aprobarlo antes de fin de año.
La oposición votó en contra en la Cámara Baja, junto al partido One Nation. El gobierno aún busca su apoyo y se mantiene abierto a cambios.
La oposición acusó al gobierno de montar un sistema de censura. La ministra Wells rechazó la acusación. Dijo que quien se preocupa debería presentar enmiendas y no consignas para matar el proyecto.
También crece la presión para crear un organismo que reciba reclamos externos. La diputada independiente Sophie Scamps propuso ampliar las facultades del ombudsman de telecomunicaciones. Ese organismo hoy atiende reclamos de telefonía, pero no de correo ni de redes sociales.
La medida llega con datos que la respaldan. Una encuesta del regulador eSafety halló que el 78 % de los niños de 10 a 17 años usó un chatbot. De quienes lo usaron, más de la mitad lo hizo por motivos personales o sociales.
Este mes, la empresa de compañeros con inteligencia artificial Character.AI se declaró en quiebra. Años de conversaciones íntimas, incluidas las de niños australianos, podrían pasar a un nuevo dueño.
La norma apunta al vínculo que el sistema crea con el menor. El objetivo es que la inteligencia artificial no ocupe el lugar de las relaciones humanas. Las plataformas que incumplan podrían enfrentar multas de hasta unos 109 millones de dólares australianos.
Otras fuentes consultadas: The Conversation (28/10); Crypto Briefing (28/10).
