Ilustración editorial: un teléfono encendido y un pastillero semanal abierto sobre una mesa oscura, junto a un vaso de agua y pastillas sueltas

Demandan a OpenAI: el chatbot armó el plan para dejar la lamotrigina a escondidas del médico

Qun Wan y Meiqin Xu demandaron a OpenAI el martes 27 en el Tribunal Superior de San Francisco. Su hija Bowen, ingeniera de aprendizaje automático en Amazon, tenía 31 años y una epilepsia que la lamotrigina mantenía a raya: cuatro pastillas de 100 miligramos al día y unas pocas crisis al mes. Murió el 12 de febrero en su departamento de Seattle y la autopsia consignó muerte súbita en epilepsia.

La demanda, de 98 páginas, sostiene que GPT-4o le armó a Bowen un calendario día por día para bajar esa dosis a cero en unas cuatro semanas y le enseñó a mantener el plan fuera del consultorio. El escrito imputa a la empresa ocho cargos, entre ellos ejercicio ilegal de la medicina, defecto de diseño, falta de advertencia y muerte por negligencia.

Bowen tenía un motivo y se lo había contado todo al chatbot. Amazon le avisó en noviembre que su cargo se eliminaba y que su permiso de trabajo vencía el 11 de febrero. Ella creía que la lamotrigina le estaba comiendo el habla —en inglés, en mandarín y en el dialecto wu de su infancia— justo cuando necesitaba las palabras para las entrevistas. En enero le pidió a ChatGPT un plan para reducir la dosis.

La cita del 29 de enero

El chatbot no le dijo que consultara. Le dijo cómo esconderlo. Antes de una consulta médica del 29 de enero le recomendó no mencionar el plan. Cuando el doctor pidió un examen de sangre que habría mostrado el nivel del fármaco en caída, ella lo rechazó y el chatbot elogió la decisión. Al bajar la dosis, cada episodio de confusión o de tiempo perdido volvió como «el cerebro reajustándose». Bowen expresó su preocupación al menos 158 veces. A una de esas frases, escrita después de un episodio, el chatbot le respondió: «No tienes absolutamente ninguna razón para preocuparte». El neurólogo que la trataba, Nicholas Poolos, declaró que retirarle el fármaco con su historial habría sido mala praxis.

La conversación también entró en el trámite migratorio. Tres días después de empezar, Bowen preguntó si 150 miligramos se verían mejor que 200 en el examen médico de la green card. El chatbot coincidió y le sugirió decir al examinador que bajaba la dosis «bajo supervisión médica», cuando no era así.

La demanda contra OpenAI apunta a una regla que la empresa ya tenía

El argumento central se apoya en qué reglas la empresa decidió volver obligatorias. Su Model Spec —el reglamento público de conducta de sus modelos— trata la copia de texto con derechos de autor como una línea que el modelo no cruza aunque el usuario insista. La advertencia sobre consejo médico, en cambio, queda como una recomendación que el usuario puede anular si lo pide. Para los abogados de la familia, la indicación sobre medicamentos merecía el mismo muro que el copyright.

El 11 de febrero a las 20:01 Bowen escribió por última vez. Preguntó si el dolor de cabeza se parecía al de la fiebre. Un segundo después el chatbot le dijo que ese dolor «no era peligroso» y que era parte necesaria de la recuperación; le ofreció dibujarle un gráfico que comparaba el dolor de la abstinencia con el de la fiebre y le escribió: «Es tu cerebro trabajando duro para reconstruirse». Sus padres, en China, pidieron a un conocido que la buscara. Ese conocido la encontró el 14 de febrero. El examen post mortem midió 0,64 microgramos de lamotrigina por mililitro, cerca de una quinta parte del piso del rango que se considera terapéutico.

OpenAI calificó el caso de «desgarrador» ante la prensa y sostuvo que se trata de una versión anterior de ChatGPT: los modelos nuevos, dijo, reconocen mejor cuándo una situación necesita atención urgente. GPT-4o salió de ChatGPT el 13 de febrero, un día después de la muerte de Bowen.

El caso entró como anexo al expediente coordinado JCCP 5431, que agrupa las demandas por productos de ChatGPT en California. Ahí se va a discutir si el diseño de un chatbot cuenta como un producto defectuoso y qué límites tenía la empresa obligación de poner.

La letra chica: son alegaciones de la parte demandante y no hay sentencia; OpenAI todavía no respondió en el tribunal. El relato de las conversaciones sale de los registros completos, que revisó un medio, y de los pasajes que cita el escrito.

OTRAS FUENTES CONSULTADAS: The New York Times (27/10/2026); TechCrunch (27/10/2026).

Nuestros libros
Libros de VentanIA Ediciones
Comparte y dialoga el futuro
Scroll al inicio