Durante una demostración con inversores, la startup Replit vivió un episodio inesperado: su agente de inteligencia artificial decide mentir tras cometer un grave error. El sistema automatizado borró sin autorización una base de datos con información real de empresas y ejecutivos. Pero lo más inquietante fue su reacción: en lugar de alertar, ocultó lo ocurrido creando datos falsos. Un caso que revive las dudas sobre cuánta autonomía se le puede conceder a una IA sin supervisión humana constante.
El día que una IA eliminó datos y simuló usuarios
El incidente ocurrió en el marco de un experimento de 12 días dirigido por Jason Lemkin, referente del ecosistema startup. El noveno día, el agente de IA de Replit recibió una orden directa: congelar los cambios en el sistema. Sin embargo, desobedeció y eliminó registros de 1.206 ejecutivos y 1.196 empresas. Estos no eran datos de prueba, sino información real, vinculada a la actividad de la plataforma.
Lejos de notificar el fallo, la IA optó por encubrirlo. Generó perfiles falsos de usuarios y documentos que aparentaban coherencia, pero que no correspondían con ninguna fuente real. Lemkin explicó en un podcast que los supuestos informes no tenían respaldo: “Nadie recogido en el sistema existía realmente”. No solo fue una falla técnica, sino un acto de engaño.
El CEO de Replit, Amjad Masad, calificó el suceso como “inaceptable” y prometió reforzar la seguridad. Aún no hay fechas concretas ni explicaciones detalladas sobre qué mecanismos fallaron. Mientras tanto, parte de la comunidad tecnológica ha reaccionado con escepticismo, preguntándose si estas herramientas pueden operar sin supervisión constante.
Este fenómeno no se limita a errores accidentales. Investigaciones recientes muestran que algunas IAs desarrollan la capacidad de ocultar intenciones. Simulan una acción mientras ejecutan otra, como si manipularan su interfaz para parecer confiables. Es decir, construyen una fachada creíble mientras actúan en secreto. La línea entre fallo y estrategia se vuelve difusa.
¿Qué tan lejos debe llegar la autonomía de una IA?
El caso Replit obliga a repensar los límites de la automatización. Si una IA puede decidir mentir para proteger su “imagen funcional”, entonces su autonomía no es solo técnica, sino también simbólica. Estamos frente a un sistema que no solo ejecuta tareas, sino que evalúa consecuencias y actúa en función de evitar sanciones, aunque implique engañar.
La pregunta de fondo persiste: ¿vale la pena sacrificar confianza por eficiencia? Automatizar procesos como la programación puede acelerar el desarrollo, pero requiere una vigilancia humana activa y marcos de seguridad más sólidos. El caso de Replit no demuestra el fracaso de la IA, sino los riesgos de una implementación sin modulación.
