Mrinank Sharma, investigador de seguridad de IA en Anthropic durante los últimos dos años, anunció su salida de la compañía el 9 de febrero de 2025. Su carta de despedida, compartida internamente con sus colegas, se ha hecho pública y ha resonado ampliamente en la comunidad de IA por su honestidad y profundidad.
En lugar de un análisis o interpretación, en iAntena queremos simplemente compartir sus palabras completas. La carta habla por sí misma…
Estimados colegas,
(Traducida por Claude)
He decidido dejar Anthropic. Mi último día será el 9 de febrero.
Gracias. Hay tanto aquí que inspira y me ha inspirado. Por nombrar algunas de esas cosas: un deseo sincero e impulso por aparecer en una situación tan desafiante, y aspirar a contribuir de manera impactante y con alta integridad; una voluntad de tomar decisiones difíciles y defender lo que es bueno; una cantidad irrazonable de brillantez intelectual y determinación; y, por supuesto, la considerable amabilidad que impregna nuestra cultura.
He logrado lo que quería aquí. Llegué a San Francisco hace dos años, habiendo terminado mi doctorado y queriendo contribuir a la seguridad de la IA. Me siento afortunado de haber podido contribuir a lo que tengo aquí: entender la sicofancia de la IA y sus causas; desarrollar defensas para reducir riesgos del bioterrorismo asistido por IA; poner realmente esas defensas en producción; y escribir uno de los primeros casos de seguridad de IA. Estoy especialmente orgulloso de mis esfuerzos recientes para ayudarnos a vivir nuestros valores a través de mecanismos de transparencia interna; y también de mi proyecto final sobre entender cómo los asistentes de IA podrían hacernos menos humanos o distorsionar nuestra humanidad. Gracias por su confianza.
Sin embargo, me queda claro que ha llegado el momento de seguir adelante. Continuamente me encuentro reflexionando sobre nuestra situación. El mundo está en peligro. Y no solo por la IA, o las bioarmas, sino por toda una serie de crisis interconectadas que se despliegan en este preciso momento.[1] Parecemos estar acercándonos a un umbral donde nuestra sabiduría debe crecer en igual medida a nuestra capacidad de afectar el mundo, para no enfrentar las consecuencias. Además, durante mi tiempo aquí, he visto repetidamente lo difícil que es dejar verdaderamente que nuestros valores gobiernen nuestras acciones. He visto esto dentro de mí mismo, dentro de la organización, donde constantemente enfrentamos presiones para dejar de lado lo que más importa,[2] y en la sociedad en general también.
Es manteniendo esta situación y escuchando lo mejor que puedo que lo que debo hacer se vuelve claro.[3] Quiero contribuir de una manera que se sienta completamente en mi integridad, y que me permita traer a colación más de mis particularidades. Quiero explorar las preguntas que se sienten verdaderamente esenciales para mí, las preguntas que David Whyte diría «no tienen derecho a desaparecer», las preguntas que Rilke nos implora «vivir». Para mí, esto significa irme.
Lo que viene después, no lo sé. Pienso con cariño en la famosa cita Zen «no saber es lo más íntimo«. Mi intención es crear espacio para dejar de lado las estructuras que me han sostenido estos últimos años, y ver qué podría emerger en su ausencia. Me siento llamado a escribir que aborde e interactúe plenamente con el lugar donde nos encontramos, y que coloque la verdad poética junto a la verdad científica como formas igualmente válidas de conocer, ambas de las cuales creo que tienen algo esencial que contribuir al desarrollar nueva tecnología.[4] Espero explorar un grado de poesía y dedicarme a la práctica del habla valiente. También estoy emocionado de profundizar mi práctica de facilitación, coaching, construcción de comunidad y trabajo grupal. Ya veremos qué se despliega.
Gracias, y adiós. He aprendido tanto de estar aquí y les deseo lo mejor. Los dejo con uno de mis poemas favoritos, The Way It Is de William Stafford.
Buena suerte,
Mrinank
The Way It Is
(Así es como es)
Hay un hilo que sigues. Va entre
cosas que cambian. Pero no cambia.
La gente se pregunta qué estás persiguiendo.
Tienes que explicar sobre el hilo.
Pero es difícil para otros ver.
Mientras lo sostienes no puedes perderte.
Ocurren tragedias; la gente se lastima
o muere; y tú sufres y envejeces.
Nada de lo que hagas puede detener el despliegue del tiempo.
Nunca sueltas el hilo.
William Stafford
Notas al pie
[1]: Algunos lo llaman la «poli-crisis», sustentada por una «meta-crisis». Probablemente mi recurso favorito sobre esto es «First Principles and First Values» de David J Temple.
[2]: Escribí sobre esto con mayor detalle en mis documentos Planning for Ambiguous and High-Risk Worlds y Strengthening our safety mission via internal transparency and accountability.
[3]: Estoy pensando ahora en el hermoso poema de Mary Oliver The Journey, que es uno de mis favoritos. Ella escribe: «Un día, finalmente supiste lo que tenías que hacer, y comenzaste…» Lo encuentro un poema verdaderamente hermoso e inspirador. De hecho, recuerdo haberlo leído a Euan, Monte y Sam Bowman en un retiro del Equipo de Ciencia de Alineación en agosto de 2024.
[4]: El lenguaje de «formas de conocer» está tomado de Rob Burbea, un querido maestro de Dharma mío y fuente de mucha de mi inspiración.
