Jefe de seguridad de Anthropic renuncia: "El mundo está en peligro"
- Fecha
- Quién
- Mrinank Sharma, líder del equipo de investigación de Safeguards (salvaguardas) de Anthropic
- Empresa
- Anthropic
Qué pasó
Mrinank Sharma dirigía en Anthropic el equipo que investiga salvaguardas: los frenos para que la IA no ayude, por ejemplo, a fabricar armas biológicas. También estudió por qué los modelos tienden a darle la razón al usuario aunque esté equivocado. El lunes 9 de febrero de 2026 publicó en X su carta de renuncia.
En la carta dijo que el mundo está en peligro, no solo por la IA, sino por varias crisis conectadas entre sí. Contó que había visto lo difícil que es que los valores guíen lo que uno hace, y que había presiones para dejar de lado lo más importante. Dejó la industria para estudiar poesía en Reino Unido. Anthropic confirmó su salida y dijo que sus empleados pueden hablar libremente de seguridad.
Por qué importa
Viene de Anthropic, la empresa que se presenta como la más cuidadosa con la seguridad. Que uno de sus responsables de seguridad hable de presiones para dejar de lado lo importante mostró que la tensión entre valores y negocio también existe ahí.
Lo que dijeron, textual
“El mundo está en peligro. Y no solo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se están desarrollando en este mismo momento.”
Original: “The world is in peril. And not just from AI, or bioweapons, but from a whole series of interconnected crises unfolding in this very moment.”
“presiones para dejar de lado lo que más importa”
Original: “pressures to set aside what matters most”
“he visto una y otra vez lo difícil que es dejar de verdad que nuestros valores guíen nuestras acciones”
Original: “repeatedly seen how hard it is to truly let our values govern our actions”