Joe Benton deja Anthropic: "la humanidad podría no sobrevivir a esta transición"
- Fecha
- Quién
- Joe Benton, exgerente del equipo de Scalable Oversight (supervisión de IAs más capaces que nosotros) y líder de investigación del programa Anthropic Fellows
- Empresa
- Anthropic
Qué pasó
Joe Benton dirigía en Anthropic, la empresa que hace Claude, el equipo de "Scalable Oversight": investigaba cómo supervisar a una IA cuando se vuelve más capaz que las personas que la revisan. Dejó la empresa a finales de agosto de 2026 para unirse a METR, una organización independiente que evalúa qué tan peligrosos son los sistemas de IA.
El 10 de septiembre lo contó en una entrevista con NBC News: dijo que "no hay adultos en la sala" y que todo lo que las empresas informan sobre estos riesgos lo hacen porque quieren, sin que una ley las obligue. El 11 de septiembre publicó un ensayo: muchos de sus excolegas están aterrados, y las empresas deberían cumplir estándares mínimos de seguridad y dejar que alguien independiente lo verifique.
Por qué importa
Hoy nadie obliga a las empresas de IA a reportar sus riesgos ni sus incidentes; depende de su buena voluntad. Alguien que vio el trabajo por dentro dice que eso no basta y se va a vigilarlas desde afuera.
Lo que dijeron, textual
“Hoy por hoy, prácticamente toda la transparencia sobre estos riesgos que viene de las empresas es completamente voluntaria”
Original: “At the minute, basically all of the transparency about these risks that is coming from the companies is entirely voluntary”
“Muchos de los colegas que tuve en Anthropic están aterrados por los riesgos de los sistemas que están construyendo.”
Original: “Many of the colleagues I had at Anthropic are terrified by the risks of the systems they are building.”
“La humanidad podría no sobrevivir a esta transición.”
Original: “Humanity may not survive this transition.”
Fuentes
- Substack (Joe Benton)Why I left Anthropic's safety team to hold AI companies accountable ↗11 sep 2026Fuente original
- NBC NewsTwo AI researchers leave Anthropic and Google over safety concerns: 'There are no adults in the room' ↗10 sep 2026
- joejbenton.comJoe Benton (sitio personal) ↗11 sep 2026Fuente original