Dario Amodei pide frenar la carrera de la IA y Altman y Musk lo apoyan
- Fecha
- Quién
- Dario Amodei, director general (CEO) de Anthropic
- Empresa
- Anthropic · OpenAI · xAI
Qué pasó
El 12 de septiembre de 2026 Dario Amodei, director de Anthropic (la empresa que hace Claude), publicó en su blog el ensayo "We Must Pace the Frontier" ("Debemos dosificar la frontera"). Ahí pide que las empresas mejoren sus modelos más despacio para que el trabajo de seguridad alcance a la tecnología. Propone un plan de tres pasos: meter evaluadores externos dentro de cada laboratorio con acceso casi como de empleado; que las empresas de países democráticos acuerden normas y límites de velocidad, con apoyo de sus gobiernos; y, más adelante, coordinarse incluso con gobiernos autoritarios como China. Anthropic se comprometió a cumplir el primer paso por su cuenta.
Ese mismo día Sam Altman, director de OpenAI, escribió en X que estaba de acuerdo y que OpenAI también aceptaría evaluadores externos. Elon Musk respondió con tres palabras: "Dario is right" ("Dario tiene razón"). También el 12 de septiembre, en entrevista con Fortune, Altman dijo que OpenAI no saldrá a bolsa en 2026 porque, con todo lo que pasa en seguridad, sería un mal momento.
Por qué importa
Es rarísimo que el dueño de una de las empresas líderes pida públicamente frenar a toda la industria, incluida la suya, y que sus dos grandes rivales lo apoyen en cuestión de horas. Los que compiten por llegar primero reconocen que la tecnología avanza más rápido de lo que saben controlarla.
Lo que dijeron, textual
“Debemos reducir la velocidad con la que mejoramos las capacidades de los modelos de IA.”
Original: “We must slow the pace at which we improve the capabilities of AI models.”
“Cada empresa de IA de frontera se compromete a dar acceso permanente, como de empleado, a un equipo de evaluadores externos instalados dentro (como METR), cuya función es verificar que se cumplan las prácticas y compromisos de seguridad, reportar incidentes y ayudar a evaluar la alineación (que el modelo haga lo que queremos) no solo de los modelos terminados, sino de los procesos de entrenamiento.”
Original: “Each frontier AI company commits to giving ongoing, employee-like access to a team of embedded third-party evaluators (such as METR), whose role is to verify adherence to safety practices and commitments, report incidents, and help assess the alignment of not just completed AI models but training pipelines and processes.”
“No vamos a apresurar la salida a bolsa. De hecho creo que, con todo lo que está pasando en seguridad, ahora sería un momento poco sensato para cotizar.”
Original: “We're not rushing into an IPO. I actually think that given everything happening with safety, right now would be an ill-advised moment to go public.”
Fuentes
- darioamodei.comWe Must Pace the Frontier ↗12 sep 2026Fuente original
- XDario Amodei en X: We Must Pace the Frontier ↗12 sep 2026Fuente original
- CoinDeskOpenAI, Anthropic and Musk converge on an unusual idea: slow the AI race ↗12 sep 2026
- TechCrunchOpenAI's Sam Altman says it would be 'ill-advised' to go public in 2026 ↗12 sep 2026
- CNBCAnthropic's Amodei proposes plan to slow the pace of advancing AI capabilities ↗12 sep 2026