Steven Adler deja OpenAI: el ritmo de la IA le da "bastante terror"
- Fecha
- Quién
- Steven Adler, investigador de seguridad en OpenAI durante cuatro años
- Empresa
- OpenAI
Qué pasó
Steven Adler trabajó cuatro años en OpenAI dirigiendo investigación de seguridad, tanto para los lanzamientos de productos como para sistemas futuros más potentes. Se fue a mediados de noviembre de 2024, pero no lo hizo público hasta el 27 de enero de 2025, en una serie de posts en X.
Ahí contó que el ritmo al que avanza la IA le daba "bastante terror". Explicó que aunque un laboratorio quiera ir con cuidado, los demás pueden saltarse pasos para alcanzarlo, y eso empuja a todos a acelerar.
Por qué importa
Describe un problema de fondo: aunque una empresa quiera ser prudente, la competencia la obliga a correr. Por eso pidió reglas de seguridad reales para toda la industria.
Lo que dijeron, textual
“Una carrera por la AGI es una apuesta muy arriesgada, con un costo enorme si sale mal. Hoy ningún laboratorio tiene una solución para la alineación de la IA.”
Original: “An AGI race is a very risky gamble, with huge downside. No lab has a solution to AI alignment today.”
“Hoy parece que estamos atorados en un equilibrio muy malo. Aunque un laboratorio de verdad quiera desarrollar la AGI con responsabilidad, otros pueden saltarse pasos para alcanzarlo, quizá de forma desastrosa. Y eso empuja a todos a acelerar. Espero que los laboratorios hablen con franqueza de las regulaciones de seguridad reales que hacen falta para frenar esto.”
Original: “Today, it seems like we're stuck in a really bad equilibrium. Even if a lab truly wants to develop AGI responsibly, others can still cut corners to catch up, maybe disastrously. And this pushes all to speed up. I hope labs can be candid about real safety regs needed to stop this.”
“bastante aterrado por el ritmo del desarrollo de la IA en estos días”
Original: “pretty terrified by the pace of AI development these days”