Daniel Kokotajlo deja OpenAI porque ya no confía en que actúe con responsabilidad
- Fecha
- Quién
- Daniel Kokotajlo, investigador de gobernanza en OpenAI; hoy dirige AI Futures Project
- Empresa
- OpenAI
Qué pasó
En abril de 2024, Daniel Kokotajlo, que estudiaba en OpenAI hacia dónde iba la IA y qué riesgos traía, renunció. Dijo que ya no confiaba en que la empresa se portaría con responsabilidad cuando llegara a la AGI (una IA capaz de hacer casi cualquier trabajo intelectual que hace una persona).
Al salir no firmó el acuerdo que le prohibía criticar a la empresa, aunque creía que eso le costaría millones en acciones. Tras la polémica, OpenAI quitó esa regla. En 2025 fundó AI Futures Project, que en abril de 2025 publicó "AI 2027", un escenario de cómo podría desarrollarse la IA en los próximos años.
Por qué importa
Es alguien que vio por dentro cómo se toman las decisiones y prefirió perder dinero antes que quedarse callado. Su salida fue de las primeras de una ola de renuncias de gente de seguridad en OpenAI en 2024.
Lo que dijeron, textual
“Dejé OpenAI porque perdí la confianza en que se portaría con responsabilidad cuando llegue la AGI.”
Original: “Quit OpenAI due to losing confidence that it would behave responsibly around the time of AGI.”
“Lo que está en juego es enorme.”
Original: “The stakes are incredibly high.”