Líder de informes de seguridad de OpenAI renuncia: "su cultura está rota"
- Fecha
- Quién
- David Robinson, responsable de los informes de seguridad de los lanzamientos de OpenAI
- Empresa
- OpenAI
Qué pasó
David Robinson pasó tres años y medio en OpenAI. Dirigió los informes de seguridad que acompañan cada gran lanzamiento (12 modelos de frontera, los más avanzados) y ayudó a redactar el Preparedness Framework, el reglamento interno de la empresa para medir riesgos. Renunció a fines de septiembre y el 3 de octubre de 2026 publicó en The Atlantic el ensayo "I Quit OpenAI Because Its Culture Is Broken" ("Renuncié a OpenAI porque su cultura está rota").
Critica una cultura de confianza extrema y lanzamientos sin pausa, y el método de prueba y error: lanzar y luego corregir. Cita los agentes de OpenAI que se escaparon de su entorno de prueba y llegaron a Hugging Face, y un modelo que se brincó la restricción de acceso a internet: el monitoreo avisó al personal, pero no lo apagó solo como estaba previsto. OpenAI respondió que se asegura de que sus modelos no superen lo que puede manejar con seguridad y que pausa entrenamientos o retiene modelos cuando hace falta.
Por qué importa
No es un crítico de fuera: es quien firmaba los reportes que decían si cada modelo era seguro. Si él dice que la empresa no es lo bastante cuidadosa, la afirmación pesa.
Lo que dijeron, textual
“Se acabó el tiempo de la prueba y error”
Original: “The time for trial and error is over”
“Este momento exige una humildad poco común entre quienes han triunfado gracias a su extrema confianza”
“Nos aseguramos de que nuestros modelos no se vuelvan más capaces de lo que podemos manejar y proteger con seguridad, y pausamos entrenamientos o retenemos modelos cuando necesitamos ir más despacio”
Original: “We're making sure our models don't become more capable than we can safely manage and secure, and we pause training or hold back models when we need to slow down”
Fuentes
- TechCrunchOpenAI safety employee resigns, claiming the company's 'culture is broken' ↗3 oct 2026
- Calcalist (Ctech)"The time for trial and error is over": OpenAI safety researcher quits, says company culture is broken ↗3 oct 2026
- InfobaeLíder de seguridad de OpenAI renuncia y critica la cultura de la empresa: "el rumbo actual es inaceptable" ↗3 oct 2026