Josh Engels deja Google DeepMind: "probabilidad aterradora" de daño inmenso en 5 años
- Fecha
- Quién
- Josh Engels, exinvestigador del equipo de seguridad de AGI de Google DeepMind, ahora en METR
- Empresa
- Google DeepMind
Qué pasó
Josh Engels trabajaba en el equipo de seguridad de AGI de Google DeepMind. AGI es como se le dice a una IA tan capaz como una persona en casi cualquier tarea. Dejó la empresa a finales de agosto de 2026 y se fue a METR, una organización independiente que evalúa los riesgos de la IA, aunque tenía ofertas de Anthropic y OpenAI.
El 12 de septiembre lo explicó en X: las empresas intentan construir una superinteligencia que se mejore a sí misma, y los sistemas actuales no son lo bastante confiables para eso. Días antes, en entrevista con NBC News, dijo que la gente no dimensiona qué tan "generales" son ya estos sistemas, es decir, que pueden hacer casi lo mismo que una persona, y que nadie va a venir a salvarnos.
Por qué importa
Es la segunda persona del equipo de seguridad de Google DeepMind que se va en pocas semanas con una advertencia pública. Además, eligió vigilar a la industria desde afuera en vez de aceptar sueldos de las mismas empresas.
Lo que dijeron, textual
“No sé la probabilidad exacta, pero creo que es lo bastante alta como para que este sea el problema más importante del mundo.”
Original: “I don't know the exact probability, but I think it's high enough to make this the most important problem in the world.”
“Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años.”
Original: “I now think that there's a terrifying chance that AI systems will cause immense harm in the next five years.”
“Estamos construyendo sistemas que son inteligentes de forma general. En general pueden hacer lo que hace la gente, y pronto podrían hacer lo que hace la gente, pero mejor”
Original: “We're building these systems that are generally intelligent. They can generally do what people can do, and soon they might be able to generally do what people can do, but better”