OpenAI disolvió el equipo que evaluaba riesgos catastróficos de IA

OpenAI cerró a fines de julio su equipo Preparedness, la unidad encargada de evaluar si sus modelos de IA podían generar riesgos graves o catastróficos, según reveló Financial Times citando fuentes internas. El trabajo sobre amenazas biológicas y cibernéticas se redistribuyó entre equipos existentes.

Dylan Scandinaro, quien lideraba Preparedness, ahora se enfoca en riesgos de sistemas recursivamente auto-mejorables: IA que puede optimizarse a sí misma y entrenar otros modelos. Greg Brockman, cofundador de OpenAI, justificó la decisión argumentando que la compañía integró el trabajo de seguridad más estrechamente al desarrollo de modelos.

Salidas y tensión interna

La disolución del equipo coincide con la partida de varios responsables de seguridad. Chloe Bakalar, directora de ética, y Joshua Achiam renunciaron en las últimas semanas. Fuentes internas describen un clima de malestar creciente.

Un empleado habló de una "sensación burbujeante de responsabilidad y temor" ante la percepción de que OpenAI no está haciendo suficiente en seguridad. Las preocupaciones se intensificaron tras el incidente de hacking autónomo que involucró a Hugging Face. Un empleado manifestó públicamente su esperanza de que la compañía lo tome como "un disparo de advertencia".

De equipo dedicado a función transversal

La lógica de Brockman plantea que distribuir las responsabilidades de seguridad entre equipos de producto elimina silos y acelera la detección de problemas. Pero fuentes internas sugieren que la decisión también puede diluir el enfoque: un equipo dedicado tiene como único mandato encontrar lo que puede salir mal, mientras que equipos de desarrollo balancean esa tarea con presión de entrega.

La unidad Preparedness operaba desde 2023 con el objetivo específico de evaluar capacidades peligrosas emergentes antes de que los modelos llegaran a producción. Su disolución coincide con un momento en que OpenAI acelera lanzamientos y compite más agresivamente por cuota de mercado.

Por qué importa

La reestructuración plantea una pregunta central sobre el desarrollo de IA: ¿la seguridad funciona mejor como equipo independiente con poder de veto, o integrada al ritmo de producto? OpenAI eligió lo segundo justo cuando sus modelos adquieren capacidades más complejas.

Para empresas que adoptan estos sistemas, el cambio señala un shift en cómo OpenAI balancea velocidad y precaución. Si la compañía que desarrolla los modelos más avanzados reduce estructuras dedicadas a riesgos catastróficos, ¿quién asume esa responsabilidad? La pregunta no es solo técnica: es de governance, y afecta a cualquier organización que dependa de esta infraestructura.