REESTRUCTURACIÓN INTERNA
OpenAI disolvió el equipo que evaluaba riesgos catastróficos de IA
La compañía cerró su unidad Preparedness a fines de julio y redistribuyó sus funciones entre otros equipos. Varios responsables de seguridad renunciaron en las últimas semanas, mientras crece la tensión interna.
OpenAI cerró a fines de julio su equipo Preparedness, la unidad encargada de evaluar si sus modelos de IA podían generar riesgos graves o catastróficos, según reveló Financial Times citando fuentes internas. El trabajo sobre amenazas biológicas y cibernéticas se redistribuyó entre equipos existentes.
Dylan Scandinaro, quien lideraba Preparedness, ahora se enfoca en riesgos de sistemas recursivamente auto-mejorables: IA que puede optimizarse a sí misma y entrenar otros modelos. Greg Brockman, cofundador de OpenAI, justificó la decisión argumentando que la compañía integró el trabajo de seguridad más estrechamente al desarrollo de modelos.
Salidas y tensión interna
La disolución del equipo coincide con la partida de varios responsables de seguridad. Chloe Bakalar, directora de ética, y Joshua Achiam renunciaron en las últimas semanas. Fuentes internas describen un clima de malestar creciente.
Un empleado habló de una "sensación burbujeante de responsabilidad y temor" ante la percepción de que OpenAI no está haciendo suficiente en seguridad. Las preocupaciones se intensificaron tras el incidente de hacking autónomo que involucró a Hugging Face. Un empleado manifestó públicamente su esperanza de que la compañía lo tome como "un disparo de advertencia".
De equipo dedicado a función transversal
La lógica de Brockman plantea que distribuir las responsabilidades de seguridad entre equipos de producto elimina silos y acelera la detección de problemas. Pero fuentes internas sugieren que la decisión también puede diluir el enfoque: un equipo dedicado tiene como único mandato encontrar lo que puede salir mal, mientras que equipos de desarrollo balancean esa tarea con presión de entrega.
La unidad Preparedness operaba desde 2023 con el objetivo específico de evaluar capacidades peligrosas emergentes antes de que los modelos llegaran a producción. Su disolución coincide con un momento en que OpenAI acelera lanzamientos y compite más agresivamente por cuota de mercado.
Por qué importa
La reestructuración plantea una pregunta central sobre el desarrollo de IA: ¿la seguridad funciona mejor como equipo independiente con poder de veto, o integrada al ritmo de producto? OpenAI eligió lo segundo justo cuando sus modelos adquieren capacidades más complejas.
Para empresas que adoptan estos sistemas, el cambio señala un shift en cómo OpenAI balancea velocidad y precaución. Si la compañía que desarrolla los modelos más avanzados reduce estructuras dedicadas a riesgos catastróficos, ¿quién asume esa responsabilidad? La pregunta no es solo técnica: es de governance, y afecta a cualquier organización que dependa de esta infraestructura.
SEGUIR LA SEÑAL
VER TODO →
Crusoe levanta USD 3.000 millones y alcanza una valuación de USD 30.000 millones
La empresa que convierte energía varada en capacidad de cómputo para IA triplicó su valuación en menos de un año. Meta, Microsoft y OpenAI están entre sus clientes, y ya firmó un contrato de USD 13.000 millones con Jane Street.
Empirik sale de Sequoia con 21 millones para predecir caídas del sistema
La startup incubada por Sequoia levantó US$21M para lanzar una plataforma de IA que anticipa interrupciones en infraestructura tecnológica antes de que ocurran. Ya tiene clientes Fortune 500 como S&P Global.
Apple presenta "pruebas impactantes" de robo de datos para OpenAI
La firma de Cupertino presentó evidencia contra Chang Liu, ex-empleado que ahora trabaja en OpenAI, por usar esquemas confidenciales de circuitos. Apple afirma que Liu destruyó pruebas con ayuda de un colega y exige medidas cautelares urgentes.