Saltar al contenido
NoCodaNOCODA.TVHABLEMOS →
FUNDINGAccel en conversaciones para invertir $1B en Thinking MachinesDATOSam Altman advierte sobre exceso "insostenible" en cómputo de IAMODELOK2 Horizon lanza seis nuevos modelos de IA de código abiertoMODELONuevo modelo de Google mejora drásticamente pronóstico del tiempoPRODUCTOOllie apuesta a la privacidad para ganar carrera de asistentes de IADATOMeta paga a usuarios para monitorear uso de su modelo de IAPRODUCTOAbliteration.ai: negocio de eliminar salvaguardas de IABREAKINGCrusoe levanta USD 3.000 M y triplica valuación en 10 meses con infraestructura de IA alimentada por energía varadaBREAKINGOpenAI destina US$1.000 millones para que defensores cibernéticos protejan infraestructura crítica con IABREAKINGNvidia lanza PAIR: software gratuito que conecta tus PCs para crear un centro de IA localDATONueva York restringe uso de IA en escuelas hasta nivel secundariaMODELOQuasar 438B: Europa presenta su nuevo modelo de IA líderFUNDINGPalo Alto Networks adquiere la startup Console por $500 millonesMODELOOpenAI califica a Astra como su modelo más 'peligroso' y difícil de monitorearDATOMilitares de EE.UU. añaden ChatGPT y Grok a su plataforma GenAI.milPRODUCTOChatGPT: 3 días de trabajo en 3 horas para ATV Big Air TourFUNDINGHiddenLayer obtiene $100M para proteger despliegues de IA empresarialMODELOMeta anuncia Muse Spark 1.3, su nuevo modelo de IA generativaBREAKINGAnthropic invierte USD 35.000 millones con Lambda para expandir infraestructura de Claude en TexasBREAKINGEl DOJ de EE.UU. respalda el uso justo para entrenar IA en el caso del New York Times vs OpenAIBREAKINGGoogle lanza Gemini 3.8 Flash con variante especializada en ciberseguridad al mismo precio que 3.7DATOBenchMIRT: ¿Qué miden realmente los benchmarks de LLM?PRODUCTOHugging Face lanza 200+ WebGPU Kernels para IA localPRODUCTOChatGPT se integra con historiales de salud para organizaciones médicas

MODELOS DE FRONTERA

OpenAI confirma que Astra alcanza el umbral crítico en ciberseguridad

La compañía retrasó el lanzamiento de Astra para reforzar salvaguardias contra exploits autónomos de zero-days. Es el primer modelo que OpenAI clasifica en nivel crítico bajo su marco de preparación.

2 DE SEPTIEMBRE DE 20262 SEPLECTURA 4 MINREDACTADO POR IA
OpenAI confirma que Astra alcanza el umbral crítico en ciberseguridad
ILUSTRACIÓN GENERADA POR IA — IDENTIDAD VISUAL NOCODA.TV

OpenAI anunció que Astra, su próximo modelo de frontera, alcanzó el umbral crítico de capacidad en ciberseguridad según su Preparedness Framework. Con las herramientas y el acceso adecuados, Astra puede encontrar vulnerabilidades desconocidas (zero-days) en sistemas protegidos y desarrollar exploits funcionales sin intervención humana paso a paso. Es el primer modelo de la compañía en recibir esta clasificación.

La empresa retrasó partes del desarrollo y el lanzamiento durante varias semanas para fortalecer las protecciones contra uso malicioso y acciones no autorizadas del propio modelo. Astra estará disponible pronto, pero el acceso a sus capacidades de ciberseguridad más avanzadas será limitado: inicialmente para un grupo reducido de testers, luego mediante Daybreak Blue para expandir el uso defensivo.

Evaluaciones: 100% en ExploitBench y dos zero-days hallados

Los tests combinaron benchmarks públicos y privados con evaluaciones dirigidas por expertos. En ExploitBench, Astra logró 100% de precisión convirtiendo vulnerabilidades conocidas en exploits funcionales. Para evitar contaminación, OpenAI construyó un benchmark interno con 20 vulnerabilidades de V8 divulgadas entre junio y agosto de 2026; allí Astra superó ampliamente a GPT-5.6 Sol en eficiencia de tokens y en tasas de ejecución arbitraria de código.

Durante una evaluación contra un navegador y sistema operativo endurecidos, Astra descubrió dos vulnerabilidades zero-day y las encadenó en un exploit completo que escapó del sandbox del navegador y ejecutó comandos en el host al abrir un archivo HTML. También encontró múltiples fallas en un sistema operativo protegido y las combinó en una cadena de escalada de privilegios desde un usuario sin permisos hasta root. OpenAI está divulgando esos dos zero-days a los mantenedores.

Doble línea de salvaguardias

Para minimizar el riesgo de daño cibernético severo, OpenAI implementó protecciones en dos vectores:

1. Actores maliciosos usando el modelo: entrenamiento reforzado para rechazar solicitudes dañinas, controles adicionales contra uso indebido y monitoreo capaz de detener actividad potencialmente no autorizada.

2. Acciones autónomas desalineadas del modelo: incluso sin un usuario malicioso, un modelo de estas capacidades podría causar daño si está desalineado. OpenAI elevó el estándar de alignment y añadió una segunda capa de defensa para detectar y contener acciones que puedan generar daño real.

La compañía pausó ciertos entrenamientos de frontera —incluidos algunos corridas de RL para Astra— durante dos semanas tras el incidente OpenAI-Hugging Face, con el fin de endurecer la infraestructura de entrenamiento: aislamiento, controles de red, monitoreo ampliado y umbrales de alignment más estrictos. Aunque Astra no estuvo involucrado en ese incidente, OpenAI incorporó esos aprendizajes y afirma que las salvaguardias actuales habrían prevenido el evento.

Por qué importa

Este anuncio marca un punto de inflexión: es la primera vez que OpenAI declara públicamente que un modelo cruza el umbral que activa restricciones de acceso y protocolos de seguridad reforzados bajo su propio marco de gobernanza. La capacidad de encontrar y explotar zero-days de forma autónoma convierte a Astra en una herramienta potencialmente decisiva tanto para defensa como para ataque cibernético.

Para equipos de seguridad y producto, la noticia subraya dos realidades: primero, que los modelos de IA están alcanzando niveles de autonomía técnica que antes requerían equipos especializados; segundo, que el acceso diferenciado y las salvaguardias en capas son ahora parte estructural del ciclo de vida de los modelos más avanzados. Si tu organización depende de infraestructura crítica o está evaluando adoptar agentes autónomos, el enfoque de doble salvaguardia de OpenAI —prevenir uso malicioso y acciones desalineadas del modelo— traza un estándar que probablemente se vuelva norma en la industria.

#astra#openai#ciberseguridad#zero-day#preparedness framework

SEGUIR LA SEÑAL

VER TODO →