AMD compra Taalas para grabar modelos de IA directamente en silicio

AMD acaba de anunciar la compra de Taalas, una startup canadiense que graba los pesos de los modelos de IA directamente en el silicio del chip. La apuesta: acelerar la inferencia por un orden de magnitud y pelearle a Nvidia el mercado de servicios premium para agentes de IA y asistentes de código, donde velocidad y costo son críticos.

Según publicó The Register, la firma no reveló el monto del acuerdo, pero confirmó que se trata de una adquisición completa y no solo de talento. Taalas, fundada en 2023 con base en Toronto, venía trabajando en una arquitectura radicalmente distinta a las GPUs convencionales: chips específicos para un modelo (model-specific integrated circuits, MSIC).

Cómo funciona la tecnología de Taalas

En lugar de almacenar los pesos del modelo en memoria HBM externa, Taalas los graba directamente en el silicio del chip. El diseño combina dos regiones: una fabric de mask-ROM donde van los pesos fijos, y una fabric SRAM para cachés KV y adaptadores de fine-tuning.

En febrero de 2026, la compañía mostró su primer chip de prueba (HC1) fabricado en proceso de 6nm de TSMC. Los benchmarks iniciales reportaron 16.960 tokens por segundo sirviendo Llama 3.1 8B — 48x más rápido que GPUs de Nvidia y 8,5x más que los aceleradores de Cerebras en ese momento.

El chip HC2, previsto para este verano boreal, apunta a soportar hasta 20.000 millones de parámetros. Para modelos más grandes, Taalas propone usar paralelismo en pipeline: un modelo de un billón de parámetros requeriría apenas 50 aceleradores, según la compañía.

El trade-off: velocidad vs. flexibilidad

La contrapartida es obvia: una vez fabricado el chip, quedás atado a ese modelo. Cualquier cambio mayor que un adaptador LoRA exige refabricar el silicio.

Taalas sostiene que el proceso no es tan dramático: solo dos capas de metal necesitan modificarse, lo que reduce costo y tiempo. Aun así, en un mercado donde salen modelos nuevos cada mes, adoptar esta tecnología implica compromiso de largo plazo con un modelo específico.

Vamsi Boppana, SVP de IA en AMD, declaró que la firma está "construyendo una plataforma de IA full-stack que da a los clientes flexibilidad para desplegar las soluciones de cómputo correctas para cada carga de trabajo de IA".

Estrategia de integración con Instinct

AMD planea combinar sus racks Instinct (basados en GPU) con chips derivados de la tecnología Taalas en una arquitectura desagregada: las GPUs se encargarían del procesamiento pesado de prompts, y los aceleradores Taalas generarían los tokens.

Otra posibilidad es un modelo "tick-tock": los clientes validan el modelo en aceleradores Instinct y, una vez satisfechos, migran a chips Taalas para producción a escala.

OpenAI, Anthropic y Meta ya son clientes importantes de Instinct. The Register sugiere que no sería raro ver GPT o Claude corriendo sobre esta combinación híbrida.

Por qué importa

La compra marca un giro hacia hardware especializado en inferencia, un mercado que crece más rápido que el de entrenamiento. Grabar pesos en silicio es, según Taalas, 100x más barato que entrenar un modelo de frontera — un argumento potente para providers de infraestructura que ya saben qué modelo van a servir.

Para empresas que operan agentes o asistentes de código internos, la tecnología podría reducir drásticamente latencia y costo operativo — siempre que el modelo elegido sea estable. Es una apuesta a estandarización y madurez: si tu producto depende de un modelo específico por meses o años, el ROI puede ser enorme.

También abre la puerta a test-time scaling más eficiente: técnicas que permiten al modelo "pensar" más antes de responder consumen muchos tokens; con Taalas, ese overhead de cómputo se vuelve más barato y rápido de servir.