Nadella acusa a OpenAI y Anthropic de prohibir destilación mientras entrenan con datos ajenos

Satya Nadella, CEO de Microsoft, publicó una crítica directa contra OpenAI y Anthropic por lo que considera una doble vara en el uso de datos para entrenar modelos de lenguaje. Según The Decoder, Nadella señala que estos laboratorios prohíben la destilación — el proceso donde modelos más pequeños aprenden de los outputs de modelos grandes — mientras ellos mismos entrenan con datos públicos bajo el argumento del fair use.

La paradoja de la destilación prohibida

En un post en su blog, Nadella califica de "irónico" que proveedores como OpenAI y Anthropic, que incluyen cláusulas anti-destilación en sus términos de servicio (apuntando principalmente a empresas chinas de IA), simultáneamente entrenen con datos públicos y aprendan de las interacciones de sus clientes. La destilación permite que modelos más chicos y eficientes repliquen capacidades de modelos grandes analizando sus respuestas, una práctica que estos laboratorios bloquean contractualmente.

Nadella introduce el concepto de "paradoja reversa de la información": las empresas pagan dos veces por la IA. Primero con dinero, y luego con lo que él llama el "exhaust" — las correcciones, calificaciones y datos de uso que revelan conocimiento interno de la compañía. "Al consumir inteligencia, estás creando inteligencia", escribe Nadella, argumentando que los proveedores de IA pueden usar todo ese aprendizaje para construir productos competidores.

Concentración de valor vs. generación de conocimiento

La crítica apunta a una asimetría fundamental: el valor económico se concentra en los operadores de infraestructura de IA en lugar de en las empresas que generan el conocimiento real a través de su uso. Cada interacción de un cliente con un sistema de IA produce datos valiosos sobre cómo se usa la tecnología, qué errores comete, y qué necesita mejorar. Esa información fluye de vuelta al proveedor del modelo, que puede incorporarla para mejorar sus sistemas o desarrollar nuevos productos.

Nadella, no casualmente, tiene infraestructura para ofrecer: Microsoft Azure permite a empresas ejecutar sus propios modelos y mantener el control sobre ese loop de aprendizaje. La crítica, aunque válida en términos conceptuales, llega de alguien que vende precisamente la alternativa.

Por qué importa

Este debate expone una tensión central en la economía de los modelos de lenguaje: ¿quién tiene derecho a aprender de qué datos? Los laboratorios grandes justifican entrenar con contenido público bajo fair use, pero bloquean que otros hagan ingeniería inversa de sus outputs. Las empresas que usan estos modelos generan datos operativos valiosos que terminan mejorando productos que podrían competir con ellos.

Para cualquier empresa adoptando IA intensivamente, entender esta dinámica es crítico. Cada prompt, cada corrección, cada rating que tus equipos generan puede estar entrenando el próximo producto de tu proveedor. Las alternativas — modelos open source, despliegues on-premise, o infraestructura propia — tienen costos y trade-offs, pero te dejan dueño de tu propio loop de aprendizaje.

La pregunta que Nadella plantea no es solo filosófica: es estratégica. ¿Tu stack de IA te hace más inteligente como organización, o solo hace más inteligente a tu proveedor?