El transformer no reemplazó cada técnica de machine learning. El gradient boosting sigue ganando leaderboards tabulares. El control predictivo por modelo sigue corriendo fábricas. La arquitectura se convirtió en el backbone por defecto para el aprendizaje de representaciones allí donde grandes datasets y cómputo paralelo convergen.
Visión, lenguaje, código y modelos multimodales comparten ahora una familia arquitectónica: self-attention sobre secuencias, preentrenamiento a escala y luego fine-tuning. Esa consolidación explica por qué parece que los transformers «devoraron» el machine learning aunque los pipelines clásicos nunca desaparecieron.
Por qué los LLM adoptaron transformers casi de inmediato
El lenguaje fue el primer cliente perfecto. El corpus de entrenamiento ya existía — texto web, libros, código — sin ambiente requerido. El objetivo es simple: predecir el siguiente token. Cada paso de entrenamiento es embarazosamente paralelo sobre secuencias. No hay un motor de física bloqueando el backward pass.
Las leyes de escalado de Kaplan et al. y luego Chinchilla hicieron predecible el gasto de cómputo: más parámetros y más tokens, en balance, mejoran el loss de forma fiable. El entrenamiento de LLM es aprendizaje por lotes offline sobre corpus congelados. Esa economía de datos hizo visible para todos primero la revolución transformer.
Por qué la robótica quedó rezagada: física y entrenamiento paralelo
El reinforcement learning en robótica es otro problema. Las políticas aprenden de interacción, no de un corpus precolectado. Cada paso del ambiente depende de física, contacto, límites de actuadores y ruido de sensores. La eficiencia de muestras es brutal. Algoritmos clásicos como PPO necesitan millones de transiciones. Los robots reales no pueden ofrecer ese throughput. La teleoperación es lenta y costosa.
Por años el cuello de botella fue infraestructura, no arquitectura de modelo. El bucle tradicional — simulador de física en CPU, copiar observaciones a GPU, entrenar una política MLP pequeña, copiar acciones de vuelta — limita cuánta experiencia puedes generar.
Isaac Gym (2021) mostró qué cambia cuando el bucle completo permanece en la GPU. Los buffers de física alimentan tensores PyTorch de forma directa, habilitando decenas de miles de ambientes paralelos y un entrenamiento unas dos o tres órdenes de magnitud más rápido en tareas de control continuo. A la robótica no le faltaba interés en deep learning. Le faltaba la fábrica de datos paralela que los LLM disfrutaron por defecto.
Bucles de simulación que los practicantes ya conocen
El bucle conceptual es familiar para quien ha entrenado agentes dentro de un simulador. Dylan Engelbrecht escribió Introduction to Unity ML-Agents sobre Unity ML-Agents — un toolkit de reinforcement learning dentro de simulaciones Unity, no una novedad solo para juegos.
Layouts de manufactura, gemelos digitales de almacenes, ambientes procedurales y escenas de investigación comparten el mismo contrato de entrenamiento: reset de episodio, tensores de observación, señales de recompensa, actualización de política. ML-Agents enseña a los ingenieros a pensar en bucles — ticks de simulación y episodios de entrenamiento — en lugar de scripts puntuales.
La brecha para la robótica a escala transformer fue el throughput. Las sims de juegos e investigación sobre física en CPU rara vez alcanzan los conteos de ambientes paralelos que hacen prácticas las redes de política grandes.
Isaac Lab cierra la brecha de throughput
Isaac Lab es el stack modular abierto que NVIDIA posiciona como sucesor de Isaac Gym — aprendizaje robótico acelerado por GPU en Isaac Sim con física paralela de cuerpos rígidos y deformables (PhysX), renderizado tiled, domain randomization y ambientes listos para entrenar manipulación y locomoción.
El objetivo de diseño es RL e imitation learning a escala de datacenter: miles de ambientes por GPU, despliegue en cloud y un camino hacia la integración con el motor de física diferenciable Newton para enfoques basados en gradientes. Es la capa que faltaba entre «tenemos arquitecturas transformer» y «podemos permitirnos entrenarlas con datos de robot».
Sé preciso sobre el determinismo. Los autores de Isaac Gym señalan que los rollouts totalmente deterministas pueden romperse bajo cierta randomización en runtime y el orden de scheduling GPU. El orden de punto flotante sobre miles de ambientes paralelos puede divergir. La simulación de alto throughput residente en GPU es la ganancia. La reproducibilidad bit-exact en cada escenario rico en contacto sigue siendo difícil.
El transfer sim-to-real, la certificación de seguridad y la varianza de hardware siguen siendo problemas posteriores. La sim rápida no los borra. Cambia lo que es económicamente entrenable.
Los transformers ya entran en robótica
La robótica no ignoró los transformers. Los adoptó más tarde y con presupuestos de datos menores. RT-1 escaló una política transformer sobre grandes datasets de demostración en el mundo real. RT-2 hizo co-fine-tuning de modelos visión-lenguaje en trayectorias de robot, tratando las acciones como tokens para que los priors visuales a escala web se transfieran al control.
Las políticas de difusión y flow añaden otro camino: generar chunks de acción con modelos de secuencia de alta capacidad. El retraso es ritmo y escala respecto al lenguaje, no ausencia de la arquitectura.
Los modelos fundacionales de robótica probablemente siguen
La convergencia es directa. Los transformers aportan capacidad y transfer. La sim en GPU aporta throughput de experiencia. Los datasets de demostración y la teleoperación aportan anclaje en tareas físicas. Juntos reflejan la receta LLM — preentrenar de forma amplia, especializar por embodiment o tarea — aplicada a control en bucle cerrado en lugar de predicción del siguiente token.
Los modelos fundacionales de robótica probablemente siguen: políticas visión-lenguaje-acción de propósito general y controladores preentrenados en sim que hacen fine-tuning en logs de robot real, análogo a cómo los modelos de chat hacen fine-tuning desde una foundation de texto. Un «boom masivo» no está garantizado en un calendario. El coste de hardware, la seguridad y las brechas sim-to-real siguen limitando el despliegue.
El cuello de botella de entrenamiento está pasando de «¿podemos ejecutar suficiente RL?» a «¿podemos curar datos de interacción diversos y de alta calidad?». Cuando la sim paralela es barata, las políticas transformer se vuelven racionales en vez de exóticas.
Para quien cruza juegos, simulación e IA física, el modelo mental que ya usas en ML-Agents o Isaac Lab — bucles, recompensas, rollouts paralelos — es el mismo que necesitarán las políticas fundacionales de robot. La diferencia es la escala. Los modelos de lenguaje ganaron primero porque los datos ya estaban en disco. La robótica está construyendo ahora la fábrica de datos.