Las redes neuronales de recomendación —las que seleccionan tu suministro de noticias— son un producto del aprendizaje automático. Funcionan como recetas gigantescas de miles de pasos. Cada paso es una operación simple: sumar, multiplicar, dividir un arreglo de números. Con el tiempo, a medida que se perfecciona el modelo, se acumulan acciones superfluas en las recetas. Imagina un cocinero que corta una zanahoria en rodajas y luego inmediatamente las vuelve a pegar —no tiene sentido, pero la receta lo exige. De igual manera, en las redes neuronales a veces ocurre que los datos primero se dividen en partes y en el siguiente paso se vuelven a unir. Cada una de estas acciones lanza una tarea separada en la tarjeta gráfica, y en lugar de un cálculo rápido, se forma una cola de cientos de pequeñas instrucciones. Antes, los ingenieros buscaban estos defectos a mano, pero los modelos se actualizan cada semana: sin una optimización automática, poner orden se ha vuelto imposible.

Optimus es un «limpiador» integrado en el compilador de PyTorch, que conoce más de treinta patrones típicos e inútiles. Recorre todo el esquema de cómputo, que los especialistas llaman grafo (un conjunto de pasos enlazados), y lo compara con plantillas: si ve un nodo familiar de «dividir y pegar», lo reemplaza de inmediato por una simple transferencia de datos. Si en la receta hay diez operaciones iguales seguidas, las fusiona en una. Toda esta limpieza no altera el resultado final: obtienes la misma respuesta, pero el camino hacia ella se vuelve directo. Gracias a que las reglas operan en un lenguaje interno común, un solo conjunto de plantillas sirve para cientos de modelos distintos, sin importar su topología (la estructura interna de conexiones).

El efecto es notable. Los modelos industriales que antes funcionaban con lentitud debido a esquemas dinámicamente cambiantes ahora se entrenan hasta un 63% más rápido. En una prueba extrema, la simulación numérica mostró que el número de núcleos de cómputo durante el entrenamiento se redujo de casi 13 mil a 24, y al usar el modelo listo, de seis mil a seis. La memoria máxima disminuyó en algunos puntos porcentuales, algo crítico para tareas grandes. El código de Optimus es abierto y está integrado en PyTorch, así que cualquier desarrollador puede usarlo e incluso añadir sus propias plantillas, haciendo las redes neuronales aún más rápidas y ecológicas.