La frontera entre la ejecución de programas y la optimización por gradientes ha limitado durante mucho tiempo el uso del código como modelo científico entrenable. Normalmente, cada modelo debía reescribirse manualmente en un marco diferenciable. Este trabajo se sitúa junto a investigaciones sobre intérpretes diferenciables y programación neurosimbólica, pero se distingue porque lo que se vuelve diferenciable es el propio intérprete, no los programas individuales. Esto abre el camino a la calibración automática de cualquier programa generado, por ejemplo, por modelos de lenguaje.
Los autores desarrollaron un compilador que traduce el código fuente en Scheme a una representación intermedia llamada ComputeGraph y luego a módulos de PyTorch o JAX. La característica clave es un intérprete metacircular diferenciable: un intérprete de Scheme escrito en el propio Scheme se compila una vez y luego puede ejecutar programas arbitrarios pasados como datos. Todos los valores se representan como vectores de 14 dimensiones: un vector one-hot de 10 dimensiones para la etiqueta de tipo y una carga útil de 4 dimensiones. El montón se implementa como un diccionario de escritura única, lo que preserva la corrección de los gradientes. Para las llamadas en posición de cola se utiliza un trampolín.
Los gradientes calculados a través del intérprete compilado coinciden con la compilación directa con una precisión de 7×10⁻⁷ en la función de pérdida sobre 171 pares (programa, valor inicial). En datos reales de degradación de baterías, la búsqueda conjunta de estructura y parámetros recuperó la estructura de degradación en forma de codo a partir de una aproximación inicial suave y mejoró la extrapolación en datos retenidos. En la tarea de modelado inverso de El Niño, el intérprete diferenciable permitió optimizar la función de verosimilitud del filtro de Kalman con 611 parámetros, donde la búsqueda sin gradientes no tuvo éxito. El procesamiento por lotes logró una aceleración de hasta 875 veces en el rendimiento.
Este trabajo se diferencia de enfoques vecinos en que lo que se vuelve diferenciable es el propio intérprete, no los programas individuales. Esto elimina la necesidad de reescribir cada nuevo modelo en forma diferenciable. En comparación con la diferenciación automática a nivel de lenguaje (como en JAX o Zygote) y con intérpretes diferenciables creados manualmente (como TerpreT), aquí se logra una combinación de autoaplicabilidad, modo reverso y compilación. Esto amplía la regresión simbólica y la búsqueda neurosimbólica desde expresiones cerradas hasta programas ejecutables con estado.
Las direcciones posibles incluyen trasladar el intérprete a JAX reescribiendo el trampolín como un lax.scan de longitud fija con enmascaramiento. También es prometedor el uso de MLIR y Enzyme para reducir la sobrecarga en cálculos individuales. La investigación sobre el suavizado de ramificaciones (interpretación suave o DiscoGrad) podría resolver el problema de los gradientes nulos para parámetros que solo afectan las condiciones de ramificación. En un sentido más amplio, esto abre el camino hacia la auto-mejora gradual de programas.
El método puede influir en el modelado científico automatizado, donde los modelos de lenguaje generan hipótesis en forma de código y el intérprete diferenciable calibra sus parámetros. También es útil para tareas de regresión simbólica y síntesis neurosimbólica de programas.
Los siguientes pasos incluyen implementar un intérprete diferenciable en JAX para aprovechar la compilación jit y vmap. También se debe investigar la escalabilidad a espacios de programas más grandes y la robustez ante una especificación incorrecta de los modelos.
Este trabajo está directamente relacionado con el problema no resuelto de la síntesis automática de programas: cómo buscar eficientemente en el espacio discreto de estructuras utilizando una señal de gradiente. Muestra que diferenciar el intérprete resuelve el problema de la calibración de parámetros, pero no el problema de la búsqueda discreta de estructura, que sigue siendo difícil.
Esta sección está dirigida al autor del trabajo y a sus colegas. Los trabajos vecinos los encontró la búsqueda por significado en nuestro archivo, no por coincidencia de palabras. No evaluamos: mostramos el campo alrededor.
Qué hace el trabajo
El trabajo presenta un compilador que traduce un subconjunto de Scheme a grafos computacionales diferenciables. La idea clave es que se compila el propio intérprete, no programas individuales, lo que permite que cualquier programa presentado como datos reciba automáticamente la retropropagación de gradientes. Los autores demuestran la corrección de los gradientes en casi todas partes y muestran su aplicación para la búsqueda conjunta de la estructura de los programas y sus parámetros en problemas científicos reales.
Dónde está su fuerza
La fortaleza del trabajo reside en el intérprete diferenciable autoaplicable, que elimina la necesidad de reescribir manualmente cada modelo en forma diferenciable. Esto abre el camino a la calibración automática de cualquier programa, incluidos los generados por modelos de lenguaje.
Hacia dónde puede avanzar
Vale la pena probar
Por qué puede importar
El trabajo extiende la diferenciación automática al nivel de programas ejecutables con estado, lo que podría acelerar el modelado científico y hacerlo más flexible, especialmente en combinación con la generación de código por modelos de lenguaje.
Trabajos cercanos en nuestro archivo
El archivo está vacío alrededor de este trabajo: el análisis más cercano queda en 0.50, frente a un 0.64 habitual. Parece que aquí al lado casi nadie ha perforado.
El intérprete de Scheme escrito en el propio Scheme ocupa solo 288 líneas de código. Aun así, soporta cierres, recursión, listas y llamadas en posición de cola, lo suficiente para ser autoaplicable.
La idea de un programa que puede modificarse y mejorarse a sí mismo a través de gradientes resuena con el concepto de máquinas de Gödel de Jürgen Schmidhuber, descrito en sus trabajos sobre auto-mejora universal.