El oro no está en la superficie: se esconde en toneladas de roca estéril. Para extraer un gramo del metal precioso, los buscadores tamizan metros cúbicos de tierra. De manera similar se entrenan los grandes modelos de lenguaje modernos: miles de respuestas candidatas pasan por un costoso modelo evaluador (oráculo: un modelo que da evaluaciones precisas) para seleccionar la mejor. El proceso recuerda a una cadena de montaje donde cada palada cuesta recursos computacionales.

Al afinar el modelo Llama 3, por cada ejemplo se generan hasta 32 respuestas y solo una, la de mayor puntuación, pasa a la siguiente ronda. El ciclo se repite seis veces, y el oráculo se invoca decenas de millones de veces. Este enfoque proviene del aprendizaje por refuerzo con retroalimentación humana — RLHF. Pero si vemos el proceso como una consulta SQL de tipo «seleccionar el mejor ordenado por puntuación», queda claro que no hace falta ejecutar el costoso evaluador para cada candidato. Aquí entran en juego técnicas clásicas del mundo de las bases de datos.

El primer método es la agregación aproximada (Approximate Query Processing). Como en la prospección minera, tomamos muestras del terreno, estimamos la ley media del oro y paramos cuando el intervalo de confianza (el rango donde se encuentra el valor real con una probabilidad dada) se estrecha lo suficiente. En el aprendizaje automático, esto es un muestreo progresivo: se invoca al oráculo para más y más respuestas aleatorias hasta que la estimación del agregado —suma, media o máximo— se estabiliza. Para consultas como «top-1», el criterio es la estabilidad del mejor resultado.

El segundo método es el modelo sustituto (Proxy Model). Sobre un pequeño conjunto de respuestas ya etiquetadas por el oráculo, se entrena un árbol de decisión ligero. Este examina características simples —longitud del texto, presencia de fórmulas, caracteres especiales— y descarta al instante las opciones claramente débiles. A diferencia de los proxies basados en redes neuronales, que necesitan aceleradores gráficos, el árbol funciona en una CPU común y gasta milisegundos por candidato. Esto es un gating en cascada: el costoso oráculo solo mira los casos «dudosos».

En pruebas con consultas analíticas, la agregación aproximada arrojó un error inferior al 10% usando solo del 10 al 15% de las invocaciones al oráculo. En los pipelines de afinamiento de modelos como LLaMA y Qwen para razonamiento matemático y generación de código, se las arregló con el 20–50% de las llamadas, con una pérdida de precisión no mayor al 5%. Y los árboles sustitutos reducían el tiempo de puntuación hasta 19 veces, por ejemplo, de 1079 segundos a 56 para la LLaMA de ocho mil millones de parámetros. El proceso de evaluación estocástica converge más rápido cuanto más uniforme es la distribución de los datos. En instrucciones simples, la aceleración es más modesta, pero aún de varias veces.

Estos resultados derriban el mito de que acelerar la inteligencia artificial exige nuevas arquitecturas. A veces basta con repensar el flujo de datos: dejar de cavar cada palada de roca y tamizarla con inteligencia. Las optimizaciones clásicas de consultas cobran una segunda vida en la era de los grandes modelos de lenguaje. Y más adelante: estos enfoques se extenderán a razonamientos de varios pasos y búsqueda en documentos. El sistema, como un geólogo experimentado, descartará zonas poco prometedoras desde las primeras señales. Así, la batea de lavado se convierte en un separador automático, y el oro empieza a brillar más rápido.