Cómo aprende una red neuronal a hablar como un humano exprés

Original: "Training-Driven Representational Geometry Modularization Predicts Brain Alignment in Language Models"
arXiv:2602.07539 · 2026-02-07 · CC BY 4.0 · 1 min
Los grandes modelos de lenguaje reorganizan sus capas con el tiempo hasta parecerse al cerebro.

Un modelo de lenguaje es una construcción de múltiples capas, donde cada capa procesa las palabras a su manera. Al inicio del entrenamiento, las capas son caóticas, pero poco a poco se organizan en dos equipos. El primer equipo trabaja de forma simple: su geometría interna se suaviza y se vuelve menos enredada. El segundo permanece complejo y sinuoso.

Las capas con geometría simple resultaron ser las mejores predictoras de la actividad de las áreas del lenguaje del cerebro. Cuanto más simple, más preciso.

Los científicos compararon el modelo con datos de fMRI de personas que escuchaban o leían texto. La similitud con el cerebro aparecía de manera desigual: en las regiones temporales (que procesan el sonido y el significado de las palabras) era rápida y estable, mientras que en las frontales (que construyen frases) llegaba más tarde y de forma gradual. Además, en los modelos más grandes esta relación era más fuerte.

Incluso cuando el modelo seguía aprendiendo, era la simplicidad de la geometría la que predecía la similitud con el cerebro mejor que la mera cantidad de entrenamiento.

Así que aprender un idioma es un camino del caos al orden. El cerebro quizá hace lo mismo: suaviza algunas rutas de procesamiento de información y deja otras complejas para mantener la flexibilidad.

Las capas de un modelo de lenguaje se pueden comparar con los pisos de un edificio: los pisos inferiores descomponen las palabras en sonidos y letras, y los superiores construyen el significado. La investigación mostró que los pisos "simples" están más cerca de la entrada, y los "complejos", de la salida.

En la película "Ella", la inteligencia artificial Samantha evoluciona y comienza a entender a los humanos mejor que ellos mismos. Esta investigación es un paso hacia comprender cómo una máquina podría alcanzar ese nivel.

Conceptos
grandes modelos de lenguaje modelo de lenguaje de proteínas redes neuronales en mapeo espacial generalización redes neuronales de aprendizaje predictivo modelo predictivo datos de entrenamiento métodos de regularización aprendizaje autosupervisado entrenamiento marco segmentación de tumores Transformadores geometría simpléctica análisis de imágenes médicas aprendizaje profundo en imagenología médica