En un horno, al subir la temperatura, las moléculas se mueven más rápido y el desorden aumenta. Con los modelos de lenguaje como ChatGPT ocurre lo contrario. Cuando los desarrolladores aumentan el parámetro de «temperatura», el modelo tiene acceso a una selección más amplia de palabras, pero sus textos largos de repente se quedan en bucle.
Un grupo de investigadores probó 11 IAs diferentes, generando 12 000 continuaciones de texto. A alta temperatura, las respuestas pasaban por un pico de diversidad y luego caían en una «inversión de población»: un estado en el que ciertas opciones de palabras se repiten una y otra vez. Aparecían frases congeladas, ciclos y ráfagas de desorden que se alternaban con un orden estricto.
Los autores descubrieron una coordenada oculta que controla este proceso, como una perilla de ajuste. Conociendo su posición, se puede predecir con precisión si el modelo comenzará a repetirse. Este enfoque transforma los modelos de lenguaje de «loros estocásticos» en sistemas no lineales controlables, cuya dinámica interna se puede medir y dirigir.
El efecto de ordenación por ruido se conoce en física como «resonancia estocástica»: a veces, añadir caos ayuda al sistema a encontrar un estado estable, en lugar de destruirlo.
En la novela de Stanisław Lem «La voz del amo», los científicos se enfrentan a una señal que, al aumentar la energía, no se vuelve más compleja, sino que degenera en un código repetitivo, como si un pensamiento alienígena se congelara por el sobrecalentamiento.