Le réseau de neurones qui génère des sons à partir de texte ressemble à une cuisine où chaque « plat » est préparé par des dizaines de cuisiniers. Beaucoup ne font que gêner : ils envoient de faux signaux et gaspillent des ressources. Les scientifiques ont fait un grand ménage : grâce à la spectroscopie (l'analyse du spectre des paramètres), ils ont identifié qui était vraiment indispensable et ont licencié les autres — supprimé les connexions inutiles. Après ce nettoyage, le modèle a perdu 83 % de ses paramètres et est devenu 39 % plus rapide. La qualité du son n'a pas baissé pour la plupart des demandes, et pour certains timbres, elle s'est même améliorée. Cependant, les sons de coups de feu, de sirènes et de perceuses ont d'abord souffert — comme si, dans la cuisine, on avait soudain retiré les outils habituels.
Au final, la version allégée ne le cède en rien au modèle original. Le modèle allégé nécessite moins de calculs et d'énergie, on peut donc le faire tourner directement sur un smartphone, sans passer par le cloud. En supprimant le lest, on réduit en réalité l'entropie (la mesure du désordre) du système, ne laissant que l'efficacité pure. Les réseaux de neurones légers ouvriront la voie à une IA omniprésente, indépendante des serveurs puissants.
Les réseaux de neurones portent souvent du lest : par exemple, le célèbre ResNet-50 peut être élagué à 90 % sans perte de précision.