Une variable d'un modèle qui est ajustée lors de l'apprentissage pour améliorer les performances.Un paramètre est une variable d'un modèle qui est ajustée lors de l'apprentissage pour améliorer les performances. En apprentissage automatique, les paramètres sont les coefficients internes que le modèle règle pour faire correspondre les entrées aux sorties. Par exemple, dans un réseau de neurones, les paramètres sont les poids et les biais des connexions entre les neurones. Le processus d'apprentissage consiste à mettre à jour itérativement ces paramètres afin de minimiser l'écart entre les résultats prédits et les résultats réels.
Le concept de paramètres ajustables dans les modèles remonte aux débuts de la statistique et à la méthode des moindres carrés au XIXe siècle. En apprentissage automatique, l'algorithme de rétropropagation, popularisé dans les années 1980, a rendu pratique le réglage de millions de paramètres dans les réseaux de neurones.
Pendant l'entraînement, le modèle fait des prédictions, les compare aux réponses connues et calcule une erreur. Un algorithme d'optimisation, tel que la descente de gradient, ajuste ensuite les paramètres dans la direction qui réduit l'erreur. Ce processus est répété sur de nombreux exemples jusqu'à ce que le modèle fonctionne bien. Le nombre de paramètres peut aller de quelques milliers dans les modèles simples à des milliards dans les grands modèles de langage, et la manière dont ils sont réglés détermine la capacité du modèle à généraliser à de nouvelles données.
Les paramètres sont au cœur de tous les systèmes d'apprentissage automatique, de la reconnaissance d'images et du traitement du langage naturel aux modèles scientifiques qui prédisent les propriétés moléculaires ou découvrent de nouveaux matériaux.
En physique, le « théorème de calvitie » des trous noirs est analogue à l'idée que le comportement d'un modèle ne dépend que de quelques paramètres (masse, charge, spin), et non des détails de ce qui y est tombé.
| J_{k\alpha} | variable | parameter being updated at iteration — paramètre |
| \tau_\mu | variable | iteration step index — iteration index |
| \eta | variable | learning rate, step size — taux d'apprentissage |
| \epsilon | variable | error or loss function — loss function |
| \frac{\partial}{\par | opérateur | computes the gradient of the error with respect to the parameter — dérivée partielle |





















