Une carte au trésor dessinée par un réseau de neurones promet de montrer où l'or est enterré. Mais si l'on transporte la carte sur une autre île, les marques peuvent pointer vers le vide. De même, les explications du modèle qui estime le pouls à partir de vidéos du visage ne correspondent pas toujours à sa fiabilité réelle.

Le réseau de neurones RhythmFormer capte les changements subtils de la couleur de la peau provoqués par les battements du cœur. Les scientifiques ont appliqué quatre méthodes d'explication et mesuré la couverture de la peau (la part d'attention du modèle sur le visage) ainsi que le coefficient de fidélité (dans quelle mesure l'ordre d'importance des régions correspond à leur influence réelle). Il s'est avéré que, pour un même participant, ces indicateurs ne prédisent pas l'erreur sur le pouls. Mais au niveau des conditions de prise de vue, la couverture de la peau obtenue par la méthode Beyond Intuition évoluait avec la qualité de l'estimation.

La carte au trésor ne montre pas où l'or est enterré pour une personne en particulier. Les explications apportent une information supplémentaire, mais ne remplacent pas les métriques de précision. Les développeurs de systèmes de surveillance à distance du pouls devraient interpréter les explications avec prudence comme indicateur de fiabilité.