Un mapa del tesoro dibujado por una red neuronal promete mostrar dónde está enterrado el oro. Pero si trasladas el mapa a otra isla, las marcas pueden apuntar al vacío. Esto es precisamente lo que ocurrió con las explicaciones del modelo que estima el pulso a partir de grabaciones de video del rostro.

La red neuronal RhythmFormer capta cambios sutiles en el color de la piel causados por los latidos del corazón. Para entender en qué se fija, los científicos aplicaron cuatro métodos de explicación y midieron dos magnitudes: la cobertura de la piel (la proporción de atención del modelo que recae en el rostro) y el coeficiente de fidelidad SaCo (en qué medida el orden de importancia de las regiones corresponde a su influencia real en la predicción).

Sin embargo, dentro de un mismo participante, ni la cobertura de la piel ni SaCo se correlacionaron con el error del pulso: 186 de los 252 coeficientes resultaron inferiores a |ρ|=0,10. El mapa del tesoro no indicaba dónde estaba enterrado el oro para una persona concreta.

Pero a nivel de los ocho escenarios, la cobertura de la piel con el método Beyond Intuition se movía junto con la calidad de la estimación: ρ=−0,43 para el error, +0,57 para la correlación de la onda y +0,43 para la relación señal/ruido. Las explicaciones aportan información adicional, pero no reemplazan las métricas de precisión.

Este trabajo es el primero que verifica sistemáticamente la transferencia de explicaciones entre conjuntos de datos y su relación con la fiabilidad del modelo. Los resultados ayudarán a evitar una confianza infundada en el comportamiento de las redes neuronales que vigilan la salud a través del rostro.