Cómo la IA aprende a no mirar la chuleta exprés
El diagnosticador de IA aprende como un estudiante de medicina antes de un examen. Se le dan una radiografía y las quejas del paciente. Pero a veces, entre los materiales de estudio, aparece el informe completo del médico: la respuesta entera. Entonces la red neuronal lo memoriza, y la precisión en el examen se dispara al 98%. Sin embargo, eso es copiar: la habilidad real no se desarrolla.
Sin pistas, la precisión solo con síntomas alcanza el 75%. Añadir la imagen la sube al 78%. Pero la filtración de incluso un par de palabras del informe puede duplicar las cifras, creando el "efecto de horizonte": la IA parece un genio, pero solo dentro del conjunto de entrenamiento. Los modelos honestos dominan la fusión flexible de datos, descartando las chuletas.
Incluso una pequeña fuga de información del informe futuro en los datos de entrenamiento puede inflar la precisión de la IA al doble: a esto se le llama el 'efecto de horizonte'.