Retoque con normas: dónde termina la ciencia y empieza el engaño ✛ ✎

En la pantalla, el resultado de un modelado complejísimo: dos planetas colisionan, se expande una onda de choque. Un par de clics en el editor y las sombras duras se suavizan, el ruido se atenúa, el fondo se oscurece. Este retoque digital (edición de imagen para mejorar la apariencia) forma parte desde hace tiempo del arsenal de los científicos. Pero si delegamos la función de 'mejorar' no a un humano, sino al aprendizaje automático —por ejemplo, a una red generativa entrenada con millones de imágenes ajenas—, la frontera entre estética y engaño se vuelve difusa. Un grupo de investigadores ha estudiado dónde se sitúa exactamente esa línea y si depende de quién realiza el retoque.

Para separar el efecto del tipo de cambio de su fuente, los autores prepararon dos conjuntos de visualizaciones. El primero era una escena 3D abstracta con una tetera, a la que se aplicaron manualmente 15 transformaciones: desde cambios de presentación (cambio de perspectiva, ajustes de iluminación) hasta cambios profundos que afectan al procesamiento digital de los datos (eliminación de ruido, relleno de huecos, distorsión de la forma). Cada edición se mostró como una animación donde alternaban la imagen original y la editada. Después, 95 expertos en visión artificial y diseño de visualizaciones evaluaron la aceptabilidad de cada retoque, con una escala del 1 al 6. Primero, se asumía que el autor era un humano; luego, una IA: Redes Generativas Antagónicas y modelos de difusión basados en Transformadores.

Los datos dibujaron una jerarquía nítida. En la cima, el cambio de perspectiva (puntuación media 3,38 de 5), el suavizado (3,27) y el ajuste de iluminación (3,19). En el fondo, mover objetos (1,71), eliminar detalles importantes (1,62), añadir características inexistentes (1,61) y distorsionar la forma (1,40). La brecha entre los extremos es casi el triple. Curiosamente, la IA explicable no salva la situación: incluso cuando el algoritmo declara sus pasos, sus retoques se juzgan con mayor severidad. Las redes neuronales recibían puntuaciones sistemáticamente más bajas, sobre todo en cambios que antes se consideraban aceptables. En las respuestas abiertas, los expertos explicaban: al humano se le atribuyen intención, precaución y comprensión del contexto, mientras que el algoritmo tiene tendencia a las alucinaciones y carece de responsabilidad. Sin embargo, la jerarquía apenas se rompía: tanto el humano como la máquina fracasan por igual cuando se distorsiona el significado.

Para los desarrolladores de asistentes de IA para visualización, esto implica la necesidad de salvaguardas integradas. Las operaciones que alteran la forma o añaden detalles deberían ir acompañadas de advertencias o ser bloqueadas. Los participantes en la encuesta subrayaron: la transparencia de los retoques (cuáles y por qué) es más importante que explicar el funcionamiento de la red neuronal. Quizá surjan paneles donde cada cambio esté documentado y pueda deshacerse con un clic. Y también certificados de 'verificado por humanos' para publicaciones clave, ya que solo el 14% de los expertos se opone categóricamente a las herramientas de IA, y dos ya las utilizan en su trabajo. El retoque avanza por la curva de adopción. La historia es conocida. Hubo un tiempo en que la corrección de color se consideraba deshonesta; hoy, los filtros en los teléfonos inteligentes son la norma. El estudio captura la fase temprana de este cambio.

Esa misma imagen del choque planetario, tras un retoque honesto, podrá colgar en las páginas de una revista. No todo adorno es pecado. La transparencia y la honestidad son la única moneda de confianza. Y dentro de cinco años, los filtros de IA en las imágenes científicas se verán con la misma naturalidad que hoy los filtros en los smartphones.