Un niño construye un juego en Scratch: un personaje aparece y se mueve de inmediato. Nadie ve el primer paso: esa instrucción se puede eliminar sin problema. Pero, ¿cómo detectarlo sin riesgos? Hoy existen decenas de millones de proyectos como este, y el más mínimo error del optimizador podría arruinar la idea original.

La solución se asemeja a una inspección de aduanas. Primero, un optimizador no verificado escanea el proyecto, construye un grafo (red) de todas las conexiones y propone eliminar las partes invisibles o inútiles. Adjunta a la propuesta un certificado: una descripción de la modificación con condiciones de seguridad. El inspector confiable no se fía: vuelve a comparar el programa original con el modificado. La guía principal es la «lente de observación»: solo lo que ve el jugador. Si una acción se superpone con otra antes de que pueda notarse, es redundante. Este principio se basa en un teorema demostrado en el programa especializado Lean.

El experimento con 300 proyectos de internet mostró que el 94,3 % recibió al menos una mejora segura. Por lo general, se limpiaban imágenes no utilizadas, pero a veces se eliminaban instrucciones realmente muertas. Un ataque de 4278 modificaciones con errores intencionados fracasó por completo: el inspector no dejó pasar ninguna peligrosa. Todo gracias a la teoría del control y la teoría de la información: el sistema garantiza que no aparezcan canales de influencia inadvertidos. Es importante que el método ofrezca garantías precisas sin depender de la teoría de la probabilidad ni de la inferencia bayesiana. Aquí, el programa se considera un sistema dinámico, y su verificación, un análisis determinista riguroso, no un proceso estocástico.

La aduana del código ya está en funcionamiento. En el futuro podrá verificar modificaciones de inteligencia artificial. Pero ya mismo un niño puede pulsar «ejecutar»: su idea permanecerá intacta.