La douane du code : améliorer un jeu d'enfant en toute sécurité ✛

Un enfant assemble un jeu dans Scratch : le personnage apparaît puis se déplace immédiatement. Personne ne voit la première étape — on peut supprimer cette commande sans risque. Mais comment le savoir sans danger ? Aujourd'hui, il existe des dizaines de millions de projets de ce type, et la moindre erreur de l'optimiseur pourrait briser l'intention.

La solution ressemble à un contrôle douanier. D'abord, un optimiseur non vérifié scanne le projet, construit un graphe (réseau) de toutes les connexions et propose de supprimer les parties invisibles ou inutiles. La proposition est accompagnée d'un certificat — une description de la modification avec les conditions de sécurité. Le contrôleur de confiance ne prend pas les choses au pied de la lettre : il compare à nouveau le programme original et le programme modifié. Le repère principal est la « lentille d'observation » : seulement ce que le joueur voit. Si une action est masquée par une autre avant d'être perceptible, elle est superflue. Ce principe s'appuie sur un théorème prouvé dans le programme spécialisé Lean.

L'expérience sur 300 projets issus d'Internet a montré que 94,3 % d'entre eux ont reçu au moins une amélioration sûre. En général, on nettoyait les images inutilisées, mais parfois on supprimait de véritables commandes mortes. Une attaque de 4278 modifications avec des erreurs intentionnelles a complètement échoué — le contrôleur n'a laissé passer aucune modification dangereuse. Tout cela grâce à la théorie du contrôle et à la théorie de l'information : le système garantit qu'aucun canal d'influence non détecté n'apparaît. Il est important de noter que la méthode offre des garanties précises, sans recourir à la Théorie des probabilités ni à l'inférence bayésienne. Ici, le programme est considéré comme un système dynamique, et sa vérification comme une analyse déterministe stricte, et non comme un processus stochastique.

La douane du code fonctionne déjà. À l'avenir, elle pourra vérifier les modifications proposées par l'intelligence artificielle. Mais dès maintenant, un enfant peut appuyer sur « lancer » — son intention restera intacte.