Une personne regarde une serrure de porte et voit la fente pour la clé. Elle sait qu'on insère la clé et qu'on la tourne. Mais si, au lieu d'une serrure, il y a un panneau tactile, le cadre habituel se brise. La personne ne se trompe pas simplement : elle comprend que la méthode habituelle ne convient pas et peut dire : « Il n'y a pas de place pour une clé ici, il faut une autre approche ».
Un tel arrêt honnête avec explication est rare chez les machines. En général, un programme soit donne une réponse au hasard, soit reste silencieusement bloqué. Dans ce nouveau travail, une architecture simple de la pensée a été construite : le Bloc d'Interprétation et de Décision (BID). Le bloc dispose d'un ensemble de « cadres » internes — des images locales du monde, chacune avec son propre ensemble de caractéristiques. Lorsqu'une situation arrive, le bloc essaie de l'insérer dans l'un des cadres. S'il reste une « inadéquation » — une mesure de l'écart entre la situation et le cadre — le bloc soit réorganise le cadre, soit s'arrête et émet un refus clair : ce qui n'a pas pu être intégré.
Ensuite, les auteurs montrent que cette même mesure — le résidu de la situation hors du cadre — explique trois phénomènes distincts. Le premier est la typologie de l'ignorance : l'agent ne dit pas simplement « je ne sais pas », mais indique quel type de connaissance lui a manqué (par exemple, « je n'ai pas reconnu l'objet » ou « je n'ai pas compris les intentions »). Le deuxième est l'empathie limitée : deux agents peuvent sincèrement ne pas se comprendre sur un point précis, chacun étant convaincu d'avoir bien compris. Le troisième est l'ordre de l'apprentissage : certaines compétences doivent venir avant d'autres, non pas parce qu'on l'a décidé, mais parce qu'un cadre plus complexe ne peut tout simplement pas se construire tant qu'un cadre simple n'est pas prêt.
Ainsi, une même mesure simple — l'écart entre la situation et la représentation interne — s'avère être la clé à la fois du refus honnête, de l'incompréhension mutuelle et de la séquence naturelle de l'apprentissage. La serrure à panneau tactile cesse d'être une impasse : le système dira honnêtement que la clé ne fonctionne pas ici, et expliquera pourquoi.
Dans l'architecture BID, le refus d'agir n'est pas une erreur, mais un résultat à part entière, accompagné d'un « témoin » unique : un enregistrement de la partie exacte de la situation qui n'a pas pu être intégrée dans les cadres de compréhension. C'est comme si une calculatrice, au lieu d'afficher « erreur », disait : « Je ne peux pas calculer parce que j'ai rencontré la lettre 'pomme' au lieu d'un chiffre ».
Cette architecture rappelle les robots des nouvelles d'Isaac Asimov, qui ne peuvent pas enfreindre les Trois Lois et se figent donc dans une situation insoluble — mais ici, le blocage est remplacé par un refus conscient avec explication.