Una persona mira una cerradura de puerta y ve la ranura para la llave. Sabe que la llave se inserta y se gira. Pero si en lugar de la ranura hay un panel táctil, el marco habitual se rompe. La persona no solo se equivoca: comprende que el método habitual no sirve y puede decir: «Aquí no hay lugar para una llave, se necesita otro enfoque».
Esa detención honesta con explicación es rara en las máquinas. Normalmente, un programa o bien da una respuesta al azar, o bien se queda colgado en silencio. En el nuevo trabajo se ha construido una arquitectura simple del pensamiento: el Bloque Interpretación-Decisión (BID). El bloque tiene un conjunto de «marcos» internos —imágenes locales del mundo, cada una con su propio conjunto de características—. Cuando llega una situación, el bloque intenta encajarla en uno de los marcos. Si queda un «residuo» —una medida de cuánto excede la situación al marco—, el bloque o bien reestructura el marco, o bien se detiene y emite una negativa clara: qué exactamente no encajó.
Luego los autores muestran que esa misma medida —el resto de la situación fuera del marco— explica tres fenómenos distintos. El primero es la tipología de la ignorancia: el agente no solo dice «no sé», sino que indica qué tipo de conocimiento faltó (por ejemplo, «no reconocí el objeto» o «no entendí las intenciones»). El segundo es la empatía limitada: dos agentes pueden no entenderse sinceramente en un concepto concreto, y cada uno está seguro de haber entendido bien. El tercero es el orden de aprendizaje: ciertas habilidades deben venir antes que otras no porque así se decidió, sino porque un marco más complejo simplemente no se construye hasta que el simple esté listo.
Así, una misma medida simple —la brecha entre la situación y la imagen interna— resulta ser la clave tanto para la negativa honesta como para el malentendido mutuo y para la secuencia natural del aprendizaje. La cerradura con panel táctil deja de ser un callejón sin salida: el sistema dirá honestamente que la llave no funciona aquí y explicará por qué.
En la arquitectura BID, la negativa a actuar no es un error, sino un resultado completo con un «testigo» único: un registro de qué parte de la situación no encajó en los marcos de comprensión. Es como si una calculadora, en lugar de «error», mostrara: «No puedo calcular porque encontré la letra 'manzana' en lugar de un número».
Esta arquitectura recuerda a los robots de los relatos de Isaac Asimov, que no pueden violar las Tres Leyes y por eso se bloquean en situaciones irresolubles —pero aquí el bloqueo se sustituye por una negativa consciente con explicación.