Предвзятость, которой не нужен учитель экспресс
На складе коробки с яблоками и грушами. Яблок много, груш мало. Но когда кладовщик говорит «фрукт с гладкой кожурой», мы почему-то чаще вспоминаем редкую грушу, а не частое яблоко. Это и есть эффект обратной базовой ставки — устойчивый сбой в том, как мозг разрешает неоднозначность между категориями.
Долгое время считалось, что всему виной ошибка предсказания: мозг ошибается, получает сигнал рассогласования и перестраивает ожидания. Но авторы работы пошли дальше — они убрали из экспериментов саму возможность такой ошибки. Сначала перешли к обучению наблюдением (человек просто смотрит, не делая прогнозов), а затем вообще убрали подсказки с названиями категорий. Эффект не исчез.
Так родилась модель OSCAR. Она работает на самогенерируемой обратной связи — что-то вроде внутреннего завершения образа. Видя часть признаков, система сама достраивает целое и учится на этом внутреннем отклике. Модель не только повторила результаты на старых данных, но и предсказала индивидуальные различия между людьми, а также впервые объяснила ранее непонятные движения глаз, зафиксированные в экспериментах.
Оригинальная аннотация
как её написали авторы, на английском arXiv:2608.06149v1
The inverse base-rate effect is a robust bias in how people resolve ambiguity between competing categories, and the most prominent theories explain it through prediction error. Across two experiments we progressively removed the elements of the predictive-learning design that supply such error signals: first by moving to observational learning, then to an unsupervised procedure in which category labels were not presented. The effect persisted--the irrational bias is independent of supervised learning procedures. We propose a new theory, OSCAR, that integrates core computational principles of the best-validated models and operates on self-generated feedback akin to pattern completion. OSCAR extends the learning dynamics underlying the response bias to observational and unsupervised procedures. Evaluated on a large preexisting supervised dataset in addition to the two new experiments reported here, OSCAR performs competitively against alternatives, and is the first model that reproduces the pattern of individual differences seen in humans across all three procedures. The model provides an explanation of hitherto unexplained eye-tracking data, something none of the alternative accounts provide.
Эффект обратной базовой ставки настолько устойчив, что проявляется даже у младенцев, которые ещё не умеют говорить, — похоже, это глубинная особенность работы мозга, а не побочный продукт обучения.
В романе «Цветы для Элджернона» главный герой сталкивается с тем, как его восприятие мира меняется после улучшения интеллекта, — искажения категорий и предвзятости, подобные эффекту обратной базовой ставки, могли бы объяснить, почему «умные» и «глупые» решения иногда так причудливо переплетаются.