Предвзятость, которой не нужен учитель экспресс
На складе коробки с яблоками и грушами. Яблок много, груш мало. Но когда кладовщик говорит «фрукт с гладкой кожурой», мы почему-то чаще вспоминаем редкую грушу, а не частое яблоко. Это и есть эффект обратной базовой ставки — устойчивый сбой в том, как мозг разрешает неоднозначность между категориями.
Долгое время считалось, что всему виной ошибка предсказания: мозг ошибается, получает сигнал рассогласования и перестраивает ожидания. Но авторы работы пошли дальше — они убрали из экспериментов саму возможность такой ошибки. Сначала перешли к обучению наблюдением (человек просто смотрит, не делая прогнозов), а затем вообще убрали подсказки с названиями категорий. Эффект не исчез.
Так родилась модель OSCAR. Она работает на самогенерируемой обратной связи — что-то вроде внутреннего завершения образа. Видя часть признаков, система сама достраивает целое и учится на этом внутреннем отклике. Модель не только повторила результаты на старых данных, но и предсказала индивидуальные различия между людьми, а также впервые объяснила ранее непонятные движения глаз, зафиксированные в экспериментах.
Эффект обратной базовой ставки настолько устойчив, что проявляется даже у младенцев, которые ещё не умеют говорить, — похоже, это глубинная особенность работы мозга, а не побочный продукт обучения.
В романе «Цветы для Элджернона» главный герой сталкивается с тем, как его восприятие мира меняется после улучшения интеллекта, — искажения категорий и предвзятости, подобные эффекту обратной базовой ставки, могли бы объяснить, почему «умные» и «глупые» решения иногда так причудливо переплетаются.