Предвзятость, которой не нужен учитель: эффект обратной базовой ставки экспресс
Представьте склад с коробками яблок и груш. Яблок много, груш мало. Но когда кладовщик говорит «фрукт с гладкой кожурой», мы почему-то чаще вспоминаем редкую грушу, а не частое яблоко. Это проявление эффекта обратной базовой ставки — устойчивого когнитивного искажения, при котором мозг, разрешая неоднозначность между категориями, систематически переоценивает редкие варианты за счёт частых.
Долгое время считалось, что всему виной ошибка предсказания: мозг делает прогноз, ошибается, получает сигнал рассогласования (prediction error) и перестраивает ожидания. Однако авторы исследования пошли дальше — они исключили из экспериментов саму возможность такой ошибки. Сначала перешли к обучению наблюдением: человек просто смотрит на стимулы, не делая активных прогнозов. Затем убрали подсказки с названиями категорий. Эффект не исчез.
Так родилась модель OSCAR. Она работает на самогенерируемой обратной связи — своего рода внутреннем завершении образа. Видя часть признаков, система сама достраивает целое и учится на этом внутреннем отклике, без внешнего учителя. Модель не только повторила результаты на старых данных, но и предсказала индивидуальные различия между людьми, а также впервые объяснила ранее непонятные движения глаз, зафиксированные в экспериментах.
Эффект обратной базовой ставки настолько устойчив, что проявляется даже у младенцев, которые ещё не умеют говорить, — похоже, это глубинная особенность работы мозга, а не побочный продукт обучения.
В романе «Цветы для Элджернона» главный герой сталкивается с тем, как его восприятие мира меняется после улучшения интеллекта, — искажения категорий и предвзятости, подобные эффекту обратной базовой ставки, могли бы объяснить, почему «умные» и «глупые» решения иногда так причудливо переплетаются.