Как различить полезный сигнал в шуме

По жанру эта книга относится к так называемым исследованиям успеха. Возможно, вы читали или, по крайней мере, слышали об известных и важных публикациях в этом жанре, и прежде всего «В поисках совершенства» (In Search of Excellence) Тома Питерса и Роберта Уотермана и «От хорошего к великому» (Good to Great) Джима Коллинза. В свое время мы внимательно прочли довольно много подобных книг (см. приложение B «Библиография исследований успеха»).


Если вы тоже читаете подобные книги, вас следует отнести к одной из трех обозначенных ниже категорий. Вероятно, вы считаете рецепты, предлагаемые в предыдущих подобных публикациях, убедительными или просто подходящей пищей для размышлений, и в этом случае мы рекомендуем вам читать эту главу с некоторой осторожностью. Далее мы постараемся показать, что выводы предыдущих работ являются ошибочными из-за того, что методы, которыми пользовались их авторы, имели принципиальные недостатки, и что мы приложили много усилий для исправления ситуации путем обоснования разумности и надежности наших выводов.
И в то же время, вероятно, вы склонны игнорировать рекомендации авторов предыдущих работ – опять же из-за того, что методы, которыми пользовались эти авторы, имели принципиальные недостатки. В этом случае мы тоже рекомендуем вам читать эту главу с некоторой осторожностью.
Если же вы не попали ни в одну из этих категорий (а значит, относитесь к третьей), то можете просто пропустить эту главу.
Итак, если вы считаете предыдущие исследования успеха убедительными или, наоборот, игнорируете их как достаточно поверхностные, мы рекомендуем вам прочитать эту главу, потому что наши методы выявления выдающихся компаний и определения причин достижения ими выдающихся результатов кардинально отличаются от тех, которые использовались до нас. Осознание этих различий позволит читателю серьезнее отнестись к нашим выводам.
В каждом исследовании успеха ключевое предположение состоит в том, что выводы о причинах различий в показателях работы компаний можно сделать, сравнив поведение компаний, демонстрирующих высокие показатели, с поведением компаний, демонстрирующих низкие показатели. В большинстве случаев в таких исследованиях задаются (более или менее интуитивно) некие контрольные значения, после чего объявляется, что любые компании, превысившие эти значения, добились выдающихся результатов.
Здесь возникает первая проблема, потому что в отношении того, что считать существенной разницей в показателях, наша интуиция – совершенно негодный арбитр. Например, если вам скажут, что индекс широкого рынка показывал совокупную акционерную прибыль, или совокупный доход акционеров (СДА/TSR), в годовом исчислении на уровне 9,2 % в течение трех месяцев, а у компании A и компании Б значения СДА за тот же период (и тоже в пересчете на год) составили соответственно 9,3 и 9,1 %, сочтете ли вы, что имеет смысл попытаться определить, какими различиями в поведении обусловлена эта разница в показателях компаний? Если ваша интуиция в этом отношении сходна с нашей, вы ответите «нет». Это различие просто недостаточно существенное и наблюдалось на протяжении недостаточно длительного времени, чтобы признать оправданным сколько-нибудь глубокое исследование.
И тут же возникает следующая проблема: если мы утверждаем, что такие различия в показателях настолько малы, что их нельзя считать информативными, то нам придется указать, насколько велики должны быть различия в показателях, чтобы их можно было считать информативными (значимыми). На концептуальном уровне разница в 0,1 % в годовом исчислении в течение трех месяцев не отличается от 10-кратной разницы за 10 лет. И хотя во втором случае разница, конечно, ощущается как существенная и значимая, у нас нет никаких реальных доказательств, подтверждающих то или другое интуитивное предположение. Гораздо лучше количественно оценить вероятность того, что данное различие действительно является различием, заслуживающим изучения{18}. Только в этом случае мы можем надеяться выделить полезный сигнал, скрытый в шуме.
Воспользуемся аналогией. Представьте себе, что вы хотите определить, честен человек или нет, по частоте выпадения орлов при подбрасывании симметричной монеты. Как вы сможете это определить? Вряд ли вы попросите его подбросить монету один раз и, если выпадет орел, будете считать результат смещенным. А если попросить его подбросить монету два раза подряд (вероятность выпадения орлов в обоих случаях 25 %)? А 10 раз (вероятность выпадения орлов во всех 10 случаях 0,098 %)? Любой конкретный результат сам по себе имеет ненулевую вероятность, но, если заранее указать желаемый результат (выпадают только орлы) и рассчитать вероятности, исходя из абсолютной случайности исхода каждого подбрасывания монеты, вы как минимум сможете указать, при каком отклонении числа нужных исходов от его наиболее вероятного значения можно заподозрить, что человек, подбрасывающий монету, предположительно, исказил результат по сравнению с тем, который должен был получиться, если исходить из теории вероятностей.
Учесть такой тип системной изменчивости для подбрасывания монеты просто: мы знаем вероятность каждого из возможных исходов для каждого отдельного броска и знаем, что исход каждого броска не зависит от исходов других бросков, и поэтому можем легко определить вероятность того или иного общего результата для определенного числа испытаний. Но если речь идет о показателях корпораций, здесь все гораздо сложнее. Например, какова вероятность того, что компания, показатели которой в 10 раз лучше среднерыночных, тем не менее не выделяется над уровнем системного шума, а ее показатели нельзя считать информативным сигналом? Возможно, как и для нашей последовательности из 10 орлов, выпадающих один за другим, вероятность получения такого результата в каждом отдельном случае весьма мала, но, если провести достаточное число испытаний, в конце концов он обязательно должен появиться. И если у нас десятки тысяч компаний на протяжении многих лет ведут конкурентную борьбу, а фондовые рынки демонстрируют высокую волатильность, то появление экстремальных результатов становится весьма вероятным, и некоторые компании время от времени могут демонстрировать, казалось бы, замечательные результаты просто в силу особенностей устройства системы, а не потому, что сама компания делала нечто особенное{19}. Значит, нам необходимо найти способ, позволяющий выделять информативный сигнал – показатель эффективности, который означал бы, что, вероятно, компания делает что-то необычное или необычно, – из общего шума, отделив его от того, что мы в обычной жизни назвали бы удачей. Насколько нам известно, до сих пор ни в одном исследовании успеха этот вопрос не рассматривался{20}.
Отчасти это объясняется тем, что включение «удачи» или «случайности» в число факторов, влияющих на показатели корпорации, вызывает большие сомнения. У многих эти термины ассоциируются с действиями некоей магической, иррациональной, мистической силы при частичном или полном отрицании значения преднамеренных действий. Но ведь менеджеры по большей части действуют целенаправленно, намереваясь получить определенные результаты. Как же можно считать полученные ими результаты случайными?
Попробуем заглянуть в обширную сферу статистического контроля процессов и интерпретировать показатели компании как результат действия некоторого сочетания «общих причин» (действующих на уровне системы) и «специальных причин» (действующих на уровне компании). Результаты, которые нельзя отличить от общих фоновых колебаний системы, разумно объяснять общими причинами{21}. Конечно, рассматривая конкретный случай, мы почти всегда можем обратить внимание на нечто, кажущееся следствием какой-либо особой причины, но при этом мы, скорее всего, обманем сами себя. Чаще всего такое «нечто» объясняется действием общих причин.
Чтобы избежать ошибок в поисках проявления специальных причин на фоне, формируемом общими причинами, необходимо более точно описать изменчивость системы, в которой функционирует та или иная компания, а затем посмотреть, какие показатели выходят за рамки обычных значений параметров этой системы. Только тогда мы сможем количественно оценить степень достоверности объяснения наблюдаемого результата характеристиками отдельного объекта, а не более обширной системы, в которой этот объект функционирует.