Примечания книги Искусство распознавать чушь. Как не дать ввести себя в заблуждение и принимать правильные решения. Автор книги Джон В. Петрочелли

1

Определение по The American Heritage dictionary of the English language (4 изд.), Houghton Mifflin Harcourt, 2009.

2

Frye, C., Jefferson, R. (Продюсеры). Эпизод подкаста «Road trippin’ with RJ & Channing» с участием Кайри Ирвинга от 17 февраля 2017 г.: https://www.nba.com/cavaliers/features/road-trip-170217.

Цитата из этого интервью на русском: https://www.championat.com/basketball/news-2721158-irving-verit-chto-zemlja-ploskaja.html?utm_source=copypaste.

3

Nguyen, H. «Most flat Earthers consider themselves very religious». YouGov, 2 апреля 2018 г.: https://today.yougov.com/topics/philosophy/articles-reports/2018/04/02/most-flat-earthers-consider-themselves-religious.

Помимо этого см. анализ исследования: Branch, G., Foster, C. A. «Yes, flat-Earthers really do exist: Despite some methodological flaws, a recent poll credibly indicates that flat-Earthery persists». Scientific American, 24 октября 2018 г.: https://blogs.scientificamerican.com/observations/yes-flat-earthers-really-do-exist/.

4

Matyszczyk, C. NBA star Kyrie Irving believes Earth is flat. CNET, 18 февраля 2017 г.: https://www.cnet.com/news/nba-star-kyrie-irving-believes-earth-is-flat/; Ruff, R., Kyrie Irving actually believes Earth is flat. Bleacher Report, 17 февраля 2017 г.: https://bleacherreport.com/articles/2693635-kyrie-irving-actually-believes-earth-is-flat.

5

Boghossian, P., & Lindsay, J. How to have impossible conversations: A very practical guide. Lifelong Books, 2019. Randi, J. «Flim-flam! The truth about unicorns, parapsychology, and other delusions». Lippincott & Crowell Publishers, 1980.

Саган, К. «Мир, полный демонов: Наука – как свеча во тьме». Альпина Паблишер, 2018.

Shermer, M. «Why people believe weird things: Pseudoscience, superstition, and other confusions of our time». W. H. Freeman and Company, 1997.

6

Стоить отметить, что Эратосфен использовал подобные вычисления, чтобы определить окружность Земли, оценив ее в 40 000 км. Невероятно, особенно учитывая его методы.

7

Сам Магеллан не вернулся из этого путешествия, погибнув в Мактанском сражении 27 апреля 1521 г.

8

Информация о том, что Великая Китайская стена – единственное сооружение, построенное человеком, которое видно из космоса, берет начало из мультика 1932 г. Ripley’s Believe It or Not!. Этот факт опровергли только в 1969 г., когда Нил Армстронг вернулся с Луны. Он не раз упоминал, что видел континенты и озера, пятна белого и голубого, но ни одного творения человеческих рук. Hvistendahl, M. «Is China’s great wall visible from space?», Scientific American, 21 февраля 2008 г.: https://www.scientificamerican.com/article/is-chinas-great-wall-visible-from-space/.

9

WebMD и Flowers, A. «How to figure out your dog’s age». WebMD, 20 мая 2019 г.: https://pets.webmd.com/dogs/how-to-calculate-your-dogs-age.

Purina, Калькулятор возраста собаки Dog years to human years, 14 июня 2017 г.:. https://www.purina.com/dog-age-calculator.

10

O’Connor, A. «The claim: You lose most of your body heat through your head». New York Times, 26 октября 2004 г.: https://www.nytimes.com/2004/10/26/health/the-claim-you-lose-most-of-your-body-heat-through-your-head.html.

Pretorius, T., Bristow. G. K., Steinman, A. M., Giesbrecht, G. G. «Thermal effects of whole head submersion in cold water on non-shivering humans». Journal of Applied Physiology, 101, 669–675, 2006.

11

Hoover, D. W., Milich, R. «Effects of sugar ingestion expectancies on mother-child interactions». Journal of Abnormal Child Psycho-logy, 22, 501–15, 1994. Kinsbourne, M. «Sugar and the hyperactive child». New England Journal of Medicine, 330, 355–356, 1994.

Krummel, D. A., Seligson, F. H., Guthrie, H. A. «Hyperactivity: Is candy causal?» Critical Reviews in Food Science and Nutrition, 36, 31–47, 1996.

12

Hemilä, H., Chalker, E. «Vitamin C for preventing and treating the common cold». Cochrane Database of Systematic Reviews, 1, CD000980, 2013.

13

Edevane, G. Kyrie Irving flat Earth theory: Celtics point guard says he’s happy to start a conversation. Newsweek, 9 июня 2018 г.: https://www.newsweek.com/kyrie-irving-flat-earth-theory-967934.

14

McIntyre, L. The scientific attitude: Defending science from denial, fraud, and pseudoscience. MIT Press, 2019.

15

Oreskes, N. Why trust science. Princeton University Press, 2019.

Краткий обзор книги: Oreskes, N. «Put your faith in science». TIME Magazine, 194(21), 23–24, 2019.

16

Франкфурт, Г. On bullshit. К вопросу о брехне. – Европа, 2008.

17

Чушь как объект изучения появилась в 20-страничной статье Франкфурта «О брехне», которая вышла в 1986 г. и стала культовой. Именно в ней было дано определение чуши.

Frankfurt, H. «On bullshit». Raritan Quarterly Review, 6, 81–100, 1986 г. Petrocelli, J. V. «Antecedents of bullshitting». Journal of Experimental Social Psychology, 76, 249–258, 2018.

18

Несмотря на то что вера человека во что-то или его мнение может быть основано на чуши, простое утверждение (например: «Думаю, что пицца в Americo’s Pizzeria – лучшая!») не является чушью, поскольку оно отражает личные убеждения. Выдвигая другое (например: «На Земле нет пиццы лучше, чем Americo’s Pizzeria») или предлагая аргумент, не заботясь о доказательствах, – уже чушь по определению. Заявление: «Книга, которую я сейчас читаю, самая лучшая из написанных книг, и ее должен прочитать каждый», – может быть просто вашим мнением. Но при этом есть множество способов проверить это заявление, а также люди захотят знать, сколько книг и каких вы читали, чтобы определить, насколько истинна ваша фраза. В этом случае вы не лжете, и ваше утверждение может быть правдой. Если человек готов подтвердить свое высказывание достоверными доказательствами – это не чушь. Люди часто верят аргументам (и чистой чуши), и это может быть не так плохо, если доказательства труднодоступны в настоящий момент. С другой стороны, аргументы не считаются доказательствами.

Доказательства требуют более четких подтверждений, чтобы не считаться чушью. Помимо этого чушь отличается от ерунды, так как она подразумевает (но не обязательно содержит в себе) правду.

Чушь отличается от пропаганды и навязывания. И то, и другое – способы, часто применяемые политиками, в рекламе и маркетинге, а также в других сферах, где люди пытаются повлиять на мнение населения. Пропаганда играет на эмоциях людей для продвижения какой-то идеологии, обращаясь к страхам, желаниям, предрассудкам и иррациональным надеждам, а не используя рациональные аргументы, при этом создавая искаженный образ мира. Как и лжец, пропагандист знает правду и ограничивает или искажает ее, чтобы повлиять на окружающих. В отличие от них, несущий чушь никак не озабочен истиной и не использует свои слова как инструмент убеждения. Как предполагал Франкфурт, иногда люди склонны нести чушь, чтобы посмотреть на реакцию окружающих или просто из любопытства (каково это – нести чушь). Хотя пропаганда и может включать в себя элементы чуши, не вся чушь – пропаганда.

Petty, R. E., Wells, G. L., Brock, T. C. «Distraction can enhance or reduce yielding to propaganda: Thought disruption versus effort justification». Journal of Personality and Social Psychology, 34, 874–884, 1976.

Пратаканис А., Аронсон, Э. «Эпоха пропаганды: Механизмы убеждения, повседневное использование и злоупотребление». Прайм-ЕВРОЗНАК, 1999.

Sussman, G. «Introduction: The propaganda society». В The propaganda society: Promotional culture and politics in global context (под ред. G. Sussman), 1–21. Peter Lang Publishing Inc, 2011.

Карл Саган иногда называет чушь «чепухой» (англ. baloney). Тем не менее чушь отличается от подобных ей синонимов, включая дезинформацию или ерунду. См.: Саган, К. «Мир, полный демонов: Наука – как свеча во тьме». – Альпина Паблишер, 2018.

Отсутствие внимания к доказательствам – характеристика несущего чушь, и не стоит ее путать с социопатическим поведением. Социопат не обращает внимания на правила общества вообще, на законы и права окружающих. Помимо этого они зачастую не чувствуют вины и склонны к жестокости. Вероятно, социопаты часто несут чушь, но при этом чушь сама по себе не является признаком социопатии.

Mealey, L. «The sociobiology of sociopathy: An integrated evolutionary model». Behavioral and Brain Sciences, 18, 523–599, 1995. Pemment, J. «Psychopathy versus sociopathy: Why the distinction has become crucial». Aggression and Violent Behavior, 18, 458–461, 2013.

19

Morgan, M., Grube, J. W. «Closeness and peer group influence». British Journal of Social Psychology, 30, 159–169, 1991.

Reis, H. T., Collins, W. A., Berscheid, E. «The relationship context of human behavior and development». Psychological Bulletin, 126, 844–872, 2000.

Smith, E. R., & Mackie, D. M. «Representation and incorporation of close others’ responses: The RICOR model of social influence». Personality and Social Psychology Review, 20, 311–331, 2016.

20

WhiteHouse.gov. Remarks by President Trump and Vice President Pence at CIA headquarters. WhiteHouse.gov, 21 января 2017 г.: https://www.whitehouse.gov/briefings-statements/remarks-president-trump-vice-president-pence-cia-headquarters/.

21

Dale, D. «The first 5,276 false things Donald Trump said as U.S. president». Toronto Star, 2 июня 2019 г.: https://projects.thestar.com/donald-trump-fact-check/.

22

WhiteHouse.gov. Remarks by President Trump and Vice President Pence at CIA headquarters. WhiteHouse.gov, 21 января 2017 г.: https://www.whitehouse.gov/briefings-statements/remarks-president-trump-vice-president-pence-cia-headquarters/.

23

ABC News anchor David Muir interviews President Trump, ABC News, 25 января 2017 г.: https://abcnews.go.com/Politics/transcript-abc-news-anchor-david-muir-interviews-president/story?id=45047602.

24

После того как пресс-секретарь Трампа Шон Спайсер упрекнул медиа в публикации информации о сравнительно небольшом количестве людей на инаугурации Трампа, Келлиэнн Конуэй, советник президента США, сказала NBC Meet the Press, что Спайсер не врал, а использовал «альтернативные факты».

25

Dale, D. «The first 5,276 false things Donald Trump said as U.S. president». Toronto Star, 2 июня 2019 г.: https://projects.thestar.com/donald-trump-fact-check/; см. также статью на Wikipedia: Inauguration of Donald Trump: Crowd size: https://en.wikipedia.org/wiki/Inauguration_of_Donald_Trump#Crowd_size.

26

WhiteHouse.gov. Remarks by President Trump, Vice President Pence, and members of the Coronavirus Task Force in press briefing. WhiteHouse.gov., 23 апреля 2020 г.: https://www.whitehouse.gov/briefings-statements/remarks-president-trump-vice-president-pence-members-coronavirus-task-force-press-briefing-31/.

Сообщение на русском: «Это безответственно и опасно: эксперты осуждают Трампа за предложение лечить от COVID-19 инъекциями антисептика (NBC News, США)», Иносми.ру, 24 апреля 2020 г.: https://inosmi.ru/social/20200424/247328537.html.

27

Glatter, R. «Calls to poison centers spike after the president’s comments about using disinfectants to treat coronavirus». Forbes.com, 25 апреля 2020 г.: https://www.forbes.com/sites/robertglatter/2020/04/25/calls-to-poison-centers-spike-after-the-presidents-comments-about-using-disinfectants-to-treat-coronavirus/?sh=29ec84021157.

Kluger, J. «Accidental poisonings increased after President Trump’s disinfectant comments». Time.com, 12 мая 2020 г.: https://time.com/5835244/accidental-poisonings-trump/. Slotkin, J. «NYC Poison Control sees uptick in calls after Trump’s disinfectant comments». NPR.org, 25 апреля 2020 г.: https://www.npr.org/sections/coronavirus-live-updates/2020/04/25/845015236/nyc-poison-control-sees-uptick-in-calls-after-trumps-disinfectant-comments.

См также: Islam, S., et al «COVID-19–related infodemic and its impact on public health: A global social media analysis». American Journal of Tropical Medicine and Hygiene, 103, 1621–1629, 2020.

28

WhiteHouse.gov. Remarks by President Trump at a signing ceremony for H.R. 266, Paycheck Protection Program and Health Care Enhancement Act. WhiteHouse.gov., 24 апреля 2020 г.: https://www.whitehouse.gov/briefings-statements/remarks-president-trump-signing-ceremony-h-r-266-paycheck-protection-program-health-care-enhancement-act/.

29

Ross, M., McFarland, C., Fletcher, G. J. «The effect of attitude on the recall of personal histories». Journal of Personality and Social Psychology, 40, 627–634, 1981.

30

McGuire, W. «Inducing resistance to persuasion: Some contemporary approaches». В Advances in Experimental Social Psychology, Vol. 1 (под ред. L. Berkowitz), 191–229, Academic Press, 1964.

31

Boone, V. Jarvis 2012 Estate Grown Cave Fermented Reserve Merlot (Napa Valley). Wine Enthusiast, 1 марта 2017 г.: https://www.wine-mag.com/buying-guide/jarvis-2012-estate-grown-cave-fermented-reserve-merlot-napa-valley/.

32

Krebiehl, A. (2020, March 1). Pleil 2015 Ried Gerichtsberg Merlot (Niederösterreich). Wine Enthusiast, 1 марта 2020 г.: https://www.winemag.com/buying-guide/pleil-2015-ried-gerichtsberg-merlot-niederosterreich/.

33

Boiling, C. «A simple way to boost wine sales». InternationalWineChallenge.com, 8 октября 2019 г.: https://www.internationalwinechallenge.com/Canopy-Articles/a-simple-way-to-boost-wine-sales.html;

Caputo, T. «Marketing matters: Wine competitions that help you sell». WinesVinesAnalytics.com, 1 октября 2007 г.: https://winesvinesanalytics.com/columns/section/23/article/50637/Wine-Competitions-That-Help-You-Sell;

USA Wine Ratings. «How to market your wine awards». USA Wine Ratings, 14 сентября 2018 г.: https://usawineratings.com/en/blog/insights-1/how-to-market-your-wine-awards-112.htm.

34

Hodgson, R. T. «An examination of judge reliability at a major U. S. wine competition». Journal of Wine Economics, 3, 105–113, 2008.

35

Morrot, G., Brochet, F., and Dubourdieu, D. «The color of odors». Brain and Language, 79, 309–320, 2001.

36

Quandt, R. E. «On wine bullshit: Some new software?» Journal of Wine Economics, 2, 129–135, 2007.

37

Krumme, C. «A nose by any other name: Descriptors as signals for wine price». Доклад, представленный на третьей ежегодной конференции American Association of Wine Economists в Реймсе, Франция, 18–20 июня 2009 г.

Подобные исследования см.: Ramirez, C. D. «Do tasting notes add value? Evidence from Napa Wines». Journal of Wine Economics, 5, 143–163, 2010.

38

(Розничная цена – Оптовая цена) / Оптовая цена) × 100 %. Розничная цена – та, которую платит потребитель, а оптовая цена – та, которую платит продавец, чтобы предоставить товар или услугу.

39

Bond, R. L. «Finding the right price for your retail products». Entrepreneur.com, 25 мая 2008 г.: https://www.entrepreneur.com/article/193986.

Наценка на открытки составляет 200 %, на картриджи для принтера – 300 %, на мебель – 400 %, на мини-бар в отеле – 400 %, на зарядку для телефона 672 %, попкорн в кино – 900 %, очевидно слишком дорогие шапочка и мантия на день вручения дипломов – 1,011 %, на оправы для очков – 1,329 %, билет на игру New York Yankees – 1,567 %, кабель HDMI – 1,900 %, кофе в кофейне – 2,900 %, воду в бутылках – 4,000 %, на прозак – 4,451 %, на звонок экстрасенсу – 9,186 %, и на лечение кристаллами – 2,493,828 %;

Cetron, A. «16 of the most outrageously overpriced products». Money Talks News, 25 августа 2019 г.: https://www.moneytalksnews.com/19-of-the-most-outrageously-overpriced-products/; Zhang, M. «37 products with crazy-high markups». Business Insider, 17 июля 2014 г.: https://www.businessinsider.com/personal-finance/products-high-markups-2014–7.

40

Federal Bureau of Investigation Internet Crime Complaint Center. 2014 Internet Crime Report, 31 декабря 2014 г.: https://www.fbi.gov/news/news_blog/2014-ic3-annual-report.

41

Miller, R. L., Balcetis, E. «Palm readers, stargazers, and scientists». Skeptical Inquirer, 29(5), 44–49, 2005.

42

Gilbert, D. T. «How mental systems believe». American Psychologist, 46, 107, 1991;

Gilbert, D. T., Krull, D. S., Malone, P. S. «Unbelieving the unbelievable: Some problems in the rejection of false information». Journal of Personality and Social Psychology, 59, 601–613, 1990;

Levine, T. R. «Truth-default theory (TDT): A theory of human deception and deception detection». Journal of Language and Social Psychology, 33, 378–392, 2014;

Levine, T. R. Duped: Truth-default theory and the social science of lying and deception. University Alabama Press, 2019.

43

Gilbert, D. T., Tafarodi, R. W., & Malone, P. S. «You can’t not believe everything you read». Journal of Personality and Social Psychology, 65, 221–233, 1993.

44

Dawes, R. M. «The mind, the model, and the task». Cognitive theory, Vol. 1 (под. ред. F. Restle, R. M. Shiffrin, N. J. Castellan, H. R. Lindman, D. B. Pisoni), Erlbaum, 119–129, 1975.

45

Nickerson, R. S. «Confirmation bias: A ubiquitous phenomenon in many guises». Review of General Psychology, 2, 175–220, 1998;

Wason, P. C. «On the failure to eliminate hypotheses in a conceptual task». Quarterly Journal of Experimental Psychology, 12, 129–140, 1960;

Wason, P. C. «Reasoning about a rule». Quarterly Journal of Experimental Psychology, 20, 273–281, 1968;

Wason, P. C., Johnson-Laird, P. N. Psychology of reasoning: Structure and content. Harvard University Press, 1972.

Интересные исключения см. в статьях: Cosmides, L. «The logic of social exchange: Has natural selection shaped how humans reason? Studies with the Wason selection task». Cognition, 31, 187–276, 1989;

Cox, J. R., Griggs, R. A. «The effects of experience on performance in Wason’s selection task». Memory and Cognition, 10, 496–502, 1982; Gigerenzer, G., Hug, K. «Domain-specific reasoning: Social contracts, cheating and perspective change». Cognition, 43, 127–171, 1992;

Griggs, R. A., Cox, J. R. «The elusive thematic materials effect in Wason’s selection task». British Journal of Psychology, 73, 407–420, 1982;

Kirby, K. N. «Probabilities and utilities of fictional outcomes in Wason’s four-card selection task». Cognition, 51, 1–28, 1994;

Manktelow, K. I., Over, D. E. «Social roles and utilities in reasoning with deontic conditionals». Cognition, 39, 85–105, 1991; Wagner-Egger, P. «Conditional reasoning and the Wason selection task: Biconditional interpretation instead of reasoning bias». Thinking and Reasoning, 13, 484–505, 2007.

46

Petrocelli, J. V., Martin, J. L., Li, W. Y. «Shaping behavior through malleable self-perceptions: A test of the forced-agreement scale effect (FASE)». Journal of Research in Personality, 44, 213–221, 2010;

Ross, L., Lepper, M. R., & Hubbard, M. «Perseverance in self-perception and social perception: Biased attribution processes in the debriefing paradigm». Journal of Personality and Social Psycho-logy, 32, 880–892, 1975.

47

Bargh, J. A. «The four horsemen of automaticity: Awareness, efficiency, intention, and control in social cognition». В Handbook of social cognition. 2-е изд., (под ред. R. S. Wyer и T. K. Srull), 1–40, 1994.

Erlbaum; Bargh, J. A., Chartrand, T. L. «The unbearable automaticity of being». American Psychologist, 54, 462–479, 1999;

Bargh, J. A., Ferguson, M. J. «Beyond behaviorism: On the automaticity of higher mental processes». Psychological Bulletin, 126, 925–945, 2000;

Greenwald, A. G., Banaji, M. R. «Implicit social cognition: Attitudes, self-esteem, and stereotypes». Psychological Review, 102, 4–27, 1995.

48

Haidt, J. «The emotional dog and its rational tail: A social intuitionist approach to moral judgment». Psychological Review, 108, 814–834, 2001;

Haidt, J. «The emotional dog gets mistaken for a possum». Review of General Psychology, 8, 283–290, 2004.

49

Сломан, С., Фернбах, Ф. Иллюзия знания. Почему мы никогда не думаем в одиночестве. – КоЛибри, 2017.

См. также Hemmatian, B., Sloman, S. A. «Community appeal: Explanation without information». Journal of Experimental Psychology: General, 147, 1677–1712, 2018;

Lawson, R. «The science of cycology: Failures to understand how everyday objects work». Memory and Cognition, 34, 1667–1675, 2006;

Rabb, N., Fernbach, P. M., Sloman, S. A. «Individual representation in a community of knowledge». Trends in Cognitive Sciences, 23, 891–902, 2019;

Rozenblit, L., Keil, F. «The misunderstood limits of folk science: An illusion of explanatory depth». Cognitive Science, 26, 521–562, 2002.

50

Nisbett, R. E., Wilson, T. D. «Telling more than we can know: Verbal reports on mental processes». Psychological Review, 84, 231–259, 1977.

51

Kuhn, D. The skills of argument. Cambridge University Press, 1991;

Kunda, Z. «The case for motivated reasoning». Psychological Bulletin, 108, 480–498, 1990;

Nisbett, R. E., Wilson, T. D. «Telling more than we can know: Verbal reports on mental processes». Psychological Review, 84, 231–259, 1977;

Perkins, D. N., Farady, M., Bushey, B. «Everyday reasoning and the roots of intelligence». В Informal reasoning and education (под ред. J. F. Voss, D. N. Perkins, J. W. Segal), 83–105. Erlbaum, 1991.

52

Рапай, К. Культурный код. Как мы живем, что покупаем и почему. – Юнайтед Пресс, 2008;

Wilson, T. D., Lisle, D. J., Schooler, J. W., Hodges, S. D., Klaaren, K. J., Lafleur, S. J. «Introspecting about reasons can reduce post-choice satisfaction». Personality and Social Psychology Bulletin, 19, 331–339, 1993.

В другом исследовании, проведенном Уилсоном, студенты университета, состоящие в отношениях, должны были заполнить опросник, перечислив «все причины, которые могут прийти в голову, по которым отношения с партнером складываются именно так». Выполнение задания привело к тому, что участники переосмыслили свои отношения. Если они выписывали положительные причины, то начинали лучше оценивать их, а если негативные, то оценивали отношения хуже. Обдумывание мыслей, которые противоречат первоначально возникшим чувствам человека (вероятно, чушью), может влиять на его убеждения. Судя по всему, отвечая на подробные вопросы об отношениях или думая о причинах, их обусловивших, можно повлиять на то, как люди рассматривают их – и, следовательно, меняют убеждения по этому поводу. Однако и эффект, возникший от анализа причин, со временем исчезал, и первоначальная установка «сложно объяснить» возвращалась.

Таким образом, если люди принимали важные решения после того, как тщательно анализировали их (например, решая, расстаться с девушкой или парнем), впоследствии они могли пожалеть о принятом решении. Это связано с тем, что сразу после анализа причин люди склонны обращать внимание на вещи, которые легко облечь в слова (например, «мне нравятся его волосы»), и игнорировать чувства, которые сложно объяснить (например, особую химию между людьми). Но в долгосрочной перспективе имеет значение не чушь, а именно эти трудно поддающиеся формулировке чувства, которые возникают снова спустя время или вообще не исчезают. Wilson, T. D., Kraft, D. «Why do I love thee?: Effects of repeated introspections about a dating relationship on attitudes toward the relationship». Personality and Social Psychology Bulletin, 19, 409–418, 1993.

53

The Myers-Briggs Company. ISTJ: MBTI® personality profile, 16 мая 2020 г.: https://eu.themyersbriggs.com/en/tools/MBTI/MBTI-personality-Types/ISTJ.

54

Grant, A. «Goodbye to MBTI, the fad that won’t die». Psychology Today, 18 сентября 2013 г..: https://www.psychologytoday.com/us/blog/give-and-take/201309/goodbye-mbti-the-fad-won-t-die.

55

Fleeson, W. «Moving personality beyond the person-situation debate: The challenge and the opportunity of within-person varia-bility». Current Directions in Psychological Science, 13, 83–87, 2004;

Sherman, S. J., Fazio, R. H. «Parallels between attitudes and traits as predictors of behavior». Journal of Personality, 51, 308–345, 1983.

56

Liberman, V., Samuels, S. M., Ross, L. «The name of the game: Predictive power of reputations versus situational labels in determining prisoner’s dilemma game moves». Personality and Social Psychology Bulletin, 30, 1175–1185, 2004.

57

Paul, A. M. The cult of personality: How personality tests are lea-ding us to miseducate our children, mismanage our companies, and misunderstand ourselves. Free Press, 2004.

58

Неравенство усилий, затрачиваемых на производство, определение и опровержение чуши, известное как «закон Брандолини», или, как его называет сам Альберто Брандолини (независимый консультант по разработке программного обеспечения), «Принцип асимметрии чуши»: «Количество энергии, затрачиваемое на опровержение словесной пурги на порядок выше, чем ее производство». Brandolini, A. (@ziobrando). Twitter, 11 января 2013 г.: https://twitter.com/ziobrando/-status/289635060758507521.

59

Fazio, L. K., Brashier, N. M., Payne, B. K., Marsh, E. J. «Know-ledge does not protect against illusory truth». Journal of Experimental Psychology: General, 144, 993–1002, 2015.

60

Alcock, J. E. Belief: What it means to believe and why our convictions are so compelling. Prometheus Books, 2018.

61

Cook, T. D., Flay, B. R. «The temporal persistence of experimentally induced attitude change: An evaluative review». В Advances in experimental social psychology (Vol. 11) (под ред. L. Berkowitz), Academic Press, 1978;

Cook, T. D., Gruder, C. L., Hennigan, K. M., Flay, B. R. «History of the sleeper effect: Some logical pitfalls in accepting the null hypothesis». Psychological Bulletin, 86, 662–679, 1979;

Gruder, C. L., Cook, T. D., Hennigan, K. M., Flay, B. R., Alessis, C., Halamaj, J. «Empirical tests of the absolute sleeper effect predicted from the discounting cue hypothesis». Journal of Personality and Social Psychology, 36, 1061–1074, 1978;

Priester, J., Wegener, D., Petty, R., Fabrigar, L. «Examining the psychological process underlying the sleeper effect: The elaboration likelihood model explanation». Media Psychology, 1, 27–48, 1999.

62

Petrocelli, J. V., Seta, C. E., Seta, J. J. «When bullshitters are more persuasive than liars: Using the sleeper effect to test the insidious bullshit hypothesis». Неопубликованные данные.

63

Petty, R. E., Cacioppo, J. T. Communication and persuasion: Central and peripheral routes to attitude change. Springer-Verlag, 1986.

64

Petrocelli, J. V. «Bullshitting and persuasion: The persuasiveness of a disregard for the truth». British Journal of Social Psychology, 60, 2021;

см. также: Petrocelli, J. V., Watson, H. F., Hirt, E. R. «Self-regulatory aspects of bullshitting and bullshit detection». Social Psychology, 51, 239–253, 2020.

65

С 1941 по 1945 г. нацистская Германия при содействии коллаборационистов систематически преследовала и уничтожала евреев, убив более 6 миллионов (около двух третей еврейского населения Европы).

66

Dali, L. Y. Calamity and reform in China: State, rural society, and institutional change since the Great Leap Famine. Stanford University Press, 1996;

Dikötter, F. Mao’s great famine: The history of China’s most devastating catastrophe, 1958–62. Bloomsbury, 2018;

Jisheng, Y. Tombstone: The Great Chinese Famine, 1958–1962. Farrar, Straus and Giroux, 2013; Shapiro, J. R. Mao’s war against nature: Politics and the environment in revolutionary China. Cambridge University Press, 2001;

Thaxton, R. A. Catastrophe and contention in rural China: Mao’s Great Leap Forward famine and the origins of righteous resistance in Da Fo Village. Cambridge University Press, 2008.

67

Time Magazine. Death to sparrows. Time Magazine, 71(18), 28, 1958.

68

Pantsov, A. V., Levine, S. I. Mao: The real story. Simon & Schuster, 2012.

69

Greenspan, S. Annals of gullibility: Why we get duped and how to avoid it. Praeger, 2009;

Greenspan, S. «Foolish action in adults with intellectual disabilities: The forgotten problem of risk-unawareness». В International review of research in mental retardation, (Vol. 36, под ред. L. M. Glidden), 145–194. Elsevier, 2009;

Greenspan, S., Loughlin, G., Black, R. «Credulity and gullibility in people with developmental disorders: A framework for future research». International Review of Research in Mental Retardation, 24, 101–135, 2001.

70

Rotter, J. B. «Interpersonal trust, trustworthiness, and gullibility». American Psychologist, 35, 1–7, 1980;

Teunisse, A. K., Case, T. I., Fitness, J., Sweller, N. «I should have known better: Development of a self-report measure of gullibility». Personality and Social Psychology Bulletin, 46, 408–423, 2020.

71

Маркополос, Г. Финансовая пирамида Бернарда Мэдоффа. Расследование самой грандиозной аферы в истории. Вильямс, 2012.

72

Gregoriou, G. N., Lhabitant, F.-S. «Madoff: A flock of red flags». Journal of Wealth Management, 12, 89–97, 2009.

73

В этот длинный список входят следующие компании: Fairfield Sentry-Fairfield Greenwich Group, Banco Santander, Kingate Management, Rye Investment Management-Tremont Group, Bank Medici of Austria, Ascot Partners, Access International Advisors, Fortis Bank Nederland, Thema International Fund, HSBC, Genevalor Benbassat & Cie, Aurelia Finance, Union Bancaire Privée, Natixis, Royal Bank of Scotland, Sterling Equities, Elie Wiesel, и Elie Wiesel Foundation for Humanity.

74

Greenspan, S. «Fooled by Ponzi: How Bernard Madoff made off with my money, or why even an expert on gullibility can get gulled». Skeptic, 14(4), 20–25, 2009.

75

Chew, R. How I got screwed by Bernie Madoff. Time, 15 декабря 2008 г.: http://content.time.com/time/business/article/0,8599,1866398,00.html

76

Forer, B. R. «The fallacy of personal validation: A classroom demonstration of gullibility». Journal of Abnormal and Social Psycho-logy, 44, 118–123, 1949;

Petty, R. E., Brock, T. C. «Effects of Barnum personality assessments on cognitive behavior». Journal of Consulting and Clinical Psychology, 47, 201–203, 1979;

Stajano, F., Wilson, P. «Understanding scam victims». Communications of the ACM, 54, 70, 2011.

77

Во многих источниках утверждается, что Ф. Т. Барнум никогда такого не говорил.

78

Petrocelli, J. V., Martin, J. L., Li, W. Y. «Shaping behavior through malleable self-perceptions: A test of the forced-agreement scale effect (FASE)». Journal of Research in Personality, 44, 213–221, 2010;

Sherman, S. J. «On the self-erasing nature of errors of prediction». Journal of Personality and Social Psychology, 39, 211–221, 1980.

79

Costa, P. T., McCrae, R. R. «Facet scales for agreeableness and conscientiousness: A revision of the NEO personality inventory». Personality and Individual Differences, 12, 887–898, 1991;

Lee, K., Ashton, M. C. «Psychometric properties of the HEXACO Personality Inventory». Multivariate Behavioral Research, 39, 329–358, 2004.

80

Bègue, L., Beauvois, J.-L., Courbet, D., Oberlé, D., Lepage, J., Duke, A. A. «Personality predicts obedience in a Milgram Paradigm». Journal of Personality, 83, 299–306, 2015.

81

Milgram, S. Behavioral study of obedience. Journal of Abnormal and Social Psychology, 67, 371–378, 1963;

Милгрэм, С. Подчинение авторитету. Научный взгляд на власть и мораль. – Альпина нон-фикшн, 2018.

82

Carter, N. L., Weber, J. M. «Not Pollyannas: Higher generalized trust predicts lie detection ability». Social Psychological and Personality Science, 1, 274–279, 2010.

83

Yamagishi, T., Kikuchi, M., Kosugi, M. «Trust, gullibility, and social intelligence». Asian Journal of Social Psychology, 2, 145–161, 1999;

Yamagishi, T., Yamagishi, M. «Trust and commitment in the United States and Japan». Motivation and Emotion, 18, 129–166, 1994.

84

Haney, C., Zimbardo, P. G. «The past and future of U.S. prison policy: Twenty-five years after the Stanford Prison Experiment». American Psychologist, 53, 709–727, 1998;

Zimbardo, P. G. «The power and pathology of imprisonment» [запись Конгресса от 25 октября 1971 г.]. Hearings before Subcommittee No. 3 of the Committee on the Judiciary, House of Representatives, Ninety-Second Congress, First Session on Corrections, Part II, Prisons, Prison Reform and Prisoner’s Rights: California. US Government Printing Office, 1971.

85

В некоторых обсуждениях Стэнфордского тюремного эксперимента, проведенного Зимбардо, использовались интересные формулировки, призванные «развенчать» результаты эксперимента. Предполагалось, что жестокость со стороны тюремщиков была результатом не выполнения их роли, а подстрекательств со стороны экспериментаторов. Лучшие обсуждения эксперимента см.: Haslam, S. A., Reicher, S. D., Van Bavel, J. J. «Rethinking the nature of cruelty: The role of identity leadership in the Stanford Prison Experiment». American Psychologist, 74, 809–822, 2019;

Reicher, S., Haslam, S. A. «Rethinking the psychology of tyranny: The BBC Prison Study». British Journal of Social Psychology, 45, 1–40; Zimbardo, P. G., Haney, C. «Continuing to acknowledge the power of dehumanizing environments: Comment on Haslam et al. (2019) and Le Texier (2019)». American Psychologist, 75, 400–402, 2020.

86

Nisbett, R. E., Wilson, T. D. «Telling more than we can know: Verbal reports on mental processes». Psychological Review, 84, 231–259, 1977.

87

Langer, E. J., Blank, A., Chanowitz, B. «The mindlessness of ostensibly thoughtful action: The role of «placebic» information in interpersonal interaction». Journal of Personality and Social Psychology, 36, 635–642, 1978.

88

Чалдини, Р. Б. Психология влияния. – Питер, 2012.

89

Kuhn, D. The skills of argument. Cambridge: Cambridge University Press, 1991.

90

Glassner, A., Weinstock, M., Neuman, Y. «Pupils’ evaluation and generation of evidence and explanation in argumentation». British Journal of Educational Psychology, 75, 105–118, 2005.

91

Borgida, E., Nisbett, R. E. «The differential impact of abstract vs. concrete information on decisions». Journal of Applied Social Psychology, 7, 258–271, 1977;

Reyes, R. M., Thompson, W. C., Bower, G. H. «Judgmental biases resulting from differing availabilities of arguments». Journal of Personality and Social Psychology, 39, 2–12, 1980.

92

Леденцы на палочке, подобные чупа-чупсу (прим. пер.).

93

Tootsie Roll Inc. https://tootsie.com/faqs; Aaseng, N. Business builders in sweets & treats. Oliver Press, 2005.

94

Jacoby, L. L., Kelley, C., Brown, J., Jasechko, J. «Becoming famous overnight: Limits on the ability to avoid unconscious influences of the past». Journal of Personality and Social Psychology, 56, 326–338, 1989;

Jacoby, L. L., Woloshyn, V., Kelley, C. «Becoming famous without being recognized: Unconscious influences of memory produced by dividing attention». Journal of Experimental Psychology: General, 118, 115–125, 1989.

95

Frederick, S. «Cognitive reflection and decision making». Journal of Economic Perspectives, 19, 25–42, 2005.

96

Bronstein, M. V., Pennycook, G., Bear, A., Rand, D. G., Cannon, T. D. «Belief in fake news is associated with delusionality, dogmatism, religious fundamentalism, and reduced analytic thinking». Journal of Applied Research in Memory and Cognition, 8, 108–117, 2019;

Pennycook, G., Cannon, T. D., Rand, D. G. «Prior exposure increases perceived accuracy of fake news». Journal of Experimental Psychology: General, 147, 1865–1880, 2018;

Pennycook, G., Rand, D. G. «Who falls for fake news? The roles of bullshit receptivity, overclaiming, familiarity, and analytic thinking». Journal of Personality, 88, 185–200, 2020.

97

Pennycook, G., Rand, D. G. «Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning». Cognition, 188, 39–50, 2019.

98

Gigerenzer, G., Hertwig, R., Pachur, T. Heuristics: The foundations of adaptive behavior. Oxford University Press, 2011;

Gigerenzer, G., Todd, P. M. Simple heuristics that make us smart. Oxford University Press, 1999;

Принятие решений в неопределенности. Правила и предубеждения / под ред. Д. Канеман, А. Тверски, П. Славик. – Гуманитарный центр, 2021.

99

Shermer, M. Why people believe weird things: Pseudoscience, superstition, and other confusions of our time. W. H. Freeman and Company, 1997.

100

Канеман, Д. Думай медленно… решай быстро. – АСТ, 2014.

101

Allen, S. Dumbth and 81 ways to make Americans smarter. Prometheus Books, 1989;

Бек, Д. Когнитивная терапия. Полное руководство. – Вильямс, 2018.

Morrow, D. R. Giving reasons: An extremely short introduction to critical thinking. Hackett Publishing Company, 2017; Shermer, M. Why people believe weird things: Pseudoscience, superstition, and other confusions of our time. W. H. Freeman and Company, 1997.

102

Erickson, T. D., Mattson, M. E. «From words to meaning: A semantic illusion». Journal of Verbal Learning and Verbal Behavior, 20, 540–551, 1981;

Song, H., Schwarz, N. «Fluency and the detection of misleading questions: Low processing fluency attenuates the Moses illusion». Social Cognition, 26, 791–799, 2008.

103

Seta, J. J., Seta, C. E., McCormick, M. «Commonalities and differences among frames: A unification model». Journal of Behavioral Decision Making, 30, 1113–1130, 2017.

104

Tversky, A., Kahneman, D. «The framing of decisions and the psychology of choice». Science, 211, 453–458, 1981.

105

Kühberger, A. «The framing of decisions: A new look at old problems». Organizational Behavior and Human Decision Processes, 62, 230–240, 1995;

Kühberger, A., Gradl, P. «Choice, rating, and ranking: Framing effects with different response modes». Journal of Behavioral Decision Making, 26, 109–117, 2013;

Kühberger, A., Tanner, C. «Risky choice framing: Task versions and a comparison of prospect theory and fuzzy-trace theory». Journal of Behavioral Decision Making, 23, 314–329, 2010;

Mandel, D. R. «Gain-loss framing and choice: Separating outcome formulations from descriptor formulations». Organizational Behavior and Human Decision Processes, 85, 56–76, 2001;

Mandel, D. R. «Do framing effects reveal irrational choice?» Journal of Experimental Psychology: General, 143, 1185–1198, 2014;

Seta, J. J., Seta, C. E., McCormick, M. «Commonalities and differences among frames: A unification model». Journal of Behavioral Decision Making, 30, 1113–1130, 2017;

Tombu, M., Mandel, D. R. «When does framing influence preferences, risk perceptions, and risk attitudes? The explicated valence account». Journal of Behavioral Decision Making, 28, 464–476, 2015.

106

Forgas, J. P., East, R. «On being happy and gullible: Mood effects on skepticism and the detection of deception». Journal of Experimental Social Psychology, 44, 1362–1367, 2008.

107

Baron, J., Hershey, J. C. «Outcome bias in decision evaluation». Journal of Personality and Social Psychology, 54, 569–579, 1988;

Seta, C. E., Seta, J. J., Petrocelli, J. V., McCormick, M. «Even better than the real thing: Alternative outcome bias affects decision judgements and decision regret». Thinking and Reasoning, 21, 446–472, 2015.

108

Киндлбергер, Ч. Мировые финансовые кризисы. Мании, паники и крахи. – Питер, 2010.

109

Аронсон, Э. Общественное животное. Введение в социальную психологию. – Аспект Пресс, 1998.

110

Шиллер, Р. Иррациональный оптимизм: Как безрассудное поведение управляет рынками. Альпина Паблишер, 2013.

111

Asch, S. E. «Effects of group pressure upon the modification and distortion of judgment». В Groups, leadership, and men (In H. Guetzkow Eds.), 76–92, Carnegie Press, 1951.

112

Там же.

113

Batson, C. D. «Rational processing or rationalization? The effect of disconfirming information on a stated religious belief». Journal of Personality and Social Psychology, 32, 176–184, 1975;

Lord, C. G., Ross, L., Lepper, M. R. «Biased assimilation and attitude polarization: The effects of prior theories on subsequently considered evidence». Journal of Personality and Social Psychology, 37, 2098–2109, 1979;

Knowles, E. S., Linn, J. A. (ред.) Resistance and persuasion. Erlbaum, 2004; Nyhan, B., Reifler, J. «When corrections fail: The persistence of political misperceptions». Political Behavior, 32, 303–330, 2010.

Эффект обратного результата может быть не таким масштабным, как мы когда-то полагали, см.: Chan, M.S., Jones, C. R., Jamieson, K. H., Albarracin, D. «Debunking: A meta-analysis of the psychological efficacy of messages countering misinformation». Psychological Science, 28, 1531–1546, 2017; Douglas, K. M., Uscinski, J. E., Sutton, R. M., Cichocka, A., Nefes, T., Ang, C. S., Deravi, F. «Understanding conspiracy theories». Political Psychology, 40 (Suppl 1), 3–35, 2019;

Wood, T., Porter, E. «The elusive backfire effect: Mass attitudes’ steadfast factual adherence». Political Behavior, 41, 135–163, 2019.

114

Boghossian, P., & Lindsay, J. How to have impossible conversations: A very practical guide. Lifelong Books, 2019;

Haidt, J. «The emotional dog and its rational tail: A social intuitionist approach to moral judgment». Psychological Review, 108, 814–834, 2001;

Шермер, М. Тайны мозга. Почему мы во все верим. – Эксмо, 2015;

Tappin, B. M., van der Leer, L., McKay, R. T. «The heart trumps the head: Desirability bias in political belief revision». Journal of Experimental Psychology: General, 146, 1143–1149, 2017.

115

Kunda, Z. «The case for motivated reasoning». Psychological Bulletin, 108, 480–498, 1990.

116

Фестингер, Л. Теория когнитивного диссонанса. – Ювента, 1999.

117

Shermer, M. «Why people believe conspiracy theories». Skeptic, 25(1), 12–17.

118

Ritchie, H. «Read all about it: The biggest fake news stories of 2016». CNBC, 30 декабря 2016 г.: https://www.cnbc.com/2016/12/30/read-all-about-it-the-biggest-fake-news-stories-of-2016.html; Schaedel, S. «Did the Pope endorse Trump?» FactCheck.org, 24 октября 2016 г.: https://www.factcheck.org/2016/10/did-the-pope-endorse-trump/;

Samuelson, K. «What to know about Pizzagate: The fake news story with real consequences». Time, 5 декабря 2016 г.: https://time.com/4590255/pizzagate-fake-news-what-to-know/;

Effron, D. A. «It could have been true: How counterfactual thoughts reduce condemnation of falsehoods and increase political polarization». Personality and Social Psychology Bulletin, 44, 729–745, 2018; Manjoo, F. True enough: Learning to live in a post-fact society. John Wiley & Sons, 2008.

119

Bever, L., Phillips, K. The mother jailed for refusing to vaccinate her son says she would «do it all over again». Washing-ton Post, 13 октября 2017 г.: https://www.washingtonpost.com/news/to-your-health/wp/2017/10/12/a-mother-was-jailed-for-refusing-to-vaccinate-her-son-now-shes-outraged-hes-been-immunized/?noredirect=on&utm_term=.f4e6c1378476

120

McKee, C., Bohannon, K. «Exploring the reasons behind parental refusal of vaccines». Journal of Pediatric Pharmacology and Therapeutics, 21, 104–109, 2016.

121

Lyall, K., Croen, L., Daniels, J., Fallin, M. D., Ladd-Acosta, C., Lee, B. K., Park, B. Y., Snyder, N. W., Schendel, D., Volk, H., Windham, G. C., Newschaffer, C. «The Changing Epidemiology of Autism Spectrum Disorders». Annual Review of Public Health, 38, 81–102, 2017.

122

Wakefield, A. J., Murch, S. H., Anthony, A., Linnell, J., Casson, D. M., Malik, M., Berelowitz, M., Dhillon, A. P., Thomson, M. A., Harvey P., Valentine, A., Davies, S. E., & Walker-Smith, J. A. «RETRACTED: Ileal-lymphoid-nodular hyperplasia, non-specific colitis, and pervasive developmental disorder in children». The Lancet, 351, 637–641, 1998.

123

Deer, B. «Reflections of investigating Wakefield». British Medical Journal, 340, 295, 2010;

Deer, B. «Wakefield’s “autistic enterocolitis” under the microscope». British Medical Journal, 40, 1127, 2010;

Deer, B. «How the case against the MMR vaccine was fixed». British Medical Journal, 342, 77–82, 2011;

Deer, B. «How the vaccine crisis was meant to make money». British Medical Journal, 342, 136–142, 2011;

Deer, B. «The Lancet’s two days to bury bad news». British Medical Journal, 342, 200–204, 2011;

Deer, B. «Pathology reports solve “new bowel disease” riddle». British Medical Journal, 343, 985–989, 2011;

Deer, B. «Who saw the “histological findings”?» British Medical Journal, 343, 1205, 2011.

124

Как и многие другие научные издания, The Lancet требует, чтобы авторы раскрывали потенциальный конфликт интересов. Отсутствие указания при его наличии, как правило, считается мошенничеством.

125

Jain, A., Marshall. J., Buikema, A., Bancroft, T., Kelly, J. P., Newschaffer, C. J. «Autism occurrence by MMR vaccine status among US children with older siblings with and without autism». Journal of the American Medical Association, 313, 1534–1540, 2015.

126

Hviid, A., Hansen, J. V, Frisch, M., Melbye, M. «Measles, mumps, rubella vaccination and autism: A nationwide cohort study». Annals of Internal Medicine, 170, 513–520, 2019.

127

Rao, T. S., Andrade, C. «The MMR vaccine and autism: Sensation, refutation, retraction, and fraud». Indian Journal of Psychiatry, 53, 95–96, 2011.

128

Korownyk, C., Kolber, M. R., Mccormack, J., Lam, V., Overbo, K., Cotton, C., Finley, C., Turgeon, R. D., Garrison, S., Linblad, A. J., Banh, H. L., Campbell-Scherer, D., Vandermeer, B., Allan, G. M. «Televised medical talk shows – what they recommend and the evidence to support their recommendations: A prospective observational study». British Medical Journal, 349, g7346, 2014.

129

Mutnick, A. «Senators scold Dr. Oz for weight-loss scams». USA Today, 17 июня 2014 г.: https://www.usatoday.com/story/life/people/2014/06/17/dr-oz-senate-panel-weight-scams/10701067/.

130

Frankfurt, H. «On bullshit». Raritan Quarterly Review, 6, 81–100, 1986.

131

Следует отметить, что участники исследования ни к чему не обязаны. На самом деле им несколько раз напоминали, что они свободны покинуть эксперимент в любой момент без каких-либо потерь относительно заключенного соглашения. И более того, половине говорили, что они не обязаны высказывать собственное мнение. Тот факт, что они все равно несли чушь, позволяет предположить, что даже слабый намек на обязательства достаточен, чтобы начать выдавать чушь как приемлемую форму общения.

132

Gigerenzer, G., Gaissmaier, W., Kurz-Milcke, E., Schwartz, L. M., Woloshin, S. «Helping doctors and patients make sense of health statistics». Psychological Science in the Public Interest, 8, 53–96, 2007;

Hoffrage, U., & Gigerenzer, G. «Using natural frequencies to improve diagnostic inferences». Academic Medicine, 73, 538–540, 1998;

Только в США ежегодно около 250 000 человек погибает в связи с ошибочными решениями, принятыми медицинскими работниками. Это третья по распространенности причина смерти (после сердечных болезней и рака, однако до инсульта, самоубийств и диабета). См.: Makary, M. A., Daniel, M. «Medical error: The third leading cause of death in the US». British Medical Journal, 353, i2139–i2141, 2016.

Согласно данным отчетов о вскрытиях, 5 % смертей были связаны с постановкой неправильного диагноза, при этом, если бы диагноз был поставлен корректно и лечение проводилось соответственно, смертельного исхода удалось бы избежать: Newman-Toker, D. E., Pronovost, P. J. «Diagnostic errors: The next frontier for patient safety». Journal of the American Medical Association, 301, 1060–1062, 2009.

Особенно тревожной в этой статистике представляется мысль, что эти ошибки совершают эксперты в области здравоохранения, которые специально обучались принимать верные медицинские решения.

133

Casscells, W., Schoenberger, A., Grayboys, T. B. «Interpretation by physicians of clinical laboratory results». New England Journal of Medicine, 299, 999–1000, 1978;

Brush, J. E., Lee, M., Sherbino, J., Taylor-Fishwick, J. C., Norman, G. «Effect of teaching Bayesian methods using learning by concept vs learning by example on medical students’ ability to estimate probability of a diagnosis: A randomized clinical trial». Journal of the American Medical Association, Network Open, 2(12): e1918023, 2019;

Eddy, D. M. «Probabilistic reasoning in clinical medicine: Problems and opportunities» В Принятие решений в неопределенности. Правила и предубеждения / под ред. Д. Канеман, А. Тверски, П. Славик). Гуманитарный центр, 2021;

Hammerton, M. «A case of radical probability estimation». Journal of Experimental Psychology, 101, 252–254, 1973;

Kerlikowske, K., Grady, D., Barclay, J., Sickles, E. A., Ernster, V. «Effect of age, breast density, and family history on the sensitivity of first screening mammography». Journal of the American Medical Association, 276, 33–38, 1996;

Kerlikowske, K., Grady, D., Barclay, J., Sickles, E. A., Ernster, V. «Likelihood ratios for modern screening mammography: Risk of breast cancer based on age and mammographic interpretation». Journal of the American Medical Association, 276, 39–43, 1996;

Molinaro, A. M. «Diagnostic tests: How to estimate the positive predictive value». Neuro-oncology Practice, 2, 162–166, 2015.

134

Buys, S. S., et al. «Effect of screening on ovarian cancer mortality: The Prostate, Lung, Colorectal and Ovarian (PLCO) Cancer Screening Randomized Controlled Trial». Journal of the American Medical Association, 305, 2295–2303, 2011.

135

Wegwarth, O., Gigerenzer, G. «US gynecologists’ estimates and beliefs regarding ovarian cancer screening’s effectiveness 5 years after release of the PLCO evidence». Scientific Reports, 8(1): 17181, 2018.

136

Simonson, I., Nye, P. «The effect of accountability on susceptibility to decision errors». Organizational Behavior and Human Decision Processes, 51, 416–446, 1992.

137

Канеман, Д. Думай медленно… решай быстро. АСТ, 2014.

138

Frankfurt, H. «On bullshit». Raritan Quarterly Review, 6, 81–100, 1986.

139

Craig, D. How to become a human bullshit detector: Learn to spot fake news, fake people, and absolute lies. Racehorse Publishing, 2017; Экман, П. Психология лжи. Обмани меня, если сможешь. – Питер, 2018. Meibauer, J. The Oxford handbook of lying. Oxford University Press, 2019.

140

WhiteHouse.gov. The inaugural address. WhiteHouse.gov, 20 января 2017 г.: https://www.whitehouse.gov/briefings-statements/the-inaugural-address/.

141

WhiteHouse.gov. Press briefing by Press Secretary Kayleigh McEnany, 11/20/2020. WhiteHouse.gov, 20 ноября 2020 г.: https://www.whitehouse.gov/briefings-statements/press-briefing-press-secretary-kayleigh-mcenany-11–20–2020/.

142

Petrocelli, J. V. «Politically-oriented bullshit detection: Attitudinally conditional bullshit receptivity and bullshit sensitivity». Group Processes and Intergroup Relations, 24, 2021.

143

Brem, S. K., Rips, L. J. «Explanation and evidence in informal argument». Cognitive Science, 24, 573–604, 2000.

144

Petrocelli, J. V. «Antecedents of bullshitting». Journal of Experimental Social Psychology, 76, 249–258, 2018.

145

Психолог Делрой Паулхус вместе с коллегами обнаружил, что люди заявляют, будто отлично разбираются в несуществующих вещах. Paulhus, D. L., Harms, P. D., Bruce, M. N., Lysy, D. C. «The over-claiming technique: Measuring self-enhancement independent of ability». Journal of Personality and Social Psychology, 84, 890–904, 2003.

146

Fuocco, M. A. «Trial and error: They had larceny in their hearts, but little in their heads». Pittsburgh Post-Gazette, 21 марта 1996 г., p. Dl.

147

Kruger, J., Dunning, D. «Unskilled and unaware of it: How difficulties in recognizing one’s own incompetence lead to inflated self-assessments». Journal of Personality and Social Psychology, 77, 1121–1134, 1999.

148

Квартиль – четверть выборки. Прим. ред.

149

Процентиль – отражающий процентное отношение значений в выборке, находящихся ниже данного показателя. Прим. ред.

150

Еще один пример так называемых тренингов мозга – Fast ForWord, который рекламируется как помощь детям с трудностями в обучении. Неудивительно, что системный анализ не обнаружил последовательных доказательств того, что Fast ForWord является эффективным способом борьбы с трудностями в обучении чтению или говорению. Многие когнитивные тренинги не более эффективны в развитии способностей детей, чем обычные программы, предназначенные для развития навыков чтения в возрасте до двух лет; Strong, G. K., Torgerson, C. J., Torgerson, D., Hulme, C. «A systematic meta-analytic review of evidence for the effectiveness of the “Fast ForWord” language intervention program». Journal of Child Psychology and Psychiatry, and Allied Disciplines, 52, 224–235, 2011.

151

Роберт Шеперд распознает и разоблачает чушь в критических статьях: Shepherd, R. «Would you trust this man? Norman Doidge and the brain’s way of… fooling you». Myndplan, 2017. https://medium.com/myndplan/would-you-trust-this-man-norman-doidge-and-the-brains-way-of-fooling-you-c7374f5d3718.

Shepherd, R. «10 ways to sell your product even when there’s no evidence that it works: The Arrowsmith Program of cognitive exercises». Myndplan, 2017. https://medium.com/myndplan/myndplan-9961a084f750.

152

Baumeister, R. F., Leary, M. R. «The need to belong: Desire for interpersonal attachments as a fundamental human motivation». Psychological Bulletin, 117, 497–529, 1995.

153

Gonsalkorale, K., Williams, K. D. «The KKK won’t let me play: Ostracism even by a despised outgroup hurts». European Journal of Social Psychology, 37, 1176–1186, 2007;

Williams, K. D. «Ostracism». Annual Review of Psychology, 58, 425–452, 2007;

Zadro, L., Williams, K. D., Richardson, R. «How low can you go? Ostracism by a computer is sufficient to lower self-reported levels of belonging, control, self-esteem, and meaningful existence». Journal of Experimental Social Psychology, 40, 560–567, 2004.

154

Интересно, что подставные участники эксперимента Уильямса не обязательно должны были находиться в комнате, чтобы отрицательное влияние остракизма начало сказываться. Хитроумная версия эксперимента – игра Cyberball, по сути, компьютерная симуляция перебрасывания мячиком. В ней участник сидит за компьютером в отдельной комнате, убежденный, что играет с двумя другими участниками, также сидящими в отдельных помещениях лаборатории. Другие два участника – всего лишь алгоритмы программы, но участник все равно чувствует себя подавленным, когда его исключают из игры.

155

Van Beest, I., Williams, K. D. «When inclusion costs and ostracism pays, ostracism still hurts». Journal of Personality and Social Psychology, 91, 918–928, 2006.

156

Rosenblatt, A. I., Carbone, P. S. Autism spectrum disorder: What every parent needs to know. American Academy of Pediatrics, 2019.

157

Biklen, D. «Communication unbound: Autism and praxis». Harvard Educational Review, 60, 291–315, 1990.

158

Beck, A. R., Pirovano, C. «Facilitated communicators’ performance on a task of receptive language». Journal of Autism and Developmental Disorders, 26(5), 497–512, 1996;

Green, G., Shane, H. C. «Facilitated communication: The claims vs. the evidence». Harvard Mental Health Letter, 10, 4–5, 1993;

Montee, B. B., Miltenberger, R. G., Wittrock, D. «An experimental analysis of facilitated communication». Journal of Applied Behavior Analysis, 28, 189–200, 1995;

Moore, S., Donovan, B., Hudson, A., Dykstra, J., Lawrence, J. «Evaluation of facilitated communication: Eight case studies». Journal of Autism and Developmental Disorders, 23, 531–539, 1993;

Mostert, M. P. «Facilitated communication since 1995: A review of published studies». Journal of Autism and Developmental Disorders, 31, 287–313, 2001;

Szempruch, J., Jacobson, J. W. «Evaluating the facilitated communications of people with developmental disabilities». Research in Developmental Disabilities, 14, 253–264, 1993.

159

Palfreman, J. (Producer). Frontline: Prisoners of silence. WGBH Public Television, 19 октября 1993 г.

160

«Dismay over Syracuse appointment of dean: Statement of disapproval of the research and teacher education communities in special education of the appointment of Douglas Biklen as Dean of Education at Syracuse University». SpedPro. https://web.archive.org/web/20070311014306/ http://spedpro.org/2005/10/31/dismay-over-syracuse-appointment-of-dean/

Riggott, J. «Pseudoscience in autism treatment: Are the news and entertainment media helping or hurting?» Scientific Review of Mental Health Practice, 4(1), 2005. https://web.archive.org/web/20131112175428/ http://www.srmhp.org/0401/media-watch.html

Также см.: Herbert, J. D., Sharp, I. R., Gaudiano, B. A. «Separating fact from fiction in the etiology and treatment of autism: A scientific review of the evidence». Scientific Review of Mental Health Practice, 1(1), 23–43.

161

Есть еще пять дополнительных тактик, которые используются реже, но также могут пригодиться мастеру чуши: (1) Использование эмоций, таких как злость и страх, чтобы побудить людей согласиться с их доводами. См: Leventhal H., Watts, J. C., Pagano, F. «Effects of fear and instructions on how to cope with danger». Journal of Personality and Social Psychology, 6, 313–321, 1967;

Feinberg, M., Willer, R. «Apocalypse soon? Dire messages reduce belief in global warming by contradicting just-world beliefs». Psychological Science, 22, 34–38, 2011;

Liberman, A., Chaiken, S. «Defensive processing of personally relevant health messages». Personality and Social Psychology Bulletin, 18, 669–679, 1992. (2) Принцип взаимности (например, я выручу тебя, если ты выручишь меня). См.: Cialdini, R. B., Green, B. L., Rusch, A. J. «When tactical pronouncements of change become real change: The case of reciprocal persuasion». Journal of Personality and Social Psychology, 63, 30–40, 1992;

Strohmetz, D. B., Rind, B., Fisher, R., Lynn, M. «Sweetening the till: The use of candy to increase restaurant tipping». Journal of Applied Social Psychology, 32, 300–309, 2002;

Seiter, J. S. «Ingratiation and gratuity: The effect of complimenting customers on tipping behavior in restaurants». Journal of Applied Social Psychology, 37, 478–485, 2007. (3) Иллюзия дефицита. См.: Ruge, D. W. The top 20 % in the modern digital age: Why 80 % of small businesses fail at sales and marketing and how you can succeed. The Successful Sales Manager. 2015. (4) Согласованная информация. Экономист и нобелевский лауреат Роберт Шиллер описывает механизм как социальную обратную связь, известную как иррациональное изобилие, а также как инвесторские пузыри (feedback loop investor bubbles) (эти термины часто приписывают бывшему председателю Федеральной резервной системы Алану Гринспену, но на самом деле его ввел Шиллер, который позднее написал книгу с таким названием): Shiller, R. J. «Irrational exuberance». Princeton University Press, 2000. (5) Принципы обязательства и постоянства. См.: Sherman, S. J. «On the self-erasing nature of errors of prediction». Journal of Personality and Social Psychology, 39, 211–221, 1980;

Cialdini, R. B., Sagarin, B. J. «Interpersonal influence». В Persuasion: Psychological insights and perspectives (In T. Brock, M. Green Eds.), pp. 143–169, 2005;

Guéguen, N., Joule, R. V., Courbet, D., Halimi-Falkowicz, S., Marchand, M. «Repeating “yes” in a first request and compliance with a later request: The four walls technique». Social Behavior and Personality, 41, 199–202, 2013.

162

Lilienfeld, S. O., Marshall, J., Todd, J. T., Shane, H. C. «The persistence of fad interventions in the face of negative scientific evidence: Facilitated communication for autism as a case example». Evidence-Based Communication Assessment and Intervention, 8, 62–101, 2014.

163

Отказ признать важность доказательств, опровергающих эффективность методики облегченной коммуникации, можно проиллюстрировать историей Умного Ганса. Так звали лошадь, чей хозяин объявил, что Умный Ганс способен решать сложные арифметические примеры и математические задачки. Психолог Оскар Пфунгст провел формальное расследование в 1907 г. и обнаружил: на самом деле лошадь не решала эти примеры. Умный Ганс считывал намеки владельца, наблюдая за ним и за реакциями людей вокруг, чтобы дать правильный ответ.

Heinzen, T. E., Lilienfeld, S. O., Nolan, S. A. «Clever Hans: What a horse can teach us about self-deception». Skeptic, 20(1), 10–17, 2015;

Pfungst, O. Clever Hans: The horse of Mr. Van Osten. New York: Holt, Rinehart and Winston, 1907.

Все исследования методики облегченной коммуникации были развенчаны. См.: Gorman, B. J. «Facilitated communication in America: Eight years and counting». Skeptic, 6(3), 64–71, 1998.

Хорошо подготовленная и наглядная визуальная демонстрация базового способа, который использовался для опровержения эффективности можно посмотреть в:

Palfreman, J. (Producer). Frontline: Prisoners of silence. WGBH Public Television, 19 октября 1993 г.;

Sobel, S. «Facilitated communication redux: Persistence of a discredited technique». Skeptic, 23(3), 6–9, 2018.

164

Bausell, R. B. Snake oil science: The truth about complementary and alternative medicine. Oxford University Press, 2007;

Ernst, E. SCAM: So-called alternative medicine. Imprint Academic, 2018.

165

Choy, E. How two leaders use hidden storytelling techniques to inform and influence. Forbes, 2 декабря 2018 г.: https://www.forbes.com/sites/estherchoy/2018/12/02/how-leaders-use-storytelling/#1ee6507a5703.

Dunlop, W. L., Tracy, J. L. «Sobering stories: Narratives of self-redemption predict behavioral change and improved health among recovering alcoholics». Journal of Personality and Social Psychology, 104, 576–590, 2013;

Krippendorff, K. «Storytelling and influence: Learn how to get what you want». Fast Company, 23 сентября 2010 г.: https://www.fastcompany.com/1680723/storytelling-and-influence-learn-how-get-what-you-want.

Krippendorff, K. Outthink the competition: How a new generation of strategists sees options others ignore. John Wiley & Sons 2012;

McGregor, I., Holmes, J. G. «How storytelling shapes memory and impressions of relationship events over time». Journal of Personality and Social Psychology, 76, 403–419, 1999;

Merchant, A., Ford, J. B., Sargeant, A. «Charitable organizations’ storytelling influence on donors’ emotions and intentions». Journal of Business Research, 63, 754–762, 2010;

Petrocelli, J. V., Sherman, S. J. «Event detail and confidence in gambling: The role of counterfactual thought reactions». Journal of Experimental Social Psychology, 46, 61–72, 2010;

Valsesia, F., Diehl, K., Nunes, J. C. «Based on a true story: Ma-king people believe the unbelievable». Journal of Experimental Social Psychology, 71, 105–110, 2017.

166

Jenni, K. E., & Loewenstein, G. «Explaining the “Identifiable Victim Effect”». Journal of Risk and Uncertainty, 14, 235–257, 1997;

Schelling, T. C. «The life you save may be your own. В Problems in public expenditure analysis» (In S. B. Chase Eds.). The Brookings Institute, 1968;

Small, D. A., Loewenstein, G. «Helping a victim or helping the victim: Altruism and identifiability». Journal of Risk and Uncertainty, 26, 5–16, 2003.

167

Shermer, M. Why people believe weird things: Pseudoscience, superstition, and other confusions of our time. W. H. Freeman and Company, 1997.

168

Nisbett R. E., Ross, L. Human inference: Strategies and shortcomings of social judgment. Prentice-Hal, 1980;

Саган, К. Мир, полный демонов: Наука – как свеча во тьме. – Альпина Паблишер, 2018;

Принятие решений в неопределенности. Правила и предубеждения (под ред. Канеман Д., Тверски А., Славик П.). – Гуманитарный центр, 2021.

Tversky, A., Kahneman, D. «Belief in the law of small numbers». Psychological Bulletin, 76, 105–110, 1971.

169

Chopra, D. [@DeepakChopra]. Twitter, 16 мая 2020 г. https://twitter.com/DeepakChopra

170

Baer, H. A. «The work of Andrew Weil and Deepak Chopra – Two holistic health/new age gurus: A critique of the holistic health/new age movements». Medical Anthropology Quarterly, 17, 240–241, 2003;

Chopra, D. Quantum healing: Exploring the frontiers of mind/body medicine. Bantam Books, 1989;

Чопра, Д. Безграничная энергия. Полная программа по преодолению хронической усталости. – София, 2007;

Чопра, Д. Тело и ум, не подвластные времени. – София, 2009;

Чопра, Д. Совершенное здоровье. – Будущее Земли, 2005.

171

Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., Fugelsang, J. A. «On the reception and detection of pseudo-profound bullshit». Judgment and Decision Making, 10, 549–563, 2015.

172

Chopra, D. Twitter, 1 октября 2020 г.: https://twitter.com/Dee-pakChopra.

173

Cohen, G. A. «Deeper into bullshit». В Contours of agency: Essays on themes from Harry Frankfurt (под ред. S. Buss и L. Overton), pp. 321–339. MIT Press, 2002.

174

Брафман, О., Бекстрем, Р. А. Морская звезда и паук. Неудержимая сила организаций без лидеров. BestBusinessBooks, 2011.

175

Отличный пример можно найти в: Redding, D., Whitmire, T. Freed to lead: F3 and the unshackling of the modern-day warrior. The Iron Project, 2014. Также см.: F3Nation. Lexicon. https://f3nation.com/lexicon/ «4E» – это сокращение для выражения «четвертая власть», имеется в виду журналистика, а полная чуши идея «10 на 90», значит «10 % людей в любом сообществе или организации отвечает за 90 % ее действий».

176

Оруэлл, Д. 1984. – АСТ, 2013.

177

Law, S. Believing bullshit: How not to get sucked into an intellectual black hole. Prometheus Books, 2011.

178

The Chopra Center «10 tips on how to live your best life». 31 августа 2018 г.: https://chopra.com/articles/how-to-live-your-best-life

Подход Дипака к достижению счастливой жизни, может, и звучит фантастично, но на самом деле лишь малая часть всех его тезисов подтверждены эмпирически. Если бы он полагался на научные доказательства, то, наверное, включил бы в этот список пункты, которые уже давно подтверждены в исследованиях, посвященных субъективному благополучию и уровню довольства жизнью. Допустим, пытаться понять точку зрения других; понимать, что счастливыми нас делают люди, а не вещи; считать свою жизнь приоритетнее работы; использовать логику, чтобы постепенно менять жизнь к лучшему; а также справляться со стрессом, в первую очередь определив значимость стрессогенного фактора и анализируя, что с ним можно сделать. См.: Bakker, G. M. «Nine evidence-based guidelines for a good life». Skeptic, 43(6), 34–39, 2019.

179

И многие люди, по всей видимости, действительно так считают. См.: Dalton, C. «Bullshit for you; transcendence for me. A commentary on “On the reception and detection of pseudo-profound bullshit”». Judgment and Decision Making, 11, 121–122, 2016;

Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., Fugelsang, J. A. «It’s still bullshit: Reply to Dalton». Judgment and Decision Making, 11, 123–125, 2016.

180

Барнс, Р. (Producer). Враги разума. IWC Media, 13 августа 2007 г. См. также: Molé, P. «Deepak’s dangerous dogmas». Skeptic, 6(2), 38–45, 1998;

Shermer, M. «The great afterlife debate: Michael Shermer vs. Deepak Chopra». Skeptic, 13(4), 52–55, 2007.

181

Sokal, A. D. «Transgressing the boundaries: Toward a transformative hermeneutics of quantum gravity». Social Text, 14, 217–252, 1996;

Сокал, А., Брикмон, Ж. Интеллектуальные уловки. – Дом интеллектуальной книги, 2002.

182

Sokal, A. «A physicist experiments with cultural studies». Lingua Franca, 1 мая 1996 г.: http://linguafranca.mirror.theinfo.org/9605/sokal.html/

183

Heap, M. «Ideomotor effect (the “Ouija Board” effect)». В The skeptic encyclopedia of pseudoscience (In M. Shermer Eds.), pp. 127–129. ABC–CLIO, 2002.

184

Simpkins, A. M., & Simpkins, C. A. «Core principles of meditation for therapy: Improving the outcome of psychotherapeutic treatments». John Wiley & Sons, 2016.

185

Даже Ричард Фейнман, физик-теоретик и лауреат Нобелевской премии сказал: «Думаю, я смело могу сказать, что квантовой механики никто не понимает».

186

Bausell, R. B. Snake oil science: The truth about complementary and alternative medicine. Oxford University Press, 2007;

Buekens, F., Boudry, M. «The dark side of the loon: Explaining the temptations of obscurantism». Theoria, 81, 126–142, 2015;

Ernst, E. SCAM: So-called alternative medicine. Imprint Academic, 2018;

Lindeman, M. «Biases in intuitive reasoning and belief in complementary and alternative medicine». Psychology and Health, 26, 371–382, 2011;

Sperber, D. «The guru effect». Review of Philosophy and Psycho-logy, 1, 583–592, 2010.

187

Enron Annual Report, 2000. https://picker.uchicago.edu/Enron/EnronAnnualReport2000.pdf

188

Генератор корпоративной тарабарщины Эндрю Дэвидсона.

189

Фьюджер, Б., Хардэуэй, К., Варшавски, Д. Почему бизнесмены говорят как идиоты. – Харвест, 2006.

190

Сейчас у нас есть целый ряд словарей, посвященных чуши, чтобы мы были в курсе модных слов корпоративного мира, пространства юриспруденции и политики. Beckwith, L. The dictionary of corporate bullshit: An a to z lexicon of empty, enraging, and just plain stupid office talk. Broadway Books, 2006;

Duncan, K. The business bullshit book: The world’s most comprehensive dictionary. LID Publishing, 2016;

Фьюджер, Б., Хардэуэй, К., Варшавски, Д. Почему бизнесмены говорят как идиоты. – Харвест, 2006;

Law, D. A dictionary of bull****: A lexicon of corporate and office-speak. Constable and Robinson, 2008;

Webb, N. The dictionary of political bullshit. JR Books, 2010;

Webb, N. The dictionary of (bull-shit): A shamelessly opinionated guide to all that is absurd, misleading and insincere. Sourcebooks, 2006; Young, R. The dictionary of legal bullshit. Sphinx Publishing, 2007.

191

Kelley, H. H. «Attribution theory in social psychology». В Nebraska Symposium on Motivation. Vol. 15. In D. Levine Eds., pp. 192–238. University of Nebraska Press, 1967;

Kelley, H. H. «The process of causal attribution». American Psychologist, 28, 107–128, 1973.

192

Mallet, M., Nelson, B., Steiner, C. The most annoying, pretentious and useless business jargon. Forbes, 26 января 2012 г.: https://www.forbes.com/sites/groupthink/2012/01/26/the-most-annoying-pretentious-and-useless-business-jargon/#66f9fb982eea.

193

Emre, M. The personality brokers: The strange history of Myers-Briggs and the birth of personality testing. Doubleday, 2018.

194

На эту тему убедительно высказался антрополог Дэвид Гребер, антрополог. Гребер, Д. Бредовая работа. Трактат о распространении бессмысленного труда. – Ад Маргинем, 2020.

195

https://arrowsmithschool.org/arrowsmith-schoolonline/

196

Weber, R. C., Denyer, R., Yeganeh, N. M., Maja, R., Murphy, M., Martin, S., Chiu, L., Nguy, V., White, K., Boyd, L. «Interpreting the preliminary outcomes of the Arrowsmith Programme: A neuroimaging and behavioural study». Learning: Research and Practice, 5, 126–148, 2019.

197

Hovland, C. I., Weiss, W. «The influence of source credibility on communication effectiveness». Public Opinion Quarterly, 15, 635–650, 1951;

Kelman, H. C., Hovland, C. I. «Reinstatement» of the communicator in delayed measurement of opinion change». Journal of Abnormal and Social Psychology, 48, 327–335, 1953;

Mills, J., Jellison, J. M. «Effect on opinion change of how desirable the communication is to the audience the communicator addressed». Journal of Personality and Social Psychology, 6, 98101, 1967;

Petty, R. E., Wegener, D. T. «Attitude change: Multiple roles for persuasion variables». В The handbook of social psychology (Vol. 1, под ред. D. T. Gilbert, S. T. Fiske, G. Lindzey), pp. 323–390. McGraw-Hill, 1998;

Rhine, R., Severance, L. «Ego-involvement, discrepancy, source credibility, and attitude change». Journal of Personality and Social Psychology, 16, 175–190, 1970.

198

Dorlo, T. P., Betz, W., Renckens, C. N. «WHO’s strategy on traditional and complementary medicine: A disgraceful contempt for evidence-based medicine». Skeptical Inquirer, 39(3), 42–45, 2015;

Gorski, D. H. «Science sells out: Advertising traditional Chinese medicine in three supplements». Skeptical Inquirer, 39(3), 46–48, 2015;

Nickell, J. «Traditional Chinese medicine: Views East and West». Skeptical Inquirer, 36(2), 18–20, 2012;

Renckens, C. N., Dorlo, T. P. «Quackery at WHO: A Chinese affair». Skeptical Inquirer, 43(5), 39–43, 2019;

Novella, S. «What is acupuncture?» Skeptical Inquirer, 35(4), 28–29, 2011;

Point, S. «Laser acupuncture: High-tech placebo». Skeptical Inquirer, 43(5), 50–51, 2019;

Ulett, G. A. «Acupuncture’s secrets revealed». Skeptic, 5(4), 46–51, 1997;

Ulett, G. A. «Acupuncture, magic, and make-believe». Skeptical Inquirer, 27(2), 47–50, 2003.

199

Deepak Chopra: Never eat with people you don’t like. The Oprah Winfrey Show, Oprah Winfrey Network. https://www.youtube.com/watch?v=55nTtwpIPro

200

Bleske-Rechek, A., Paulich, K., Jorgensen, K. «Therapeutic touch redux: Twenty years after the “Emily Event”, energy therapies live on through bad science». Skeptic, 24(2), 26–31, 2019;

Rosa, L., Rosa, E., Sarner, L., Barrett, S. «A close look at therapeutic touch». Journal of the American Medical Association, 279, 1005–1010, 1998.

201

McCarthy, T. «A year in Trump’s orbit: A timeline of Steve Bannon’s political career». 18 августа 2017 г.: https://www.theguardian.com/us-news/2017/aug/18/a-year-in-trumps-orbit-a-timeline-of-steve-bannons-political-career

2 февраля 2017 г. Бэннона назвали Великим Манипулятором и «вторым по влиятельности человеком в мире» на обложке журнала Time. По имеющимся сведениям, президенту Трампу не понравилось подобное освещение его соратника в медиа. К 4 апреля 2017 г. Трамп подтвердил, что Бэннон вышел из милости, сказав в интервью для New York Post, что он «сам себе стратег», и сказав Wall Street Journal, что Бэннон был просто «парень, который на меня работал».

202

Kelsey, A., Stracqualursi, V. «Why Trump’s appointment of Steve Bannon has raised so many alarms». ABC News, 15 ноября 2016 г.: https://abcnews.go.com/Politics/trumps-appointment-steve-bannon-raised-alarms/story?id=43554212.

203

Graham, D. A. «Why Trump turned on Steve Bannon». The Atlantic, 3 января 2018 г.: https://www.theatlantic.com/politics/archive/2018/01/the-president-vs-steve-bannon/549617/.

204

Bump, P. «Bolton joins a select group: Those once praised and now derided by the president». Washington Post, 29 января 2019 г.: https://www.washingtonpost.com/politics/2020/01/29/bolton-joins-select-group-those-once-praised-now-derided-by-president/.

Malloy, A. «Trump slams Bolton as Senate considers calling him as a witness». CNN Politics, 20 января 2020 г.: https://www.cnn.com/2020/01/29/politics/donald-trump-john-bolton/index.html.

205

Frazin, R. «Trump renews attacks on Omarosa, slamming her as «disgusting and foul mouthed». The Hill, 31 августа 2019 г.: https://thehill.com/homenews/administration/459522-trump-slams-omarosa-as-disgusting-and-foul-mouthed.

206

Underberg, J. E., Gollwitzer, A., Oettingen, G., Gollwitzer, P. M. «The best words: Linguistic indicators of grandiose narcissism in politics». Journal of Language and Social Psychology, 39, 271–281, 2020.

207

Hamblin, C. Fallacies. Methuen, 1970; Lewiński, M., Oswald, S. «When and how do we deal with straw men? A normative and cognitive pragmatic account». Journal of Pragmatics, 59, 164–177, 2013.

208

Cooper, H. «Some Obama enemies are made totally of straw». New York Times, 23 мая 2009 г.: https://www.nytimes.com/2009/05/24/us/politics/24straw.html.

209

Bizer, G. Y., Kozak, S. M., Holterman, L. A. «The persuasiveness of the straw man rhetorical technique». Social Influence, 4, 216–230, 2009.

210

История Ланса Мерфи – это история, типичная для многих представителей фармацевтических компаний по всему миру. Тем не менее, чтобы Ланс Мерфи смог избежать нежелательного внимания, его имя, должность, а также названия компаний, с которыми он работал, выдуманы. Остальные элементы его рассказа не были изменены.

211

O’Connor, C., Weatherall, J. O. The misinformation age: How false beliefs spread. Yale University Press, 2019; O’Connor, C., Weatherall, J. O. «Why we trust lies: The most effective misinformation starts with seeds of truth». Scientific American, 321(3), 54–61, 2019.

212

Замечательную пародию на TED Talks можно посмотреть в шоу Last Week Tonight с Джоном Оливером (сезон 3, эпизод 11, вышел 8 мая 2016 г). Оливер изобразил вводящие в заблуждение научные исследования в TODD Talks. В пародии преувеличена ложная информация, которую обычно подают в TED Talks, но ненамного.

213

Thurlow, C. «Intermittent fasting: Transformational technique». TedXGreenville, 15 мая 2019 г.: https://www.youtube.com/watch?v=A6Dkt7zyImk.

214

Bhutani, S., Klempel, M. C., Kroeger, C. M., Aggour, E., Calvo, Y., Trepanowski, J. F., Hoddy, K. K., Varady, K. A. «Effect of exercising while fasting on eating behaviors and food intake». Journal of the International Society of Sports Nutrition, 10, 50, 2013;

Byrne, N. M., Sainsbury, A., King, N. A., Hills, A. P., Wood, R. E. «Intermittent energy restriction improves weight loss efficiency in obese men: The MATADOR study». International Journal of Obesity, 42, 129, 2017;

Hoddy, K. K., Gibbons, C., Kroeger, C. M., Trepanowski, J. F., Barnosky, A., Bhutani, S., & Varady, K. A. «Changes in hunger and fullness in relation to gut peptides before and after 8 weeks of alternate day fasting». Clinical Nutrition, 35, 1380–1385, 2016;

Klempel, M. C., Bhutani, S., Fitzgibbon, M., Freels, S., Varady, K. A. «Dietary and physical activity adaptations to alternate day modified fasting: Implications for optimal weight loss». Nutrition Journal, 9, 35, 2010;

Varady, K. A., Hellerstein, M. K. «Alternate-day fasting and chronic disease prevention: a review of human and animal trials». The American Journal of Clinical Nutrition, 86, 7–13, 2007.

215

Rabinowitz, J. D., White, E. «Autophagy and metabolism». Science, 330, 1344–1348, 2010.

216

Stockman, M. C., Thomas, D., Burke, J., Apovian, C. M. «Intermittent fasting: Is the wait worth the weight?» Current Obesity Reports, 7, 172–185, 2018.

217

Как можно предположить, чем больше условий в утверждении, тем менее оно вероятно. Исследователи суждений и принятия решений называют исходы со множеством условий конъюнкцией. Ставки на спорт и казино наживаются на конъюнктивных ставках, так как успешный исход крайне маловероятен. Чем больше конъюнкций требуется, чтобы утверждение было истинным, тем больше вероятность, что это чушь.

218

Liberman, N., Trope, Y., McCrea, S. M., Sherman, S. J. «The effect of level of construal on the temporal distance of activity enactment». Journal of Experimental Social Psychology, 43, 143–149, 2007;

McCrea, S. M., Liberman, N., Trope, Y., Sherman, S. J. «Construal level and procrastination». Psychological Science, 19, 1308–1314, 2008.

219

Alcock, J. E. Belief: What it means to believe and why our convictions are so compelling. Amherst, NY: Prometheus Books, 2018; Boghossian, P., & Lindsay, J. How to have impossible conversations: A very practical guide. Lifelong Books, 2019;

Haidt, J. «The emotional dog and its rational tail: A social intuitionist approach to moral judgment». Psychological Review, 108, 814–834, 2001;

Шермер, М. Тайны мозга. Почему мы во все верим. – Эксмо, 2015.

220

В Мировой серии 1927 г. The New York Yankees выиграли у Pittsburgh Pirates. Однако в «более свежей» Всемирная серия 1960 года Пираты выиграли у Янкиз.

221

Schwartz, N. «Self-reports: How the questions shape the answers». American Psychologist, 54, 93–105, 1999.

222

Bellos, A. «Did you solve it? The logic question almost everyone gets wrong». The Guardian, 28 марта 2016 г.: https://www.theguardian.com/science/2016/mar/28/did-you-solve-it-the-logic-question-almost-everyone-gets-wrong.

Robson, D. The intelligence trap: Why smart people make dumb mistakes. W. W. Norton & Company, 2019.

223

Конечно, этот совет работает только в случае, когда можно предположить, что ведущий всегда предлагает участникам изменить решение вне зависимости от первоначального выбора. Если он собирается вас обмануть, то предложит вам этот выбор только в случае, если участник изначально выбрал дверь с призом. В таком случае выбор другой двери всегда приведет к козлу, а ведущий оставит приз себе до следующего эпизода шоу.

224

Petrocelli, J. V., Harris, A. K. «Learning inhibition in the Monty Hall Problem: The role of dysfunctional counterfactual prescriptions». Personality and Social Psychology Bulletin, 37, 1297–1311, 2011;

Rosenhouse, J. The Monty Hall problem: The remarkable story of math’s most contentious brain teaser. Oxford University Press, 2009.

225

Расстояние от Вашингтона до Сан-Франциско приблизительно составляет 3 тысячи миль, и в него входят три часовых пояса. Оба города находятся далеко от экватора, но логично предположить, что в районе экватора в США 4 часовых пояса (Западный, Центральный, Горный и Тихоокеанский), которые покрывают около 4 тысяч миль, а значит, у нас получается по тысяче миль на один часовой пояс. Часовых поясов 24, и будет логичным предположение, что окружность Земли составляет 24 000 миль. На самом деле окружность Земли – 24 900 миль. Сложить лист бумаги пополам сто раз невозможно. Один сгиб = 0,2 мм;

2 сгиба = 0,4 мм; 5 сгибов = 3,2 мм; 30 сгибов = 1 миля;

42 сгиба = 275 миль (больше, чем расстояние от Земли до Луны), 100 сгибов = радиус известной нам Вселенной, 1 миллиард световых лет, или же 850 триллионов раз взятое расстояние от Земли до Солнца! (93 миллиона миль).

226

Fox News. «Food stamp fraud at an all-time high: Is it time to end the program?». 27 декабря 2016 г.: https://video.foxnews.com/v/5262528761001#sp=show-clips.

227

United States Department of Agriculture. «Food and Nutrition Service: Supplemental Nutrition Assistance Program, Program Accountability and Administration Division. State activity Report. Fiscal Year 2016», 1 сентября 2017 г.: https://fns-prod.azureedge.net/sites/default/files/snap/FY16-State-Activity-Report.pdf.

В 2016 г. общая сумма убытков на мошенничестве составила $592,7 млн, а не $70 млн (и никто не знает, откуда в Fox & Friends взялась цифра $70 млн). В этом же году общая стоимость программы составила $66 млрд 539 млн, и, таким образом, процент убытков на мошенничестве – 0,001 %, все равно меньше 1 %. В 2016 г. население США составляло 323 млн, и 44,2 млн пользовались помощью программы (13,6 %). Средняя стоимость затрат на одного получателя в месяц составляла $125,4 ($1504,8 в год). Количество получателей, которые не прошли проверки, составило 55 930 человек (менее 1 % всех получателей).

228

Wemple, E. «Agriculture Department seeks correction from Fox News on food-stamp fraud report». Washington Post, 29 декабря 2016 г.: https://www.washingtonpost.com/blogs/erik-wemple/wp/2016/12/29/agriculture-department-seeks-correction-from-fox-news-on-food-stamp-fraud-report/.

В этот раз общая сумма была названа неверно, но уже ближе к настоящей сумме, к $858 млн: United States Department of Agriculture. «The extent of trafficking in the Supplemental Nutrition Assistance Program: 2009–2011 (Summary)», 1 августа 2013 г.: https://fns-prod.azureedge.net/sites/default/files/Trafficking2009_Summary.pdf.

Wemple, E. «Fox News runs incorrect correction of food-stamp fraud report, then corrects correction». Washington Post, 30 декабря 2016 г.: https://www.washingtonpost.com/blogs/erik-wemple/wp/2016/12/30/fox-news-runs-incorrect-correction-of-food-stamp-fraud-report-then-corrects-correction/.

229

Hancock, J. T., Curry, L. E., Goorha, S., Woodworth, M. «On lying and being lied to: A linguistic analysis of deception in computer-mediated communication». Discourse Processes, 45, 1–23, 2008;

Niederhoffer, K. G., Pennebaker, J. W. «Linguistic style matching in social interaction». Journal of Language and Social Psychology, 21, 337–360, 2002;

Newman, M. L., Pennebaker, J. W., Berry, D. S., Richards, J. M. «Lying words: Predicting deception from linguistic styles». Personality and Social Psychology Bulletin, 29, 665–675, 2003.

230

Lee, M. S., Choi, J., Posadzki, P., Ernst, E. «Aromatherapy for healthcare: An overview of systematic reviews». Maturitas, 71, 257–260, 2012.

231

Le Trionnaire, S., Perry, A., Szczesny, B., Szabo, C., Winyard, P. G., Whatmore, J. L., Wood, M. E., Whiteman, M. «The synthesis and functional evaluation of a mitochondria-targeted hydrogen sulfide donor (10-oxo-10-(4-(3-thioxo-3H-1,2-dithiol-5-yl)-phenoxy)decyl)triphenylphosphonium bromide (AP39)». Medical Chemistry Communication, 5, 728–736, 2014.

232

ScienceDaily.com. «Rotten egg gas holds key to health-care therapies». ScienceDaily.com, 9 июля 2014 г.: https://www.sciencedaily.com/releases/2014/07/140709115455.htm.

233

Многие из данных статей были отозваны после того, как выяснилось, что они неверно интерпретировали оригинальное исследование. См.: Stampler, L. «A stinky compound may protect against cell damage, study finds». Time, 11 июля 2014 г: https://time.com/2976464/rotten-eggs-hydrogen-sulfide-mitochondria/;

Downey, A. «Sniffing your partners’ farts could help ward off disease». New York Post, 27 октября 2017 г.: https://nypost.com/2017/10/27/sniffing-your-partners-farts-could-help-ward-off-disease/.

234

Фишер, У. Юри. Переговоры без поражения. Гарвардский метод. Манн, Иванов и Фербер, 2020.

235

Epstein, E. J. «Have you ever tried to sell a diamond?». Atlantic Monthly, 249(2), 23–34, 1982.

236

Crockett, Z., Dhar, R., Mayyasi, A. Everything is bullshit. Priceonomics, 2014.

237

История Кристины Прайс типична для агентов по недвижимости по всему миру. Тем не менее для защиты конфиденциальности, ее имя было изменено. Остальные элементы истории правдивы.

238

Turpin, M. H., Walker, A. C., Kara-Yakoubian, M., Gabert, N. N., Fugelsang, J. A., Stolz, J. A. «Bullshit makes the art grow profounder». Judgment and Decision Making, 14, 658–670, 2019.

239

Rule, A., Levine, D. «International art English: On the rise, and the space, of the art world press release». Triple Canopy, 16, 7–30, 2012.

240

Dawes, R. M. «The robust beauty of improper linear models in decision making». American Psychologist, 34, 571–582, 1979;

Hardman, D. «Judgment and decision making: Psychological perspectives». BPS-Blackwell, 2009;

Harte, J. M., Koele, P. «Modelling and describing human judgement processes: The multiattribute evaluation case». Thinking and Reasoning, 7, 29–49, 2001;

Kim, N. S. Judgment and decision making: In the lab and the world. Palgrave, 2018;

Payne, J. W., Bettman, J. R., Johnson, E. J. «Adaptive strategy selection in decision making». Journal of Experimental Psychology: Learning, Memory, and Cognition, 14, 534–552, 1988;

Svenson, O. «Process descriptions of decision making». Organizational Behavior and Human Performance, 23, 86–112, 1979.

241

Newell, A., Simon, H. A. Human problem solving. Prentice-Hall, 1972.

242

Hirt, E. R., Castellan, N. J. «Probability and category redefinition in the fault tree paradigm». Journal of Experimental Psychology: Human Perception and Performance, 14, 122–131, 1988.

243

Facione, P. A., Facione, N. C., Giancarlo, C. A. User manual: The California Critical Thinking Disposition Inventory. California Academic Press, 2014;

Facione, P. A., Giancarlo, C. A., Facione, N. C., Gainen, J. «The disposition toward critical thinking». Journal of General Education, 44, 1–25, 1995.

244

Stone, E. R., Yates, J. F., Parker, A. M. «Risk communication: Absolute versus relative expressions of low-probability risks». Organizational Behavior and Human Decision Processes, 60, 387–408, 1994.

245

Kahneman, D., & Thaler, R. «Utility maximization and experienced utility». Journal of Economic Perspectives, 20, 221–234, 2006.

246

Stanovich, K. E. «The comprehensive assessment of rational thinking». Educational Psychologist, 51, 23–34, 2016;

Stanovich, K. E., West, R. F. «Reasoning independently of prior belief and individual differences in actively open-minded thin-king». Journal of Educational Psychology, 89, 342–357, 1997;

Toplak, M. E., West, R. F., Stanovich, K. E. «Rational thinking and cognitive sophistication: Development, cognitive abilities, and thin-king dispositions». Developmental Psychology, 50, 1037–1048, 2014.

См. также: McElroy, T., Dowd, K. «Susceptibility to anchoring effects: How openness-to-experience influences responses to anchoring cues». Judgment and Decision Making, 2, 48–53, 2007.

Furnham, A., Boo, H. C., McClelland, A. «Individual differences and the susceptibility to the influence of anchoring cues». Journal of Individual Differences, 33, 89–93, 2012.

247

Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., Fugelsang, J. A. «On the reception and detection of pseudo-profound bullshit». Judgment and Decision Making, 10, 549–563, 2015.

248

Facione, P. A. Critical thinking: A statement of expert consensus for purposes of educational assessment and instruction. California Academic Press, 1990.

Метод Дельфи – это методология количественного исследования, куда входит коллегия экспертов, которые работают над определением и изложением конкретной темы. Эксперты по очереди отвечают на несколько рядов вопросов, продуманно и подробно. Входящие в коллегию специалисты стремятся достигнуть консенсуса, делясь своими обоснованными мнениями и редактируя свою позицию с учетом комментариев, возражений и аргументов других экспертов. Всего 46 ученых, деятелей образования и специалистов в области теории критического мышления. Примерно половина участников связаны с факультетами философии, остальные с образованием, социальными науками и психологией. Рекомендации, полученные в ходе дискуссии, относятся к когнитивному аспекту критического мышления, ситуационному аспекту критического мышления. Помимо этого были выделены рекомендации, посвященные развитию и оценке критического мышления, включая разработку учебной программы по нему.

249

Novella, S., DeAngelis, P. «Dowsing». В The skeptic encyclopedia of pseudoscience (In M. Shermer Eds.), pp. 93–94. ABC–CLIO, 2002.

250

United States Geological Survey. «General facts and concepts about ground water», октябрь 2020 г.: https://pubs.usgs.gov/circ/circ1186/html/gen_facts.html.

251

Enright, J. T. «The failure of the Munich experiments». Skeptical Inquirer, 23(1), 39–46, 1999.

Также см. видео на YouTube: CoolGuy23423, «Dawkins debunks dowsing», из «Враги разума» [Video]. YouTube, 30 января 2009 г.: https://www.youtube.com/watch?v=_VAasVXtCOI.

252

National Consortium for the Study of Terrorism and Responses to Terrorism. Global terrorism database, 2017. https://www.start.umd.edu/research-projects/global-terrorism-database-gtd;

Ritchie, H., Hasell, J., Appel, C., Roser, M. «Terrorism: Our world in data», 2019. https://ourworldindata.org/terrorism#how-many-people-are-killed-by-terrorists-worldwide.

253

Стоимость производства одного устройства не превышала 60 долларов. Norland, R. «Iraq swears by bomb detector U.S. sees as useless». New York Times, 3 ноября 2009 г.: https://www.nytimes.com/2009/11/04/world/middleeast/04sensors.html.

254

Hawley, C., Jones, M. «Useless bomb detector sold worldwide risks lives». BBC News, 22 января 2010 г.: http://news.bbc.co.uk/2/hi/programmes/newsnight/8471187.stm.

Mohammed, R., Nordland, R. «British man held for fraud in Iraq bomb detectors». New York Times, 23 января 2010 г.: https://www.nytimes.com/2010/01/24/world/europe/24scanner.html.

255

French, C. «The unseen force that drives Ouija boards and fake bomb detectors». The Guardian, 27 апреля 2013 г.: https://www.theguardian.com/science/2013/apr/27/ouija-boards-dowsing-rods-bomb-detectors.

256

Doherty, B. «Box of dreams». Reason, 11 ноября 1996 г.: https://reason.com/1996/11/01/box-of-dreams/.

Higginbotham, A. «In Iraq, the bomb-detecting device that didn’t work, except to make money». Bloomberg Businessweek, 11 июля 2013 г.: https://www.bloomberg.com/news/articles/2013–07–11/in-iraq-the-bomb-detecting-device-that-didnt-work-except-to-make-money.

257

Hussain, M. «This fake bomb detector is blamed for hundreds of deaths. It’s still in use». TheIntercept.com, 23 ноября 2015 г.: https://theintercept.com/2015/11/23/this-fake-bomb-detector-is-blamed-for-hundreds-of-deaths-its-still-in-use/.

258

Шермер, М. Тайны мозга. Почему мы во все верим. – Эксмо, 2015.

259

Gilovich, T., Vallone, R., & Tversky, A. «The hot hand in basketball: On the misperception of random sequences». Cognitive Psychology, 17, 295–314, 1985;

Kahneman, D., Tversky, A. «Belief in the law of small numbers». Psychological Bulletin, 76, 105–110, 1971;

Thompson, W. C. «Painting the target around the matching profile: The Texas sharpshooter fallacy in forensic DNA interpretation». Law, Probability and Risk, 8, 257–276, 2009.

260

Fazio, L. «Pausing to consider why a headline is true or false can help reduce the sharing of false news». Harvard Kennedy School Misinformation Review, 1(2), 1–8, 2020;

Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., Rand, D. G. «Fighting COVID-19 misinformation on social media: Experimental evidence for a scalable accuracy nudge intervention». Psychological Science, 31(7), 770–780, 2020.

261

Lewandowsky, S., Ecker, U. K. H., Cook, J. «Beyond misinformation: Understanding and coping with the ”post-truth” era». Journal of Applied Research in Memory and Cognition, 6, 353–369, 2017.

262

Правила 1–5 впервые обозначил Карл Бергсторм. Я нахожу их идеальными и достаточно емкими. Bergstrom, C. Calling bullshit: Data in a reasonable digital world. https://callingbullshit.org/index.html

263

Arkes, H. R., Hackett, C., Boehm, L. «The generality of the relation between familiarity and judged validity». Journal of Behavioral Decision Making, 2, 81–94, 1989;

Bacon, F. T. «Credibility of repeated statements: Memory for trivia». Journal of Experimental Psychology: Human Learning and Memory, 5, 241–252, 1979;

Fazio, L. K., Brashier, N. M., Payne, B. K., Marsh, E. J. «Know-ledge does not protect against illusory truth». Journal of Experimental Psychology: General, 144, 993–1002, 2015;

Hasher, L., Goldstein, D., Toppino, T. «Frequency and the conference of referential validity». Journal of Verbal Learning and Verbal Behavior, 16, 107–112, 1977;

Hawkins, S. A., Hoch, S. J. «Low-involvement learning: Memory without evaluation». Journal of Consumer Research, 19, 212–225, 1992;

Johar, G. V., Roggeveen, A. L. «Changing false beliefs from repeated advertising: The role of claim-refutation alignment». Journal of Consumer Psychology, 17, 118–127, 2007.

264

Asch, S. E. «Effects of group pressure upon the modification and distortion of judgment». В Groups, leadership, and men (под ред. H. Guetzkow), pp. 76–92. Carnegie Press, 1951;

Asch, S. E. «Studies of independence and conformity: A minority of one against a unanimous majority». Psychological Monographs, 7 (9), 1–70, 1956;

Deutsch, M., Gerard, H. G. «A study of normative and informational social influence upon individual judgment». Journal of Abnormal and Social Psychology, 51, 629–636, 1955.

265

Berkowitz, A. D. An overview of the social norms approach. В Changing the culture of college drinking: A social situated prevention campaign (In L. Lederman, L. Stewart, F. Goodhart, L. Laitman Eds., pp. 187–208). Hampton Press 2005;

Borsari, B., Carey, K. B. «Descriptive and injunctive norms in college drinking: A meta-analytic integration». Journal of Studies on Alcohol, 64, 331–341, 2003;

Cialdini, R. B., Reno, R. R., Kallgren, C. A. «A focus theory of normative conduct: Recycling the concept of norms to reduce littering in public places». Journal of Personality and Social Psycho-logy, 58, 1015–1026, 1990;

Lapinski, M. K., Rimal, R. N. «An explication of social norms». Communication Theory, 15, 127–147, 2005;

Rimal, R. N., & Lapinski, M. K. «A re-explication of social norms, ten years later». Communication Theory, 25, 393–409, 2015.

266

Rimal, R. N. «Modeling the relationship between descriptive norms and behaviors: A test and extension of the theory of normative social behavior (TNSB)». Health Communication, 23, 103–116, 2008.

267

Reno, R. R., Cialdini, R. B., Kallgren, C. A. «The transsituational influence of social norms». Journal of Personality and Social Psychology, 64, 104–112, 1993.

268

Schultz, P. W., Nolan, J. M., Cialdini, R. B., Goldstein, N. J., Griskevicius, V. «The constructive, destructive, and reconstructive power of social norms». Psychological Science, 18, 429–434, 2007.

269

В соответствии с этим исследованием, грустные и улыбчивые смайлики теперь используются для создания прескриптивной нормы коммунальными службами в крупных мегаполисах в сочетании с дескриптивной информацией касательно энергопотребления.

Kaufman, L. «Utilities turn their customers green with envy». New York Times, 30 января 2009 г.: https://www.nytimes.com/2009/01/31/science/earth/31compete.html

270

Bodimeade, H., Anderson, E., La Macchia, S., Smith, J. R., Terry D. J., Louis, W. R. «Testing the direct, indirect, and interactive roles of referent group injunctive and descriptive norms for sun protection in relation to the theory of planned behavior». Journal of Applied Social Psychology, 44, 739–750, 2014.

271

Glad, W., Adesso, V. J. «The relative importance of socially induced tension and behavioral contagion for smoking behavior». Journal of Abnormal Psychology, 85, 119–121, 1976;

Grosser, D., Polansky, N., Lippitt, R. «A laboratory study of behavioral contagion». Human Relations, 4, 115–142, 1951;

Krassa, M. A. «Social groups, selective perception, and behavioral contagion in public opinion». Social Networks, 10, 109–136, 1988;

Polansky, N., Lippitt, R., Redl, F. «An investigation of behavioral contagion in groups». Human Relations, 3, 319–348, 1950;

Polansky, N. A. «On the dynamics of behavioral contagion». Group, 14, 3–8, 1952;

Ritter, E. H., Holmes, D. S. «Behavioral contagion: Its occurrence as a function of differential restraint reduction». Journal of Experimental Research in Personality, 3, 242–246;

Suzuki, S., Jensen, E. L. S., Bossaerts, P., O’Doherty, J. P. «Behavioral contagion during learning about another agent’s risk-preferences acts on the neural representation of decision-risk». PNAS (Proceedings of the National Academy of Sciences), 113, 3755–3760, 2016;

Watanabe, K. «Behavioral speed contagion: Automatic modulation of movement timing by observation of body movements». Cognition, 106, 1514–1524, 2008;

Wheeler, L. «Toward a theory of behavioral contagion». Psychological Review, 73, 179–192, 1966;

Wheeler, L., Smith, S., Murphy, D. B. «Behavioral contagion». Psychological Reports, 15, 159–173, 1964.

272

Centola, D., Macy, M. «Complex contagions and the weakness of long ties». American Journal of Sociology, 113, 702–734, 2007.

273

Nyhan, B., Reifler, J. «When corrections fail: The persistence of political misperceptions». Political Behavior, 32, 303–330, 2010. Также см.: Wood, T., Porter, E. «The elusive backfire effect: Mass attitudes’ steadfast factual adherence». Political Behavior, 41, 135–163, 2019.

274

Moyer, M. W. «Journey to gunland». Scientific American, 317(4), 54–63, 2017.

275

Berkowitz, L., LePage, A. «Weapons as aggression-eliciting stimuli». Journal of Personality and Social Psychology, 7, 202–207, 1967.

В этом исследовании студенты мужского пола согласились участвовать в эксперименте, по их мнению, посвященному физиологическим реакциям на стресс, связанный с получением слабых электрических разрядов. Каждому участнику назначили партнера, якобы другого участника эксперимента, который на самом деле ассистировал экспериментаторам. Участникам говорили, что им надо решить задачку, и партнер будет их оценивать. Респондента и помощника экспериментатора помещали в разные, но смежные комнаты. На предплечье участнику крепились электроды, а на пальцы крепились электроды, измеряющие кожно-гальваническую реакцию. Провода вели в другую комнату. Во время оценки участники получали или один удар током, или семь. Когда первая процедура «оценки» была завершена, участника отводили в соседнюю комнату, где находился пульт управления, и уже он должен был «оценивать», как его партнер справится уже с другой задачкой. В одном случае на столе рядом с кнопкой, подающей разряд, лежало ружье 12-го калибра и револьвер 38-го калибра. В контрольных испытаниях на столе лежали либо две ракетки для бадминтона, либо ничего. В остальном эксперименты проводились одинаково. Когда очередь бить током партнера доходила до участника эксперимента, те, кто получил семь ударов электричеством, нажимали на кнопку чаще и били током дольше по сравнению с теми, кто получил лишь один разряд. Важно, что предметы, которые лежали на столе, также играли роль. Когда было оружие, частота и продолжительность разрядов оказались выше, чем когда ракетки или ничего. Вдобавок к увеличению частоты и продолжительности, другие исследования агрессии показали: подобные условия могут привести и к увеличению силы подаваемых разрядов. В исследованиях не говорится, что «оружие убивает людей», но выяснилось, что его наличие вызывает более агрессивное поведение. В конце концов, что может ассоциироваться с насилием сильнее, чем огнестрельное оружие?

276

Fowler, K. A., Dahlberg, L. L., Haileyesus, T., Annest, J. L. «Firearm injuries in the United States». Preventive Medicine, 79, 5–14, 2015;

Hemenway, D., Solnick, S. J., «The epidemiology of self-defense gun use: Evidence from the National Crime Victimization Surveys 2007–2011». Preventive Medicine, 79, 22–27, 2015.

277

Rice, R., Atkin, C. (ред.) Public communication campaigns. 3-е изд. Sage, 2001.

278

Schwarz, N., Sanna, L. J., Skurnik, I., Yoon, C. «Metacognitive experiences and the intricacies of setting people straight: Implications for debiasing and public information campaigns». В Advances in experimental social psychology. Vol. 39. (In M. P. Zanna Eds.), pp. 127–161. Academic Press, 2007.

279

Boghossian, P., & Lindsay, J. How to have impossible conversations: A very practical guide. Lifelong Books, 2019;

Lord, C. G., Ross, L., Lepper, M. R. «Biased assimilation and attitude polarization: The effects of prior theories on subsequently considered evidence». Journal of Personality and Social Psychology, 37, 2098–2109, 1979;

Washburn, A. N., Skitka, L. J. «Science denial across the political divide: Liberals and conservatives are similarly motivated to deny attitude-inconsistent science». Social Psychological and Personality Science, 9, 972–980, 2017;

Chan, M. S., Jones, C. R., Jamieson, K. H., Albarracin, D. «Debunking: A meta-analysis of the psychological efficacy of messages countering misinformation». Psychological Science, 28, 1531–1546, 2017;

Nyhan, B., Reifler, J. «When corrections fail: The persistence of political misperceptions». Political Behavior, 32, 303–330, 2010.

Wood, T., Porter, E. «The elusive backfire effect: Mass attitudes’ steadfast factual adherence». Political Behavior, 41, 135–163, 2019.

280

Несколько интересных, но прискорбных примеров можно найти в:

Hofstadter, R. Anti-intellectualism in American life. Vintage Books, 1962;

Watzlawick, P. (ред.). The invented reality: How do we know what we believe we know? W. W. Norton, 1984;

Watzlawick, P., Weakland, J. H., Fisch, R. Change: Principles of problem formation and problem resolution. W. W. Norton, 1974.

281

Chu, D. K., et al. «Physical distancing, face masks, and eye protection to prevent person-to-person transmission of SARS-CoV-2 and COVID-19: A systematic review and meta-analysis». The Lancet, 395, P1973–1987, 2020. См. также: Centers for Disease Control and Prevention. «Scientific brief: Community use of cloth masks to control the spread of SARS-CoV-2», 20 ноября 2020 г.: https://www.cdc.gov/coronavirus/2019-ncov/more/masking-science-sars-cov2.html

282

Lynch, M. P. Know-it-all society: Truth and arrogance in political culture. Liveright Publishing, 2019.

283

Alcock, J. E. Belief: What it means to believe and why our convictions are so compelling. Amherst, NY: Prometheus Books, 2018.

284

Cialdini, R. B., Reno, R. R., Kallgren, C. A. «A focus theory of normative conduct: Recycling the concept of norms to reduce littering in public places». Journal of Personality and Social Psycho-logy, 58, 1015–1026, 1990;

Goldstein, N. J., Cialdini, R. B., Griskevicius, V. «A room with a viewpoint: Using social norms to motivate environmental conservation in hotels». Journal of Consumer Research, 35, 472–482, 2008;

Jacobson, R. P., Mortensen, C. R., Cialdini, R. B. «Bodies obliged and unbound: Differentiated response tendencies for injunctive and descriptive social norms». Journal of Personality and Social Psychology, 100, 433–448, 2011;

Jacobson, R. P., Mortensen, C. R., Jacobson, K. J. L., & Cialdini, R. B. «Self-control moderates the effectiveness of influence attempts highlighting injunctive social norms». Social Psychological and Personality Science, 6, 718–726, 2015;

Kallgren, C. A., Reno, R. R., Cialdini, R. B. «A focus theory of normative conduct: When norms do and do not affect behavior». Personality and Social Psychology Bulletin, 26, 1002–1012, 2000;

Reno, R. R., Cialdini, R. B., Kallgren, C. A. «The transsituational influence of social norms». Journal of Personality and Social Psychology, 64, 104–112, 1993.

285

В наше время у нас есть доступ к большему количеству информации, чем когда-либо прежде. Открытия, сделанные учеными, специалистами-статистиками, людьми, работающими с базами данных, и теми, кто умеет проверять корреляцию или проводить множественный регрессионный анализ, весьма значительными – или по крайней мере кажутся таковыми. Их неумение распознавать фиктивность корреляции часто обусловлено неверным восприятием вероятности и путаницей между моделированием и проверкой данных. Слишком большое количество нерелевантных данных может стать проблемой, в случае если из-за этого мы начинаем считать, будто случайные совпадения являются на самом деле тесными связями между явлениями. Если в массиве данных есть тысячи переменных, вы точно обнаружите там целый ряд статистически значимых корреляций, и чем больше данных предоставите модели прогнозирования, тем больше случайных, произвольных и фальшивых корреляций она обнаружит. Никакое количество данных не способно отсеять фальшивую корреляцию. Когда я после выпуска подрабатывал специалистом статистики, я обнаружил, что могу создавать потрясающе точные статистические модели, предсказывающие результат игр НБА с менее чем двадцатью переменными, причем все были доступны на сайте ESPN.com.

Однако проблема заключалась в том, что мои статистические модели могли успешно определять идиосинкратические паттерны данных, на основании которых они были построены, а не предсказывать итоги будущих игр. Так что, когда специалист по статистике говорит, что скоро разбогатеет на спортивных ставках или может предсказывать рыночные колебания, спросите у него, протестировал ли он свои модели предсказания на новых случаях, никак не связанных с теми данными, на основании которых была выстроена эта модель. И корреляционные, и экспериментальные данные зачастую используются в создании предсказательных моделей. Специалисты-статистики используют их, чтобы, по существу, параметры модели предсказания подходили к данным модели. Естественно, предсказательные модели, основанные на существующих данных, «мухлюют», потому что у них уже есть информация о переменных (например, процент потерь хозяев поля, коэффициент отскока команды-гостя, процент штрафных бросков команды-хозяев и т. д.) и переменные исхода (например, итоговый счет игры НБА). Для оценки эффективности предсказаний модели, нужны новые данные для тестирования.

Fletcher, J. Spurious correlations: Margarine linked to divorce? BBC News, 26 мая 2014 г.: https://www.bbc.com/news/magazine-27537142.

Та же идея лежит в основе машинного обучения. Алгоритм программируют или «обучают» на основании данных, чтобы он распознавал паттерны массива данных. Только когда алгоритм настроен и отлажен работать точно и эффективно, его можно тестировать. Но его эффективность не оценивают на данных, на которых его обучали. Вместо этого его проверяют на новых случаях (т. е. на данных для тестирования), чтобы определить, может ли машина предсказывать новые ответы после обучения. До того как Орвилл и Уилбур Райт протестировали первый самолет, они использовали множество данных, чтобы наладить устройство. Тем не менее они не ограничились использованием готовых данных, чтобы заявить, что их модель летает. Вместо этого они доказали способность своего устройства летать, протестировав его в серии экспериментов. Поэтому доступ к «большим данным» (т. е. к массиву данных с большим набором переменных) для обучения может только ухудшить функционирование алгоритма, как бы парадоксально это ни звучало. Другими словами, когда информации слишком много, есть вероятность, что алгоритм или человек начнет вести себя, словно ее слишком мало. Основная цель науки – не поиск статистических корреляций в больших массивах данных и построения вокруг них. Таким образом, действует лишь лженаука. Цель науки – это поиск причинно-следственных связей, что зачастую требует создания новых инструментов измерения, а также новых наблюдений, идей и озарений.

См.: Calude, C. S., Longo, G. «The deluge of spurious correlations in big data». Foundations of Science, 22, 595–612, 2017;

Kassan, P. «I’ve got algorithm. Who could ask for anything more?». Skeptical Inquirer, 42(5), 48–51, 2018;

О’Нил, К. Убийственные Большие данные. Как математика превратилась в оружие массового поражения. – АСТ, 2018.