Можете ли вы справиться с истиной об исследованиях?

Прежде чем принимать результаты исследований как должное, запомните все причины, по которым нельзя.

MEME

Источник: МЕМЕ

Вы можете справиться с правдой? Некоторые из вас могут вспомнить разглагольствование Джека Николсона на стенде в «Несколько хороших людей». Мне часто напоминают об этой фразе, когда я обсуждаю результаты исследований. К сожалению, это не потому, что результаты тревожны, хотя многие и так, а потому что, как знает каждый хороший психолог, исследования не дают вам правды. Об этом нужно помнить, когда вы читаете заголовки, в которых говорится: «Исследования показывают…».

Людям нравится получать конкретные ответы. Нам нравится, когда наука может сказать нам, что делать. Иногда мы обманываем себя, думая, что последнее открытие по теме (особенно если оно поддерживает наше мнение) является правдой об этой теме. Ешь это на здоровье. Не делай этого ради счастья. Когда вы разбираетесь в научной деятельности, вы знаете, что одно исследование не может быть концом истории. Научное исследование поддерживает только гипотезу. Одно из самых разочаровывающих двух слов, которые я должен произнести при обсуждении исследования: «Это зависит». Но это правда. Ты справишься с этим?

Поведение является сложным, что является одной из основных причин, по которой трудно получить точные ответы. Результаты могут меняться в зависимости от того, как проводилось исследование, какие переменные были измерены, как были набраны участники, насколько велика выборка, контекст, в котором проводилось исследование, и целый ряд других факторов. Атул Гаванде об этом убедительно написал в отношении медицины, где он провел операцию на самой медицине, показав, что она сложная, сбивающая с толку и глубоко человеческая, и ничего похожего на идеализированный мир «врачи имеют все ответы», как многие считают, что это так.

Мы также знаем, что результаты исследований даже не повторяются. Вы можете с большей вероятностью думать о чем-то как об истине, если каждый раз получаете один и тот же результат. В науке было много ошибок репликации, что снова свидетельствует о сложности исследований. Даже если вы полностью повторили методологию исследования, вы все равно не получите те же результаты. Но это становится хуже.

Если проблемы с репликацией были достаточно плохими, сейчас есть доказательства того, что многие ученые не совсем честны в том, как они проводили свои исследования. В последнем случае доктор Брайан Вансинк подал в отставку из Корнельского университета после того, как годичное расследование показало, что он совершил академический проступок. Фактически, всего за последний месяц шесть его статей были отозваны престижным журналом Американской медицинской ассоциации (JAMA). Многие из его прошлых исследований о еде теперь подозрительны. Но это становится еще хуже.

По-видимому, даже одни и те же данные дают разные результаты в зависимости от того, кто их анализирует. На этой неделе Silberzahn и его коллеги (Silberzahn et al. 2018) публикуют открывающее глаза исследование. Двадцать девять команд с участием 61 ученого проверили один вопрос: футбольные судьи с большей вероятностью дают красные карточки игрокам с темной кожей, чем игрокам со светлой кожей? Вот кикер. Им всем дали один и тот же набор данных. Результаты были разными. Двадцать команд сказали ДА. Девять команд сказали НЕТ. У этих йей и нэй-сайерс сила эффекта была разной.

APS

Источник: APS

Почему это случилось? Ученые использовали разные анализы для проверки вопросов. Разные группы контролируются разными факторами. В то время как некоторые группы контролировали отсутствие факторов, другие контролировали до семи различных факторов. Но помните, набор данных был точно таким же.

Это исследование является поразительным напоминанием о том, о чем редко говорят. То, что исследователь делает с данными, меняет мир. Мы не говорим о том, чтобы ловить рыбу ради результатов, выдумывать цифры или, что еще хуже, подделывать результаты. Это исследование открыло окно в то, как исследователи формируют свои привычки. Исследователи проводят анализ домашних животных и определяют способы их использования, когда они подходят к исследованию. Большое открытие здесь заключается в том, что эти идиосинкразии могут иметь значение в том, рассматривается ли вывод как истинный или ложный.

Ни одно исследование не дает вам правду. У каждого есть много ограничений. Убедитесь, что вы относитесь к основным выводам с необходимой осторожностью и не увлекайтесь ни одним исследованием. Наука самокорректируется, а непоследовательность подталкивает нас к тому, чтобы сделать науку лучше. И это хорошо для всех нас.