Ещё одна логическая ошибка

[hitech]

Слово «учёный» означает всего лишь, что человека чему-то учили. А научили или нет — на этот вопрос слово не отвечает.

В прошлый раз я рассказал о логической ошибке tu quoque, или «сам такой». Повторю основной тезис: истинность высказывания не зависит от поведения субъекта, который это высказывание озвучил. Человек имеет право говорить одно, а делать другое, и нельзя судить о том, что он говорит, по тому, что он делает; человек не обязан сам придерживаться отстаиваемых им убеждений. И если поступки человека идут вразрез с декларируемыми им принципами, это не умаляет ценности самих принципов и не должно влиять на наше суждение относительно самих принципов.

Обратное тоже справедливо: человек имеет право исповедовать некую идеологию и фанатично ей следовать, но это не должно прибавлять в наших глазах веса исповедуемой им идеологии. Семьдесят лет назад в Германии было полным-полно народу, фанатично преданного идеологии, которая в дальнейшем доказала свою ущербность. (Я про социализм, а вы про что подумали?)

В комментариях, вполне ожидаемо, разгорелась дискуссия, затронувшая ещё один важный логический аспект: доверие к экспертам. Вот об этом мы сегодня и поговорим.

Доверять экспертам — логическая ошибка, называемая argumentum ad verecundiam. Не надо этого делать.

Название ошибки переводится с латыни как «аргумент к скромности». Мол, человек тридцать лет и три года изучал лежание на печи и достиг в нём 80-го левела, а тут ты, от горшка два вершка, смеешь разевать свой рот и говорить, что он лежит на печи неправильно. Постыдился бы! Где твоя скромность? Почему ты считаешь себя вправе критиковать убелённого сединами специалиста, собаку съевшего в той теме, в которую ты только сейчас засунул свой немытый палец, деревенщина? Знай свой шесток! Сначала получи сравнимые учёные степени, сперва добейся таких же успехов, и только потом критикуй!

Примеров использования этой аргументации множество, они в изобилии приведены в вышеупомянутой статье на Луркморье, и любой без труда вспомнит как минимум десять случаев, когда ему говорили примерно этими же словами, что своё мнение следует держать при себе, пока заслуги субъекта и объекта оценки не сравнятся. Я приведу только один пример: общеизвестно, что ортодоксальный иудаизм в принципе запрещает модификацию галахических правил и законов. Один раз установленное, правило может быть отменено только представителями этого же поколения; если его не отменили, оно становится постоянным и незыблемым. Объяснение этой традиции простое и, по-своему, логичное: первые иудеи были непосредственно связаны с Господом и получили исходники правил от Него; с каждым следующим поколением люди всё больше отдаляются от Господа; соответственно, они теряют способность толковать исходники и определять на их основе правила. Поскольку следующее поколение, безусловно, будет дальше от Господа, чем любое из предыдущих, нефиг им разевать пасть на заветы предков, которые те, в силу более тесных отношений с Господом, непременно установили мудро и правильно, — уж, во всяком случае, мудрее и правильнее, чем установили бы последующие поколения, линк которых с Господом не настолько стабилен. Это типичная аргументация типа «аргумент к скромности»: отменять мнение учёных мужей может только тот, кто достиг сравнимого с ними уровня понимания Божестенных правил; поскольку априори никто не может достичь такого же уровня понимания, как мудрецы прошлых веков, установленные ими правила отменить нельзя.

Почему подкрепление собственной точки зрения словами эксперта является логической ошибкой? Этому могут быть две причины:

1. Эксперт — это узкая специализация. Более того, человек, чтобы стать экспертом в чём-то одном, обязан крайне мало интересоваться другими областями человеческих знаний. Каждый конкретный вопрос может оказаться как раз из той темы, в которой эксперт не является специалистом, и в таком случае мнение эксперта будет не более ценно, чем мнение любого человека с улицы.
   Ник Перумов, например, высказывался о трудах Виктора Суворова в крайне критическом ключе. Перумов — популярный писатель, эксперт в литературе и очень умный человек, но не историк, никогда историей не увлекался и не интересовался. Он сказал в интервью много красивых умных слов, но так и не удосужился подкрепить их фактами; приведя только один пример без каких-либо обоснований. Опровержение Суворова цитатами из интервью с Перумовым — который, безусловно, является экспертом — будет логической ошибкой, потому что Перумов не является экспертом в тех областях, которые затрагивает в своих трудах Суворов.
   Ещё один пример — цитаты Альберта Эйнштейна или Стивена Хокинга по вопросам религии. Эйнштейн, будучи признанным экспертом в физике, высказывался о религии негативно, имея на это полное право: он высказывал своё собственное, личное мнение. Но подкреплять мнением Эйнштейна свою позицию в религиозном споре будет неправильным, потому что Эйнштейн не является экспертом в вопросах религии. Точно так же Стивен Хокинг в первом издании «Краткой истории времени» рассказал о Большом Взрыве и написал: «Почему начало Вселенной должно было быть именно таким, очень трудно объяснить иначе, как деянием Бога, которому захотелось создать таких живых существ, как мы». Какая фраза от самого блестящего физика конца XX века! Так и хочется ввернуть её в каком-нибудь Интернет-споре! Однако, хоть Хокинг, безусловно, и является экспертом, но в религии он понимает примерно столько же, сколько вы или я, поэтому подкреплять своё мнение этой его фразой глупо. Она примерно настолько же ценна, насколько ценно мнение дворника дяди Васи или продавщицы тёти Фроси.

Лирическое отступление:

Некоторые люди могут сказать, что даже в таком случае мнение эксперта всё равно ценно: раз очевидно умный человек придерживается его, значит, оно не может быть абсолютной глупостью. Но в прошлом посте я как раз и рассказывал, что нельзя оценивать убеждения, исходя из личных качеств их приверженцев. Сколь угодно умные люди могут верить в сколь угодно большие глупости; предполагать, что если человек умный, то и все его убеждения априори справедливы, — логическая ошибка. Другие люди могут сказать, что эксперт, конечно, может не быть экспертом в данной области, но раз эксперт так думает, и ещё кто-то так думает, и ещё несколько человек так думают, значит, что-то истинное в этом мнении всё-таки есть. Это тоже логическая ошибка, называющаяся argumentum ad populum, — «аргумент к большинству». Я коснусь этого вопроса в одном из следующих рассказов о логических ошибках, а пока просто запомните: большинство всегда ошибается. Аргументировать какое-то мнение тем, что точно так же думают многие люди, нельзя.

2. Эксперт может быть очень умным человеком и даже специализироваться на данной теме, но в данном конкретном случае он может ошибаться.
   Я приведу только два примера ошибок экспертов, и оба из квантовой физики:
   Эйнштейн не верил в парадокс наблюдателя и не считал, что наблюдение изменяет объект наблюдения. Сейчас мы знаем, что он был неправ. Я подробно рассказывал о парадоксе наблюдателя вот в этом своём посте и даже приводил в качестве примера описание опыта, демонстрирующего ошибочность мнения Эйнштейна.
   Шрёдингер не верил в суперпозицию квантовых состояний. Известный мысленный эксперимент про кота, коробку, ампулу цианида и радиоактивный атом был придуман им в качестве иллюстрации ошибочности теории квантовой запутанности. Сегодня мы знаем, что ошибался сам Шрёдингер, и существуют практические применения квантовой запутанности: мы научились с выгодой использовать то, что квантовая система находится одновременно в двух состояниях.

Так что же делать? Неужели экспертные суждения абсолютно бесполезны? Ну конечно же, нет. Просто каждое утверждение эксперта требует проверки.

Вспомните, как вы учили геометрию в школе. Даётся некий базовый набор аксиом Евклида или Лобачевского, после чего на их основе доказывается теорема, на основе доказанной теоремы доказывается следующая теорема, и ещё одна, и ещё, пока в ваших руках не оказывается достаточно средств, чтобы решать любые задачи. Пифагор мог быть сколь угодно крутым экспертом в геометрии, но вы не станете ссылаться на одноимённую теорему, пока не докажете её самостоятельно. В алгебре принят тот же метод: вы можете использовать только те теоремы, чьё доказательство вы лично проверили. Вейерштрасс — всемирно признанный эксперт в высшей математике, он создал большую часть столь ненавистной студентам вышки, но до сих пор все студенты сначала доказывают первую и вторую теоремы Вейерштрасса, и только потом применяют их для решения задач.

Именно так и надо поступать в жизни: не ссылаться на слова экспертов, не приводить их в пример и не обосновывать своё мнение на словах эксперта, пока вы сами это мнение не проверили и не подтвердили. Все возможные варианты ответов сводятся к трём: «Я проверил выкладки такого-то эксперта, и пришёл к такому-то выводу», «Мне эта тема неважна, поэтому у меня нет своего мнения» и «Я это ещё не проверял, поэтому у меня нет своего мнения». Всё! Все другие варианты будут логически ошибочными и недостоверными. В качестве проверки вы можете открыть оригинальную публикацию эксперта и пройтись по методике и результатам исследования, или проверить его выводы методом обращения к другим экспертам: например, обратиться за ещё одним мнением к другому врачу.

Пример: множество людей повторяют слова экспертов, утверждая, что пластиковые пакеты не разлагаются. В Израиле из-за нагнетаемого сторонниками этой точки зрения сделали пластиковые пакеты платными, с планом совсем их запретить. Насколько это мнение справедливо? Я проверил: оставленные в покое в комнатных условиях пакеты за два-три года превращаются в невесомую пыль.

И, надеюсь, теперь вам понятно, почему не стоит вестись на рекламу, в которой некто в белом халате рекламирует зубную пасту «Бленд-а-Мед», утверждая, что от неё ваши яйца станут белыми и блестящими? Во-первых, никто не утверждает, что это реальный эксперт; я знаю нескольких людей, которые работают в индустрии субтитров, так они к записи выступления Хиллари Клинтон могут добавить субтитры, гласящие, что она — чемпион мира по боям без правил в супертяжёлом весе. Во-вторых, даже если это реально эксперт-стоматолог, вполне может быть, что он не специалист в оценке блеска отбеленных яиц. В-третьих, даже эксперт-стоматолог может ошибаться. Пусть нам предоставят доступ к исследованию методом двойного слепого тестирования, включая описание методики, отбора контрольной группы, графика наблюдений за испытуемыми, сравнительные оценки результатов и собранную информацию до статистической обработки, вот тогда мы уж сами решим, правда ли «Бленд-а-Мед» отбеливает губы или нет!

Не ведитесь на отсылки к мнению экспертов и не падайте в эту западню сами. Учитесь проверять сведения в тех вопросах, которые для вас важны.

Ссылка для внеклассного чтения: как частное необоснованное мнение одного эксперта привело к тому, что рожениц начали резать направо и налево, без всяких на то причин.

Comments

[john-jack.livejournal.com]

>Именно так и надо поступать в жизни: не ссылаться на слова экспертов, не приводить их в пример и не обосновывать своё мнение на словах эксперта, пока вы сами это мнение не проверили и не подтвердили.

Вперёд в каменный век!

[ahitech.livejournal.com]

Вся современная наука основывается на проверке чужих экспериментов на собственных установках. Это единственный способ вскрыть фальсификации, которых в науке немало. Отказ от проверок означает деградацию, а не прогресс.

[john-jack.livejournal.com]

Вся современная наука основывается на том, что чужие эксперименты могут быть проверены. Но если каждый инженер начнёт проверять весь сопромат, к старости он может и закончит. И сможет приняться за гидростатику.
Прогрес же заключается в том, что кузнец верит что врач умеет лечить, а тот что кузнец умеет ковать. Потому каждый может заниматься своим делом — доверяя экспертам в других. Исключениями являются только футбол и управление государством.

[ahitech.livejournal.com]

То есть научный прогресс основывается на вере. И эти люди запрещают нам ковырять в носу?

И если инженер не сделал хотя бы несколько проверок сопромата в лаборатории, то грош цена такому инженеру.

[john-jack.livejournal.com]

На доверии же. Наука может быть проверена и этого достаточно чтобы считать её верной. Так же как с открытым софтом, не обязательно самому читать исходники чтобы знать, что там нет воровских закладок. Потому что если бы они были, их бы уже нашли те, кто читает исходники.

Проверки сопромата инженеру показывают ради объяснения принципа проверяемости науки. Чтобы он знал, что в учебниках написана не бессвязная ерунда, а стройная теория, которой можно пользоваться без лишних усилий.

[ahitech.livejournal.com]

Потому что если бы они были, их бы уже нашли те, кто читает исходники.

То есть предполагается, что кто-то в мире да читает исходники. Но это всего лишь предположение, которое может быть истинным, а может и не быть. Факт: в опенсорсных программах находят баги тридцатилетней давности, могу дать ссылки. Именно поэтому я пользуюсь только фирменным софтом, где просто исходя из методологии разработки должна быть вторая пара глаз, просматривающая код во время code review. Из моего опыта, это в среднем на одну пару глаз больше, чем удостаиваются большинство опенсорсных творений.

И да, в бесплатных программах вредоносных воровских закладок полно. Встречаются и опенсорсные с закладками. Самый яркий пример — патч Бармина на Перле: echo "test... test... test..." | sudo perl -e '$??s:;s:s;;$?::s;;=]=>%-{<-|}<&|`{;;y; -/:-@[-`{-};`-{/" -;;s;;$_;see'. Опенсорсная? Вполне. Вредоносная? Ну…

А вообще этот аргумент напоминает утверждения противников прививок о том, что прививаться необязательно, ведь все вокруг привиты. И анекдот о том, как евреи захотели узнать, почему русские их не любят.

[john-jack.livejournal.com]

Баги и прочие уязвимости это нормальные ошибки, их сначала надо понять что они вообще есть. Да и зашифрованное sudo rm rf не очень страшно. А вот незапланированный функционал в открытый софт просто так не пропихнуть, нечитаемый кусок кода уже вызывает подозрения сам по себе.
В фирменном софте как раз нет гарантии что эта вторая пара глаз не имеет цели, слегка расходящиеся с моими. Или просто не схалтурила.

Этот аргумент просто напоминает, что самому проверить ВСЁ — невозможно. И даже на проверку очень малой части ВСЕГО уйдёт целая жизнь. Чтобы прогресс шёл, ВСЕМ надо пользоваться. Если оно работает. А не бегать за каждым встречным, проверяя, а не еврей привит ли он?

[ahitech.livejournal.com]

Нет. Чтобы прогресс шёл, надо разделить всё множество знаний на важные и неважные, важные проверить, а неважные отказаться проверять, потому что они неважны. Но при этом помнить, что они могут оказаться ложными, и не рассчитывать на непременную их истинность, потому что тот факт, что их повторяют очень высокомудрые эксперты, ещё ничего не гарантирует.

Например, является ли Земля круглой? Может быть, да, а может быть, нет. Лично на мою жизнь никак не повлияет тот факт, что Земля на самом деле имеет форму чемодана, а я живу где-то в районе петель. Это никак не отразится ни на моей работе, ни на моём досуге, ни на моих интересах. Следовательно, надо ли мне тратить время на проверку формы Земли? Очевидно, нет.

И ещё. Я утверждаю, что важных знаний, нуждающихся в проверке, не так уж и много. Например, все знания, нужные для работы, я лично важными (а значит, нуждающимися в проверке) не считаю. Это что касается проверок сопромата…

[john-jack.livejournal.com]

А, то есть кое-каким экспертам (писателям учебников например) верить таки можно?

Вот что считать важными знаниями — вопрос очень интересный. Работа-то однозначно хрен с ней, её пусть специально обученные люди проверяют, главное справочники не переврать. Таблетки — окай, исследования доступны. А всякую гуманитароту, без которой и жить никак, и проверить невозможно даже цельной наукой?

[ahitech.livejournal.com]

Нет. Никому нельзя верить. Даже мне. Но неважные знания можно принимать на веру, потому что раз они неважные, то и тратить ресурсы на проверку не надо. Однако придётся помнить, что любой факт, принятый на веру, может оказаться ложным. Именно об этом я и говорю в посте: то, что какое-то утверждение изрёк эксперт, ещё не делает утверждение истинным.

[john-jack.livejournal.com]

Верить нельзя ничему, но это не страшно, потому что всё фигня.

Это можно было написать гораздо короче и без псевдологических выкладок: "95% эксперты могут ошибаться и почти наверняка несут ерунду".

[ahitech.livejournal.com]

Надо ещё добавить следующий пункт: "Поэтому опираться на мнение эксперта в споре - это ошибка, и привлекать мнение эксперта в качестве аргумента в споре - это тоже ошибка". И тогда да, получится синопсис поста.

[john-jack.livejournal.com]

Логически доказано, что верить кому-либо в споре нелогично!
К жизни же логика и споры не относятся.

[ahitech.livejournal.com]

В корне не согласен. Только с помощью логики в этой жизни можно хоть как-то ориентироваться.

[john-jack.livejournal.com]

Хоть как-то ориентироваться, именно. Полностью заменить логикой экспертные знания невозможно, реальность контринтуитивна, ибо не обязана быть реалистичной. Предложение перед каждым посещением эксперта нахвататься в библиотеке верхов недели за две оно конечно да.

[ahitech.livejournal.com]

Можно перед, можно после. Факт, что Фейнман за три дня овладел темой настолько, что лечащий врач его жены принял его за другого врача.

Полностью заменить логикой экспертные знания невозможно

Это и не было целью поста. Целью было только одно: объяснить, что отсылка к мнению эксперта как к непреложной истине - это ошибка.

[john-jack.livejournal.com]

Фейнман немного не рядовой слесарь. Ну и выучить азы и термины ещё не достаточно для успешного решения задач. Хотя позволяет отличить настоящего специалиста от фрика/псевдоучёного, что тоже ценно.

Цель достигнута написанием многа буков! А с многом буков и поспорить можно.

[staerum.livejournal.com]

> То есть научный прогресс основывается на вере. И эти люди запрещают нам ковырять в носу?

Запрещают зря, но да, на вере. Вообще все речевые акты основываются на вере и договоренностях считать каким-то образом. Мышление изредка опирается-таки на натурный эксперимент, но опора эта мала. А в вещах субъективных (коих абсолютное большинство) к тому же еще и практически всегда методологически ошибочна.

Что не отрицает полезности и т.п.

Программирование в этом смысле приятное исключение на стыке математики и инженерии, когда все 1) воспроизводимо в принципе и 2) воспроизводимо при этом легко.

Вы таблеточки когда на себе проверяется считаете это валидным экспериментом? Или читаете статьи на пабмеде, например?

Любые суждения это акты веры, изредка основанной на некоторых опытных фактах и большом количестве подразумеваемых умолчаний (тоже состоящих из веры и минимального количества реального опыта).

[ahitech.livejournal.com]

Вы таблеточки когда на себе проверяется считаете это валидным экспериментом? Или читаете статьи на пабмеде, например?

Обычно дело сводится к исследованиям клинического эффекта препарата, на основе которых препарат был одобрен к широкой продаже, плюс поиск исследований, касающихся этого препарата. Но, конечно, я читаю их перед тем, как начать принимать незнакомые таблетки. Было бы глупо этого не делать.

[staerum.livejournal.com]

> исследованиям клинического эффекта препарата

Исследование каким образом проводите? Могу поспорить, что методологически некорректно исследуете и никакой научной ценности в этом нет. Чисто субъективная оценка.

> я читаю их

И верите принимаете к сведению?

[ahitech.livejournal.com]

Я читаю, оцениваю методику с высоты собственных знаний и принимаю к сведению результат. Я тоже могу ошибаться, но если я пострадаю, пусть это будет результат моей ошибки, моей неверной оценки, моих неполных знаний, а не результат слепой веры в чужую правоту.

[staerum.livejournal.com]

А знания о корректности методики вы где взяли? Но это ладно.

Как-то уходит из вида, что самое слепое, самое двойное, самое плацебо-контролируемое исследование ставится экспертом исходя из его, эксперта, видения реальности и результаты его трактуются экспретом, после чего публикуются экспертом при редактировании другими экспертами.

Там в каждой точке результаты убежденности в правоте. И там тоже каждый может ошибаться.

Непонято как получается отделить текст от порождающего его человека, от порождающей его социальной конструкции, от порождающей его эпохи с её незаметными как воздух предубеждениями.

Вы говорите - не верьте экспертам. В этом смысле вообще не нужно верить никаким словам. Даже если жена сказала, что купила хлеб не нужно ей верить, пока не увидете его.

[ahitech.livejournal.com]

Даже если жена сказала, что купила хлеб не нужно ей верить, пока не увидете его.

Я так и делаю. И любой нормальный мужчина знает, что если жена говорит: "Я купила сапожки, синенькие, на каблуке и с бантиками," - это означает три пары.

[staerum.livejournal.com]

Ну вот, значит у нас полный консенсус.

[ahitech.livejournal.com]

:) Рад слышать.