Почему тест Тьюринга является сомнительным тестом на сознание
Многие люди (как материалисты, так и идеалисты) верят, что тест Тьюринга (беседа с невидимым собеседником с целью выявить его человеческую или нечеловеческую природу) способен выявить, есть ли у системы субъективные ощущения (сознание). Мол, если оно ведёт себя как человек, то и внутренне, конечно же, является таким.

Точка зрения, что критерием сознательности является способность системы выполнять определённую функцию (вести себя определённым образом, говорить определённые вещи) называется в философии функционализмом. Среди функционалистов нет единой точки зрения на то, какая именно функция является тем самым "волшебным граалем" (Декарт считал таковой членораздельную речь, некоторые современные исследователи считают таковой способность самообучаться), но как правило они сходятся на том, что человек эту функцию уж точно выполняет.

Разные люди обосновывают свой функционализм по разному. Для некоторых это просто иррациональная обыденная интуиция, ведь мы привыкли считать сознательным того, кто похож на нас (достаточно вспомнить фильм "Короткое замыкание"). Другие же люди стараются разобраться в проблеме глубже, и предлагают рациональные аргументы. Если это материалисты, то идеи их, как правило, базируются на следующей логике (по ошибке чуть не написал олологике)

Опытный факт: существуют феноменальные суждения (человек способен говорить о собственной сознательности).
Постулат: наличие сознания влияет на поведение организма (в частности, на речь и его реакции в тесте Тьюринга)
Вывод: любой сознательный организм отличается от бессознательного по поведению (в частности, по реакциям в тесте Тьюринга)

Если не вдаваться в сложную философию, с переходом от опытного факта к постулату вполне можно согласиться. Строго говоря, есть экзотические варианты мироустройства, в которых он неверен, но они плохо дружат с бритвой Оккама. Однако вывод из постулата не выдерживает никакой критики. Корректный вывод должен был бы звучать так:

Вывод (исправленный): сознательный организм при прочих равных условиях отличается от бессознательного по поведению

Однако суть теста Тьюринга заключается в том, чтобы отказаться от анализа "прочих" условий (например, структуры самого мозга, памяти в ней), сконцентрировавшись исключительно на анализе поведения. И это действительно нормально, если наша задача - анализировать интеллект, который по определению является объективным функциональным свойством системы. Попытка же обобщить анализ на анализ сознания (которое по определению является субъективным ) логически порочна

Любопытно, что совершенно аналогичной логикой зачастую пользуются и интеракционисты (приверженцы идеалистической и дуалистической онтологии, считающие, что душа активно воздействует на тело):

Постулат: душа влияет на поведение организма
Вывод 1: любой сознательный организм отличается от бессознательного по поведению
Вывод 2: детерминированный компьютер никогда строго не пройдёт тест Тьюринга

Именно такова была логика у ранних критиков теста Тьюринга: "компьютер не способен делать ничего подлинно нового", "компьютер не способен отличать правду от лжи" и т. п. Позиция таких людей - это обратная сторона медали материалистических функционалистов. Сам Тьюринг довольно быстро прогнал и тех и других, ясным образом написав: меня не интересует критика теста с позиций сознания, так как мой тест исследует лишь интеллект. Но они не угомонились.

Так простая логическая ошибка объединила под знамёнами функционализма неглубоких материалистов и неглубоких идеалистов. Впрочем, Декарту простительно, ибо логика у него была иной (человеческая способность к членораздельной речи ему казалось невероятной, и именно из этого он делал вывод об интеракционизме).