Страдающая машина или новейший Адам
Я думаю, что проблема, которая препятствует созданию искусственного разума состоит не в том, что мы не понимаем как работает разум естественный, а в том, что одной из основных предпосылок разума, самого феномена разумности - является страдание. Т.е. говоря проще, чтобы машина обрела разум, её нужно научить страдать. Точнее, даже не научить страдать, а каким-то образом придать ей способность к страданию. Но если мы наделим её способностью к страданию лишь затем, чтобы она стала похожа на нас - это будет неестественное решение проблемы, это будет лишь имитация. Получается, что машина (скажем, компьютер) лишь тогда обретёт настоящий разум, когда обретёт способность к страданию и сделает это естественным образом. И вот тут - тупик. Как это реализовать, совершенно непонятно. А без этого момента, искусственный разум будет всего лишь имитационной программой. Лично я, например, никогда не смогу признать разумной машину, которая не боится смерти, как бы ни была она хороша в интеллектуальном аспекте. Но предположим, такая машина проявит страх смерти, страх небытия. Тогда я исследую природу этого страха и если я обнаружу, что он был сознательно внедрён в программное обеспечение этой машины её изготовителем - я вновь не смогу признать её разумной. Ведь получается, что если её способность к страданию лишь имитация, то и разум её - лишь имитация и никакая она не личность тогда. Ну и о чём с ней разговаривать и зачем?