Тезисно
     И пара мыслей из обсуждения недавнего поста, которые хочу вынести отдельно.

     1. Искуственная разумная жизнь "лучше" естественной не потому, что она "железная", с титановыми вставками и ядерным мотором вместо сердца, а потому, что она искуственно создана. А значит, знает и умеет работать с элементарными кирпичиками, из которых сложена она сама (включая собственное "вместилище разума"), а не пользуется для самовоспроизведения невесть когда созданным "чёрным ящиком" процесса вынашивания и родов (деления и почкования, икрометания и яйцевысиживания - детали не важны), как жизнь естественная. В результате жизнь искуственная, буде ей такое понадобится, сможет заменить элементарную ячейку собственного мозга с легированного кремния на кристаллический углерод, а то и на радиационно стойкий, хотя и не очень эффективный, электронновакуумный прибор - и остаться после этого разумной! Да и банально "добавить себе памяти" искуственная жизнь сможет легко, а мы - навеки ограничены размером и аппаратной архитектурой нашей черепной коробки, не имея реальной возможности от этого "куска мяса" отказаться. И даже фантасты, описывая киборгизованное общество будущего - мозг обычно не трогают, максимум - засовывают в него пару разъемов - а это типичное не то.
     Замечу, что для такой вот возможности самомодификации - в общем-то необязательно полностью понимать всё устройство собственного разума. Достаточно понимать работу (и уметь осознанно воссоздавать) элементарные ячейки, и знать (иметь чертёж или принципиальную схему) этого самого "мозга". Тогда уже можно изменять структуру ячеек, сохраняя функциональность - и воспроизводить схему "мозга" на новой платформе, сохраняя разумность. Примерно так мы сейчас пересобираем ядро линукс под новую платформу - и вытягиваем туда весь нужный софт в исходниках :-)

     2. Разумность - необходима! Неразумная, "животная" эволюция - идёт по термодинамическим принципам: "течёт под уклон" и заполняет свободный объем. И хотя в заполнении объема и стекании под уклон эволюция природная может быть весьма изощрённа - это всё равно всего лишь выбор наилучшего из миллиардов случайных действий. И только разум способен мыслить далеко вперёд - и отдавать часть ресурсов на реализацию проектов, которые дадут отдачу не мгновенно, а в далеком будущем - например, заниматься тем же освоением космоса, "животная" же эволюция мало того что вряд ли смогла бы "построить ракету", так ещё и "зарубила" бы этот проект, как "не дающий быстрого результата".
     А хороший пример искуственной жизни, развивавшейся по законам "животной" эволюции подсказал a_gorb@lj - "кристаллики", описанные всё тем же Лемом в его книге "непобедимый". Несомненно живое, несомненно "механическое", прошедшее огромный путь эволюции... но ни разу не разумное.