ага, почитал)
не так давно в транс-чат заходил человек, который доказывал, что люди скоро будут уничтожены ИИ как более совершенными существами. На самом деле в локальной перспективе человек скорее всего справится, подключив к себе ИИ, но в отдалённой перспективе может оказаться, что человек окажется более незащищённым, так как боится копирования. Мы с соней после этого говорили и пришли к выводу, что ключевым вопросом является нужность сознания для прогресса. Если сознание необходимо возникает у систем со сложным поведением либо как минимум возникает при их функциональной оптимизации (комьютерная модель человека не обладает сознанием, а по мере более плотной упаковки элементов оно всё равно возникает), то человеку роботы не страшны, так как бессознательные будут ему уступать, а сознательные - играть о тем же правилам. Если же сознание - лишь случайный продукт биологической эволюции, которого нет у столько же сложных полупроводниковых систем - то перспективы жизни на земле очень мрачны

согласен с вами. только онтологическая важность сознания является шансом для человека сохранить свою ценность. в этом смысле перспективно исследование такого феномена, как квалиа. я перевёл о них статью в в вики:
http://ru.wikipedia.org/wiki/Квалиа

кроме того, я перевёл статью юдковски "ИИ как фактор глобального риска"

Е.Юдковски
Искусственный интеллект как позитивный и негативный фактор глобального риска.
http://www.proza.ru/texts/2007/03/22-285.html

извините, что закидал ссылками:)

да, проблема качеств и проблема сознания - по сути одна и та же проблема. другое дело, что я предпочитаю считать проблему качеств - лишь частью проблемы сознания, ведь можно вполне себе представить ситуацию, что проблема качеств более-менее решена, например установлением связи между качествами и схемотехникой нейронных сетей (напрмер, анализатор зелёного и красного цветов имеет разную схемотехническою структуру, и воспроизведя у муравья человеческую цепочку, мы позволим ему увидеть именно те цвета, которые видит человек помимо его собственных, недотупных нам ), но при этом остаётся куча других нерешённых вопросов, главный из которых - чем обеспечивается целостность сознания, которой не обладает просто кучка соединённых друг с другом атомов

я согласен с тем, что сознание - это нечто большее, чем качества - ибо ещё есть внимание, которое их соединяет, но не думаю, что проблема качеств решится, если мы узнаем, какие типы нейронов создают какие качества. потому что мы не узнаем причины этого.

приглашаю в чат. chat.dalnet.ru, #transhumanism