В очередной раз на ФАИ подняли эту, уже боянистую честно говоря, тему, мол человечество создало некий искусственный интеллект, тому в итоге надоело, что его не считают за человека... и он решил навести порядок. Понятно первым и основным возражением становятся тезисы о том, что путь создания искусственного разума пока совершенно не ясен, да и человеческий мозг даст по сложности сто очков вперед любому компьютеру.
Но проблема не в создании искуственного интеллекта, который станет лучше человеческого во всех смыслах (такому и проиграть не позорно, все в рамках теории теории, человек - это промежуточное звено эволюции, необходимое для создания венца творения природы - рюмки коньяка и дольки лимона искусственного сверхразума) а в совсем другом. Кто будет принимать решения - а значит управлять человечеством.
Поверьте, для этого совсем не надо создавать сверхразум, можно обойтись обычными консультационными самообучающимися нейронными сетями, которые уже давно стали днем сегодняшним: используются в финансовой сфере (предсказания кредитных рисков и стоимости недвижимости, биржевой стратегии и т.п.), военными (имитационные системы и управление), даже в психологии!
Нашим сетям достаточно уметь обобщать информацию и принимать решения на ее основе. Это не более чем уровень муравейника.
Для лучшего прогнозирования и самообучения стоит объединять сети дабы они могли обмениваться информацией. Сейчас мы на пороге этого этапа, т.к. кризис показал что предсказания финансовых аналитиков более не стоят бумаги, на которой написаны, значит будут искать альтернативные варианты, которыми как раз и являются наши сети. А если будет одна сеть, то и рекомендации будут идти из одного источника в масштабах корпорации, страны или даже всемирного банка или к примеру НАТО.
И наконец этап третий: (не)адекватность сетей. Нейронные сети очень зависимы от качества информации, т.е. скажем приписки или подлог, ну или просто неправильный рейтинг правдивости СМИ могут серьезно сказаться на предлагаемых этими сетями вариантах действий.
А что это значит? То, что люди в будущем могут играть друг против друга (вплоть до военных действий) не ради собственных интересов, а только из-за ошибок консультационных систем, причем людьми же вызванных. И самое смешное что для этого не надо никакого сверхразума!
Добро пожаловать в реальный либерпанк, приглашаются все!