Проблема не в том, что искусственный интеллект будет. Проблема в том, что он будет глобальным и сетевым. То есть его нельзя будет даже и убить, "выключив компьютер". В частности, "интернет вещей" тоже будет элементом распределенного "мозга". Возможно, мир распадется на систему нескольких "сетевых мегаличностей". Но вопрос человеческого контроля за ними в любом случае сохраняется. Ибо такие вопросы, как принятие решений в области применения оружия будут критическими. При этом, ограничение искусственное ограничение когнитивных способностей искусственного интеллекта не кажется реальным способом.Еще один вопрос - это вопрос технологического "самоподдержания" ИИ, то есть производства, совершенствования и имплементации отживших (вышедших из строя, или морально устаревших) элементов системы. Критический элемент также - энергоресурсы.

https://sl-lopatnikov.livejournal.com/2126598.html?utm_medium=email&utm_source=JournalNewEntry