Об искусственный интеллект (фейсбучный постинг Den Centurion)
https://www.facebook.com/permalink.php?story_fbid=pfbid02QEpJzVcBrumBF5pMfEokbecJ6Kv1ZXkNZdg1HJXTLi95oP6fBSRHTCQrxHb4eWPcl&id=100007728798934

Невидимая рука грабель

Писать на тему “Я и искусственный интеллект”, как и говорить правду, легко и приятно. Главное – не запутаться, где два “с”, два “л” и два “н”, а остальное пойдёт как по маслу: потеря работы, бессмертный кибернетический диктатор, атрофия головного мозга. Поводов для аргументирования, таким образом, целых три, можно выбирать любой согласный собственному темпераменту.

Людям свойственно пугаться неодушевлённых предметов, особенно если те воплощают качество, предполагающееся к наличию только у человека. Даже простым граблям народная мудрость приписывает мстительность и злопамятность, выводя из них особую дидактическую ценность этого приспособления. В гуманизме, как секулярной религии, от утвари умученные составляют целый сонм страстотерпцев: в восемнадцатом веке людей съели овцы и прялка-дженни, в девятнадцатом – станки и паровая машина, в двадцатом – компьютеры и роботы. Произвол, чинимый инструментарием, является основным двигателем сюжета таких бессмертных произведений мировой литературы как “Капитал” К. Маркса и “Федорино горе” К. Чуковского.

Но что может сказать на тему “Я и грабли” человек, который не боится граблей из-за того, что они похожи на высушенную руку, пускай даже он и получал от них по лбу? Да, я пользуюсь граблями, может гордо скзать он. Я сделал свои первые грабли, когда мне было восемь лет. Я собираю ими листья и пригибаю ветки, чтобы снять с них плоды. Иногда, когда гребёнка слетает с рукоятки, я насаживаю её обратно. Вот, в общем-то, и всё, что он может сказать о граблях.

Что же может сказать на тему “Я и искусственный интеллект” человек, который не боится его из-за того, что он похож на высушенный разум? Да, я пользуюсь искусственным интеллектом, может гордо сказать он. Я написал свой первый перцептрон двадцать лет назад, ещё на излёте т.н. “AI winter”, или, как теперь говорят, “до того как это стало модным”. Перцептрон, обученный методом обратного распространения, собирал данные некоторого физического процесса и пригибал описывающую функцию, чтобы снять с неё ошибки, исходя из предположения о её дифференцируемости на целевом отрезке области определения. Иногда, когда у меня возникают сомнения в правильности перевода научного или технического текста, я использую большие языковые модели для проверки. Вот, в общем-то, и всё, что он может сказать об искусственном интеллекте.

Неприятности и затруднения возникают уже после подобного высказывания. Ведь у высказывания есть получатель, пусть, возможно, и неизвестный автору человек. А людям, как уже было сказано, свойственно пугаться. Перцептрон сложнее граблей, следовательно, менее понятен, следовательно, более пугающ. Поэтому тема собственного отношения к предмету неизбежно превращается в тему “Я и искусственный интеллект в головах других людей”.

Но влияние, которое искусственный интеллект оказывает на содержание голов других людей, обусловлено в большей степени свойствами голов, чем свойствами предмета влияния. Страх, что он лишит работы всех и навсегда, вообще не имеет никакой связи с информационными технологиями, это заблуждение носит экономический характер и чрезвычайно живуче, если посмотреть историю хозяйствования за последние триста лет – приблизительную длительность промышленной революции. Появление приспособлений, сберегающих труд, вызвало устойчивое беспокойство, что они сберегут именно твой труд, и делать тебе будет нечего до скончания времён, которое для человека без работы не за горами. Экономическая теория и история многократно и исчерпывающе опровергли это заблуждение.

Некоторые свойства искусственного интеллекта, такие как его способности к классификации (декомпозиции) и синтезу (композиции), делают его работу похожей на работу человеческого разума. Это вызывает другую устойчивую ошибку – на этот раз чисто логическую. Из того факта, что искусственный интеллект обладает некоторыми свойствами разума делается неявный вывод, что он обладает и любыми другими. На этом стоят все фобии о восстании машин, кибернетической диктатуре и прочей матрице – на необоснованом приписывании вычислительному устройству такого свойства человеческого разума, как целеполагание или воля. Удивительно, как общественное сознание ещё не породило сюжета об огромной и трагической любви человека и искусственного интеллекта; наверное, только потому, что всё массовое идёт по пути наименьшего сопротивления, а бояться легче, чем любить.

К сожалению, искусственному интеллекту не нужна собственная воля для причинения огромного вреда – достаточно злой воли людей. Но это опять-таки свойства не искусственного интеллекта, а человека и любого мощного инструмента, атомная энергия – первейший пример.

Резюмируя, можно сказать, что нет у меня с искусственным интеллектом никаких особых отношений, отличных от таковых с другими предметами окружающего мира. Особые отношения у меня есть с людьми.