Станислав Лем. Искусственный лепет
Дуглас Хофштадтер (Douglas Hofstadter) совместно с группой специалистов, увлеченных конструированием искусственного интеллекта, написал книгу, насчитывающую более пятисот страниц, которую я в меру тщательно пролистал. Труд этот, полный глубоких рассуждений, основанных, разумеется, на анализе колоссального количества работ, пытающихся наделить компьютеры интеллектуальными способностями человека, изрядно меня измучил. Поэтому, чтобы ознакомиться с ним быстрее, я сразу обратился к последнему разделу, рассчитывая, что в нем окончательно и ясно представлены возможности организации разума в машине. Увы, квинтэссенция этого толстого тома представляет все еще очень отдаленное будущее, в котором интеллект, сформированный из электронных элементов, станет действительно неотличим от того, обычного, который имеется у нас в головах.
На полях этого кропотливого труда, который по сути является антологией, объединяющей достижения множества ученых, могу отметить, что давно, лет сорок назад, мне уже представлялось, какой может быть дорога в направлении искусственного интеллекта. Я считал, что очередные этапы приведут в конечном итоге к такой имитации души в машине, которую все трудней будет отличить от человеческого опыта, или, говоря немного иначе, что в соответствии с господствующей в нашей технологии главной тенденцией, заключающейся в стирании различий между искусственным и естественным, появится почти соприкосновение мысли живой и сымитированной. Уже не представляет серьезных трудностей запрограммировать для компьютера как синтаксические правила, так и богатый словарный запас.
И как бы параллельно появились попытки публикации текстов, будто бы созданных компьютерными программами. Действительность, однако, прозаична. Компьютер сумеет создать формально безупречную бессмыслицу, из которой человек, следящий за печатаемым результатом, сможет извлечь более или менее осмысленные фрагменты текста, будто изюм из булки. При этом остается характерной своего рода безнаправленность псевдоповествования, напоминающего пьяницу, двигающегося неуверенно и неустойчиво. В текстах такого рода, бездушно выдаваемых машиной и выборочно отсеиваемых человеком, не прослеживается ни единой путеводной мысли или хотя бы сюжетного хода. Несколько лучше обстоит дело с машинными рисунками, или с фрагментами музыки, или, в конце концов, с достаточно простыми математическими доказательствами, которые удаются неплохо, поскольку залогом их успеха, как правило, является логичный и жестко формализованный порядок. Однако все то, что действительно свидетельствует о нашей интеллектуальной жизнедеятельности, то есть цель разговора, направление мысли, ее смысловая ясность и, прежде всего, поддающийся определению способ управления волей, во всех этих искусственных продуктах отсутствует. Nota bene характерно, что уже сорок лет назад была реализована программа, которая с успехом (даже у психиатров) подражала типичному способу мышления параноика. Ибо его мышление сильно ограничено из-за нарушений монотематического центра.
Одна из первых программ, подражающих человеческому разговору, спроектированная профессором Вейзенбаумом (Weizenbaum) и названная "Элизой", умела неплохо вводить в заблуждение многих простодушных собеседников. Суть именно в том, что, если кто-то с нами разговаривает, мы непроизвольно готовы принять его за человека. На этом фоне может возникать так называемый "эффект Элизы", который сводится к приписыванию фразам, в действительности бессмысленным, некоей, может, и не совсем понятной, разумности. Впрочем, каждый, кто имел дело с современными поэтическими текстами, лишенными всякой взаимосвязи, насыщенными неоднозначными ассоциациями, отдает себе отчет в том, как иногда трудны и даже бесплодны усилия по их пониманию. Поэтому немного парадоксально, но человек, который не позволяет языковому тексту идти прямой дорогой, непроизвольно придает хаотичным фразам такой смысл, которого они, возможно, вовсе не содержат. Механические сочинения могут отвечать нашим требованиям восприятия благодаря тому, что у нас остается неосознанное предположение их человеческого авторства. В результате этого неимоверно насыщенная преградами задача имитации плодов разума распадается не только на проблемы пассивной, без сомнения, машины, но также и на проблемы, связанные с нашим активным и неустанным стремлением к пониманию всякой, хотя бы и мельчайшей, частицы мира.
(Более подробно с мыслями Станислава Лема о проблемах создания искусственного интеллекта можно ознакомиться в книге Лем С. "Молох". — Москва: Издательство АСТ, 2004, 782 с. — В.Я.).
Опубликовано в журнале "Przekroj" (№29/2002)
Перевод с польского и фото Виктора Язневича, yaznevich@mail.ru
На полях этого кропотливого труда, который по сути является антологией, объединяющей достижения множества ученых, могу отметить, что давно, лет сорок назад, мне уже представлялось, какой может быть дорога в направлении искусственного интеллекта. Я считал, что очередные этапы приведут в конечном итоге к такой имитации души в машине, которую все трудней будет отличить от человеческого опыта, или, говоря немного иначе, что в соответствии с господствующей в нашей технологии главной тенденцией, заключающейся в стирании различий между искусственным и естественным, появится почти соприкосновение мысли живой и сымитированной. Уже не представляет серьезных трудностей запрограммировать для компьютера как синтаксические правила, так и богатый словарный запас.
И как бы параллельно появились попытки публикации текстов, будто бы созданных компьютерными программами. Действительность, однако, прозаична. Компьютер сумеет создать формально безупречную бессмыслицу, из которой человек, следящий за печатаемым результатом, сможет извлечь более или менее осмысленные фрагменты текста, будто изюм из булки. При этом остается характерной своего рода безнаправленность псевдоповествования, напоминающего пьяницу, двигающегося неуверенно и неустойчиво. В текстах такого рода, бездушно выдаваемых машиной и выборочно отсеиваемых человеком, не прослеживается ни единой путеводной мысли или хотя бы сюжетного хода. Несколько лучше обстоит дело с машинными рисунками, или с фрагментами музыки, или, в конце концов, с достаточно простыми математическими доказательствами, которые удаются неплохо, поскольку залогом их успеха, как правило, является логичный и жестко формализованный порядок. Однако все то, что действительно свидетельствует о нашей интеллектуальной жизнедеятельности, то есть цель разговора, направление мысли, ее смысловая ясность и, прежде всего, поддающийся определению способ управления волей, во всех этих искусственных продуктах отсутствует. Nota bene характерно, что уже сорок лет назад была реализована программа, которая с успехом (даже у психиатров) подражала типичному способу мышления параноика. Ибо его мышление сильно ограничено из-за нарушений монотематического центра.
Одна из первых программ, подражающих человеческому разговору, спроектированная профессором Вейзенбаумом (Weizenbaum) и названная "Элизой", умела неплохо вводить в заблуждение многих простодушных собеседников. Суть именно в том, что, если кто-то с нами разговаривает, мы непроизвольно готовы принять его за человека. На этом фоне может возникать так называемый "эффект Элизы", который сводится к приписыванию фразам, в действительности бессмысленным, некоей, может, и не совсем понятной, разумности. Впрочем, каждый, кто имел дело с современными поэтическими текстами, лишенными всякой взаимосвязи, насыщенными неоднозначными ассоциациями, отдает себе отчет в том, как иногда трудны и даже бесплодны усилия по их пониманию. Поэтому немного парадоксально, но человек, который не позволяет языковому тексту идти прямой дорогой, непроизвольно придает хаотичным фразам такой смысл, которого они, возможно, вовсе не содержат. Механические сочинения могут отвечать нашим требованиям восприятия благодаря тому, что у нас остается неосознанное предположение их человеческого авторства. В результате этого неимоверно насыщенная преградами задача имитации плодов разума распадается не только на проблемы пассивной, без сомнения, машины, но также и на проблемы, связанные с нашим активным и неустанным стремлением к пониманию всякой, хотя бы и мельчайшей, частицы мира.
(Более подробно с мыслями Станислава Лема о проблемах создания искусственного интеллекта можно ознакомиться в книге Лем С. "Молох". — Москва: Издательство АСТ, 2004, 782 с. — В.Я.).
Опубликовано в журнале "Przekroj" (№29/2002)
Перевод с польского и фото Виктора Язневича, yaznevich@mail.ru
Компьютерная газета. Статья была опубликована в номере 51 за 2004 год в рубрике чтиво :: Станислав Лем
