«Творец и робот»

Норберт Винер Творец и робот: обсуждение некоторых проблем, в которых кибернетика сталкивается с религией

Посвящается Питу Гейну за дружескую поддержку и критические замечания.

Предисловие

«Творец и робот» – последняя книга основоположника кибернетики Норберта Винера, увидевшая свет в 1964 году, вскоре после смерти автора. Она создана на материале популярных лекций и представляет собой небольшой цикл социально-философских очерков, объединенных одной внутренней темой. Тема эта – в широком смысле – соотношение между творцом и его творением, между творческими силами человека и созданной его гением кибернетической машиной.

В «Творце и роботе» Винер рассматривает три узловые проблемы кибернетики, тесно связанные с перспективами развития человеческого общества. Это проблема обучающихся машин (гл. II), проблема самовоспроизведения машин (гл. III и IV) и проблема взаимоотношения человека и машины (гл. V, VI).

Морально-этические аспекты этих больших проблем, поставленных всем ходом переживаемой нами научно-технической революции, рассматриваются выдающимся ученым с передовых, гуманистических позиций.

Что несет человечеству «магия автоматизации», какое место принадлежит человеку в бурно развивающемся комплексе «человек – машина», моральная ответственность ученых и правительств, направляющих стремительный бег автоматизации, – вот вопросы, которые волнуют автора.

Ответы Винера в значительной мере отражают умонастроение передовой части ученых и интеллигенции Запада.

Рассматривая проблему взаимоотношения человека и машины, Винер считает наиболее перспективным путем развития их разумный симбиоз, а котором направляющей силой служат человеческие цели. «Человеку – человеческое, вычислительной машине – машинное», – предупреждает Винер. Идеи такого симбиоза иллюстрируются на примере биоэлектронных устройств, машинного перевода при участии человека-редактора и диагностических машин.

Вместе с тем Винер подчеркивает, что догматическое разграничение возможностей живого и неживого, чрезмерное противопоставление человеческого начала машинному столь же неправомерно, как и религиозное возвышение бога над человеком.

«Творец и робот» – книга, направленная против всяких религиозных и псевдонаучных догм, которые сковывают мощь человеческого разума и мешают развитию подлинной науки. Борьба с догматизмом – это как бы вторая сквозная тема книги, перекликающаяся со словами Галилея: «Только со смертью догмы начинается наука».

Весьма интересны мысли Винера об особенностях применения математики и кибернетики в социологии (гл. VII). Здесь Винер выступает против вульгарного, упрощенного применения математических методов в экономических и социальных науках.

Как и в предыдущих своих научно-публицистических работах, Винер в «Творце и роботе» решительно выступает против всякого античеловеческого применения кибернетики: против ее применения для «развязывания ядерной войны с ее апокалиптическими ужасами», против ее применения в целях сверхобогащения немногих и еще большего угнетения человека.

Наряду с этим следует заметить, что в книге встречаются и спорные суждения, что, естественно, объясняется новизной предмета. Некоторые из этих суждений вызывают возражения с позиций марксистской методологии (см. примечание на стр. 95). Одним из уязвимых пунктов позиции Винера является его стремление применить кибернетический подход к анализу общественных систем, отвлекаясь от их социальной структуры. Это неизбежно приводит автора к уравнительно-объективистским оценкам социальных сил Востока и Запада (см. его рассуждения о Большой кнопке на стр. 36, 70-71).

Отмечая все эти моменты, мы вместе с тем подчеркиваем и достоинства книги Винера. Несомненно, научная содержательность, глубокий, порой парадоксальный ход мысли, неожиданные литературно-философские отступления, образность и эмоциональная напряженность речи – все эти черты затронут думающего читателя, кем бы он ни был.

Вместе с тем книга Винера «Творец и робот» представляет интерес и для специалистов, занятых приложениями кибернетических методов в технике, биологии, медицине, лингвистике и экономике.

М. Аронэ

Предисловие автора

Несколько лет назад в книге «Кибернетика и общество»[1] я рассмотрел некоторые этические и социологические следствия, вытекающие из моей предыдущей работы «Кибернетика»[2], посвященной вопросам управления и связи в машинах и живых организмах. В тот период кибернетика была относительно новой идеей и ни ее научное, ни социальное значение не было еще вполне ясно. Сейчас – почти пятнадцать лет спустя – кибернетика уже оказала определенное социальное и научное воздействие, и за это время в мире произошло немало такого, что оправдывает появление новой книги.

Безработица, порождаемая автоматизацией, не является более предметом предположений – она стала одной из животрепещущих проблем современного общества.

Круг идей кибернетики из планов и упований на будущее превратился ныне в рабочий аппарат, применяемый в технике, биологии, медицине и социологии; он претерпел при этом большое внутреннее развитие.

Я прочел не один цикл лекций, стремясь обрисовать влияние этого круга идей на общество, этику и религию, и я полагаю, что пришло время попытаться дать синтез своих взглядов в этой области и рассмотреть подробнее социальные последствия кибернетики. Настоящая книга посвящена некоторым аспектам этих последствий, позволяющим мне (хоть я и сохраняю идеи и многие примеры из книги «Кибернетика и общество») рассмотреть предмет глубже и полнее.

Здесь я хотел бы отметить большую помощь, которую мне оказали своей критикой друзья с обоих берегов Атлантики, и в частности г-н Пит Гейн из Рунгстэд-Кюста в Дании, д-р Лоренс Франк из Бельмонта, шт. Массачусетс, и проф. Карл Дейч из Йельского университета, а также многие другие. Кроме того, я хочу поблагодарить моего секретаря, г-жу Еву-Марию Риттер, за ее помощь в подготовке рукописи.

Я имел возможность развить свои идеи в курсе лекций, прочитанных в январе 1962 года в Польском университете и на семинаре, организованном летом 1962 года на Международном философском коллоквиуме в Руайемоне, близ Парижа. Хотя настоящая книга и содержит материал из моих высказываний в обоих местах, он был полностью пересмотрен и переработан.

С благодарностью многим, оказавшим помощь в этой работе.

Норберт Винер

Сэндвич, Нью-Гэмпшир,

30 августа 1963 года

I

В этой книге я намереваюсь обсудить не всю проблему отношения религии и науки, а лишь определенные вопросы, связанные с той областью знания, которая представляет для меня наибольший интерес, – с наукой об управлении и связи. Мне кажется, что вопросы эти располагаются вблизи того рубежа, где наука сталкивается с религией. Я хотел бы при этом избежать логических парадоксов, которые являются следствием крайних (хотя и привычных) претензий религии на истолкование абсолютов. Если мы будем рассматривать познание только с позиций Всеведения, власть – только с позиций Всемогущества, а культ – только с позиций Единобожия, то мы запутаемся в метафизических хитросплетениях еще до того, как приступим к действительному исследованию отношений между религией и наукой.

Тем не менее существует много положений, касающихся знания, власти и культа, которые приходят в столкновение с последними данными науки. Мы могли бы свободно обсудить эти положения, не обращаясь к упомянутым абсолютным понятиям, окутанным столь сложными эмоциями и таким пиететом, что нет никакой возможности к ним подступиться, не возбуждая страстей. Но знание, власть, культ – это определенные факты действительности, и факты эти доступны человеческому исследованию совершенно независимо от принятой теологии. Как реальные факты, эти явления поддаются изучению, при котором мы можем воспользоваться нашими сведениями о знании, власти и культе из других областей, более доступных для методов естественных наук. И нам незачем требовать от изучающего, чтобы он сразу же полностью воспринял точку зрения «credo quia incredibile est»[3].

Можно сказать, что, выбирая свой отправной пункт вне сферы религии, я сразу же лишаю себя возможности обсуждать отношения между религией и наукой, хотя это и подразумевается общим замыслом настоящего очерка. Поэтому лучше с самого начала точно определить свою тему, указать рамки, из которых я не намерен выходить, и отмежеваться от намерений, чуждых той специфической задаче, которую я поставил перед собой. Я уже говорил, что в течение ряда лет работал над проблемами связи и управления в машинах и живых организмах, над новыми инженерными и физиологическими методами, связанными с этими идеями, и над изучением последствий этих методов для дел человеческих. Знание тесно переплетается со связью, власть – с управлением, а оценка человеческих дел – с этикой и со всей нормативной стороной религии. Поэтому, изучая заново отношения между наукой и религией, уместно пересмотреть наше представление об этих предметах в свете последних достижений теории и практики. Возможно, что это еще не будет изучением самой науки и ее отношения к религии в собственном смысле, однако, вне всякого сомнения, это послужит необходимым введением к такому изучению.

Если мы хотим получить что-либо от подобного исследования, мы должны освободиться от наслоившихся предрассудков, которыми мы как будто защищаем свое благоговение перед святыми и великими вещами, а на деле обыкновенно стремимся избавиться от чувства неполноценности, которое испытываем, встречаясь с неприятной действительностью и опасными сопоставлениями.

Если этот наш очерк должен что-то значить, то он должен быть реальным анализом реальных проблем. Дух, в котором его надлежит провести, – это дух операционной, а не ритуального плача над усопшим. Щепетильность здесь неуместна, ибо она граничила бы с кощунством. Мы уподобились бы модным медикам прошлого века, которые у постели больного прятали хирургические иглы под шелковыми лацканами своих черных сюртуков.

Каково бы ни было содержание религии, в ней часто заключено нечто, напоминающее запертую гостиную фермерского дома Новой Англии, с опущенными шторами, восковыми цветами под стеклянным колпаком над камином, позолоченными камышами, обрамляющими незаконченный портрет дедушки на мольберте, и фисгармонией из черного дерева, на которой играют лишь на свадьбах и похоронах. Или иначе, мы находим здесь некий моральный эквивалент неаполитанского катафалка – той великолепной черной кареты с зеркальными стеклами, с конями под черными султанами, которая как бы переносит достоинство почившего в потусторонний мир или, во всяком случае, вселяет надежду сохранить его. Мы должны резко отделять рассмотрение столь серьезного предмета, как религия, от любого анализа духовных ценностей меньшей значимости, чем сама религия.

Я говорил уже о наслоившихся предрассудках, препятствующих обсуждению проблем той важной переходной области, где наука сталкивается с религией: мы-де не можем ставить в своих рассуждениях Бога и Человека на одну доску – это кощунство. Подобно Декарту, мы должны блюсти достоинство Человека, основываясь в своих рассуждениях на точке зрения, совершенно отличной от той, с которой мы оцениваем низших животных.

Теория эволюции и происхождения видов – это осквернение человеческих достоинств, и, как уже обнаружили ранние сторонники Дарвина, в мире, с подозрением относящемся к науке, ученому крайне опасно поддерживать подобные идеи. Более того – даже в мире науки опасно выступать против установленной табели о рангах. Ни в коей мере непозволительно ставить на одну доску живые существа и машины! Живые существа – это живые существа во всех своих частях, машины же сделаны из металлов и других неорганических веществ и не обладают тонкой структурой, отражающей их целевые или квазицелевые функции. Физика – или что обычно понимается под ней – не знает ничего о цели; возникновение же жизни представляет собой нечто совершенно иное.

Если мы будем придерживаться всех этих табу, то мы, возможно, приобретем громкую славу консервативных и трезво мыслящих людей, но при этом, увы, очень мало сделаем для дальнейшего прогресса знания. Неотъемлемой чертой ученого, равно как умного, честного писателя, как и умного, честного представителя духовенства, должно быть стремление подвергнуть экспериментальной проверке еретические или запретные мнения, даже если в конечном итоге их придется отвергнуть. Более того, это неприятие новых взглядов не должно быть бездоказательным с первых шагов, и в то же время оно не должно сводиться к бесплодным умственным упражнениям, когда с самого начала становится очевидным, что это не более чем игра, в которой одна из сторон демонстрирует свою мнимую непредубежденность. Это ответственное дело, и браться за него следует со всей серьезностью. Оно приобретает смысл только тогда, когда связано с реальным риском впасть в ересь, и если эта ересь влечет за собой риск духовного проклятия, то на этот риск нужно идти честно и смело! Говоря словами кальвиниста: «Готов ли ты быть проклятым ради вящей славы господа?»

Вот почему нам необходим честный и пытливый критицизм, и в частности в дискуссиях на религиозные темы, где уклонение от истины вызывается ложным пониманием превосходных степеней. Я уже упоминал о затруднениях, возникающих при обсуждении таких понятий, как Всемогущество, Всеведение и т.п. Эти затруднения возникают в самых причудливых формах, например, когда какой-нибудь безбожник, случайно попавший на религиозное собрание, спрашивает: «Может ли Бог создать камень, который он не смог бы поднять?» Если он не может, то его могущество ограниченно или, по крайней мере, можно полагать, что существует предел его могуществу; если он может, то это снова означает, что его могущество ограниченно.

Легко выйти из этого затруднения, сказав, что это лишь каламбур, однако это нечто большее. Этот парадокс – один из многих парадоксов, связанных с понятием бесконечности в ее разнообразных формах. С одной стороны, малейшая манипуляция с математическим понятием бесконечности связана с понятием о делении нуля на нуль или бесконечности на бесконечность, или произведении бесконечности на нуль, или вычитании бесконечности из бесконечности. Эти выражения называются в математике неопределенностями, и принципиальная трудность, скрытая в них, заключается в том, что бесконечность не совпадает с обычным понятием о числе или количестве, так что символ ∞/∞ означает для математика лишь предел отношения x/y, когда x и y стремятся оба к бесконечности. Этот предел может быть равным 1, если y = x; он может равняться 0, если y = x2, или ∞, если y = 1/x, и т.д.

Существует также другой вид бесконечности, который возникает при счете. Можно показать, что понятие бесконечности такого рода тоже приводит к парадоксам. Сколько чисел в классе всех чисел? Можно показать, что вопрос поставлен неправильно и что, как бы ни определялось число, число всех чисел больше любого числа. Это один из парадоксов Фреге – Рассела, связанный со сложностями теории типов.

Суть вопроса в том, что понятия Всемогущества и Всеведения в действительности являются не превосходными степенями, а лишь неопределенными формами выражения очень большой власти и очень больших знаний. Они выражают чувство благоговения, но не представляют собой утверждения, которое можно было бы защищать с метафизических позиций. Если Бог превосходит человеческий разум и не может быть понят присущими человеку формами мышления – а это позиция, которую по крайней мере можно защищать – то с точки зрения разума нечестно сводить на нет интеллектуальные силы человека втискивая Бога в такие формы, которые должны иметь весьма определенное рациональное содержание. Таким образом, когда мы обнаруживаем ситуации, обусловленные определенными обстоятельствами, проливающими, по-видимому, свет на некоторые общие положения религиозных сочинений, мне кажется, неразумно сбрасывать их со счетов только потому, что они не имеют абсолютного, бесконечного и всеобъемлющего характера, который обыкновенно придается религиозным догмам.

Это утверждение дает ключ к пониманию целей настоящей книги. Я хотел бы рассмотреть некоторые положения, обсуждавшиеся в религиозных сочинениях в теологическом аспекте, но аналогичные во многом другим положениям, которые являются предметом науки, и в частности новой науки – кибернетики, изучающей закономерности связи и управления в машинах и живых организмах. Я предлагаю использовать ограниченные в известной мере аналогии кибернетических ситуаций, чтобы пролить свет на некоторые религиозные положения.

Осуществляя это, я, безусловно, вынужден буду как-то втиснуть религиозные положения в рамки своего кибернетического подхода. Я в полной мере отдаю себе отчет в том, какое насилие я должен при этом совершить. Моим оправданием может служить только то, что скальпель анатома сделал анатомию наукой и что скальпель анатома – это инструмент, который позволяет исследовать предмет, увы, лишь при помощи насилия.

II

С этими предварительными замечаниями обратимся к собственно теме этой небольшой книги.

В кибернетике существуют по крайней мере три узловые проблемы, которые, мне кажется, относятся также к предметам религиозных споров. Первая относится к обучающимся машинам, вторая – к машинам, способным к самовоспроизведению, и третья – это проблема координации машины и человека. Я могу сказать с достаточным основанием, что такие машины действительно существуют. Д-р А. Сэмюэль из «Интернейшнл бизнес мэшинз корпорейшн» составил для вычислительной машины программу, которая позволяет ей играть в шашки, причем в ходе игры машина обучается или по крайней мере создает впечатление, что обучается, улучшая свою игру на основе накопленного ею опыта[4]. Здесь уже содержатся определенные утверждения, нуждающиеся в доказательстве или по крайней мере в разъяснениях, которым я посвящу часть этой книги.

Обучение есть свойство, которое мы часто приписываем исключительно системам, обладающим самосознанием, и почти всегда живым системам. Этот феномен в своей наиболее характерной форме проявляется у человека, образуя один из атрибутов, который обычно легко связывается с его религиозной жизнью. В самом деле, трудно представить себе, как существо, не поддающееся обучению, смогло бы приобщиться к религии.

Существует, однако, другой аспект жизни, который обычно связывается с религией. Бог, учит религия, создал человека по своему образу и подобию, и точно так же размножение человеческого рода можно интерпретировать как процесс, который позволяет одному живому существу воспроизводить другое по своему образу и подобию. Стремление людей возвысить Бога над человеком, а Человека над материей, естественно, приводит к предположению, что машина не может создавать другие машины по своему образу и подобию; это свойство в какой-то мере связано с резким различием живых и неживых систем и в еще большей степени с дихотомией другого рода – с различием между творцом и его творением.

Однако так ли это? Один из разделов этой книги я посвящу изложению некоторых соображений, которые, по моему мнению, показывают, что машины вполне способны создавать другие машины по своему образу и подобию. Тема, о которой я буду здесь говорить, сугубо специальна и в то же время очень деликатна. Ее не следует принимать слишком серьезно, как реальную модель процесса биологического воспроизведения и еще меньше как полную модель божественного творения; но в то же время к ней нельзя относиться с пренебрежением, так как она проливает свет на обе эти концепции.

Эти две части книги могут рассматриваться как дополняющие друг друга.

Обучение индивида – это процесс, который протекает на протяжении его жизни, в рамках онтогенеза. Биологическое воспроизведение – это явление, которое протекает на протяжении жизни человеческого рода, в рамках филогенеза; однако человеческий род в целом обучается в какой-то мере так же, как это делает индивид. Дарвиновский естественный отбор – разновидность процесса родового обучения, который протекает в границах, обусловленных воспроизведением индивидов.

Третья группа тем этой книги также относится к проблемам обучения. Они касаются взаимоотношений машины с живым существом, а также с системой, включающей механо-биологические элементы. Здесь речь идет об аспектах нормативного или, точнее, этического характера. Их рассмотрение выявляет наиболее серьезные моральные ловушки, в которых может оказаться современное поколение. Они также тесно переплетаются со множеством человеческих традиций и легенд, соприкасающихся с магией и тому подобными вещами.

Возвращаясь к обучающимся машинам, введем прежде всего понятие организующихся систем, под которыми мы будем понимать системы, преобразующие в соответствии с определенным принципом некоторое входное сообщение в выходное. Если этот принцип преобразования подчиняется некоторому критерию эффективности и если способ преобразования может регулироваться так, что система стремится повысить свою эффективность в соответствии с указанным критерием, то о такой системе говорят, что она обучается. Очень простой тип системы с легко интерпретируемым критерием эффективности представляет собой игра, которая должна вестись по определенным правилам, причем критерием эффективности является конечный выигрыш, достигаемый в соответствии с этими правилами.

Среди таких игр существуют игры с совершенной теорией, которые не представляют интереса. Примерами подобных игр являются «ним», по Бутону, и «крестики и нолики». В этих играх можно не только найти теоретически наилучшую стратегию, но и разработать ее во всех деталях. Играющие в эту игру (первый или второй игрок) всегда могут выиграть или, во всяком случае, добиться ничьей, придерживаясь избранной стратегии. Теоретически любая игра может быть доведена до такого уровня – такова идея покойного Джона фон Неймана. Однако, как только какая-либо игра действительно доводится до подобного уровня, она становится совершенно неинтересной и более не может рассматриваться даже как развлечение.

Такое всезнающее существо, как Бог, нашло бы, что шахматы и шашки являются примерами игр в указанном фон Нейманом смысле, но человек их полной теории еще не создал, и поэтому они все еще представляют собой вдохновенные состязания в силе интуиции и изобретательности. Однако эти игры не всегда ведутся в духе теории фон Неймана. А она сводится к тому, что, играя, мы делаем наилучший из возможных ходов в предположении, что противник сделает наилучший из возможных ходов в предположении, что мы, в свою очередь, сделаем наилучший из возможных ходов, и т.д., до тех пор, пока один из игроков не выиграет или игра не закончится повторением ходов. В самом деле, способность вести игру в духе стратегии фон Неймана означает, по существу, овладение полной теорией игры, а это низводит ее до уровня тривиального занятия.

Проблема обучения, в частности в ее приложении к машинам, способным обучаться играм, может показаться несколько далекой от религии. Тем не менее существует теологическая проблема, к которой вышеприведенные рассуждения имеют отношение. Это проблема игры между Творцом и его творением. Это тема книги Иова и «Потерянного рая».

В обоих этих сочинениях Дьявол ведет игру с Богом, причем ставкой является душа Иова или вообще души людей. Но, согласно ортодоксальным иудейским и христианским воззрениям, Дьявол – одно из творений Бога. Любое другое предположение привело бы к моральному дуализму с привкусом зороастризма и того отпрыска зороастризма и христианства, которое называется манихейством.

Но если Дьявол – одно из творений Бога, то игра, составляющая содержание книги Иова и «Потерянного рая», представляет собой игру между Богом и одним из его творений. Подобная игра с первого взгляда представляется чрезвычайно неравноправным состязанием. Вести игру против всемогущего, всезнающего Бога – занятие глупое, а между тем известно, что Дьявол – тонкий мастер козней. Любое восстание ангелов обречено на поражение. Чтобы доказать это, нет нужды в мятеже Сатаны, изображенном в «Манфреде». Да и Всемогущество, которое для своего самоутверждения мечет с небес молнии, вовсе не Всемогущество, а лишь очень большая сила, и восстание ангелов могло бы закончиться восхождением Сатаны на небесный трон и ниспровержением и вечным проклятием Бога.

Таким образом, если мы не запутаемся в догмах Всемогущества и Всезнания, конфликт между Богом и Дьяволом предстанет перед нами как реальный конфликт, а Бог – как нечто меньшее, чем абсолютное Всемогущество. Бог действительно вовлечен в конфликт со своим творением, причем он легко может проиграть. И, однако, это его творение создано им по его собственной воле и, по-видимому, приобрело всю свою способность действия от самого Бога. Может ли Бог вести серьезную игру со своим собственным творением? Может ли любой творец, даже ограниченный в своих возможностях, вести серьезную игру со своим собственным творением?

Изобретатель, конструируя машины, с которыми он может вести игру, присвоил себе в определенных пределах функции творца, какова бы ни была природа создаваемых им игровых устройств. Это в особенности верно в отношении играющих автоматов, которые обучаются на своем опыте. Как я уже упоминал, такие машины существуют. Как же они функционируют? Какого они достигли успеха?

Оказывается, что их действия в значительно большей степени напоминают манеру обычного игрока, чем стратегию, соответствующую теории фон Неймана. На каждой стадии игры выбор очередного хода подчинен установленным правилам, а из ряда возможных очередных ходов должен быть выбран один – согласно некоторому нормативному критерию хорошей игры.

Опыт игры, накопленный человеком, представляет нам разнообразные способы выбора такого критерия. В шахматах (или шашках) обычно невыгодно терять свои фигуры (шашки) и, напротив, обычно выгодно брать фигуры (шашки) противника. Игрок, который сохраняет подвижность своих фигур и право выбора ходов и в то же время держит под боем большое число полей на доске, обычно играет лучше своего противника, не придающего значения этим элементам игры.

Эти критерии хорошей игры сохраняют свою силу на протяжении всей партии, но есть и другие критерии, которые относятся к отдельным ее стадиям. В эндшпиле, когда на доске остается мало фигур, сближение с противником и взятие его фигур все более затрудняется. В дебютной стадии игры – и это более важный фактор в шахматах, чем в шашках, – фигуры расставлены так, что они лишены своей полной подвижности и силы. Вследствие этого требуется развитие фигур, позволяющее расширить их поле действия, необходимое как для нападения, так и для защиты. Далее, в шахматах, с их большим разнообразием фигур по сравнению с шашками, есть множество специальных критериев хорошей игры, важность которых доказана многовековым опытом.

Сочетая такие критерии (аддитивно или более сложным способом), можно для оценки очередного хода игрового автомата получить некоторый числовой показатель эффективности. Это может быть сделано до известной степени произвольно. Тогда машина, сравнив между собой показатели эффективности возможных очередных ходов, выберет ход, соответствующий наибольшему показателю. Это один из методов автоматизации выбора очередного хода.

Такая автоматизация выбора очередного хода в большинстве случаев не обязательно обеспечивает оптимальный выбор, но все же это какой-то выбор, и на его основе машина может продолжать игру. Для оценки такого способа механизации игры следует отрешиться от всех представлений о механизируемом объекте, используемом в известных нам технических устройствах, или от физического образа человека, соответствующего обычному игроку. К счастью, выполнить это нетрудно, так как именно это и делают шахматисты, играющие друг с другом по переписке.

При игре по переписке партнеры посылают свои ходы друг другу по почте, так что единственной связью между игроками служит письменный документ. Даже при таком способе игры опытный игрок вскоре вырабатывает определенные представления о личности своего противника, вернее, о его шахматной индивидуальности. Он узнает, тороплив или осторожен его противник, легко ли его провести, проницателен ли он и способен ли усвоить трюки своего противника или может быть снова и снова «пойман» при помощи той же самой элементарной стратегии. Все это узнается, я повторяю, не из какой-либо дополнительной информации, а в ходе самой игры.

С этой точки зрения любой игрок – будь то человек или машина, – пользующийся простым набором качественных признаков, избранных раз и навсегда, создает впечатление «жесткой» шахматной индивидуальности. Если вам удалось найти у такого игрока слабое место, то вы нашли это слабое место навсегда. Если вы разработали против него стратегию, она всегда окажется эффективной. Для выявления его техники достаточно сыграть с ним очень небольшое количество партий.

Все это относится к механическому игроку, который не обучается в ходе игры. Однако ничто не мешает ему научиться играть более разумно. С этой целью он должен сохранять в своей памяти записи прошлых игр. Затем в конце каждой игры или каждой серии игр определенного типа его механизм должен перестраиваться на совершенно иной образ действий.

При формировании показателя эффективности (оценочной функции) в него вводятся некоторые константы, которые можно выбирать различным образом. Так, например, соотношение констант, соответствующих относительной силе фигур, их подвижности и эквивалентному числу, может составлять 10:3:2 вместо 9:4:4. Новый способ применения регулируемой машины состоит в изучении проведенных игр, с тем чтобы, учитывая их исход, найти соответствующие им показатели эффективности (оценочные функции), отражающие динамику этих игр.

Таким образом, оценочная функция подвергается непрерывной переоценке, при которой более высокое значение этой функции присваивается позициям, характерным для выигранных партий, и меньшее значение – позициям, свойственным большей частью проигранным партиям. Игра должна продолжаться уже с новым значением оценочной функции, которая может быть определена различными способами, отличающимися лишь в деталях. В результате этого игровой автомат будет непрерывно преобразовываться в некую отличную от исходной машину в соответствии с историей развертывающейся игры. В этом случае как для машины, так и для ее противника – человека будут иметь значение их прошлые опыт и успех.

При игре с такой машиной, которая часть своей игровой индивидуальности перенимает от своего противника, эта игровая индивидуальность не остается абсолютно неизменной. Противник может вдруг обнаружить, что стратегии, которые в прошлом приводили к успеху, оказываются несостоятельными. Машина может вырабатывать, таким образом, своеобразную бесхитростную хитрость.

Можно сказать, что весь этот неожиданно возникший машинный интеллект был сообщен машине ее конструктором и программистом. В некотором смысле это верно, но не всегда справедливо утверждение, что все новые приемы машины ее конструктор предвидел до малейших деталей. Если бы это было так, то ему было бы не трудно нанести поражение собственному творению. Однако это не соответствует действительной истории машины д-ра Сэмюэля.

В самом деле, в течение значительного периода времени машина Сэмюэля была в состоянии довольно регулярно наносить ему поражения после примерно однодневной тренировки. Следует сказать, что Сэмюэль, по его собственным утверждениям, не был опытным шашистом и что после небольшой практики и тренировки он уже смог обыгрывать свое творение. Однако не надо и преуменьшать значение того факта, что был период, когда машина довольно регулярно выходила из состязания победительницей. Она выигрывала не сразу, она научилась выигрывать, причем методы ее обучения принципиально отличались от методов обучения человека игре в шашки.

Выбор стратегии, доступной машине, играющей в шашки, почти наверняка более ограничен, чем выбор стратегии, доступной человеку, но верно также и то, что выбор эффективной стратегии, доступной человеку-шашисту, тоже не безграничен. Диапазон его выбора определяется только возможностями его разума и воображения, но они, естественно, весьма ограниченны, и притом в такой мере, которая не слишком отличается от предельных возможностей машины.

Таким образом, машина, играющая в шашки, уже сейчас довольно хорошо овладела этой игрой, если же она «изучит» несколько глубже стадию эндшпиля и приобретет навык в применении coup de grace[5], то она начнет приближаться к уровню мастера. Если бы интерес к шашечным турнирам уже не был бы значительно ослаблен «ничейной» природой обычной человеческой игры, то можно было бы утверждать, что машина, играющая в шашки, полностью уничтожила бы интерес к этой игре. Не удивительно поэтому, что уже теперь люди начинают спрашивать, а не случится ли то же самое с шахматами? И когда следует ожидать этой катастрофы?

Машины, играющие в шахматы или по крайней мере способные провести значительную часть шахматной партии, уже существуют, но они играют сравнительно слабо. В лучшем случае их игра не превосходит уровня квалифицированных игроков, не претендующих на звание мастера; такие игровые автоматы действительно очень редко превосходят этот уровень. Это в значительной степени объясняется гораздо большей сложностью шахмат в сравнении с шашками как в отношении разнообразия фигур и ходов, так и в отношении большего различия в стратегии, применяемой на различных этапах игры. Относительно небольшое число параметров, необходимых для автоматизации игры в шашки, и небольшая степень различия между разными стадиями этой игры резко отличают ее от шахмат.

Тем не менее, по общему мнению моих друзей, довольно опытных шахматистов, дни шахмат как интересной человеческой игры сочтены. Они считают, что за период от десяти до двадцати пяти лет класс игры шахматных автоматов достигнет уровня мастеров, а тогда – если только эффективные, но несколько машиноподобные методы русской школы позволят шахматам просуществовать столь долго – они перестанут вообще интересовать людей как игра.

Пусть так, но еще останется много других игр, которые привлекают внимание инженеров, занятых конструированием игровых автоматов. К этим играм относится игра «го», популярная на Дальнем Востоке, в которой различают семь или более различных уровней мастерства.

Развивая эти идеи, можно сказать, что война и бизнес представляют собой конфликты, напоминающие игры, и вследствие этого они могут быть формально сведены к своеобразным играм с определенными правилами. И в самом деле, у меня нет оснований отвергать предположение, что формализованные варианты таких «игр» уже создаются в качестве моделей, имеющих целью определить стратегию нажатия Большой Кнопки, стратегию, которая, по замыслу ее создателей, должна сжечь нашу Землю дотла ради нового порядка вещей, менее зависимого от ненадежности человеческого поведения.

В общем случае игровой автомат может быть использован для автоматической реализации любой функции, если этот процесс подчинен четко выраженному критерию эффективности. В шашках и шахматах этот критерий сводится к выигрышу, достигаемому согласно установленным правилам. Правила эти, в корне отличные от норм доброжелательности, просты и безжалостны. Это не вызывает сомнений даже у тех одаренных детей, которые способны уловить дух этих правил, мимолетно прослеживая события, развертывающиеся на шахматной доске. Игрок может порой испытывать сильные сомнения относительно выбора лучшего пути к победе, но у него нет ни малейших сомнений в том, нужно ли выигрывать или проигрывать.

Основной критерий, позволяющий выразить поведение человека в терминах игры, зависит от того, существует ли объективно различимый критерий этого поведения. В противном случае игра становится столь же неопределенной, как игра в крокет из «Алисы в стране чудес», где шарами были ежи, которые не могли катиться, молотками служили фламинго, дужками – игрушечные солдатики, маршировавшие по полю, а судьей в игре была Королева Червей, все время менявшая правила игры и отсылавшая игроков к Палачу, который рубил им головы. В этих обстоятельствах понятие выигрыша теряет всякий смысл, а успешной тактике нельзя обучиться, так как критерия успеха не существует.

Однако если объективный критерий успеха задан, можно построить игру с использованием самообучения, причем ее методы будут гораздо ближе к тем приемам, которые мы применяем, когда учимся играть, нежели к игре в духе теории фон Неймана. Безусловно, методика игр с применением самообучения должна быть использована в самых различных сферах человеческой деятельности. Тем не менее, как мы увидим ниже, установление точных критериев эффективности того или иного действия поднимает много проблем, связанных с играми, в которых применяется самообучение.

III

Обучение, на которое мы ссылались до сих пор, – это обучение индивида, происходящее в пределах его индивидуальной личной жизни. Существует еще другой, не менее важный аспект обучения – это обучение в рамках филогенеза, то есть в рамках истории существования вида. Это тот тип обучения, который получил одно из фундаментальных обоснований в теории естественного отбора Дарвина.

Три фактора лежат в основе естественного отбора. Во-первых, это такое явление, как наследственность, которое находит свое выражение в том, что отдельное растение или животное дает потомство по образу своему и подобию.

Во-вторых, неполное соответствие образу и подобию родителя; потомство может отличаться от своего родителя по каким-либо признакам, также передающимся механизмом наследственности. В этом суть изменчивости, никоим образом не предполагающей, однако, весьма сомнительной передачи по наследству приобретенного признака.

Третья составная часть эволюционной теории Дарвина зиждется на том, что самопроизвольная изменчивость ограничивается во всевозможных направлениях различием жизнеспособности разных мутаций. Для большей части этих мутаций характерно уменьшение вероятности длительного существования вида, хотя для некоторых вариантов (возможно, весьма немногих) свойственно повышение этой вероятности.

Основа выживания и изменения вида – основа эволюции – может оказаться значительно сложнее изложенного, и, по всей вероятности, это так и есть. Например, один очень важный тип изменчивости – это изменчивость высшего порядка, то есть изменчивость изменчивости. Здесь снова в механизм наследственности и изменчивости обычно входят процессы, которые в функциональном отношении описал Мендель; в структурном отношении они сводятся к явлению митоза, то есть процесса удвоения генов и их разделения, их скопления в хромосомах, их связи и т.д.

Тем не менее в основе всей этой фантастически сложной цепи процессов лежит весьма простой факт. При наличии подходящей питательной среды, образованной из нуклеиновых и аминокислот, молекула гена, состоящая сама из особо специфичной комбинации тех же двух видов кислот, может заставить среду перегруппироваться в другие молекулы. Эти молекулы в свою очередь оказываются либо молекулами того же гена, либо других генов, отличающихся сравнительно немногим.

Действительно, ранее полагали, что этот процесс строго аналогичен процессу, при помощи которого молекула вируса (вид молекулярного паразита) может образовать из тканей хозяина, играющих роль питательной среды, другие молекулы вируса того же типа. Именно этот факт молекулярного размножения, будь то с генами или с вирусами, как будто представляет одну из достигнутых нами ступеней анализа обширного и сложного процесса воспроизведения.

Человек создает человека по своему образу и подобию. Это похоже на эхо или на повторение акта творения, которым Бог якобы создал человека по образу и подобию своему. Может ли что-либо подобное происходить в менее сложном (и, возможно, более понятном) случае неживой системы, которую мы называем машиной?

Что такое «образ» машины? Возможно ли, чтобы наличие этого «образа», воплощенного в одной машине, позволило бы любой машине, не обладающей какими-либо специфическими функциями, воспроизвести такую же машину, которая была бы либо абсолютно похожей на исходную, либо слегка отличалась от нее, причем так, что это отличие можно было бы истолковать как результат изменчивости?

Может ли новая и несколько измененная машина сама функционировать в качестве прототипа даже в том случае, когда она сама отличается от своего собственного машинного прообраза?

В данном разделе автор поставил своей целью дать ответ на эти вопросы, и ответ положительный. Значение того, что я здесь выскажу, или, вернее, того, что уже высказывал в более специальном аспекте в книге «Кибернетика», связано с тем, что математики обычно называют доказательством существования.

Здесь я намерен дать набросок этих идей. Я приведу лишь один метод, который позволяет машинам воспроизводить самих себя. Я не хочу этим сказать, что это единственно возможный метод воспроизведения, так как это не так; я не хочу также сказать, что этот метод машинного воспроизведения пригоден для биологического воспроизведения, так как это, безусловно, не так. Однако как бы ни отличалось механическое воспроизведение от биологического, это процессы сходные, завершающиеся одними и теми же результатами, и вот почему анализ одного процесса может привести к выводам, имеющим значение для исследования другого процесса[6].

Для серьезного рассмотрения проблемы создания одной машиной другой машины по своему образу и подобию мы должны остановиться подробнее на понятии «образ и подобие» и уточнить его.

Следует при этом помнить, что существуют образы и образы. Пигмалион создал статую Галатеи по образу и подобию своего идеала возлюбленной, но, после того как боги вдохнули жизнь в его статую, она стала образом его возлюбленной в значительно более реальном смысле. Она превратилась из зримого образа в образ функциональный.

Копировальный станок может воспроизвести по модели ружейной ложи образец, который в свою очередь может быть использован для создания ружейной ложи, но это возможно просто потому, что назначение самой ружейной ложи очень простое. В отличие от этого электрическая схема может выполнять сравнительно сложную функцию, а ее изображение, воссозданное печатной машиной, при помощи типографской металлической краски, может само функционировать в соответствии с отображаемой схемой.

Эти печатные схемы сейчас нашли очень широкое распространение в различных областях современной радиоэлектроники.

Таким образом, помимо изображений, передающих зримый образ объекта, мы можем иметь и его функциональный образ. Эти функциональные образы – копии, выполняющие функции своего оригинала, – могут иметь, а могут и не иметь зримого сходства с ним. Независимо от того, будут или не будут они иметь это сходство, они могут заменить оригинал в его действии, и это будет гораздо более глубоким подобием. Здесь мы рассмотрели возможность воспроизведения машин с точки зрения их функционального подобия.

Но что такое машина? С некоторой точки зрения машину можно рассматривать как первичный двигатель, то есть как источник энергии. В этой книге мы будем исходить из другой точки зрения. Для нас машина – это устройство для преобразования входных сообщений в выходные.

С этой точки зрения сообщение есть последовательный ряд величин, представляющих собой соответствующие сигналы. Такие величины могут быть и электрическим током и напряжением, но они не исчерпываются лишь этими двумя физическими величинами. Кроме того, составные сигналы могут быть либо непрерывными, либо дискретными. Машина преобразует определенное число таких входных сообщений в определенное число выходных сообщений. При этом каждое выходное сообщение в любой момент времени зависит от входных сообщений, полученных до этого момента. На своем техническом жаргоне инженер высказал бы эту мысль так: «Машина – это преобразователь со множеством входов и выходов».

Большая часть рассматриваемых здесь вопросов либо не очень сильно отличается, либо, наоборот, резко отличается от вопросов, возникающих при рассмотрении преобразователей с одним входом и одним выходом. Это может натолкнуть инженера на мысль, что дальше пойдет речь о хорошо ему известной задаче, то есть о классической задаче определения импеданса или адмитанса электрической цепи или же об определении коэффициента трансформации.

Однако это не совсем точно. Импеданс, адмитанс и коэффициент трансформации – понятия, которые могут быть использованы с любой степенью точности лишь в случае линейных цепей, то есть цепей, для которых сумма последовательности входных сигналов за определенное время соответствует сумме соответствующих выходных сигналов.

Это условие выполняется в цепях, составленных из чисто активных сопротивлений, емкостей, чисто индуктивных сопротивлений, и в цепях, подчиняющихся законам Кирхгофа и состоящих исключительно из комбинаций этих элементов. Для этих цепей входной сигнал, с помощью которого можно испытать данную схему, представляет собой напряжение, описываемое тригонометрическим рядом; частоту этого сигнала можно изменять, а амплитуда и фаза его точно известны. Тогда выходной сигнал будет представлять собой серию колебаний той же частоты; при этом, сравнивая амплитуду и фазу выходного сигнала с входным, можно получить полную характеристику цепи или преобразователя.

Если цепь нелинейна и содержит, например, выпрямители или ограничители напряжения и другие подобные приборы, то тригонометрический входной сигнал уже не будет наиболее подходящим испытательным сигналом. В этом случае тригонометрический сигнал на входе, вообще говоря, не будет давать тригонометрического сигнала на выходе. Более того, строго говоря, линейных цепей не существует, а существуют только цепи с лучшим или худшим приближением к линейности.

Испытательный входной сигнал, который мы выбрали для нелинейных цепей (кстати, им можно пользоваться и для линейных цепей), имеет статистический характер. Теоретически, в отличие от тригонометрического входного сигнала, частоту которого нужно изменять во всем диапазоне частот, это единый статистический ансамбль входных сигналов, которые могут быть использованы для всех преобразователей. Такой сигнал известен под названием «дробовый шум». Генераторы шума – это хорошо известные приборы, которые выпускаются рядом приборостроительных фирм[7].

Выходной сигнал преобразователя, получающийся при заданном входном сообщении, – это сообщение, которое зависит одновременно от входного сообщения и от свойств самого преобразователя.

При самых обычных условиях преобразователь задает способ преобразования сообщения, и мы рассматриваем выходное сообщение как преобразованное входное сообщение. Однако существует ряд обстоятельств – и они в основном возникают, когда входное сообщение несет минимум информации, – когда мы можем рассматривать информацию, содержащуюся в выходном сообщении, как исходящую главным образом от самого преобразователя. Нельзя представить себе входное сообщение, которое несет меньше информации, чем хаотический поток электронов, создающих дробовый шум. Таким образом, выходной сигнал преобразователя, возбуждаемого дробовым шумом, можно рассматривать как сообщение, отображающее действие самого преобразователя.

В самом деле, выходной сигнал характеризует действие самого преобразователя при любом возможном входном сообщении. Это происходит благодаря тому, что в конечном интервале времени существует конечная (хотя и малая) вероятность того, что дробовый шум на входе создаст на выходе любое возможное сообщение с любой заданной степенью точности. По этой причине статистика сообщения, получаемого на выходе преобразователя при заданном нормированном статистическом входном сигнале, формирует «функциональный образ» преобразователя, и вполне понятно, что он может быть использован для воссоздания эквивалентного преобразователя в другом физическом исполнении. Следовательно, если мы знаем, как преобразователь будет реагировать на входной шумовой сигнал, то мы знаем ipso facto[8], как он будет реагировать на любой входной сигнал.

Таким образом, преобразователь – машина, выступающая, с одной стороны, как прибор, а с другой – как сообщение, – наводит нас на мысль о столь дорогом физику дуализме, примером которого служит двойственная природа волн и частиц. Этот дуализм указывает на то, что суть биологической смены поколений, быть может, метко выражается известным bon mot (не помню, кому оно принадлежит – Бернарду Шоу или Сэмюэлю Батлеру): «Курица – это средство для яйца создать другое яйцо». Печеночная двуустка в печени овцы есть лишь иная стадия вида паразитов, который заражает определенных прудовиков.[9] Итак, машина может создавать сообщение, а сообщение может создавать другую машину.

Ранее эта мысль была уже использована мною; в частности, я говорил, что в принципе возможно переслать человеческое существо по телеграфу. Позвольте мне тут же заметить, что трудности, возникающие при этом, намного превышают мои способности преодолеть их, и что я не собираюсь вносить еще большую сумятицу в работу железных дорог, призывая Американскую телеграфную и телефонную компанию выступить в качестве их нового конкурента. В настоящее время, а возможно и в течение всего существования человеческого рода, эта идея может оказаться практически неосуществимой, но это не значит, что из-за этого ее невозможно постичь.

Даже совершенно не касаясь трудностей практического использования этой идеи в случае с человеком, она, безусловно, осуществима в случае созданных человеком машин меньшей степени сложности. Именно это я и предлагаю в качестве метода самовоспроизведения нелинейных преобразователей. Сообщения, в которых может быть воплощена функция заданного преобразователя, будут также охватывать все те многие воплощения преобразователя, которые имеют тот же функциональный образ. Среди всех этих воплощений имеется по меньшей мере одно с определенным типом физической структуры, и именно это воплощение я предлагаю воссоздать по сообщению, несущему функциональный образ машины.

При описании какого-то конкретного воплощения, которое будет мною выбрано для функционального образа машины, подлежащей воспроизведению, я описываю также формальные признаки этого образа. Для того чтобы это описание было чем-то большим, чем плод расплывчатой фантазии, оно должно быть облечено в математические термины, а математический язык – это язык, мало доступный широкому кругу читателей, для которых эта книга предназначается. Я уже выразил эти идеи математическим языком в своей книге «Кибернетика», в главе IX, выполнив тем самым свой долг перед специалистами. Однако, если бы я оставил рассмотрение данного предмета на этой стадии, я бы не выполнил своего долга перед читателем, для которого предназначена эта книга. С одной стороны, может показаться, что мною здесь приведены необоснованные утверждения. С другой стороны, подробное изложение моих мыслей здесь было бы совершенно бесполезно.

Вследствие этого я постараюсь ограничиться тем, что своими словами перескажу смысл математических выкладок, выражающих суть данного предмета.

Боюсь, что даже при этом последующие страницы будут восприниматься с трудом. Тому, кто желает при всех условиях избежать каких-либо трудностей при чтении данной книги, советую опустить эту главу. Я написал ее лишь для тех, кто обладает достаточно большой любознательностью, чтобы побудить их к дальнейшему чтению невзирая на подобные предупреждения.

IV

Читатель, ты получил надлежащее предупреждение, и с настоящего момента все, что ты будешь говорить в ущерб нижеследующему тексту, может быть обращено против тебя самого!

Можно умножить выходной сигнал машины, скажем линейного преобразователя, на постоянную величину и суммировать выходы двух машин. Ранее мы условились, что под выходным сигналом машины подразумевается электрический потенциал (напряжение), величину которого мы измеряем, не нагружая выходную цепь (на холостом ходу). Это осуществимо при использовании современных устройств, называемых катодными повторителями. Применяя потенциометры или трансформаторы, мы можем умножить выходной сигнал преобразователя на любую положительную или отрицательную постоянную. Если имеется два или большее число раздельных преобразователей, то можно суммировать их выходные напряжения при одном и том же значении входного напряжения путем последовательного соединения преобразователей. В результате мы получаем сложное устройство с выходным сигналом, равным сумме выходных сигналов его составных частей, умноженных на соответствующие положительные или отрицательные коэффициенты.

Таким образом, при анализе и синтезе машин можно использовать такие известные методы, как разложения многочленов и ряды (например, тригонометрические разложения и ряды Фурье). Остается теперь дать соответствующий перечень подходящих преобразователей, при помощи которых можно формировать подобные ряды. Это даст нам стандартную форму для реализации, а следовательно, и для дублирования функционального образа.

Известно, что существует стандартный перечень простейших машин, с помощью которых можно приблизительно представить любую машину с любой степенью точности в полном смысле этого слова. Описать это в математической форме довольно сложно, но ради математика, которому могут случайно попасться на глаза эти страницы, я сформулирую это так: для любого входного сообщения эти устройства образуют произведения полиномов Эрмита в коэффициентах, выражающихся через полиномы Лагерра предшествующего входного сообщения. Это звучит специфично и сложно, но это действительно так.

Где же приобрести подобные устройства? Думаю, что в настоящее время вряд ли вы получите их со склада в форме приборов заводского изготовления. Однако эти устройства могут быть собраны по точным спецификациям, поскольку они состоят из активных сопротивлений, емкостей и индуктивностей, то есть из широко известных компонентов линейных преобразователей. Наряду с этим для получения линейности необходимы умножители с двумя входными напряжениями и выходным сигналом, равным произведению входных. Подобные устройства имеются в продаже, и, если они несколько дороже, чем хотелось бы, имея в виду покупку больших количеств этих устройств, дальнейшее их усовершенствование может снизить их стоимость; во всяком случае, затраты и возможности – это факторы разного порядка.

Исключительно интересное устройство подобного же рода, основанное на пьезоэлектрическом эффекте, было создано в лаборатории профессора Габора[10] в Имперском колледже науки и техники при Лондонском университете. Габор применил его в качестве устройства, которое отличается во многих отношениях от вышеупомянутого, однако оно также используется для анализа и синтеза каких угодно универсальных машин.

Возвращаясь к конкретным устройствам, упомянутым мною выше, следует указать, что они обладают тремя свойствами, благодаря которым их можно использовать для анализа и синтеза любой машины.

Во-первых, эти машины образуют замкнутую совокупность. Иными словами, комбинируя машины с соответствующими коэффициентами, можно аппроксимировать структуру какой угодно машины. Во-вторых, эти машины можно нормировать в том смысле, что при единично-статистическом импульсе на входе они дадут на выходе импульсы также единично-статистической величины. В-третьих, эти машины ортогональны. Это означает, что если мы возьмем любые две из них и подадим на их входы один и тот же нормированный дробовый шум, а затем перемножим их выходные сигналы, то произведение этих выходов, усредненное по всем возможным видам входных сигналов, будет равно нулю.

При исполнении машин в такой форме их анализ оказывается столь же простым, как и синтез. Предположим теперь, что у нас есть машина в виде «черного ящика», то есть машина, выполняющая определенную устойчивую операцию (не переходящую в самопроизвольные колебания), причем внутренняя структура этого «черного ящика» нам недоступна и неизвестна. Предположим теперь, что у нас также имеется «белый ящик» – машина с известной нам структурой, представляющей один из элементов структуры черного ящика. Тогда, если входные клеммы обоих ящиков подключить к одному генератору шума, а выходные клеммы – к множительному прибору, умножающему их выходные сигналы, произведение их выходов, усредненное по всему распределению шума на их общем выходе, будет выражаться коэффициентом белого ящика в разложении, соответствующем структуре черного ящика, представленной в виде суммы выходов белых ящиков с соответствующими коэффициентами.

Достигнуть этого кажется невозможным, поскольку это, по-видимому, потребовало бы исследования данной системы во всем статистическом диапазоне шумовых входов. Однако существует важное обстоятельство, позволяющее нам преодолеть это затруднение. В математической физике имеется теорема, дающая нам возможность в определенных случаях заменить величины, усредненные по распределению, величинами, усредненными по времени, – не в каждом отдельном случае, а в их полной совокупности, для которой общая вероятность равна единице. В частном случае дробового эффекта можно строго доказать, что условия, при которых данная теорема справедлива, выполнимы. Таким образом, мы можем заменить усредненную по всему ансамблю величину возможных шумовых сигналов, необходимых для получения коэффициентов белых ящиков, входящих в разложение черного ящика, величиной, усредненной по времени, и мы получим правильный коэффициент с вероятностью, равной 1. Хотя это с точки зрения теории не обеспечивает полной достоверности, на практике они эквивалентны достоверным результатам.

С этой целью мы должны уметь определять среднюю величину напряжения по времени. К счастью, прибор для получения подобных средних величин по времени хорошо известен и его легко приобрести. Он состоит лишь из сопротивлений и конденсаторов, а также устройств для измерения напряжений. Таким образом, наш тип систем в равной мере пригоден и для анализа и для синтеза машин. Если мы используем один и тот же аппарат и для анализа машин и для их синтеза, проводимого в соответствии с результатами анализа, то мы воспроизведем функциональный образ этой машины.

На первый взгляд может показаться, что это потребует вмешательства человека. Однако легко (намного легче, чем провести анализ и синтез) добиться того, чтобы результаты анализа представлялись не в виде отсчетов по шкалам приборов, а в виде зафиксированных положений потенциометров.

Итак, насколько нам позволяет число доступных элементов и точность современной техники, мы заставили черный ящик неизвестной нам структуры перенести функциональные свойства (образ действия) на комплексный белый ящик, первоначально приспособленный к восприятию любого функционального образа. Это, в сущности, очень похоже на то, что происходит в основополагающем акте воспроизведения живой материи. Здесь тоже субстрат, способный принять множество форм (в данном случае молекулярных структур), заставляют принять какую-то определенную форму благодаря наличию структуры, которая уже обладает данной формой.

Когда я представил результаты своего анализа саморазмножающихся систем на суд философов и биохимиков, то оно было встречено следующим заявлением: «Но ведь эти два процесса совершенно различны! Любая аналогия между живым и неживым будет только поверхностной. В настоящее время процесс биологического размножения раскрыт до мельчайших деталей, и он не имеет ничего общего с процессом, который вы приписываете размножению машин».

С одной стороны, машины сделаны из стали и латуни, тонкая химическая структура которых не имеет ничего общего с их функциями как частей машин. Живая же материя остается живой вплоть до мельчайших частей, которые характеризуют ее как один и тот же тип материи, а именно до молекулы. Кроме того, размножение живой материи происходит хорошо известным путем, в котором цепочка нуклеиновых кислот как матрица определяет расположение аминокислот в синтезируемых молекулах, и эта цепочка двойная, состоящая из пары дополнительных спиралей. Когда они отделяются, то каждая из них вбирает в себя молекулярные остатки, необходимые для восстановления двойной спирали исходной цепочки.

Ясно, что в деталях процесс воспроизведения живого вещества отличается от процесса воспроизведения машин, который я здесь набросал. Габор в работе, упомянутой мною ранее, указал пути воспроизведения машин, которые будут определяться менее жесткими законами, чем тот, который я привел. Они, пожалуй, в большей степени будут схожи с явлением размножения живых существ. Живая материя, безусловно, имеет тонкую структуру, более присущую ее функциям и процессу размножения, чем части неживой машины, хотя это и может не относиться в равной мере к тем новейшим устройствам, в которых используются принципы физики твердого тела.

Однако даже живые системы не являются живыми (по всей вероятности) ниже молекулярного уровня. Кроме того, при всем различии между живыми системами и обычными механическими системами неверно было бы отказываться от мысли, что системы одного типа могут в какой-то мере помочь нам раскрыть сущность организации систем другого типа.

Такой случай вполне возможен, когда пространственная и функциональная структуры, с одной стороны, и сообщения во времени – с другой, взаимообратимы. Шаблонное рассмотрение процесса воспроизведения еще не раскрывает нам полностью всей картины этого сложного процесса. Должен, по-видимому, существовать какой-то обмен информацией между молекулами генов и молекулярными остатками, который нужно искать в питательной жидкости, причем эта связь должна быть динамической. Было бы вполне в духе современной физики предположить, что посредствующим звеном в такой связи должны быть какие-то поля излучения. Неверно было бы категорически утверждать, что между процессом воспроизведения у машин и у живых существ нет ничего общего.

Осторожным и консервативным умам рассуждения подобного рода часто кажутся менее рискованными, чем поспешные высказывания об аналогии живого и неживого. Однако если опасно утверждать без достаточных доказательств, что существует аналогия, в равной мере опасно отвергать аналогию, не доказав ее нелогичность. Интеллектуальная честность – это не то же, что отказ от принятия интеллектуального риска, а отказ даже рассмотреть новую концепцию, вызывающий эмоциональное возбуждение, не имеет особого оправдания с этической точки зрения.

Рассуждения о том, что Бог якобы создал человека и животных, что живые существа порождают себе подобных и что существует возможность воспроизведения машин, – все это суждения одного порядка, вызывающие такое же эмоциональное возбуждение, какое в свое время вызвала теория Дарвина об эволюции и происхождении человека. Если сравнение человека с обезьяной наносило удар по нашему самолюбию и мы теперь уже преодолели этот предрассудок, то еще большим оскорблением ныне считают сравнение человека с машиной. Каждая новая мысль в свой век вызывает некоторую долю того осуждения, которое вызывал в средние века грех колдовства.

Я уже упоминал о возможности наследования свойств в процессе их самовоспроизведения и о дарвиновской теории эволюции, основанной на законе естественного отбора. В «машинной генетике», рассматриваемой в качестве одного из типов эволюции через естественный отбор, мы должны учитывать и изменчивость, и наследование изменчивости. Предполагаемый нами вид генетики машин охватывает оба фактора. Изменчивость возникает из-за неточности осуществления процесса копирования, который был рассмотрен выше, в то время как скопированная машина, в качестве примера которой был приведен белый ящик, сама может служить прототипом для дальнейшего копирования. В действительности, в то время, как в исходном одноступенчатом процессе копирования копия оказывается похожей на оригинал не по внешнему виду, а по функциональному образу, на последующей стадии копирования пространственная структура сохраняется и последующая копия содержит уже и внешние и функциональные признаки оригинала.

Очевидно, что в процессе копирования в качестве нового оригинала может быть использована предыдущая копия. Иными словами, изменения наследуемых свойств сохраняются, хотя они и подвергаются дальнейшим изменениям.

V

Мне приходилось уже говорить о том, что осуждение, которому в прошлые века подвергалось колдовство, теперь в умах многих людей переносится на современную кибернетику. Я вряд ли ошибусь, сказав, что еще лет двести назад ученый, пытавшийся создать машины, способные обучаться играм или размножаться, был бы облачен в «санбенито» – балахон для жертв инквизиции – и предан огню, ибо «пролития крови быть не должно». Избежать костра ему удалось бы разве лишь в том случае, если бы кто-нибудь из его высоких покровителей поверил, будто он владеет магическим искусством превращать простые металлы в золото, как некогда император Рудольф поверил пражскому раввину Лёви, что своими заклинаниями он способен вдохнуть жизнь в глиняного человека – Голема.

Но даже если бы в наше время явился изобретатель, который сумел бы доказать какой-либо компании по производству вычислительных машин, что его магия может ей пригодиться, он мог бы, ничем не рискуя, заниматься своей черной магией до второго пришествия.

Что же такое колдовство и почему оно осуждается как грех? Почему глупый маскарад «черной мессы» вызывал такой гнев?

Ритуал «черной мессы» легче понять, если мы станем на точку зрения ортодоксального верующего. Для остальных это бессмысленная или даже непристойная церемония. Однако те, кто принимает в ней участие, гораздо ближе к ортодоксальной вере, чем большинство из нас думает. Главный элемент «черной мессы» не противоречит обычной христианской догме, по которой священник творит чудо, превращая дух в плоть и кровь Христа.

Верующий христианин и колдун сходятся на том, что, как только чудо превращения свершилось, божественная стихия способна творить новые чудеса. Они согласны, кроме того, и в том, что чудо перевоплощения может совершить только священнослужитель определенного сана. И, наконец, они согласны в том, что такой пастырь никогда не утрачивает свою чудотворную силу; если же он чудодействует, будучи отрешенным от сана, то ему грозит вечное проклятие.

Исходя из этих предпосылок, можно считать совершенно естественным и такой случай, когда некоему человеку – по натуре злому, но хитроумному – придет мысль получить власть над магическим духом и употребить его силы ради собственной выгоды. Именно в этом, а не в кощунственных оргиях и заключается главный грех «черной мессы». Ведь магия духа по природе своей добра. Стремление направить ее к целям, противоположным вящей славе божьей, – смертный грех. Таким и был тот грех, который библейская легенда приписывает Симону-волхву, пытавшемуся купить у апостола Павла чудотворные силы христианства. Я хорошо представляю себе замешательство и огорчение бедняги, когда он узнал, что эти чудотворные силы не продаются и что апостол Павел отказался от сделки, по мнению Симона, честной, приемлемой и совершенно естественной.

Такое поведение апостола Павла поймет всякий, кому случалось отказываться от продажи своего изобретения, несмотря на весьма выгодные условия, предложенные ему каким-либо капитаном современной индустрии.

Христианство, что бы там ни говорили, всегда считало грехом симонию, то есть куплю и продажу церковных должностей и чудотворных сил, которые им приписывались. Данте считал этот грех одним из тягчайших; бесстыдно погрязших в нем современников он низверг на самое дно своего «Ада». Однако грех этот, бывший главным искушением в чрезвычайно суеверную эпоху Данте, безусловно, отмирает в современном, более рационалистическом и рациональном мире.

Он отмирает! Он отмирает… Отмирает ли?..

Пусть силы машинного века на самом деле нельзя считать сверхъестественными, но все же они не укладываются в представления простого смертного о естественном порядке вещей. И хотя мы больше не считаем своим долгом приводить эти колоссальные силы в движение ради вящей славы божьей, тем не менее нам представляется неприемлемым пускать их в ход ради суетных или корыстных целей. Грехопадение нашего времени в том, что магические силы современной автоматизации служат для получения еще больших прибылей или используются в целях развязывания ядерной войны с ее апокалиптическими ужасами. Если этому пороку следует дать имя, мы вправе назвать его симонией или колдовством.

Ибо независимо от того, верят или не верят люди в бога, не все им дозволено. В отличие от покойного Адольфа Гитлера мы не достигли еще в своем надменном моральном безразличии того кульминационного пункта, который ставит нас по ту сторону добра и зла. И до тех пор, пока мы хотя бы в малейшей степени сохраним то нравственное чутье, которое позволяет различать добро и зло, применение великих сил нашего века в низменных целях будет в морально-этическом плане совершенно равнозначно колдовству и симонии.

Коль скоро существует возможность создания автоматов в металле или только в чертежах и расчетах, изучение их производства и теории является естественной фазой человеческой любознательности. Мощь человеческого разума сводится на нет, если сам человек ставит какие-то жесткие границы своей пытливости. И все же существуют аспекты автоматизации, которые выходят за рамки узаконенной любознательности и становятся греховными по своей сути. Это можно пояснить на примере технического руководителя особого типа, которого я назвал бы машинопоклонником.

Мне очень хорошо известны машинопоклонники нашего мира с их лозунгами свободного предпринимательства и экономики, основанной на стремлении к наживе. Я думаю, что машинопоклонники могут существовать и существуют и в коммунистическом мире.

Власть и жажда власти – это, к несчастью, реальные силы, которые выступают в разнообразных облачениях. Среди фанатичных жрецов силы встречается немало таких, которые нетерпимо относятся к ограниченным возможностям человечества, и в особенности к ограничениям, связанным с ненадежностью и непредсказуемостью человеческого поведения. Эти обычно скрываемые склонности руководителя можно выявить по облику подчиненных, которых он себе выбирает. Они смиренны, незаметны и готовы выполнить любое его распоряжение; именно поэтому они в общем-то оказываются беспомощными, когда неожиданно перестают быть только механическими исполнителями его воли. Способные проявить огромное усердие и в то же время почти лишенные собственной инициативы, они подобны евнухам в гареме идей, с которыми обвенчан их султан.

Помимо того что машинопоклонник преклоняется перед машиной за то, что она свободна от человеческих ограничений в отношении скорости и точности, существует еще один мотив в его поведении, который труднее выявить в каждом конкретном случае, но который тем не менее должен играть весьма важную роль. Мотив этот выражается в стремлении уйти от личной ответственности за опасное или гибельное решение. Побуждения такого рода проявляются в попытках переложить ответственность за подобные решения на что и на кого угодно: на случай, на начальство, на его политику, которую-де не положено обсуждать, или на механическое устройство, которое якобы невозможно полностью постичь, но которое обладает бесспорной объективностью. Вероятно, мотивы такого же рода движут потерпевшими кораблекрушение, когда они тянут жребий, чтобы определить, кто должен быть съеден первым. Подобными аргументами искусно оперировала защита Эйхмана. Из таких же мотивов исходят и те, кто раздает одним солдатам, исполняющим приговор о расстреле, боевые патроны, а другим – холостые, с тем чтобы каждый солдат так никогда и не узнал, участвовал ли он в убийстве. Несомненно, что подобными же уловками будет пытаться успокаивать свою совесть то высокопоставленное должностное лицо, которое осмелится нажать кнопку первой (и последней) атомной войны. Это старый колдовской трюк, чреватый, правда, трагическими последствиями: после удачного исхода рискованного предприятия приносится в жертву первое встречное живое существо. Как только такой господин начинает сознавать, что некоторые человеческие функции его рабов могут быть переданы машинам, он приходит в восторг. Наконец-то он нашел нового подчиненного – энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и без малейших размышлений!

Подчиненный такого типа выведен Чапеком в его пьесе «R.U.R.». Так же как и раб из «Лампы Аладдина», он ничего не требует. Он не просит каждую неделю выходного дня и не нуждается в телевизоре для своего жилища. Он даже не нуждается в жилище. Но стоит только потереть Лампу, как он появляется из ниоткуда. И если ради ваших целей вы решитесь пуститься в плавание против ветра общепринятой морали, ваш раб никогда не осудит вас, даже не бросит на вас вопрошающего взгляда. Теперь вы свободны плыть, куда вас влечет судьба!

Такая психология свойственна колдуну в полном смысле этого слова. Колдунов такого рода предостерегают не только церковные доктрины, но и органически присущий человечеству здравый смысл, выраженный в легендах, мифах и творениях здравомыслящих писателей. Все они сходятся на том, что колдовство не только грех, ведущий в ад, оно таит в себе опасность для самой жизни на Земле. Это обоюдоострый меч, который рано или поздно пронзит вас.

Здесь уместно вспомнить историю о рыбаке и Джинне из «Тысячи и одной ночи».

Рыбак, забросив сеть вблизи берегов Палестины, выловил закупоренный глиняный кувшин с печатью царя Соломона. Он взламывает печать, и из кувшина вырывается столб дыма, принимающий форму гигантского Джинна. Джинн говорит рыбаку, что некогда он, Джинн, был одним из мятежников, которого великий царь Соломон замкнул в кувшин. Вначале Джинн намеревался вознаградить своего освободителя властью и богатством. Но проходили века, и тогда он решил умертвить первого же смертного, которого он встретит, и прежде всего своего освободителя.

На свое счастье, рыбак оказался находчивым малым, искусно владевшим оружием лести. Играя на тщеславии Джинна, он убеждает его показать, как такое огромное Существо может втиснуться в столь маленький сосуд. Джинн, доказывая это, снова влезает в кувшин. Рыбак тут же запечатывает его, бросает злосчастный кувшин в море и поздравляет себя со спасением. С тех пор он живет, не зная горя.

В других легендах герой, сталкиваясь с магией уже не столь случайно, либо оказывается на грани катастрофы, либо терпит полный крах. В стихотворении Гете «Ученик чародея» изображен юный слуга, который чистит одежду своего хозяина – волшебника, подметает пол и носит воду. Однажды, получив приказ наполнить бочку водой, слуга остался один. Подверженный той лени, что является истинной матерью изобретений (от такой же лени другой мальчишка, работавший у машины Ньюкомена, прицепил как-то веревку от крана, впускающего пар, к балансиру, создав тем самым первый автоматический клапан)[11], гетевский ученик чародея запомнил отрывки подслушанных им заклинаний хозяина, произнес их и заставил метлу качать воду в бочку. Эту часть задачи метла исполняет быстро и энергично. Когда же вода начала переливаться через край бочки, мальчик вдруг обнаружил, что он забыл заклинания, которыми чародей останавливал метлу. Мальчик захлебывается и почти тонет в воде, но тут чародей, к счастью, возвращается, произносит несколько властных слов, усмиряющих бунт вещей, а затем задает своему ученику изрядную взбучку.

Даже в этом случае катастрофу удается отвратить лишь с помощью deus ex machina[12]. Джэкобс, английский писатель начала XX века, довел этот принцип до своего логического конца в повести «Обезьянья лапа», которая представляет собой один из классических образцов «литературы ужасов».

В повести описывается английская рабочая семья, собравшаяся к обеду на кухне. Сын вскоре уходит на фабрику, а старики родители слушают рассказы своего гостя, старшего сержанта, возвратившегося из Индии. Гость рассказывает об индийской магии и показывает талисман – высушенную обезьянью лапу. По его словам, индийский святой наделил этот талисман магическим свойством исполнять по три желания любого из трех своих последовательных владельцев. Гость говорит, что это подходящий случай испытать судьбу. Он не знает первых двух желаний предыдущего владельца талисмана, но ему известно, что последним желанием его предшественника была смерть. Сам он был вторым владельцем, но то, что он испытал, слишком страшно пересказывать. Гость уже намерен бросить волшебную лапу в камин, но хозяин выхватывает ее и, невзирая на предостережения, просит у нее двести фунтов стерлингов.

Через некоторое время раздается стук в дверь. Входит очень важный господин, служащий той фирмы, в которой работает сын хозяина. Со всей мягкостью, на которую он способен, господин сообщает, что в результате несчастного случая на фабрике сын хозяина погиб. Не считая себя ни в коей мере ответственной за случившееся, фирма выражает семье погибшего свое соболезнование и просит принять пособие в размере двухсот фунтов стерлингов.

Обезумевшие от горя родители умоляют – и это их второе желание, – чтобы талисман вернул им сына… Внезапно все погружается в зловещую ночную тьму, поднимается буря. Снова стук в дверь. Родители каким-то образом узнают, что это их сын, но, увы, он бесплотен, как призрак. История кончается тем, что родители выражают свое третье и последнее желание: они просят, чтобы призрак сына удалился.

Лейтмотив всех этих историй – опасность, связанная с природой магического. По-видимому, корни этой опасности кроются в том, что магическое исполнение заданного осуществляется в высшей степени буквально и что если магия вообще способна даровать что-либо, то она дарует именно то, что вы попросили, а не то, что вы подразумевали, но не сумели точно сформулировать. Если вы просите двести фунтов стерлингов и не оговариваете при этом, что не желаете их получить ценою жизни вашего сына, вы получите свои двести фунтов независимо от того, останется ли ваш сын в живых или умрет!

Не исключено, что магия автоматизации и, в частности, логические свойства самообучающихся автоматов будут проявляться столь же буквально.

Когда вы ведете игру, соблюдая все правила, и настраиваете машину так, чтобы она играла на выигрыш, вы получите его – если получите что-либо вообще, – но при этом машина не обратит ни малейшего внимания на любые соображения, за исключением тех, которые, согласно установленным правилам, приводят ее к выигрышу. Если вы ведете военную игру с некоторой условной интерпретацией победы, то победа будет достигнута любой ценой, даже ценой уничтожения вашей собственной стороны, если только сохранение ее жизнеспособности не будет совершенно четко запрограммировано в числе условий победы.

Это нечто большее, чем невинный парадокс. Мне определенно нечем опровергнуть предположение о том, что США и Россия вынашивают идеи использования машин, и в частности обучающихся машин, для того чтобы определить момент нажатия кнопки атомной войны – этого современного ultima ratio[13].

Испокон веков армии вели войны, которые всегда отставали от технических возможностей своего времени. Говорят, что в каждой войне хорошие генералы воюют так, как воевали в последней войне, а плохие генералы как в предпоследней. Действительно, методы ведения боевых действий в «военной игре» никогда не поспевают за изменениями реальной обстановки. Это было верно всегда, хотя в периоды, изобиловавшие войнами, порой находилось достаточно воинов, считавших, что война, в которой они участвовали, протекала в сравнительно медленно изменявшихся условиях. Именно эти испытанные воины и являются военными экспертами в истинном смысле слова. В настоящее же время экспертов ведения атомной войны не существует. Это значит, что нет таких людей, которые обладали бы каким-либо опытом в военном конфликте, где обе стороны располагают атомным оружием и применяют его. Разрушение городов в атомной войне, деморализация людей, голод, болезни и косвенные губительные последствия войны (которые могут вызвать значительно большее число жертв, чем взрывы и прямое выпадение радиоактивных осадков) – все это известно лишь предположительно.

Вероятно, поэтому и рядятся в патриотические одежды те, кто преуменьшает потери человечества и преувеличивает вероятность выживания народов в условиях мировой катастрофы нового типа. Но если атомная война приводит к полному самоуничтожению, а обычные военные действия теряют всякий смысл, то, очевидно, содержание сухопутных войск и военно-морского флота окажется в значительной мере бесцельным, а бедные, преданные службе генералы и адмиралы останутся без работы. Фирмы по производству ракет не будут больше иметь того идеального рынка сбыта, где все изделия предназначаются для однократного использования и поэтому не вступают в конкуренцию с продукцией, которую еще предстоит изготовить. Духовенство будет лишено возможности проявить свою восторженность и экзальтацию, всегда сопутствующие крестовым походам. Говоря короче, если начнется «военная игра» с подобной программой, то найдется много лиц, которые, упуская из поля зрения возможные последствия, потребуют свои двести фунтов стерлингов, забыв упомянуть, что сын должен остаться в живых.

Поскольку наше действительное желание всегда может быть выражено неточно, последствия этого могут стать чрезвычайно серьезными тогда, когда процесс исполнения наших желаний осуществляется не прямым путем, а степень их реализации не ясна до самого конца. Обычно мы осуществляем наши желания, если вообще мы способны в самом деле осуществить их, с помощью процесса обратной связи, которая позволяет сравнивать степень достижения промежуточных целей с нашим восприятием. При таком процессе обратная связь проходит через нас и мы можем – пока еще не слишком поздно – повернуть назад. Если же механизм обратной связи встроен в машину, действие которой не может быть проконтролировано до тех пор, пока не достигнута конечная цель, вероятность катастрофы чрезвычайно возрастает. Мне, например, было бы в высшей степени неприятно участвовать в первом испытании автомобиля, управляемого при помощи фотоэлектрических устройств обратной связи, если бы в нем не было рукоятки, которая позволяет взять управление на себя в тот момент, когда замечаешь, что автомобиль несется на дерево.

Люди с психологией машинопоклонников часто питают иллюзию, будто в высокоавтоматизированном мире потребуется меньше изобретательности, чем в наше время; они надеются, что мир автоматов возьмет на себя наиболее трудную часть нашей умственной деятельности – как тот греческий философ, который в качестве римского раба был принужден думать за своего господина. Это явное заблуждение.

Целенаправленный механизм вовсе не обязательно будет искать путей достижения наших целей, если только мы не рассчитаем его специально для решения этой задачи. Причем в ходе проектирования такого механизма мы должны предвидеть все ступени процесса, для управления которым он создается, а не применять приближенные методы прогнозирования, эффективные лишь до определенного пункта, дальше которого расчеты ведутся при возникновении новых затруднений. Расплата за ошибки в прогнозировании и в наше время достаточно велика, но она еще больше возрастет, когда автоматизация достигнет полного размаха.

В наше время стала очень модной идея предотвращения некоторых опасностей и в особенности угроз, связанных с атомной войной, при помощи автоматических устройств типа «fail-safe»[14]. Идея эта основана на предположении, что действие устройства, вышедшего из заданного режима работы, можно обезвредить. Например, если обнаружено, что режим насоса ведет к аварии, то, пожалуй, гораздо лучше, чтобы она произошла от откачки воды, нежели от взрыва при избыточном давлении. Если мы имеем дело с хорошо понятой опасностью, техника автоматической защиты типа «fail-safe» правомерна и полезна. Однако она немногого стоит перед лицом еще не понятой опасности. Например, когда отдаленная, но неизбежная опасность угрожает человечеству уничтожением, то лишь тщательное изучение общественных явлений позволит своевременно выявить эту роковую угрозу. Однако потенциальные угрозы такого рода лишены опознавательных ярлыков. Поэтому, хотя методы «fail-safe», предназначаемые для блокировки опасных режимов работы автоматизированных систем, и могут стать необходимыми для предотвращения мировой катастрофы, их ни в коем случае нельзя считать достаточными.

Поскольку техника все в большей мере приобретает способность осуществлять человеческие намерения, их математическая формулировка должна стать все более и более обычным делом.

В прошлом неполная и ошибочная оценка человеческих намерений была относительно безвредной только потому, что ей сопутствовали технические ограничения, затруднявшие точную количественную оценку этих намерений. Это только один из многих примеров того, как бессилие человека ограждало нас до сих пор от разрушительного натиска человеческого безрассудства.

Иными словами, хотя человечество в прошлом и сталкивалось со многими опасностями, с ними было значительно легче справляться благодаря тому, что во многих случаях угроза проявлялась односторонне. В век, когда голод становится большой угрозой, можно искать спасения в увеличении производства пищи, и оказывается, что угроза уже не столь велика. При высокой смертности (в особенности детской) и при очень слабом развитии медицины жизнь каждого человека была большой ценностью, и поэтому людям справедливо предписывалось плодиться и размножаться. Угроза голода оказывала на нас давление, подобное давлению силы тяжести, к которой всегда приспособлены наши мышцы, кости и сухожилия.

Перемены в напряженности современной жизни, вызванные появлением новых устремлений и исчезновением старых, можно сравнить с новыми проблемами космических полетов. Состояние невесомости в космическом корабле освобождает нас от постоянной, направленной в одну сторону силы тяжести, к которой мы привыкли в нашей повседневной жизни. Путешественнику в космическом корабле нужны рукоятки, чтобы держаться; нужны тубы, чтобы выжимать из них пищу и питье; нужны различные приборы, чтобы определять свое положение, и, хотя все эти приспособления помогают тому, чтобы физиологическое состояние путешественника не слишком нарушалось, все же он не может чувствовать себя так удобно, как ему хотелось бы. Сила земного притяжения столь же дружественна нам, сколь и враждебна. Точно так же, когда люди не страдают от голода, серьезными проблемами могут стать перепроизводство продуктов питания, бесцельность существования и расточительство. Развитие медицины – один из факторов, способствующих перенаселению, этой весьма серьезной угрозе, перед лицом которой стоит сейчас человечество. К старым принципам житейской мудрости, таким, например, как «копейка рубль бережет», – принципам, так долго служившим людям в прошлом, больше нельзя относиться как к бесспорным.

Как-то я присутствовал на обеде в кругу врачей. Непринужденно беседуя между собой и не боясь высказывать вещи необычные, они стали обсуждать возможности решительного наступления на болезнь, называемую дегенерацией человеческого организма, или попросту старостью. Они не рассматривали этот вопрос вне конкретных возможностей и средств, необходимых для такого наступления, но основное внимание спорящих сосредоточилось на его конечных результатах. Собеседники стремились заглянуть вперед, в тот, быть может, не такой уже далекий завтрашний день, когда момент неизбежной смерти можно будет отдалять, вероятно, в необозримое будущее, а сама смерть станет столь же случайной, как это бывает у гигантских секвой и, кажется, у некоторых рыб.

Я не утверждаю, что они были правы в своих предположениях (и я совершенно уверен, что они и не претендовали на что-либо большее, чем предположения), но имена ученых, поддерживающих эту гипотезу, были настолько авторитетны – среди них был даже нобелевский лауреат, – что я не мог себе позволить отнестись к их высказываниям пренебрежительно. И хотя гипотеза будущего сверхдолголетия человека на первый взгляд могла показаться чрезвычайно утешительной, ее осуществление было бы страшным несчастьем, и прежде всего для врачей. Ибо сразу становится ясным одно – человечество не смогло бы долго вынести бесконечного продления всех жизней, которые рождаются на Земле.

И дело не только в том, что часть населения, не способная поддерживать собственное существование, намного превзойдет числом ту часть населения, от которой ее существование зависит; беда и в том, что, пребывая в вечном неоплатном долгу перед пришельцами из прошлого, мы окажемся совершенно неподготовленными к решению тех проблем, которые поставит перед нами будущее.

Ситуация, при которой жизнь всех граждан может продолжаться сколь угодно долго, немыслима. Если же, однако, возможность бесконечного продления жизни осуществится, то решение положить предел чьей-либо жизни или хотя бы отказаться от продления ее станет делом врачебной морали.

Но как же тогда быть с престижем врачей, в которых мы привыкли видеть священнослужителей, борющихся со смертью, беззаветных слуг милосердия?

Я допускаю, что даже в наше время встречаются случаи, когда врачи считают своим долгом не принимать меры для продления жизни бесполезной, невыносимо мучительной. Не лучше ли отказаться от перевязывания пуповины новорожденному уроду и облегчить смерть старику, страдающему от неоперируемого рака и гибнущему от гипостатической пневмонии, этого «друга стариков», вместо того чтобы ценой нечеловеческих страданий еще немного продлить его жизнь. Чаще всего такие вещи делаются без шума и с должным соблюдением приличий, и только когда какой-нибудь невоздержанный на язык дурак выбалтывает врачебную тайну, она становится достоянием газет и судов, поднимающих шум о «насильственном умерщвлении».

Но что будет, если подобные решения станут не редким и непредвидимым исключением, а должны будут приниматься почти в каждом случае, связанном со смертельным исходом? Что будет, если каждый больной начнет относиться к врачу не только как к спасителю, но и как к своему возможному палачу? Сможет ли врач нести бремя доверенных ему сил добра и зла? Сможет ли человечество само выносить этот новый порядок вещей?

Относительно легко отстаивать добро и сокрушать зло, когда они четко отделены друг от друга разграничительными линиями и когда те, кто находится по ту сторону, – наши явные враги, а те, кто по эту сторону, – наши верные союзники. Но как быть, если в каждом случае мы должны спрашивать, где друг и где враг? Как же нам быть, если, помимо этого, мы еще передали решение важнейших вопросов в руки неумолимого чародея или, если угодно, неумолимой кибернетической машины, которой мы должны задавать вопросы правильно и, так сказать, наперед, еще не разобравшись полностью в существе того процесса, который вырабатывает ответы? Можно ли в этих условиях доверять обезьяньей лапе, у которой мы попросили двести фунтов стерлингов?

Нет, будущее оставляет мало надежд для тех, кто ожидает, что наши новые механические рабы создадут для нас мир, в котором мы будем освобождены от необходимости мыслить. Помочь они нам могут, но при условии, что наши честь и разум будут удовлетворять требованиям самой высокой морали.

Мир будущего потребует еще более суровой борьбы против ограниченности нашего разума, он не позволит нам возлежать на ложе, ожидая появления наших роботов-рабов.

VI

Одна из великих проблем, с которой мы неизбежно столкнемся в будущем, – это проблема взаимоотношения человека и машины, проблема правильного распределения функций между ними. На первый взгляд может показаться, что машина обладает рядом очевидных преимуществ. В самом деле, она работает быстрее и с большим единообразием или по крайней мере может обладать этими свойствами, если ее правильно построить. Цифровая вычислительная машина за один день может выполнить такой объем работы, с которым целой команде вычислителей не справиться и за год, притом работа будет выполнена с наименьшим количеством ошибок.

Вместе с тем человек обладает несомненными преимуществами. Не говоря уже о том, что любой разумный человек во взаимоотношениях с машиной считает первостепенными свои, человеческие цели, машина в сравнении с человеком далеко не так сложна, а сфера ее действий, взятых в их многообразии, гораздо меньше. Если объем нейрона серого вещества мозга мы примем равным 1/1000000 кубического миллиметра, а объем наименьшего из современных транзисторов – порядка одного кубического миллиметра, то такая оценка не будет слишком неблагоприятной с точки зрения преимуществ нейрона. Если белое вещество мозга считать эквивалентным схеме соединений вычислительной машины, а каждый нейрон рассматривать как функциональный аналог транзистора, то гипотетическая вычислительная машина, эквивалентная мозгу, разместилась бы в шаре около девяти метров диаметром. В действительности было бы невозможно построить вычислительную машину с плотностью монтажа, в какой-то мере сходной с относительной плотностью мозгового вещества, а любая вычислительная машина, по своим возможностям сравнимая с мозгом, имела бы размеры довольно большого административного здания, если не небоскреба[15]. Вряд ли можно считать, что мозг в сравнении с современными вычислительными машинами не имеет определенных преимуществ, связанных с его огромным функциональным диапазоном, несоизмеримо большим, чем можно было бы ожидать, учитывая его физические размеры.

Главное из этих преимуществ – по-видимому, способность мозга оперировать с нечетко очерченными понятиями. В таких случаях вычислительные машины, по крайней мере в настоящее время, почти не способны к самопрограммированию. Между тем наш мозг свободно воспринимает стихи, романы, картины, содержание которых любая вычислительная машина должна была бы отбросить, как нечто аморфное.

Отдайте же человеку – человеческое, а вычислительной машине – машинное. В этом и должна, по-видимому, заключаться разумная линия поведения при организации совместных действий людей и машин. Линия эта в равной мере далека и от устремлений машинопоклонников, и от воззрений тех, кто во всяком использовании механических помощников в умственной деятельности усматривает кощунство и принижение человека. В наше время мы остро нуждаемся в объективном изучении систем, включающих и биологические, и механические элементы. К оценке возможностей этих систем нельзя подходить предвзято, то есть с позиции механистического или антимеханистического толка. Я думаю, что такие исследования уже начались и что они позволят лучше понять проблемы автоматизации.

Одна из областей, в которых мы можем использовать и используем такие смешанные системы, – это создание протезов, устройств, которые заменяют конечности или поврежденные органы чувств. Деревянная нога – это просто механическая замена утраченной ноги из плоти и крови, а человек с деревянной ногой представляет собой систему, состоящую из механических и биологических элементов.

Пожалуй, классическая деревяшка вместо ноги не столь интересна, поскольку она заменяет утраченную конечность самым примитивным способом; ненамного больший интерес представляет и деревянный протез, имеющий форму ноги. Впрочем, немалая работа над созданием искусственных конечностей ведется в России, США и в других странах группой ученых, к которой принадлежу и я. Эта работа по своим принципам намного интересней, так как она действительно использует кибернетические идеи.

Представим себе, что человек лишился кисти руки. Он лишился некоторых мышц, которые позволяли ему в основном сжимать и разжимать пальцы, однако большая часть мышц, обычно двигающих рукой и пальцами, сохранилась в культе локтевой части руки. При соответствующем воздействии эти мышцы, хотя они и не могут привести в движение кисть или пальцы, которых нет, вызывают определенные электрические эффекты, называемые потенциалами действия. Эти потенциалы могут восприниматься соответствующими электродами, а затем усиливаться и комбинироваться транзисторными схемами. Такие потенциалы можно использовать для управления движениями искусственной руки при помощи миниатюрных электромоторов, которые питаются от батарей или аккумуляторов, а сигналы управления получают от транзисторных усилителей. Источником управляющих сигналов служит обычно центральная часть неповрежденной нервной сети, которая и должна быть использована в таких случаях.

Подобные искусственные руки уже были изготовлены в России, и они даже позволили некоторым инвалидам вернуться к продуктивному труду. Это стало возможно благодаря тому, что некоторые нервные сигналы, которые вызывали эффективную мышечную реакцию до ампутации, остаются эффективными и при управлении искусственной рукой при помощи миниатюрного электромотора. Поэтому изучение возможностей использования таких искусственных рук стало гораздо более легким и естественным делом.

Однако искусственная рука в подобном виде не может осязать предметы, тогда как естественная рука служит в такой же мере органом осязания, как и движения. Но позвольте, почему же искусственная рука не может осязать? Не представляет труда вмонтировать датчик давления в пальцы искусственной руки так, чтобы электрические импульсы передавались от них в соответствующую цепь. Последняя в свою очередь заставляет работать устройство, воздействующее на живую ткань, например на кожу культи. Такими устройствами могут быть, например, вибраторы. Этим методом мы можем вызвать искусственное осязательное ощущение и научиться заменять им аналогичные естественные восприятия. Более того, в поврежденных мышцах имеются чувствительные (сенсорные) кинестатические элементы, которые могут быть также использованы для подобных целей.

Таким образом, становится возможной новая техника протезирования, основанная на создании смешанных систем, состоящих из биологических и механических частей. Однако новую технику не следует ограничивать только задачами замены утраченных частей тела. Существуют протезы и для таких органов, которых человек не имеет и никогда не имел. Дельфин прокладывает себе путь в воде при помощи плавников и обходит препятствия, вслушиваясь в отраженные от них звуки, которые он сам порождает. Что такое винт корабля, как не пара искусственных плавников? А не является ли эхолот, измеряющий глубину моря под кораблем, заменителем биологических механизмов, излучающих и обнаруживающих звук, подобных тем, которые есть у дельфина? Крылья и реактивные двигатели самолета заменяют крылья орла, а радиолокатор заменяет его глаза, в то время как «нервная система», которая объединяет и координирует эти органы, – это автопилот и другие навигационные устройства.

Следовательно, механо-биологические системы находят широкое применение, а в некоторых случаях просто незаменимы. Мы уже видели, что обучающиеся машины должны действовать в соответствии с некоторыми нормами «хорошего» поведения. Определение этих норм не вызывает затруднений в случае играющих автоматов, когда допустимые ходы произвольно устанавливаются заранее, а цель игры – выигрыш, достигаемый по правилам, которые определяются, исходя из строгих условий выигрыша или проигрыша. Однако существует много видов деятельности, которые мы хотели бы усовершенствовать с помощью процесса обучения; их успешность может быть оценена на основе ряда критериев, включающих суждения человека. Преобразование таких критериев в формальные правила – нелегкая задача.

Одна из сфер человеческой деятельности, которая остро нуждается в автоматизации и где ощущается потенциальная необходимость в самообучающихся автоматах, – это машинный перевод. В свете нынешнего метастабильного состояния международной обстановки США и Россия испытывают взаимную потребность в информации о том, что говорит и думает другая сторона. Поскольку в обеих странах число высококвалифицированных переводчиков ограниченно, каждая страна исследует возможности машинного перевода. Такой перевод, выполняемый по определенному образцу, осуществим, но ни его литературные, ни смысловые достоинства не вызвали большого энтузиазма в обеих странах. Ни одна из систем машинного перевода не доказала, что она заслуживает доверия в тех случаях, когда от точности перевода зависит принятие важных решений.

Вероятно, наиболее обещающий путь автоматизации перевода состоит в применении обучающихся машин. Для обеспечения успешной работы таких машин должен быть найден твердый критерий хорошего перевода. Такой критерий можно получить двумя путями: либо мы должны иметь полный набор объективно применяемых правил, позволяющих оценить качество перевода, либо мы должны располагать средством, которое само способно выработать и применить критерий хорошего перевода независимо от таких правил.

Обычный критерий хорошего перевода – его понятность. Люди, читающие текст перевода, должны получить то же впечатление, что и люди, читающие этот текст на языке оригинала. Если использовать такой критерий затруднительно, то можно дать другой – необходимый, хотя и недостаточный. Представим себе, что у нас есть две независимые переводные машины: одна, например, переводит с английского языка на датский, другая – с датского на английский. После того как первая машина переведет с английского на датский, пусть вторая машина выполнит обратный перевод с датского на английский. В этом случае окончательный перевод должен быть эквивалентен (с допустимыми расхождениями) оригиналу, что устанавливается лицом, знающим английский язык.

Можно представить себе набор формальных правил такого перевода, настолько четко определенных, что их можно доверить машине, и притом столь совершенных, что они позволят получить перевод, удовлетворяющий данному выше критерию. Я не думаю, однако, что наука о языке продвинулась настолько, что она способна уже сегодня дать нам такой набор правил, или что вообще существуют какие-либо перспективы для такого прогресса в ближайшем будущем. Говоря кратко, положение вещей таково, что в машинном переводе всегда есть вероятность ошибки. Если на основании данных машинного перевода принимается какое-либо ответственное решение, связанное с конкретными действиями или политикой, то небольшая ошибка или даже малая ее вероятность могут привести к чрезвычайно серьезным последствиям.

На мой взгляд, наиболее обнадеживающий путь осуществления машинного перевода состоит в замене чисто машинной системы – по крайней мере на начальных этапах – системой механо-биологической, включающей в качестве критика и эксперта человека – опытного переводчика, который обучает машинную часть системы с помощью упражнений, подобно тому как школьный учитель обучает своих учеников. Вероятно, на более поздних этапах в памяти машины накопится достаточное количество указаний, запрограммированных человеком, что позволит впоследствии машине распрощаться с соучастием человека, за исключением, возможно, случаев, когда время от времени понадобится освежать курс. Таким образом машина сможет приобрести лингвистический опыт.

Подобная схема перевода не исключает необходимости в опытном лингвисте, способности и суждения которого пользуются полным доверием. При такой системе он обработал бы (или смог бы обработать в будущем) значительно больший объем переводного текста, нежели при отсутствии машинного помощника. Большего, по-моему, мы и не можем ждать от машинного перевода.

До этого момента мы говорили о том, что нам необходим критик, способный к оценкам чисто человеческого свойства, например в системе машинного перевода, где все элементы, кроме самого критика, машинные. Однако если человеческий элемент необходимо вводить в качестве критического начала, то вполне разумно вводить его также и на других этапах. При машинном переводе вовсе не обязательно, чтобы машинные элементы системы давали единственный и законченный вариант перевода. Напротив, машина может нам дать многовариантный перевод отдельных фраз, которые лежат в русле соответствующих грамматических и лексических норм, предоставляя нашему критику-эксперту весьма ответственную задачу оценки и выбора из этих машинных вариантов того, который наилучшим образом передает смысл. Нет, однако, никакой необходимости предоставлять машине формирование полностью законченных кусков переводного текста даже в том случае, если он будет в целом критически оцениваться и улучшаться человеком. Поправки, вносимые человеком, могут быть введены и на гораздо более ранних стадиях перевода.

Все высказанное о машинах-переводчиках в равной или в еще большей мере относится к машинам, составляющим медицинские диагнозы. Такие машины стали очень модными во всех планах развития медицины на ближайшее будущее. Эти машины могут помочь врачу установить данные, которые ему понадобятся для диагноза, но нет никакой необходимости в том, чтобы они устанавливали диагноз сами, без участия врача. Весьма вероятно, что такая тенденция применения медицинских машин может рано или поздно привести к ухудшению здоровья людей и даже ко многим смертельным исходам.

Родственная проблема, требующая совместного рассмотрения возможностей машины и человека, – это проблема эффективности использования изобретения. Этот вопрос обсуждал со мной д-р Гордон Рейзбек, сотрудник фирмы «А.Д. Литтл». В ходе обсуждения мы пришли к выводу, что всякое изобретение должно оцениваться не только с точки зрения принципиальных возможностей его осуществления, но также с точки зрения того, как это изобретение может и должно служить человеку. Вторая часть задачи часто куда сложнее, чем первая, и ее методология разработана в гораздо меньшей степени. Таким образом, мы сталкиваемся с проблемой усовершенствования, которая, по существу, не что иное, как проблема обучения, – не для механической системы в чистом виде, но для механической системы, взаимодействующей с обществом. Это именно тот случай, когда необходимо рассмотрение проблемы оптимального совместного использования человека и машины в одной системе.

Подобную задачу весьма настоятельно выдвигает необходимость применения и разработки систем вооружения в соответствии с эволюцией тактики и стратегии. И здесь проблема эффективности использования военной техники не может быть отделена от проблем автоматизации.

С проблемой приспособления машины к реально существующим условиям путем правильного использования интеллекта переводчика, врача или изобретателя мы сталкиваемся не только сегодня. Этой проблемой мы должны будем заниматься снова и снова. Развитие искусств и наук означает, что мы не можем признать за какой-либо отдельной эпохой права на обладание абсолютной мудростью. Это, вероятно, становится наиболее ясным при рассмотрении опыта социального регулирования и создания обучающихся систем в области политики. В периоды относительной стабильности – если не в сфере философских теорий, то, во всяком случае, в реальных условиях, созданных нами в окружающем мире, – мы можем уверенно решать новые проблемы, возникшие перед нынешним поколением, как, например, проблемы, связанные с созданием атомной бомбы, бурным ростом населения, широким распространением медицины и т.д. Однако с течением времени мы должны пересматривать свою прежнюю оптимизацию так, чтобы наша новая оптимизация учитывала все эти факторы. Социальное регулирование, рассматриваемое применительно к отдельному индивиду или всему человеческому роду, есть некий процесс, самые основы которого должны быть раньше или позже пересмотрены. Это значит, как я отмечал ранее в статье для московского журнала «Вопросы философии»[16], что хотя наука и вносит свой важный вклад в процесс социального регулирования, однако основные принципы этого научного вклада должны оцениваться заново почти каждым новым поколением. Позвольте мне здесь заметить, что общественный гомеостазис как на Западе, так и на Востоке в настоящее время осуществляется, исходя из намерений жестко закрепить концепции давно минувшего периода. Маркс жил в эпоху первой промышленной революции, а мы теперь давно вступили в период второй промышленной революции. Эпохе Адама Смита соответствует еще более ранняя и устаревшая фаза первой промышленной революции.

Непрерывный общественный гомеостазис не может осуществляться, исходя из жестких предпосылок о совершенной неизменяемости марксизма, точно так же как он не может быть реализован, исходя из столь же жестких предпосылок, основанных на шаблонных идеях свободного предпринимательства и наживы как побудительных силах экономического развития.

Дело в конечном счете не в той или иной особой форме окостенелости, а в самой ее сути.

В статье, опубликованной в «Вопросах философии», мне представлялось необходимым подчеркнуть роль науки в общественном гомеостазисе и в то же время выступить против догматического приложения выводов науки к развитию общества, будь то в России или где-нибудь в другом месте.

Когда я послал эту статью в журнал «Вопросы философии», я предвидел, что моя позиция в отношении окостенелости и догматизма встретит острую реакцию; и в самом деле, моя статья была напечатана с послесловием гораздо большего объема – в нем были вскрыты уязвимые места моей позиции со строго марксистской точки зрения. Я не сомневаюсь, что, если бы моя статья вначале была опубликована у нас на Западе, я подвергся бы подобной или почти такой же строгой критике с точки зрения наших собственных предрассудков, которые хотя, быть может, и выражаются не столь догматично и формально, но тем не менее столь же сильны.

Тезис, который я хотел бы здесь выдвинуть, не является ни про-, ни антикоммунистическим. Этот тезис сводится к антидогматизму. Поэтому я выражаю свои идеи здесь в форме, не слишком связанной с оценкой различий в опасностях, которые несут аналогичные, но противоположные формы догматизма. Вывод, который я хотел бы подчеркнуть здесь, состоит в том, что нельзя преодолеть трудности, связанные с установлением подлинного общественного регулирования, заменой одной жесткой схемы, которая не подвергается постоянной переоценке, другой жесткой схемой, аналогичной по форме и противоположной по содержанию[17].

Кроме машин-переводчиков и машин, играющих в шашки, существуют и другие обучающиеся машины. Некоторые из них могут быть запрограммированы так, что они приобретают способность функционировать без человека. Другие же, подобно машине-переводчику, нуждаются во вмешательстве человека-эксперта, привлекаемого в качестве арбитра. Мне кажется, что системы последнего типа должны применяться гораздо шире машинных систем первого типа. Более того, необходимо напомнить, что в такого рода «игре», как атомная война, экспертов вообще не существует.

VII

Итак, мы выполнили нашу задачу, выявив ряд действительных аналогий между теологическими ситуациями и явлениями, которые изучаются кибернетикой. В ходе этих уместных сопоставлений мы достаточно убедительно показали приложимость кибернетического подхода к моральным проблемам личности. Остается кратко рассмотреть другую область приложения кибернетических идей, а именно их приложения к проблемам этического характера. Это кибернетика общества и рода человеческого.

С самого начала своих исследований в области кибернетики я отчетливо понимал, что принципы управления и связи, применимые, как мне удалось установить, в технике и физиологии, приложимы также к социологии и экономике.

Однако я умышленно воздержался от подчеркивания возможностей кибернетического подхода к этим сферам науки, и вот по каким причинам. Кибернетика – ничто, если математика не служит ей опорой, если не in esse, то in posse[18]. И математическая социология, и математическая экономика, или эконометрика, страдают от неправильного понимания того, как следует применять математический аппарат в общественных науках и чего вообще можно ожидать от применения математических методов. По этой причине я сознательно воздерживался от каких-либо рекомендаций в этой области, так как был убежден, что за ними хлынул бы поток незрелых и превратно понимаемых работ.

Успехи математической физики стали одним из величайших триумфов нашего времени. Однако только в XX веке задачи физика-теоретика были наконец правильно поняты, в особенности в их взаимосвязи с задачами, которые решает физик-экспериментатор.

До кризиса физики 1900–1905 годов было общепризнано, что основные понятия математической физики получили свое завершение в трудах Ньютона. Пространство и время, масса и количество движения, сила и энергия были понятиями, установленными, казалось бы, раз навсегда. Задача физики будущего сводилась лишь к построению моделей, которые объясняли бы все еще не изученные явления с помощью этих основополагающих категорий.

После открытий Планка и Эйнштейна стало ясно, что задача физика не столь проста. Категории физики начала XVIII века нельзя было считать абсолютной истиной. Задача физиков нашего времени в определенном смысле противоположна той, которую ставила перед нами ньютоновская наука: теперь мы должны привести количественные наблюдения окружающего нас мира в стройную систему, исходным пунктом которой служит эксперимент, а конечным – предсказание новых явлений и их технического применения. Наблюдатель перестал быть невинным регистратором своих объективных наблюдений; оказалось, что, помимо своей воли, он активно влияет на результаты эксперимента. Согласно теории относительности и квантовой теории, эффект присутствия наблюдателя при постановке эксперимента и его модификациях столь существен, что пренебречь им уже невозможно. Это положение вещей, кстати, привело к зарождению современного неопозитивизма.

Успехи математической физики вызвали у социологов чувство ревности к силе ее методов – чувство, которое едва ли сопровождалось отчетливым пониманием интеллектуальных истоков этой силы. Развитию естественных наук сопутствовало широкое применение математического аппарата, ставшее модным и в общественных науках. Подобно тому как некоторые отсталые народы заимствовали у Запада его обезличенные, лишенные национальных примет одежды и парламентские формы, смутно веря, будто эти магические облачения и обряды смогут их сразу приблизить к современной культуре и технике, так и экономисты принялись облачать свои весьма неточные идеи в строгие формулы интегрального и дифференциального исчислений. Поступая таким образом, они явно обнаруживают свою недальновидность.

Математика, которой пользуются социологи, и математическая физика, которую они берут за образец, – это математика и математическая физика середины прошлого века. Специалист по эконометрике может тщательно разработать сложную теорию спроса и предложения, товарных запасов и безработицы и т.д. при относительном или полном безразличии к методам, с помощью которых эти чрезвычайно изменчивые величины наблюдаются или измеряются. К количественным теориям подобного рода сейчас относятся почти с таким же безоговорочным доверием, с каким физики прошлого века относились к положениям ньютоновской физики. Очень немногие экономисты отдают себе отчет в том, что если они всерьез намерены заимствовать существо методов современной физики, а не только их внешние аксессуары, то математическая экономика должна начать с критического пересмотра своих количественных характеристик и методов их сбора и измерений.

Как ни труден отбор надежных данных в физике, гораздо сложнее собрать обширную информацию экономического или социологического характера, состоящую из многочисленных серий однородных данных. Например, данные о выплавке стали изменяют свою значимость не только при каждом изобретении, которое меняет технику сталеварения, но и при каждом социальном или экономическом сдвиге, воздействующем на коммерческую сферу и промышленность в целом. В частности, это относится к любому техническому новшеству, изменяющему спрос и предложение или свойства конкурирующих материалов. Так, например, даже первый небоскреб, выстроенный из алюминия вместо стали, может повлиять на весь будущий спрос строительной стали, подобно тому, как первое дизельное судно положило конец неоспоримому господству парохода.

Таким образом, экономическая игра – это такая игра, правила которой должны периодически подвергаться существенному пересмотру, скажем каждые десять лет, при этом она еще имеет тревожное сходство с игрой в крокет Королевы из «Алисы в стране чудес», о которой я уже упоминал. В этих обстоятельствах безнадежно добиваться слишком точных определений величин, вступающих в игру. Приписывать таким неопределенным по самой своей сути величинам какую-то особую точность бесполезно и нечестно, и, каков бы ни был предлог, применение точных формул к этим слишком вольно определяемым величинам есть не что иное, как обман и пустая трата времени.

Здесь уместно напомнить недавние работы Мандельброта. Он, в частности, показал, что специфические формы случайных колебаний товарного рынка, выведенные из предположения о присущей ему неравномерности конъюнктуры, как показывают теория и практика, гораздо хаотичней и глубже, чем предполагалось, и что обычные приближения, используемые для оценки динамики сбыта, должны применяться с гораздо большей осторожностью или не применяться вовсе.

Общественные науки представляют собой испытательную среду, малопригодную для апробирования идей кибернетики, гораздо худшую, чем биологические науки, где данные могут быть получены при более однородных условиях и в присущем им масштабе времени. Это объясняется тем, что человек как физиологическая система в отличие от общества в целом очень мало изменился со времен каменного века. И жизнь индивида в течение многих лет протекает в физиологических условиях, подвергающихся крайне медленным изменениям, которые к тому же можно предвидеть заранее. Это отнюдь не означает, что идеи кибернетики неприложимы к социологии и экономике. Это скорее означает, что, прежде чем применять эти идеи в столь аморфной сфере, они должны быть испытаны в технике и биологии.

Принимая во внимание указанные оговорки, можно считать, что широко используемая аналогия между государственной системой и человеческим организмом оправданна и полезна. С этой точки зрения государственная система должна быть подвергнута всестороннему рассмотрению с позиций этики, с которых надлежит анализировать и ту область религиозного мировоззрения, которая по существу не что иное, как парафраз этических норм.

VIII

И вот я перечитал эти очерки, объединенные одной внутренней темой творческой активности – от Творца до машины, – написанные под одним углом зрения. Машина, как я уже сказал, – это современный двойник Голема, созданного некогда пражским раввином. Поскольку я настаивал на том, что вопросы творческой активности следует рассматривать в их единстве, под общим названием, не разделяя их на отдельные части, относящиеся к Творцу, человеку и машине, я не думаю, что я превысил пределы общепринятой авторской свободы, назвав эту книгу «God and Golem, Inc.»[19]

Примечания

1

N. Wiener, The Human Use of human Beings; Cybernetics and Society, Houghton Mifflin Company, Boston, 1950 (русск. перев.: Н. Винер, Кибернетика и общество. Издательство иностранной литературы, 1958. – Прим. перев.).

(обратно)

2

N. Wiener, Cybernetics or Control and Communication in the Animal and the Machine, The Technology Press and John Wiley & Sons, Inc., New York, 1948 (русск. перев.: Н. Винер, Кибернетика или управление и связь в животном и машине. Издательство «Советское радио», 1958. – Прим. перев.).

(обратно)

3

«Credo quia incredibile est» (лат.) – «Верю, потому что невероятно». – Прим. перев.

(обратно)

4

А. L. Samuel, «Some Studies in Machine Learning, Using the Game of Checkers», IBM Journal of Research and Development, vol. 3, 210–229 (July, 1959).

(обратно)

5

Coup de grace (франц.) – завершающий удар. – Прим. перев.

(обратно)

6

Модель воспроизведения гена при расщеплении двойной спирали ДНК для полноты должна сопровождаться описанием соответствующей динамики хода процесса.

(обратно)

7

Разрешите мне объяснить здесь, что такое «дробовый шум». Электричество течет не непрерывно, а в виде потока заряженных частиц, каждая из которых имеет одноименный заряд. Обычно поток этих частиц протекает во времени не равномерно, а распределяется хаотически. Это распределение потока частиц накладывается на стационарные колебания электрического тока, которые являются независимыми для не перекрывающихся интервалов времени. Это приводит к появлению шума, равномерно распределенного по частоте. Шум этот в большинстве случаев является недостатком, ограничивая пропускную способность линии связи. Существуют, однако, случаи, как, например, настоящий, где эти нерегулярности производят как раз то, что мы желаем получить; имеются коммерческие устройства для получения этого эффекта. Они называются генераторами шума.

(обратно)

8

Ipso facto (лат.) – в силу самого факта. – Прим. перев.

(обратно)

9

Данное предложение отсутствовало в переводе книги, хотя присутствует в оригинале. – Прим. Sclex и Hugger. 

(обратно)

10

Gabor, D., «Electronic Inventions and Their Impact on Civilization», Inaugural Lecture, March 3, 1959, Imperial College of Science and Technology, University of London, England.

(обратно)

11

По преданию, это изобретение было сделано английским мальчиком Гемфри Поттером. – Прим. перев.

(обратно)

12

Deus ex machina (лат.) – дословно «бог из машины». В переносном смысле – чудо, маловероятная счастливая развязка драматической ситуации. – Прим. перев.

(обратно)

13

Ultima ratio (лат.) – последний довод. – Прим. перев.

(обратно)

14

Под устройством типа «fail-safe» понимаются устройства контроля и управления системами, позволяющие предотвратить неправильный ход контролируемого процесса в случае неисправности аппаратуры. – Прим. перев.

(обратно)

15

Следует иметь в виду, что бурный прогресс в области микроминиатюризации (создание так называемых интегральных и пленочных схем) может привести в ближайшие годы к дальнейшему радикальному уменьшению габаритов вычислительных машин. – Прим. перев.

(обратно)

16

См. статью Норберта Винера «Наука и общество», опубликованную в журнале «Вопросы философии», № 7, 1961, и послесловие к ней. – Прим. перев.

(обратно)

17

Нельзя согласиться с утверждениями Норберта Винера о «неизменяемости», «окостенелости» марксизма. Нам представляется необходимым подчеркнуть, что истинный марксизм чужд всякой «окостенелости» и догматизму. Душой марксистского учения является революционный диалектический метод, позволяющий оценивать каждое явление в его конкретной исторической обстановке. Что касается проблемы общественного регулирования, то это прежде всего социальная проблема, правильные пути решения которой указывает только марксистско-ленинское учение. – Прим. перев.

(обратно)

18

In esse (лат.) – в настоящем; in posse (лат.) – потенциально. – Прим. перев.

(обратно)

19

В настоящем издании это название книги переведено как «Творец и робот». – Прим. перев.

(обратно)

Оглавление

Предисловие

Предисловие автора

I

II

III

IV

V

VI

VII

VIII . . . . . . . . . . . . . . . . . . . .

Реклама на сайте