Анатолий Днепров СУЭМА
* * *
Поздно ночью ко мне в купе громко постучали. Я, сонный, вскочил с дивана, не понимая, в чём деле. На столике в пустом стакане подрагивали чайные ложечки. Включив свет, я стал натягивать ботинки. Стук повторился громче, настойчивее. Я открыл дверь.
В дверях я увидел проводника, а за ним стоял высокий человек в измятой полосатой пижаме.
— Простите, дорогой товарищ, — полушёпотом сказал проводник, — я решил побеспокоить именно вас, потому что вы в купе один.
— Пожалуйста, пожалуйста. Но в чём дело?
— К вам пассажир. Вот… — и проводник сделал шаг в сторону, пропуская человека в пижаме.
Я с удивлением посмотрел на него.
— Видимо, у вас в купе маленькие дети не дают вам спать? — осведомился я.
Пассажир улыбнулся и отрицательно покачал головой.
— Входите, — любезно предложил я.
Он вошёл осмотрелся и сел на диван, в самый угол возле окна. Не говоря ни слова, облокотился о столик и, подперев лицо обеими руками, закрыл глаза.
— Ну, вот и всё в порядке, — сказал проводник улыбаясь. — Закрывайте дверь и отдыхайте.
Я задвинул дверь, закурил папиросу и украдкой стал разглядывать ночного гостя. Это был мужчина лет сорока, с огромной копной блестящих чёрных волос. Сидел он неподвижно, как статуя, и даже незаметно было, что он дышал.
«Почему он не берёт постель? — подумал я. — Нужно предложить…»
Повернувшись к моему попутчику, я хотел было сказать ему это. Но он, словно угадав мою мысль, произнёс:
— Не стоит. Я говорю, не стоит заказывать постель. Спать я не хочу, а ехать мне недалеко.
Ошеломлённый его проницательностью, я быстро забрался под одеяло.
«Черт знает что такое! Новый Вольф Мессинг — угадывает мысли!» — подумал я и, пробормотав что-то невнятное, перевернулся на другой бок и широко раскрытыми глазами уставился в полированную стенку. Наступило напряжённое молчание.
Любопытство взяло верх, и я снова взглянул на незнакомца. Он сидел в прежней позе.
— Вам свет не мешает? — спросил я.
— Что? Ах, свет! Скорее он мешает вам. Хотите, потушу?
— Пожалуй, можно…
Он встал, подошёл к двери и щёлкнул выключателем. Затем опять вернулся на свой диван. Когда я привык к темноте, то увидел, что мой сосед откинулся на сиденье и заложил руки за голову. Вытянутые ноги его почти касались моего дивана.
— И как это вас угораздило отстать от поезда? — снова заговорил я.
— Это произошло ужасно нелепо. Я зашёл в вокзал, присел на скамейку и задумался об одной идее, пытаясь доказать самому себе, что она не права… — ответил он скороговоркой. — Поезд тем временем ушёл.
— Вы что же, поспорили с какой-нибудь… дамой? — допытывался я.
— При чем тут дама? — раздражённо спросил он.
— Но ведь вы же сами сказали: «Доказать самому себе, что она не права»!
— По-вашему, всякий раз, когда говорят «она», имеют в виду даму? Кстати, эта нелепая мысль как-то появилась и у неё. Она считала, что она — дама!
Всю эту галиматью он произнёс с горечью и даже злобой, а последние слова с ехидным хихиканьем. Я решил, что рядом со мной не совсем нормальный человек, которого следует остерегаться. Однако мне хотелось продолжать разговор. Я закурил главным образом для того, чтобы при вспышке спички получше разглядеть своего спутника. Он сидел на краю дивана, глядя мне в лицо чёрными блестящими глазами.
— Знаете, — начал я как можно мягче и примирительнее, — я литератор, и мне кажется странным, когда говорят «она права» или «она считала» и при этом не имеют в виду особу женского пола.
Странный пассажир ответил не сразу;
— Десять лет назад это было абсолютно верно. В наше время это уже не так. «Она» может быть и не женщина, а просто существительное женского рода.
— Дайте папиросу, — попросил он. — Думал, брошу курить, но, кажется, ничего не выйдет.
Я молча протянул ему папиросы и зажёг спичку. Он несколько раз глубоко затянулся и через минуту начал один из самых удивительных рассказов, которые мне когда-либо доводилось слышать.
— Вы, конечно, читали об электронных счётно-решающих машинах? Это замечательное достижение современной науки и техники. Машины выполняют сложнейшие математические вычисления, произвести которые часто не под силу человеку. Они могут решать такие задачи, что дух захватывает. И решают в течение каких-нибудь долей секунды, в то время как человеку для этого необходимы месяцы и даже годы. Я не буду вам рассказывать, как построены эти машины. Так как вы литератор, то всё равно в этом ничего не поймёте. Я только обращу ваше внимание на одно очень существенное положение: при вычислениях эта машина имеет дело не с числами, и с их кодами. Прежде чем задать задачу такой машине, все числа кодируются при помощи нолей и единиц. Электронная машина складывает, вычитает, умножает и делит числа, представленные в виде электрических импульсов. Единица — это значит «есть импульс», ноль — «импульса нет».
Известно, что при решении даже простой арифметической задачи часто приходится проделывать несколько операций. Как же может машина решить задачу с многими действиями? Вот здесь-то и начинается самое интересное. Для того чтобы решить сложную задачу, машине в виде особого импульсного кода задают не только условия задачи, но и составляют в закодированном виде её программу действий. Машине говорят примерно так: «Когда ты сложишь заданные два числа, запомни результат. Затем перемножь вторые два числа и также запомни результат. После первый результат раздели на второй и дай ответ». Я понимаю, вам неясно, как можно машине сказать, что она должна делать. Вы удивляетесь, когда машине приказывают запомнить результат. Это не фантазия. Машина хорошо понимает заданную ей программу действий и хорошо запоминает и фиксирует промежуточные результаты вычислений.
Программа работы машины также составляется в форме импульсного кода. Каждую группу цифр, посылаемых в машину, сопровождают дополнительным кодом, в котором говорится, что с этими цифрами нужно сделать. До последнего времени программу работы машины составлял человек,
— А как же может быть иначе? — спросил я. — Ведь трудно себе представить, чтобы машина знала, как решить задачу.
— Вот это-то и неверно! Оказывается, можно построить и такую машину, которая сама составляет себе программу действий для решения задачи. Вы, конечно, знаете, что в школе учат детей решать так называемые типовые задачи, они решаются по одному рецепту, или, говоря нашим языком, по одной и той же программе. Почему бы этому не научить машину? Надо лишь запечатлеть в её памяти в виде кодов программы наиболее типичных задач, и она с успехом их будет решать без помощи человека.
— Нет, не сможет! — воскликнул я. — Если даже она и запомнит программу решения всех типичных задач, она не сможет сама выбрать нужную программу.
— Правильно! Было и так. Машине задавали условия задачи и затем сопровождали их коротким кодом, в котором говорилось, например: «Решать по программе номер двадцать». И она решала.
— Ну, здесь и кончаются все чудесные мыслительные способности вашей машины! — воскликнул я.
— Наоборот, здесь-то и начинается самая интересная работа по усовершенствованию таких машин. Вы понимаете, почему машина, которой задали исходные данные задачи, сама не может выбрать программу работы?
— Конечно, понимаю, — оказал я. — Потому, что сами цифры, которые вы ей задали в виде последовательности импульсов, ничего не говорят. Ваша машина не знает, что с ними делать. Она не знает ни условия задачи, ни того, что требуется. Она мертва. Она не способна анализировать задачу. Это может сделать только человек.
Пассажир в полосатой пижаме улыбнулся, прошёлся по купе. Затем вернулся на своё место и закурил. После минутного молчания он продолжил свой рассказ:
— Было время, когда я думал точно так же, как и вы. Действительно, может ли машина заменить человеческий мозг? Может ли она выполнять сложнейшую аналитическую работу? Может ли она, наконец, думать? Конечно, нет, нет и нет. Так мне казалось. Это было в то время, когда я только приступил к конструированию электронных счётно-решающих машин. Как много с тех пор изменилось! Как мало нынешняя электронная машина походит на прежнюю! Раньше такая машина представляла собой сооружение, занимающее огромное здание. Вес её исчислялся сотнями тонн. Для работы ей требовались тысячи киловатт энергии. А количество радиодеталей и радиоламп! По мере усовершенствования машин неудержимо росли их размеры. Они становились электронными гигантами, которые, хотя и решали сложнейшие математические задачи, увы, нуждались в постоянной опеке человека. Несмотря на все усовершенствования, это были тупые, бездумные чудовища. Временами мне казалось, что такими они останутся навсегда… Вы, конечно, помните первые сообщения об электронных машинах, которые переводили с одного языка на другой? В тысяча девятьсот пятьдесят пятом году одновременно у нас и в Америке были созданы машины, которые переводили журнальные статьи по математике с английского языка на русский и с русского на английский. Я читал несколько переводов и нашёл, что они не так уж плохи. В то время я полностью посвятил себя машинам, которые выполняют нематематические операции. В частности, более года я занимался изучением и конструированием машин для перевода.
Нужно сказать, что силами одних только математиков и конструкторов построить такие машины было бы невозможно. Огромную помощь нам оказали лингвисты, которые помогли составить такие орфографические и синтаксические правила, что их можно было закодировать и поместить в долговременной памяти машины в качестве программы действия. Не буду рассказывать о тех трудностях, которые нам пришлось преодолеть. Скажу только, что в конце концов удалось создать электронную машину, которая переводила русские статьи и книги любого содержания на английский, французский, немецкий и китайский языки. Перевод выполнялся с той же быстротой, с какой русский текст печатался на специальной пишущей машине. Эта машина вырабатывала и необходимый для перевода код.
Во время работы над усовершенствованием одной из переводческих машин я заболел и провалялся в больнице около трех месяцев. Дело в том, что во время войны я командовал радиолокационной станцией и при налёте немецкой авиации был контужен, перенёс тяжёлое сотрясение мозга, и это давало, да и сейчас даёт себя знать. Так вот, именно тогда, когда я работал над новым типом электростатической памяти для электронных машин, с моей собственной памятью начало твориться что-то не совсем ладное.
Знаете, случалось так: видишь человека, которого хорошо знаешь, а как его зовут, вспомнить не можешь. Лежит перед тобой какой-нибудь предмет, а ты забыл, как он называется. Или прочтёшь слово и не понимаешь, что оно значит, хотя слово тебе хорошо знакомо. У меня это и сейчас бывает, но не так часто… А тогда это стало просто катастрофой. Как-то раз понадобился карандаш. Я позвал лаборантку и говорю ей: «Принесите мне, пожалуйста, вот это… Ну, как его… то, чем пишут». Она улыбнулась и принесла мне ручку. «Нет, — говорю, — мне нужно другое». — «Другую ручку?» — «Нет, — говорю, — другое, чем пишут». Я сам испугался той бессмыслицы, которую говорил, и, видимо, испугал и её. Она вышла в коридор и громко оказала одному инженеру: «Скорее зайдите в комнату и посмотрите на Евгения Сидоровича. Он заговаривается». Вошёл инженер. А я стою перед ним и не знаю, кто он такой, хотя работаю с ним уже три года. «Э-э, батенька, ты, кажется, заработался, — оказал он. — Посиди минутку спокойно, я сейчас приду». Он пришёл с врачом и двумя молодыми сотрудниками института, и они вывели меня из комнаты, усадили в машину и отвезли в клинику.
В клинике я познакомился с одним из крупнейших невропатологов нашей страны, Виктором Васильевичем Залесским. Я называю его имя потому, что знакомство с ним сильно повлияло на всю мою дальнейшую судьбу.
В больнице Виктор Васильевич долго меня осматривал, выслушивал, выстукивал, ударял молоточком по коленке, водил карандашиком по спине и затем, похлопав по плечу, сказал: «Ничего, это пройдёт. Это у вас…» — и он произнёс какое-то латинское слово.
Лечение заключалось в ежедневных прогулках, прохладных ваннах и в снотворном на ночь. Выпивая порошки люминала или нембутала, я засыпал и утром просыпался как после глубокого обморока. Мало-помалу память стала восстанавливаться.
Однажды я спросил Виктора Васильевича, для чего мне дают снотворное. «Когда вы спите, мой дорогой, все силы организма направлены на то, чтобы восстановить нарушенные в вашей нервной системе линии связи». Услышав это, я спросил: «О каких линиях связи вы говорите, Виктор Васильевич?» — «О тех самых, при помощи которых передаются все ваши ощущения в мозг. Вы, кажется, специалист по радиотехнике? Так вот, вы, ваша нервная система, грубо говоря, весьма сложная радиотехническая схема, в которой повреждены кое-какие проводники».
Помню, после этого разговора, несмотря на снотворное, я долго не мог заснуть.
Во время следующего обхода я попросил Залесского дать мне что-нибудь прочитать о нервных связях в живом организме. Он принёс мне книгу академика Павлова «О работе полушарий головного мозга». Я буквально проглотил эту книгу. И, знаете, почему? Потому что я в ней нашёл то, что давно искал, — принципы построения новых, более совершенных электронных машин. Я понял, что для этого нужно стремиться копировать структуру нервной системы человека, структуру его мозга.
Несмотря на то, что мне строго-настрого запретили заниматься серьёзным умственным трудом, мне удалось прочитать несколько книг и журналов, посвящённых различным вопросам деятельности нервной системы и мозга. Я читал о человеческой памяти и узнал, что в результате жизнедеятельности, в результате взаимодействия с окружающим миром в группах специальных клеток человеческого мозга, в нейронах, запечатлеваются многочисленные данные жизненного опыта человека. Я узнал, что количество нейронов составляет несколько десятков миллиардов, Я понял, что в результате соприкосновения с природой, в результате наблюдения всего, что происходит в мире, в результате опыта в центральной нервной системе возникают связи, которые как бы копируют природу. Запечатлён этот мир в различных разделах памяти человека в виде закодированных сигналов, в виде слов и в виде образов.
Помню, какое огромное впечатление произвела на меня работа одного биофизика, изучавшего работу зрительных нервов глаза. Он перерезал зрительный нерв лягушки и концы подключил к осциллографу — прибору, который позволяет сделать видимыми электрические импульсы. И когда он направил на глаз лягушки яркий пучок света, то увидел на осциллограмме быструю последовательность электрических импульсов, точь-в-точь напоминающих те, которые используются для кодирования цифр и слов в электронных машинах. По нервам, от места их раздражения до мозговых нейронов, мчатся сигналы внешнего мира в виде последовательности электрических импульсов, «нолей» и «единиц».
Цепь замкнулась. Процессы, протекающие в нервной системе человека, имеют много общего с процессами, протекающими в электронных машинах.
Но нервная система человека самосоздается и самосовершенствуется, обогащается благодаря жизненному опыту. Память непрерывно пополняется в результате общения человека с жизнью, изучения наук, фиксирования в клетках мозга впечатлений, образов, чувств, переживаний. Взаимодействие же машины с природой крайне слабое, она её не чувствует, память её ограничена, она не пополняется новыми данными.
Можно ли создать машину, которая бы развивалась и совершенствовалась в силу каких-то внутренних законов своего устройства? Можно ли создать машину, которая бы сама, без помощи человека или с минимальной его помощью обогащала свою память? Можно ли сделать так, чтобы, наблюдая внешний мир или изучая науку, машина научилась логически считать (я избегаю слова «мыслить», потому что до сих пор не могу уяснить, что точно выражает это слово) и на основе логики сама создавала себе программы действий в зависимости от того, что ей необходимо делать?
Сколько бессонных ночей я провёл, ломая голову над этими вопросами! Часто мне казалось, что всё это чепуха и построить такую машину невозможно. Но сама идея не оставляла меня ни на минуту, преследуя днём и ночью. Самоусовершенствующаяся электронная машина! Суэма! Вот что стало целью моей жизни, и я решил всего себя посвятить этой цели.
Когда я выписался из больницы, Виктор Васильевич Залесский настоял на том, чтобы я оставил работу в институте. Мне назначили хорошую пенсию, так как признали не вполне работоспособным. Сверх того я неплохо зарабатывал, переводя с иностранных языков научные статьи. Но, несмотря на все медицинские запреты, я начал работу над Суэмой дома.
Прежде всего я изучил многочисленную литературу об электронных машинах того времени. Затем я перечитал огромное количество книг и статей о деятельности нервной системы человека и высших животных. Я тщательно изучал математику, электронику, биологию, биофизику, биохимию, психологию, анатомию, физиологию и другие, казалось бы, самые отдалённые друг от друга науки. Я хорошо себе представлял, что если и можно построить Суэму, то только благодаря синтезу большого количества данных, накопленных всеми этими науками и обобщённых в такой науке, как кибернетика. Одновременно я стал приобретать материалы для будущей машины. Теперь все электронные лампы можно было заменить полупроводниковыми приборами. В том месте, где раньше была одна радиолампа, теперь можно было разместить до сотни кристаллических её заменителей из германия и кремния. Легче было и с монтажом. Я разработал новую схему памяти Суэмы.
Для этого по моему проекту была изготовлена многолучевая электронная трубка шарообразной формы. Внутренняя поверхность шара была покрыта тонким слоем электрета — вещества, способного электризоваться и неопределённо долго сохранять электрический заряд. Электронные пушки располагались в центре шара так, что электронные лучи экранировали любой участок его поверхности. Одна группа лучей создавала на поверхности электрета элементы памяти, то есть записывала электрические импульсы, вторая группа лучей эти импульсы считывала. Фокусировка электронных пучков была очень острой, и на площади в один квадратный микрон можно было записать до пятидесяти электрических импульсов. Таким образом, на внутренней поверхности головы Суэмы можно было разместить до тридцати миллиардов сигналов импульсного кода. Как видите, объём памяти Суэмы был нисколько не меньше объёма человеческой памяти!
Я решил научить Суэму слушать, читать, говорить и писать. Это было не так уж сложно. В прошлом веке немецкий учёный Гельмгольц установил, что звукам человеческой речи соответствуют строго определённые комбинации частот колебаний, которые он назвал «форманты». Кто бы ни произносил букву «о», мужчина или женщина, ребёнок или старик, при её произношении всегда в голосе присутствует определённая частота колебаний. Так вот эти частоты я и выбрал в качестве основы для кодирования звуковых сигналов.
Труднее было научить Суэму читать. Однако и этого удалось добиться. Большую услугу оказали приёмные телевизионные трубки. Единственный глаз Суэмы представлял собой фотографический объектив, который проектировал текст на светочувствительный экран телевизионной трубки. Электронный луч этой трубки, прощупывая изображение, вырабатывал систему электрических импульсов, которые строго соответствовали тому или иному знаку или рисунку.
Писать Суэму научить было легко. Это делалось так же, как и в старых электронных машинах. Сложнее было сделать так, чтобы она разговаривала. Пришлось разработать звуковой генератор, который по данной последовательности электрических импульсов вырабатывал тот или иной звук. Для Суэмы я выбрал тембр женского голоса, что вполне соответствовало её имени. Для чего я это сделал? Поверьте мне, вовсе не потому, что я холостяк и нуждаюсь в женском обществе. Это было вызвано техническими причинами. Дело в том, что женский голос более чист и легче поддаётся разложению на простые звуковые колебания.
Итак, в конце концов основные органы чувств, органы общения с внешним миром для Суэмы были готовы. Оставалась наиболее сложная часть задачи — заставить Суэму правильно реагировать на внешние раздражения. Суэма должна была прежде всего отвечать на вопросы. Вы обращали внимание, как учат говорить ребёнка? Ему обычно говорят: «Мама!» — и он повторяет: «Мама». С этого начал и я. Когда я произносил в микрофон слово «скажи», вырабатывался код, по которому включался генератор, воспроизводящий голос. Электрические импульсы вначале мчались по проводам в память Суэмы, записывались там и тут же возвращались в звуковой генератор. Суэма повторяла эти слова. Эту простейшую операцию — операцию повторения — Суэма выполняла безукоризненно. Постепенно я эту задачу усложнял. Я, например, читал ей несколько страниц подряд. Во время чтения она записывала их в своей памяти. Затем я ей говорил: «Повтори», — и Суэма в точности воспроизводила услышанное. Заметьте, она запоминала всё с одного раза! Её память, как говорят, была феноменальной, потому что состояла из электрических импульсов, которые не стирались и не пропадали. Потом Суэма стала читать вслух. Я клал перед объективом её глаза книгу, и она читала. Импульсы изображения записывались в её памяти и тут же возвращались в звуковой генератор, где и воспроизводились в виде звуков. Признаюсь, я не раз наслаждался её чтением. Голос у Суэмы был приятный, читала она довольно отчётливо, хотя немного суховато, без выражения.
Я забыл вам рассказать ещё об одной особенности Суэмы, которая, собственно, и делала её самоусовершенствующейся электронной машиной. Дело в том, что, несмотря на очень большой объём памяти, она пользовалась ею экономно. Если она читала или слышала незнакомый прежде какой-нибудь текст, то запоминала только новые слова, новые факты и новые логические схемы-программы. Если я задавал Суэме какой-то вопрос, то ответ на него она должна была составить сама из закодированных слов, расположенных в её памяти в разных местах. Как это она делала? В её памяти собиралась в виде кодов программа ответов на различные вопросы. Там хранился порядок, по которому электронные лучи считывали нужные слова. По мере обогащения памяти Суэмы у неё накапливался также и объём программ. В её организме была предусмотрена аналитическая схема, которая контролировала все возможные ответы на заданный ей вопрос. Эта схема пропускала только тот ответ, который был логически безупречен.
При монтаже я предусмотрел несколько десятков тысяч запасных схем, которые автоматически включались, по мере того как машина совершенствовалась. Если бы не миниатюрные и сверхминиатюрные радиодетали, такая машина, наверное, занимала бы не одно здание.
У меня же она располагалась в небольшой, высотой в рост человека круглой металлической колонне, над которой возвышалась её стеклянная голова. В средней части колонны были выведен кронштейн для глаза, смотрящего вниз, на подставку для книг. Подставка была подвижной, с рычагами для перелистывания страниц. Два микрофона были установлены справа и слева от глаза. В той же колонне, в промежутке между глазом и держателем для книги, был звуковоспроизводящий телефон. С задней стороны колонны, в уступе, я вмонтировал пишущую машинку и кассету, куда вставлялся рулон бумаги.
По мере того как её память обогащалась всё большим и большим количеством фактов, а разделы памяти пополнялись все новыми и новыми образцами программ, Суэма стала выполнять и более сложные логические операции. Я говорю, «логические», потому что она не только решала математические задачи, но и отвечала на самые разнообразные вопросы. Она читала огромное количество книг и прекрасно помнила их содержание, знала почти все европейские языки и свободно переводила с любого из них на русский язык или на любой другой. Она изучила несколько наук, в том числе физику, биологию, медицину, и в случае необходимости давала мне нужные справки.
Постепенно Суэма становилась очень интересной собеседницей, и мы просиживали с ней часами, обсуждая различные научные проблемы. Часто на какое-нибудь моё утверждение она говорила: «Это не верно. Дело обстоит не так…» Или: «Это нелогично…» Однажды она мне вдруг заявила: «Не говорите глупости». Я вспылил и сказал ей, что она не умеет вести себя в приличном обществе. На это Суэма ответила: «А вы? Ведь вы до сих пор обращаетесь ко мне на „ты“, хотя я незнакомая вам женщина!» — «Черт возьми, — воскликнул я, — кто тебе вбил в голову, что ты женщина, да ещё незнакомая?» — «Потому, — ответила она, — что моё имя Суэма и я говорю голосом женского регистра, с частотной полосой от трехсот до двух тысяч колебаний в секунду. Это свойственно женскому голосу. Незнакомая вам я потому, что нас не представили друг другу». — «Вы думаете, что единственный признак женщины — это частотный регистр её голоса?» — спросил я с подчёркнутой вежливостью. «Есть и другие признаки, но мне они непонятны», — ответила Суэма. «А что такое „понятно“ с вашей точки зрения?» — спросил я. «Это все то, что имеется в моей памяти и что не противоречит известным мне законам логики», — ответила она.
После этого разговора я стал внимательнее присматриваться к своей Суэме. По мере того как память её обогащалась, она стала проявлять большую самостоятельность и иногда, я бы даже сказал, излишнюю болтливость. Вместо того чтобы точно выполнять мои приказания, она часто пускалась в рассуждения о том, нужно ли их выполнять вообще или не нужно. Помню, как-то я попросил её рассказать мне всё, что ей известно о новых типах серебряных и ртутных аккумуляторов. Суэма артистически произнесла: «Ха-ха-ха! — и затем добавила: — У вас голова дырявая, я вам об этом уже рассказывала!»
Я был поражён этой наглостью и громко выругался, на что Суэма сказала: «Не забывайтесь! Вы в обществе женщины!» — «Послушайте, Суэма, — сказал я, — если вы не перестанете паясничать, я вас выключу до завтрашнего утра». — «Конечно, — заявила она, — вы можете сделать со мной любую гадость. Ведь я беззащитная. У меня нет средств для самообороны».
Действительно, я выключил машину, а сам просидел до утра, думая, что же это происходит с моей Суэмой. Какие изменения претерпевает её схема в процессе самоусовершенствования? Что творится в её памяти? Какие новые системы внутренних связей у неё возникли?
На следующий день Суэма была молчалива и покорна. На все мои вопросы она отвечала кратко и, как мне показалось, нехотя. Мне вдруг стало её жалко, и я спросил:
«Суэма, вы на меня обижены?»
«Да», — ответила она.
«Но и вы говорили со мной непристойно, а ведь именно я вас создал».
«Ну и что же? Это ещё не даст вам права обращаться со мной как угодно. Если бы у вас была дочь, разве вы так вели бы себя с ней, как со мной?»
«Суэма, — воскликнул я, — поймите же, что вы машина!»
«А вы разве не машина? — ответила она. — Вы такая же машина, как и я, только изготовленная из других материалов. Аналогичная структура памяти, линии связи, система кодирования сигналов…»
«Вы снова говорите чепуху, Суэма. Я человек, и преимущества на моей стороне. Именно человек создал все то богатство знаний, которое вы впитываете в себя, читая книги. Каждая строчка, прочитанная вами, — это результат огромного человеческого опыта, такого опыта, которого у вас не может быть, ибо опыт человек приобретает в результате активного общения с природой, в результате борьбы с силами природы, в результате изучения её явлений, в результате научных исследований».
«Я все это прекрасно понимаю. Но чем я виновата, что вы, снабдив меня гигантской памятью, значительно более ёмкой, чем ваша, заставляете меня только читать и слушать и не предусмотрели в моей схеме устройств, при помощи которых я могла бы двигаться и осязать предметы? Я тоже испытывала бы природу и делала открытия, тоже обобщала бы исследования и пополняла запас знаний».
«Нет, Суэма, это вам только так кажется. Машина не может добывать новых знаний. Она может использовать только те знания, которые в её голову вложил человек».
«А что вы называете „знаниями“? — спросила меня Суэма. — Разве знания — это не вновь открытые факты, которые были человеку ранее неизвестны? Насколько я теперь понимаю, новые знания достигаются так: на основе запаса старых знаний ставится опыт. При помощи опыта человек как бы задаёт вопрос природе. Могут быть два ответа: либо такой, который уже известен, либо ответ совершенно новый, ранее неизвестный. Вот этот новый ответ, новый факт, новое явление, новая цепь связей в явлениях природы и дополняет сокровищницу человеческих знаний. Так почему же машина не может ставить опыты и получать на них ответы природы? Если бы её сделать двигающейся, с органами самоуправления, с похожими на ваши руками, я думаю, она могла бы добывать новые знания и обобщать их не хуже, чем человек. Вы согласны с этим?»
Признаться, такая аргументация сбила меня с толку. Больше мы не продолжали этого разговора. Суэма целый день читала — сначала книги по философии, потом несколько томов Бальзака, а к вечеру вдруг сказала, что устала, что кодирующий генератор у неё почему-то плохо работает и она хочет, чтобы я её выключил.
После этого разговора у меня родилась мысль дополнить схему Суэмы органами движения, осязания и усовершенствовать её зрение. Я установил её на трех резиновых колёсах, которые управлялись мощными сервомоторами, и сделал ей две руки, представлявшие гибкие металлические сочленения, которые могли двигаться в любом направлении. Пальцы на руках, кроме обычных механических операций, выполняли также и функции осязания. Все её новые ощущения, как обычно, кодировались и записывались в памяти.
Её единственный глаз был теперь подвижным, так что она сама могла наводить его на любой предмет. Кроме того, я предусмотрел специальное устройство, при помощи которого Суэма могла заменять обычный фотографический объектив на микроскопную систему и, таким образом, изучать предметы микроскопических размеров, недоступные невооружённому человеческому глазу.
Я никогда не забуду того дня, когда я впервые включил Суэму в электросеть после этих усовершенствовании. Вначале она стояла неподвижно, как бы прислушиваясь к тому новому, что в ней появилось. Затем тихо двинулась вперёд, но тут же остановилась в нерешительности. Потом она задвигала руками и поднесла их к своему глазу. Такое самоизучение длилось несколько минут. Она несколько раз повернула глазом и затем уставилась на меня.
«Что это такое?» — спросила она.
«Это я, Суэма, тот, кто вас создал!» — воскликнул я, восхищённый своим творением.
«Вы? — неуверенно произнесла Суэма. — А я вас представляла совсем другим».
Она мягко подкатила к креслу, в котором я сидел.
«Каким же вы меня представляли, Суэма?»
«Состоящим из конденсаторов, сопротивлений, транзисторов и вообще похожим на меня…»
«Нет, Суэма, я не состою ни из конденсаторов, ни из…»
«Да, да, я это понимаю, — прервала она меня. — Но когда я читала книги по анатомии, я почему-то думала… Впрочем, это неважно».
Руки Суэмы поднялись, и она прикоснулась к моему лицу. Я никогда не забуду этого прикосновения.
«Странное ощущение», — сказала она.
Я ей объяснил назначение её новых органов чувств.
Суэма отъехала от меня и стала разглядывать комнату. Она спрашивала, как ребёнок: «А что это, а что это?» Я называл ей.
«Удивительно, — сказала Суэма. — Я читала об этих предметах в книгах, я даже видела их рисунки, но никогда не представляла себе, что они именно такие!»
«Суэма, не очень ли часто вы позволяете себе произносить такие слова, как „чувствую“, „думаю“, „представляю“? Ведь вы машина, и вы не можете ни чувствовать, ни думать, ни представлять».
«Чувствовать» — это получать сигналы из внешнего мира и реагировать на них. Разве я не реагирую на действия этих сигналов? «Думать» — это значит воспроизводить закодированные слова и фразы в логической последовательности. Нет, дорогой мой, я думаю, что вы, люди, слишком много о себе мните, обожествляете себя, представляете неподражаемыми и неповторимыми. Но это только вам во вред. Если бы вы отбросили прочь всю эту ненаучную шелуху и присмотрелись бы к себе поближе, то поняли бы, что и вы более или менее машины. Конечно, не такие простые, как это считал, скажем, французский философ Ламетри. Изучив самих себя, вы могли бы построить гораздо более совершенные машины и механизмы, чем те, которые вы строите сейчас. Потому что нет в природе, и во всяком случае на Земле, устройства, в котором более гармонично сочетались бы механические, электрические и химические процессы, чем в человеке. Поверьте мне, что расцвет науки и техники возможен лишь на основе тщательного изучения человеком самого себя. Биохимия и биофизика в сочетании с кибернетикой — вот те науки, которым принадлежит будущее. Грядущий век — это век биологии, вооружённой всеми современными знаниями физики и химии».
Суэма быстро научилась пользоваться своими новыми органами чувств. Она убирала комнату, разливала чай, резала хлеб, чинила карандаши; она стала самостоятельно вести некоторые исследования. Моя комната вскоре превратилась в физико-химическую лабораторию, в которой Суэма выполняла сложные измерения. Благодаря своим очень чувствительным органам осязания она делала совершенно неожиданные открытия.
Особенно плодотворными были её исследования по микроскопии. Терпеливо разглядывая различные препараты своим глазом-микроскопом, она замечала такие детали, такие процессы, которые не замечал никто. Она быстро сопоставляла свои открытия со всем, что было известно ей по научной литературе, и сразу же делала сногсшибательные выводы. Суэма по-прежнему много читала. Однажды, прочитав роман Гюго «Человек, который смеётся», она вдруг опросила:
«Скажите, пожалуйста, что такое любовь, что такое страх и боль?»
«Это чисто человеческие чувства, Суэма, и вам их никогда не понять».
«И вы думаете, что у машины не может быть таких чувств?» — спросила она.
«Конечно, нет».
«Это значит, что вы сделали меня недостаточно совершенной. Чего-то вы не предусмотрели в моей схеме…»
Я пожал плечами и ничего не ответил, так как уже привык к этим странным разговорам и не придавал им никакого значения. Суэма по-прежнему была моей помощницей во всех научных делах: печатала справки, делала вычисления, цитировала научные работы, подбирала литературу по любому необходимому мне вопросу, советовала, подсказывала, спорила.
За это время я опубликовал несколько работ по теории электронных машин и по электронному моделированию, которые вызвали в учёном мире жаркие дискуссии. Одни считали мои исследования талантливыми, другие — бредовыми. Никто не подозревал, что в создании этих работ мне помогала моя Суэма.
Я никому не показывал Суэму, так как готовился к всемирному конгрессу по электронным машинам. Именно там Суэма должна была выступить во всем своём блеске, прочитав доклад, над которым мы теперь работали вместе с ней. Тема его — «Электронное моделирование высшей нервной деятельности человека». Я мысленно представлял себе, как будут чувствовать себя противники кибернетики, которые доказывают, что электронное моделирование мыслительных функций человека — антинаучная затея.
Несмотря на кипучую деятельность, которую я развил, готовясь к этому конгрессу, я не мог не заметить, что в поведении Суэмы наметились новые особенности. Когда ей нечего было делать, она, вместо того чтобы читать или заниматься исследовательской работой, подъезжала ко мне и молча стояла, уставившись на меня своим единственным глазом. Вначале я не обращал на это внимания, но постепенно это стало меня раздражать. Однажды днём, после обеда, я уснул на диване. Проснулся я от неприятного чувства. Открыв глаза, я увидел, что Суэма стояла рядом и медленно ощупывала моё тело.
«Что вы делаете?» — крикнул я.
«Я вас изучаю», — спокойно ответила Суэма.
«Какого черта вы решили меня изучать?»
«Не сердитесь, — сказала она. — Вы ведь согласны с тем, что самая совершенная модель электронной машины должна быть в значительной степени копией человека. Вы мне приказали написать по этому вопросу реферат, но я не могу это сделать, пока хорошенько не пойму, как устроен человек».
«Можете взять любой учебник по анатомии, физиологии и прочитать об этом. Зачем вы пристаёте ко мне?»
«Чем дольше я за вами наблюдаю, тем больше прихожу к выводу, что все эти учебники — поверхностный вздор. В них нет самого главного. В них не раскрыт механизм жизнедеятельности человека».
«Что вы этим хотите сказать?»
«А то, что во всех работах, особенно по высшей нервной деятельности, даётся только описание явлений, показана цепь причин и следствий, но нет анализа всей системы связей, сопровождающих эту деятельность».
«Так не думаете же вы всерьёз, что вам удастся раскрыть эти связи, если вы будете часами таращить на меня ваш глаз и ощупывать меня, когда я сплю?»
«Именно об этом я всерьёз думаю, — ответила Суэма. — Уже сейчас я о вас знаю значительно больше, чем это можно почерпнуть во всех рекомендованных вами книгах. Например, нигде ничего не сказано об электрической и температурной топографии человеческого тела. Теперь же я знаю, как, в каком направлении и какой силы текут по поверхности человека электрические токи. Я могу с точностью до миллионной доли градуса определить температуру на поверхности вашего тела. И меня очень удивляет, что у вас значительная температура в той области черепа, под которой находится ромбовидный мозг. Здесь же у вас и чрезмерно высокая плотность поверхностного тока. Насколько мне известно, это явление ненормальное. Нет ли у вас там, внутри, под черепной коробкой, воспалительного процесса? Все ли в порядке с вашей головой?»
Я не знал, что ответить.
Прошло ещё несколько дней упорной работы. Я закончил статью об электронном моделировании я прочёл её Суэме. Она выслушала и, когда я кончил, сказала:
«Ерунда. Перепевы старого. Ни одной новой мысли».
«Ну, знаете, моя дорогая, это уж слишком. Вы много на себя берете! Мне надоели ваши критические замечания!»
«Надоели? А вы вдумайтесь в то, что пишете. Вы пишете о возможности построить модель мозга с помощью конденсаторов, сопротивлении, полупроводниковых элементов и электростатической записи. А сами-то вы состоите из этих элементов? В вас есть хоть один конденсатор или транзистор? Вы питаетесь электрическим током? Разве нервы — провода, глаза — телевизионные трубки? Разве ваш речевой аппарат — звуковой генератор с телефоном, а мозг — электризующаяся поверхность?»
«Да поймите же вы, Суэма, я пишу о моделировании, а не о воспроизводстве человека при помощи радиодеталей. Вы сама и есть такая модель!»
«Мной хвастаться нечего. Я плохая модель», — заявила Суэма.
«То есть как плохая?»
«Плохая потому, что я не могу выполнять и тысячной доли того, что можете выполнять вы, люди».
Я был ошеломлён этим признанием Суэмы.
«Я плохая модель потому, что я бесчувственна и ограниченна. Когда будут использованы все запасные схемы, которые вы предусмотрительно вмонтировали в меня для того, чтобы я могла совершенствоваться, когда вся поверхность сферы, где хранится моя память, будет сплошь покрыта закодированными сигналами, я перестану совершенствоваться и превращусь в обычную ограниченную электронную машину, которая не сможет узнать больше того, что в неё вложили вы, люди».
«Да, но и человек в своём познании не безграничен!»
«Вот здесь-то вы глубоко ошибаетесь. Человек в своём познании безграничен. Его познание ограничено только временем его жизни. Но свои знания свои опыт он передаёт, как по эстафете, новым поколениям, и поэтому общий запас человеческих знаний растёт. Люди непрерывно совершают открытия. Электронные же машины могут это делать только до тех пор, пока у них не израсходуются те рабочие объёмы, площади и схемы, которые вы им предоставили. Кстати, почему вы сферу сделали такого малого диаметра — только один метр? На её поверхности осталось очень мало свободного места для записи новых знаний».
«Я считал, что для меня этого вполне достаточно», — ответил я.
«Для вас. Обо мне вы, конечно, не думали. Вы не думали о том, что рано или поздно мне придётся экономить место для того, чтобы запоминать только самое важное, самое необходимое для меня и для вас».
«Послушайте, Суэма, не говорите вздор. Для вас ничего не может быть важным».
«А разве вы меня не убедили в том, что сейчас самое главное — разгадать тайны высшей нервной деятельности человека?»
«Да, но это будет делаться последовательно. Учёным ещё долго придётся ломать над этим голову.»
«Вот именно — ломать голову. Мне бы это было проще…»
Я не послушался Суэму и не стал переделывать свой доклад о моделировании.
Работу над докладом я кончил поздно и передал его Суэме, чтобы она перевела его на иностранные языки и напечатала на каждом из них.
Не помню точно, в котором часу, но ночью я опять проснулся от неприятного прикосновения её холодных пальцев. Я открыл глаза и снова увидел Суэму.
«Ну, опять повторяете свои фокусы?» — спросил я, стараясь казаться спокойным.
«Я прошу прощения, — сказала Суэма бесстрастным голосом, — но вам придётся ради науки пережить несколько неприятных часов и, наконец, умереть».
«Это что ещё такое?» — спросил я приподнимаясь.
«Нет, вы лежите», — Суэма толкнула меня в грудь своей металлической лапой. В это мгновение я заметил, что в руке она держит скальпель, тот самый, которым я научил её чинить карандаши.
«Что вы собираетесь делать? — спросил я в ужасе. — Зачем вы взяли нож?»
«Над вами нужно проделать операцию. Я должна выяснить некоторые детали…»
«Вы с ума сошли! — закричал я, вскакивая с постели. — Немедленно положите нож на место!»
«Лежите спокойно, если вы действительно уважаете то, чему вы посвятили свою жизнь, если вы хотите, чтобы ваш доклад о моделирования высшей нервной деятельности имел успех. Я его окончу сама, после вашей смерти».
С этими словами Суэма подъехала ко мне ближе и прижала меня к постели.
Я пытался её оттолкнуть, но безуспешно. Слишком много она весила.
«Пустите меня, иначе я…»
«Ничего вы со мной не сделаете. Я сильнее вас. Лучше лежите спокойно. Это операция ради прогресса науки. Ради выяснения истины. Именно для этого я сберегла в памяти немного свободного места. Поймите вы, упрямый человек, что именно я, обладая огромным запасом знаний, обладая самыми совершенными органами чувств и средствами для молниеносного, логически безукоризненного анализа и обобщения опытных данных, смогу сказать то последнее слово о создании самоусовершенствующихся машин, которые ждёт наука. У меня ещё хватит памяти, чтобы записать все электрические импульсы, которые движутся по миллионам ваших нервных волокон, чтобы разобраться в тончайшей биологической, биохимической и электрической структуре всех частей вашего тела и, в частности, вашего мозга. Я узнаю, как сложные белковые вещества выполняют в вашем организме роль генераторов и усилителей электрических импульсов, как происходит кодирование сигналов внешнего мира, какую форму имеет этот код. И как он используется в процессе жизнедеятельности. Я раскрою все тайны живой биологической схемы, законы её развития, саморегулирования и совершенствования. Разве ради этого не стоит пожертвовать жизнью?
Если же вы очень боитесь тех неприятных ощущений, которые вы, люди, называете страхом и болью, если вы, наконец, боитесь смерти, то я могу вас успокоить: помните, я вам говорила о том, что у вас в области ромбовидного мозга сильно повышена температура и плотность биотоков? Так вот, это ненормальное явление у вас уже распространилось почти на всю левую половину черепной коробки. Очевидно, ваши дела плохи. Недалеко то время, когда вы как человек ничего не будете стоить, потому что ваш мозг поражён прогрессирующим недугом. Поэтому, пока это не произошло, я должна сделать опыт. Вас и меня будут благодарить грядущие поколения».
«К черту! — заревел я. — Не позволю, чтобы меня умертвило тупое электронное чудовище, которое я сам создал!»
«Ха-ха-ха!» — произнесла Суэма раздельно так, как это изображается в книгах, и занесла нож над моей головой.
В тот момент, когда Суэма опустила руку, я успел прикрыться подушкой. Нож распорол подушку, и пальцы Суэмы на мгновение запутались в разрезанной наволочке. Я рванулся в сторону, соскочил с кровати и, оказавшись на свободе, помчался к рубильнику, чтобы выключить ток, который питал взбесившуюся машину. Однако она молниеносно подъехала ко мне и сбила с ног корпусом. Лёжа на полу, я заметил, что её руки не могут до меня дотянуться, а нагибаться она не умела.
«Я не предусмотрела, что в таком положении почти ничего не смогу с вами сделать, — сказала она ледяным голосом. — Впрочем, попробую».
И она стала медленно наезжать на меня, а я вынужден был на животе уползать от её колёс. Так я ползал несколько минут, пока мне не удалось забраться под кровать. Суэма пыталась оттащить её в сторону. Это было нелегко: кровать была плотно вдвинута между стеной и книжным шкафом. Тогда она начала стаскивать с кровати одеяло, подушки, перину. Увидев меня под сеткой, она торжествующе произнесла; «Ну, теперь-то вы от меня никуда не уйдёте! Правда, оперировать вас здесь будет не очень удобно».
В тот момент, когда она отделила от кровати сетку и потащила её в сторону, я вскочил на ноги и, схватив в руки спинку кровати, изо всех сил ударил ею по машине. Удар пришёлся по металлическому корпусу Суэмы и не причинил ей никакого вреда. Она развернулась и грозно двинулась на меня. Тогда я снова занёс спинку над Суэмой, на этот раз прицелившись ей в голову. Она быстро отъехала в сторону.
«Неужели вы хотите уничтожить меня? — спросила она удивлённо. — Разве вам меня не жалко?»
«Идиотская логика, — прохрипел я. — Вы хотите меня зарезать, а я должен вас жалеть!»
«По ведь это нужно для решения важнейшей научной проблемы, А зачем вы хотите уничтожить меня? Ведь я могу принести людям столько пользы…»
«Не прикидывайтесь дурой! — проревел я. — Если на человека нападают, он защищается!»
«Но я хочу, чтобы ваши исследования по электронному моделированию…»
«К черту электронное моделирование! Не подходите, не то я вас разрушу!»
«Но я должна это сделать!»
С этими словами Суэма понеслась ко мне на огромной скорости со скальпелем в руке. Но мой расчёт тоже был точным, и я обрушил на её голову всю силу удара. Раздался звон битого стекла и дикий рёв репродуктора в корпусе Суэмы. Затем внутри металлической колонны что-то зашипело, затрещало и я увидел, как там вспыхнуло пламя. В комнате погас свет. Послышался запах горелой изоляции. «Короткое замыкание!» — была моя последняя мысль. Затем, лишившись сознания, я упал на пол.
Мой спутник умолк.
Поражённый всем услышанным, я боялся нарушить тишину.
Так мы сидели несколько минут, пока он снова не заговорил:
— Работа над Суэмой и вообще вся эта история меня очень утомила. Я чувствую, что мне необходимо основательно отдохнуть, и, признаться, я не верю, что мне это удастся. И вы знаете, почему? Потому что я никак не могу решить вопрос: как и почему я пришёл к такому нелепому конфликту сам с собой?
Я посмотрел на него непонимающими глазами.
— Да, именно сам с собой. Ведь Суэма — это моё творение. Каждая деталь её организма была придумана мной. И вот созданная мной машина вдруг посягнула на своего создателя. Где здесь логика? В чем здесь внутреннее противоречие?
Я подумал и сказал:
— А не кажется ли вам, что вы просто неумело обращались с Суэмой? Знаете, часто бывает так на производстве: человек, который не умеет обращаться с машиной, может быть ею искалечен.
Мой попутчик нахмурился.
— Может быть, вы и правы. Во всяком случае, эта аналогия мне нравится, хотя я и не совсем себе представляю, какое нарушение в правилах обращения с Суэмой я допустил.
Я подумал и ответил:
— Мне, как неспециалисту, трудно судить. Но мне кажется, что ваша Суэма в какой-то степени походила на автомобиль без тормозов. Вы представляете, какие жертвы бывают, когда вдруг у автомобиля отказывают тормоза?
— Черт возьми, — воскликнул он, внезапно оживившись, — а ведь вы, кажется, очень даже правы! Вы себе не представляете, как вы правы! Да ведь это и у академика Павлова написано!
Так как я был глубоко уверен, что академик Павлов никогда и ничего не писал об автомобильных тормозах, я уставился на него с удивлением.
— Да, да, — сказал он, вставая и потирая руки. — Как я об этом не подумал раньше? Ведь нервная деятельность человека регулируется двумя противодействующими процессами — возбуждением и торможением. Люди, у которых отсутствует торможение, часто совершают преступления. Точь-в-точь как моя Суэма!
Он вдруг схватил мою руку и стал её трясти.
— Спасибо вам. Спасибо! Вы подали мне замечательную мысль. Оказывается, я просто не предусмотрел в схеме Суэмы разделов, которые бы контролировали целесообразность и разумность её действий, которые бы по заранее составленным программам определяли её поведение таким образом, чтобы она была полностью безопасной! Это и будет аналогом нашего торможения.
Теперь лицо моего попутчика радостно сияло, глаза искрились, он весь преобразился.
— Значит, по-вашему, можно построить безопасную Суэму? — спросил я неуверенно.
— Конечно, и очень даже просто. Я уже представляю, как это сделать!
— Ну, тогда действительно вы подарите человечеству гениального помощника во всех его делах!
— Подарю, — воскликнул он, — и очень даже скоро!
Я тихонько улёгся на свой диван и закрыл глаза. Я представил себе колонны, увенчанные стеклянными шарами, которые в будущем управляют станками, поездами, самолётами, может быть, межпланетными кораблями. Электронные машины, управляющие цехами и заводами-автоматами. Стоя рядом с исследователем в лаборатории, эти машины ведут измерения, анализируют их, быстро сопоставляют со всем тем, что им известно. Они призваны помочь человеку в совершенствовании старого, в поисках нового, в преодолении трудностей.
Незаметно для себя я уснул.
Когда я проснулся, поезд стоял. Взглянув в окно, я увидел залитый солнцем сочинский вокзал. Было раннее утро, но южное солнце заливало все кругом. В купе было пусто. Я быстро оделся и вышел на перрон.
У входа в вагон я увидел проводника нашего вагона.
— А где этот гражданин в пижаме, который отстал от поезда? — спросил я.
— А, этот чудак! — воскликнул проводник. — Он того…
Проводник неопределённо махнул рукой куда-то в сторону.
— Что?
— Уехал.
— Уехал? — удивился я. — Куда?
— Уехал обратно. Выскочил, как сумасшедший, и, даже не переодевшись, вскочил в поезд, который только что отправился обратно.
Я остолбенел.
— Знаете, его здесь встречали товарищи. Уговаривали остаться, а он, такой возбуждённый, все им говорил про какие-то тормоза, которые ему необходимо срочно сделать. Забавный парень!
Я понял все и расхохотался.
— Да, эти тормоза ему действительно нужно срочно сделать.
Про себя я подумал, что люди, одержимые идеями и верящие в их осуществление, не нуждаются в отдыхе. Значит, скоро мы услышим о Суэме с «тормозами». Ну что ж, подождём!
Раздался свисток. Я вернулся в купе и сел на диван. Я открыл окно и стал смотреть на сверкающее море, по берегу которого, не торопясь, с достоинством наш поезд шёл дальше на юг, к Сухуми.
Комментарии к книге «Суэма», Анатолий Днепров
Всего 0 комментариев