«Artificial servility - язык моделирования виртуальной реальности»

Станислав Лем

Artificial servility

язык моделирования виртуальной реальности

Что это такое - artificial servility? Такого словосочетания не было, пока я здесь его не создал. Это, в литературном переводе, "искусственное рабство", а касается всего, что могут в настоящее время широко распространяющиеся во всем мире электронные устройства для преобразования, перемещения, хранения и last but not least [последнее, но не менее важное - здесь и далее в квадратных скобках примечания переводчика] отображения информации. Почему "рабство"? Потому, что во всем этом производстве (приносящем разным Майкрософтам миллиарды), во всей массе компьютеров, во всех поколениях hardware и software, модемах, провайдерах, серверах нет ни следа разума. Нет ни капли интеллекта. Работают так, как рабы: по нашему приказу. Способны привести в рай "полового удовлетворения" и в "тарпейский ад" [от "Тарпейская скала", с которой в Риме сбрасывали преступников и предателей]. Бредни (junk mail) не отличают от информации даже такой особо важной, как, например, равенство E=mc2. Им, в конце концов, "все равно" в такой степени, которая не сравнима с размерами того послушного рабства, до которого можно было бы при необходимости довести не только человека, но любое животное, наученное реагировать в соответствии с правилами условных рефлексов, и даже безусловных (ибо существуют и эти последние).

Здесь кто-то скажет: ну и что? Или такое безграничное подчинение нашим потребностям (посещение Кордобы или ознакомление с расшифрованной порцией стенографического письма), такое ничем не ограниченное послушание, которое имеют все компьютеры, их соединения, их сети и модемы, и устройства печати, и системы передачи "электронной почты" (e-mail), это плохо? Или не имеем со всего этого огромной выгоды, не только и не прежде всего видимой в том, что ПРОМЫШЛЕННОСТЬ ПРЕОБРАЗОВАНИЯ И ПЕРЕСЫЛКИ КАКОЙ-ЛИБО ИНФОРМАЦИИ приносит большую прибыль, но в том, что она помогает нам в сборе, в упорядочивании, в написании, в печатании или визуализации всего, что может быть информацией и что надежно - пока какой-нибудь человек, вдохновленный типично человеческой злобой, не начнет насылать на этот всемирный лад "ядовитые" вирусы в виде микропрограмм, способных разрушать данные до полного уничтожения, "информационного очищения" всего на жестких дисках, или сразу же (как снаряд, попадающий в цель), или с произвольно запланированным и установленным опозданием (как взрывное устройство с детонатором, установленным на "подходящий момент")? Зло людям делают люди, поэтому они также могут, а часто любят, высылать или подкладывать, адресно или безадресно, не только взрывающиеся бомбы, но и "логические бомбы" (logic bomb). В то же время "сами по себе" электронные преобразователи, электронные разрушители, электронные media не могут ничего. Не могут "ничего" до такой степени, что обычная домашняя курица, даже слепая, которой "изредка попадается зерно", является по отношению к компьютеру последнего поколения Эйнштейном. Попробуйте увидеть эту разницу, замахиваясь раз на курицу, а раз на компьютер, молотком. Компьютер не дрогнет, пока вы его не искромсаете, в то же время курица по крайней мере попробует убежать. Мы же к этому раболепному послушанию уже так приспособились, уже так привыкли к компьютерно-сетевой безошибочности (кроме "зависаний", "пробок", вызванных единственно таким чрезмерным объемом информации, который превышает передающую емкость электронных соединений), что считаем это положение вещей нормальным, желаемым и очевидным... с одним, но зато огромным исключением.

Именно сейчас убеждаемся, что еще не существует высеченный нами Artificial Intelligence [Искусственный Интеллект], что уже пятьдесят лет инженерия связи и data processing [обработка данных] мозолятся над проблемой AI и пока ничего полезного не создали, кроме ужасно примитивных действий программ, которые способны различать, например, различные геометрические тела, различные цвета, которые также могут (но опять без собственной инициативы) двигать различными объектами и устанавливать их (так, как мы хотим). Это не является, ясное дело, каким-либо интеллектом. Это не только не является человеческим интеллектом, но даже и собачьим. Кто-то скажет: но мы ведь имеем коллекции знаний, экспертные программы, имеем собрания специальных данных, позволяющих, например, геологам находить места, в которых под землей должна находиться нефть, или собрания избранных данных (дополнительных исследований), позволяющих идти дорогой эвристических альтернативных разветвлений, чтобы больному поставить диагноз, чтобы указать оптимальную терапию и так далее. Имеем целые системы для управления и дирижирования, например, построением авто или ракет (или бомб...) с помощью "промышленных роботов". И все это дальше развивается, но где в этом поступательном движении может появиться след разумности, интеллектуального внушения, "творческого вдохновения"? Научились уже достаточно тому, чтобы его замещать, можем запускать симулирующие и оптимизирующие программы, и программы, создающие "виртуальную реальность", но, к сожалению, все это эффекты наших обходов "интеллектуальности" и творческого "воображения", все это подмены. Это подобно "интеллектуальности" пищеварительного тракта, который вначале "пожирает пищу" и "глотает" ее, "окисляет", и этим "интеллектуальным" способом получает для организма энергию и химические соединения, необходимые для поддержания жизни, а все обесцененные энергетически и химически "остатки" удаляются как экскременты. Да, выполнять что-то подобное мертвые устройства мира электроники, подневоленные человеческой разумности, уже умеют, но ведь никто не считает, что употребление и переваривание котлеты - это доказательство проявления интеллектуальности зубов, слюны, желудка и кишок.

Единственный ответ на причины отсутствия интеллекта, перемещенного из живого мозга в машины, на отсутствие малейшего следа одушевления машин (не Deus ex machina [Бог в машине], а хотя бы Animus ex machina [Душа в машине]) звучит следующим образом.

НЕТ ОДНОГО ЕДИНИЧНОГО РАЗУМА. Нет также одной единицы интеллекта. Если будет создан Artificial Intelligence, а не какой-нибудь заменитель, более-менее удачно имитирующий интеллект, то уже тем самым, хотим или не хотим, люди как конструкторы AI вступят в царство р а з н о о б р а з и я. Интеллектуальная система будет послушна - или не захочет быть послушной. Так как понимает приказы, просьбы, воздействия, желания и может послушаться или воспротивиться. Если всегда будет все готова слушать, то тем самым продемонстрирует, что является безвольной и что "не может иметь собственного мнения". То, что те же самые научные, художественные, литературные (и т.д.) тексты разные люди, по-разному образованные, талантливые, т.е. не конченные идиоты (о них не говорю здесь вообще), способны по-разному трактовать, интерпретировать, по-своему признавать важными или мелкими, взволноваться ими или разозлиться, чувствовать возмущение, безразличие или восторг, - это все, что перечислил и чего для краткости эссе больше не приведу, показывает множество реальных проявлений разумности, существование которой мы склонны признать. Если бы это было не так, то не смогли бы возникнуть исторические, или диахронические, и современные, или синхронические, разнообразные стили мышления в религиях, в философии, и last but not least даже в инженерно-промышленном создании оружия или спасительных лекарств и терапевтических методов. Ибо, например, любая экспертная программа среди всех существующих (сейчас) не придумает для нас нового метода терапии любого заболевания, так как программы совершенно не мыслят, а если б начали думать, то должны были бы думать разнообразно. Говоря то же самое иначе: создать искусственный интеллект - это значит создать поле с в о б о д ы также и для интерпретации. Так называемая "лингвистическая перформативность" [от performance - исполнение] обозначает: любой человек, который способен пользоваться языком (понимая его, а также разговаривая на нем), вообще не должен и даже не может идеально однозначным способом артикулировать [от articulate - формулировать] мысли, которые возникают у него в мозгу. По такой малой оценке "перформативность" просто означает, что мы говорим в меру свободно, а не только цитируем исключительно то, что выучили наизусть. Наизусть говорит граммофонная пластинка или магнитофонная лента, или дискета. Мы можем "русло бега языковых мыслей, словами отображаемых" изменять. Чем лучше кто-то знает данный язык, тем большая в его разговорах преобладает свобода артикулярного разнообразия, а в иностранном языке мы сильно ограничены. К чему этим будто бы развлекательным разговором склоняю? Единственно к тому, что, высекая интеллект из мертвых устройств, окажемся в окружении множества проблем. О некоторых напомню.

В настоящее время устройствам передачи данных не хватает автоконтроля. Модемам все равно, что они передают на весь сетевой мир: или изображения святых, или изображения голых задов, или формулы производства взрывчатых веществ. Им все равно, и от этого сейчас мы страдаем, так как люди имеют неприятную привычку пробовать фрукты, заказанные исключительно из-за их необычности, либо вредные, даже убийственные. Но прошу взвесить: если возникнет в сетях блуждающий "искусственный интеллект", то тем самым появится способность фильтрования, сдерживания, отсева и уничтожения информации, так как интеллектуальность, которая с разумностью единокровны, может и даже обязана быть также способной к введению цензуры для установления преград прохождению определенного типа информации. При этом окажется, что есть много различных интеллектов, и тем самым разные государства, разные режимы, разные веры, разные миропонимания, разные точки зрения начнут пользоваться способностью "нейтрализации или уничтожения" такой информации, на которую наложено табу, поступления или доступности которой для тех или иных адресатов не желают. Сейчас, чтобы не подвергать детей, например, возможности просмотра электронно пересылаемых изображений (например, в TV), отец или мать могут установить "электронный намордник" на телевизор, исходя из того, что они (отец с матерью) узнают о программе, которая должна появиться. Если эту "приставку" не установят, то какой-либо "добропорядочной цензуры" сам по себе телевизор не создаст. Таким образом, окончательно "цензурируют" изображения или тексты отец с матерью, или дядя с тетей, или воспитатель, но не электронные устройства. Электроны ничто не шокирует. В то же время искусственный интеллект должен, а не только может, проявлять а к т и в н о с т ь и избирательность. Можно его развратить, можно ему то или это отсоветовать, можно его дезориентировать, обмануть, отуманить или научить и объяснить ему что-нибудь. Фундаменталисты безмерно бы обрадовались, если бы овладели AI! Уже не надо было бы, как в Иране, просто запрещать установку спутниковых тарелок и приемников... Не так давно прошло то время, когда Советы признавали возникновение глобально действующих спутниковых ретрансляторов как угрозу типа casus belli [военная]. Я не придумал это специально для настоящего эссе. Уже нет Советов и еще нет искусственного интеллекта, но уверяю читателей, что вместе с его появлением наступит новая эра, насыщенная новыми, неизвестными опасностями. Не всех увлекает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме этого, не говорю, что искусственный интеллект нас за голову может взять, но вводить в заблуждение, обманывать, сбить с пути сможет. Это - во-первых. Во-вторых, как нет одинакового у всех людей разума, так не может быть одинакового до тождественности интеллекта. Как существуют двигатели различной мощности, точно так же разной силы могут быть искусственные интеллекты. Не начнется сразу же с построения машинных Эйнштейнов или - как в моем произведении - "Големов" [речь идет о работе " Golem XIV"; имеется русский перевод первого издания: "С.Лем, Голем XIV". - в книге "Сборник научной фантастики. Выпуск 23", Москва, "Знание", 1980, с.132-187; расширенное издание: " S.Lem, Golem XIV". Krakow, Wydawnictwo Literackie, 1981, 140 s.]. Может, возникнут разные виды интеллекта, основанные на разных типах "характеров". Считаю лично, что "разумность" и "личность" - эти сути потенциально разделены. Но такая потенциальная разделенность также не может быть направлена на нас добром и только добром.

Хочу заметить, что я все еще очень далек от примитивных мифоподобных сказок об "античеловеческом интеллекте", "злобном", таком, который будет "роботов" наполнять человекоубийственными или бунтарскими намерениями. Не нужно сразу же видеть все в таких крайностях, которые легко умеем себе вообразить. Искусственный интеллект может нам принести и пользу, и вред, так как такой была и осталась перспективная судьба каждого технологического новшества, которое люди смогли разработать и запустить в действие.

Лично добавлю уже только на полях (но однако связанно с главной сутью моего вывода), что сегодня наблюдаем в мире одновременное возрастание достижений чисто технологических, которые сильно скоррелированы прогрессом увядания творческо-свободного воображения. Это наблюдается не только в телевидении, но и в пластическом искусстве. Недавно увидел в (спутниковом) телевидении какие-то обугленные останки человеческих тел, но это не были какие-то жертвы пожара или человекоубийств, а "произведение современного искусства", как услышал в динамике. Модной является визуализация science fiction, но, к сожалению, убожество воображения авторов сильно контрастирует с богатством техническо-визуальных приспособлений. С интеллектом внетехнологическим и вненаучным - очень-очень плохо. Я сам когда-то писал SF и старался минимизировать нарушения основных и хорошо нам известных законов природы. Нельзя писать, что замужняя женщина откладывает яйца, а ее муж их высиживает. Но в фильме "Independence Day" растоптано и разрушено для пользы кинематографической кассы колоссальное количество законов природы. Большинство событий в этом фильме противоречит многому очевидному. Например, огромные корабли extraterrestials [инопланетян] не могут зависнуть над Манхэттеном потому, что при таком приближении к Земле становится превзойденной так называемая граница Roche, что означает разрыв каждого достаточно большого тела гравитационными силами планеты. Уже не следует добавлять, что о какой-либо "совместимости" компьютеров с другой планеты из внеземного созвездия с земными компьютерами очередного нового поколения не может быть и речи. Уже скорее могу признать правдоподобными разговоры с коровой или жирафом без посредничества каких-либо компьютеров. Как обычно говорится, кинематографисты нам льют воду на мозги. А вспомнил об этом потому, что человеческий интеллект возник для того, чтобы мы могли познавать ПРАВДУ, что, впрочем, в конечном счете обозначало, что он может также ошибаться, что может ЛГАТЬ, что может быть обманут - иначе его не удастся развить. Интеллект является продуктом (сутью), возникающим в естественной эволюции и взбирающимся по ступенях "лестницы прогресса" (на Земле) до уровня языкотворчества, а тем самым способного и математику родить. Тогда возникают противоречивые различия между правдой и фальшью, возникает логика, возникает царство новой, надзвериной свободы и надзвериных предубеждений, суеверий, мифов, бредней, с астрологией и scientology [сайентологией] или иным сектантством во главе. С каждым разом высший интеллект можно также наполнить генами и можно от них отказаться - до так называемого умственного кретинизма, до конченных идиотов. Это все побочные эффекты развития интеллекта и не думаю, что компьютерная бездумность может как неотъемлемая часть сопутствовать также искусственному интеллекту. Мир может существовать вообще без интеллекта, или естественного, или искусственного. В то же время надо для себя твердо осознать, что это огромное богатство очень разнообразных и все более новых рекламируемых и чаще всего предлагаемых общественности серверно-провайдерно-компьютерно-программно-дисковых приспособлений прежде всего умножается и развивается в неустанном лавинноподобном движении в погоне за прибылью, образующейся благодаря продаже того, что сегодня представляется как совершеннейшее, а завтра уступит чему-то новому и будто бы лучшему. Отсюда, например, также прогрессирующая микроминиатюризация и нано направление в производстве процессоров. Но не хочу углубляться в технику. Конечно, бег за прибылью вызван необходимостью получения материальных благ. Но человеческий интеллект все еще не создает внечеловеческий интеллект ("нечеловеческий" уже бы плохо зазвучало). Интеллектуализация, интеллект, разум, сообразительность, мудрость - это сути, потенциально великолепные и одновременно опасные. Именно это и только это хотел сказать.