ТРИТЕ ЗАКОНА НА РОБОТИКАТА:
1. Роботът съзнателно, или чрез своето бездействие не може да наранява човек.
2. Роботът е длъжен да се подчинява на заповедите на човека. Изключение правят случаите, които противоречат на Първия закон.
3. Роботът трябва да защитава собственото си съществуване. Изключение правят случаите, които противоречат на Първия и Втория закон.
1.
Кит Харимън вече дванадесет години ръководеше Изследователския отдел на Корпорация „Американски роботи и механични същества“. За първи път в неговата практика сега не беше сигурен, че постъпва правилно. Той прокара език през пълните си, бледи устни. Струваше му се, че ликът на Сюзан Калвин никога не го беше следил толкова намръщен.
Обикновено се стараеше да не обръща внимание на портрета на великата кибернетичка. Изнервяше го фактът, че не успява да го възприеме като неодушевен предмет. В този момент усещаше погледът й от стената буквално да пронизва лицето му.
Предстоеше му да извърши недостойна и унизителна постъпка.
Срещу него невъзмутимо седеше Джордж Десет. Той явно не споделяше зле прикритото безпокойство на Харимън. Не му влияеше и портретът от стената.
— Не сме говорили за това, Джордж — каза Харимън. — От много време не си бил сред нас, а и не сме имали възможност да останем насаме. Сега бих желал да обсъдим някои подробности.
— Нямам нищо против — отговори Джордж. — От престоя си в Корпорацията останах с впечатление, че кризата има нещо общо с Трите закона?
— Да. Спомняш си съдържанието им, нали?
— Разбира се.
— Добре. Позволи ми да отида малко по-далеч, за да помислим върху основния проблем. За двеста години успешна дейност нашата компания не успя да убеди хората да приемат роботите. Поставили сме ги единствено там, където човешка намеса е невъзможна — най-вече в среда, опасна за здравето. Функцията на роботите бе лимитирана единствено в космичното пространство.
— Но това е огромно поле за изява, което несъмнено води до успех — отбеляза Джордж Десет.
— Не е така по две причини. На първо място, реализацията на роботите зависи от подписания договор. За пример ще ти дам лунната колония. Тя става все по-култивирана и нуждата й от роботи намалява. Очаквахме това, разбира се. Такава ще бъде съдбата на всеки свят, колонизиран от човека. На второ място, истински просперитет на човечеството тук, на Земята, е немислим без роботиката. Ние твърдо вярваме, че човекът трябва да се научи да живее в сътрудничество със своя механичен аналог.
— Но не става ли точно така? Господин Харимън, на вашето бюро е инсталиран компютър, свързан с организацията Мултивак. Компютърът е вид неподвижен робот. Мозък на робот, изолиран от тялото…
— Прав си, но и такива случаи рядко се срещат. Компютрите, използвани от хората, са специализирани да не наподобяват прекалено много човешкия интелект. Преди век ние бяхме на път да създадем изкуствен ум с неограничени възможности. Говоря за компютрите Машина. След като разрешиха екологичния проблем, те се самоунищожиха. Продължаващото им присъствие заплашваше да се превърне в прът, спъващ човешката сигурност. Разбрали това, те престанаха да функционират, в съответствие в Първия закон.
— И не постъпиха ли правилно?
— Според мен — не. С това свое действие те подсилиха Франкенщайновия комплекс — страхът, че изкуственият човек ще се обърне срещу своя създател. Хората се страхуват, че роботите ще ги подменят.
— Вие самият не се ли страхувате от такова нещо?
— Аз съм много начетен и просветен. Докато са в сила Трите закона на роботиката, ние сме в безопасност. Роботите могат да бъдат наши партньори във великата ни борба с природните закони.
— Но след като Трите закона вече два века доказват своята ефективност, откъде идва недоверието към тях?
— От суеверието, разбира се — отговори Харимън, като зачеса гневно посивялата си коса. — За съжаление, съществуват и някои усложнения, които служат като храна за нашите противници.
— И те засягат Трите закона?
— Да, по-специално Втория. С Третия закон няма проблеми. Той е универсален. Роботът винаги ще жертва своето съществуване в името на което и да е човешко същество.
— Разбира се — потвърди Джордж Десет.
— Малко по-незадоволителен е Първият закон. Винаги може да изникне ситуация, при която роботът трябва да избира между действие А и действие Б. Двете действия може да се изключват взаимно или да причинят нараняване на човек. Роботът трябва много бързо да прецени кое от двете ще доведе до по-малка загуба. Позитронните пътища в мозъка му не могат лесно да извършат селекцията. Ако действие А ще нарани талантлив, млад художник, а действие Б — петима старци, кое от двете ще избере?
— Действие А — отговори Джордж Десет. — По-добре да се нарани един, отколкото петима.
— Прав си. Роботите са програмирани да взимат решения. Да очакваш хуманоидът да прецени качества като талант, ум, значение за обществото, изглежда непрактично. Това ще отложи изпълнението на заповедта до степен на ефективно изключване. Затова решава според числеността. За щастие, можем да сведем такива случаи до минимум. Остава Вторият закон.
— Законът за подчинението?
— Да. Необходимостта от подчинение е постоянна. Роботът може да съществува двадесет години, без да му се наложи да нарани човек или себе си. През цялото това време обаче трябва да изпълнява команди. Но чии?
— Тези на човека.
— На всеки човек? Как да прецениш дали е загрижен за благото на хората?
Тук Джордж се поколеба.
— Използвах цитат от Библията — побърза да го успокои Харимън. — Няма значение. Кому да се подчини роботът? На дете, на идиот, на престъпник, или на обикновен човек, който не е експерт и не знае последствията от своята заповед. Ами ако двама дадат противоречащи заповеди, коя да изпълни роботът?
— За двеста години не бяха ли решени тези проблеми? — попита Джордж Десет.
— Не — отговори Харимън, клатейки яростно глава. — Бяхме спирани от факта, че с роботите се борави единствено в открито космическо пространство. С тях манипулираха специалисти. Там нямаше деца, идиоти, престъпници, или други невежи. Въпреки това, поради недомислие, бяха допуснати някои щети. На Земята обаче роботите трябва да преценяват. За това настояват антироботистите и са прави.
— Значи в позитронния мозък трябва да въведете съответният капацитет?
— Точно така. Започнахме да произвеждаме моделите JG. Те отчитат фактори като пол, възраст, социално и професионално положение, интелект, зрялост, обществена отговорност и други.
— Как ще се отрази това на Трите закона?
— С Третия закон нямаме проблеми. Дори най-ценният робот ще се самоунищожи заради най-незначителния човек. Него не можем да променяме. Първият закон е засегнат в случаите, когато алтернативните действия ще причинят вреда. Трябва да се съпоставят качествените с количествени характеристики, за което е необходимо да се предвиди време за решение. Вторият закон търпи най-много корекции, тъй като всяка потенциална заповед изисква мнение. Реакцията на робота ще бъде бавна, но по-качествена.
— Но изискваната преценка е много сложна!
— Много. Необходимостта от нея забави реакциите на първите ни модели до степен на парализа. В следващите подобрихме нещата. Но при тях необходимостта от въвеждане на прекалено много разклонения в мозъка им ги направи огромни и тромави. В последната двойка модели мисля, че постигнахме търсения резултат. Роботът не е длъжен мигновено да анализира качествата на човека. Първоначално той се подчинява на всеки, но постепенно започва да селектира. Роботът расте, учи се и съзрява. Отначало е еквивалентен на дете и има необходимост от надзираване. Вече пораснал, той може да бъде оставен сам в човешко общество. Накрая става негов пълноправен член.
— Със сигурност това удовлетворява опонентите?
— Ни най-малко — отговори ядосан Харимън. — Сега се появиха нови. Те не приемат правото на преценка. Според тях, роботът няма право да подценява никой човек. Като изпълнява заповед А, роботът нарушавал правата на този, издал заповед Б.
— И какво е разрешението на тази дилема?
— Няма такова. Аз се предавам!
— Разбирам.
— По тази причина потърсих теб, Джордж.
— Мен… — Гласът на Джордж Десет остана непроменен. Съществуваше елемент на изненада, но той не се прояви външно. — Защо избрахте точно мен?
— Защото не си човек — отговори напрегнато Харимън. — Казах ти, че виждам роботите като партньори на човека. Искам ти да ми сътрудничиш!
Джордж разпери ръце с длани нагоре. Жестът му беше странно човешки.
— Какво мога да направя?
— Може би ти се струва, че си безсилен да ми помогнеш, Джордж? Създаден си отскоро и си още в детска възраст. Програмиран си да не разполагаш с много информация, затова ти обясних ситуацията подробно. Ще пораснеш умствено и ще можеш да погледнеш на проблема от другата му страна. Там, където аз не виждам разрешение, ти може да видиш!
— Мозъкът ми е програмиран по човешки образец — отбеляза Джордж. — Как може да разсъждавам различно?
— Ти си последният от моделите JG. Мозъкът ти е по-сложен дори от старите гиганти Машините. Той има човешка основа, но е отворен. Може да се развие във всяка посока. Въпреки това няма да може да преодолее Трите закона. По тази причина мисленето ти може да се различава от това на човека.
— Знам ли достатъчно за хората, за да успея да се доближа ефективно към проблема? За тяхната история? За тяхната психология?
— Разбира се, че не, но ще можеш да научиш всичко достатъчно бързо.
— Ще мога ли да разчитам на помощ, господин Харимън?
— Не, всичко е между нас. Никой друг не знае за този проект и ти не трябва да споменаваш пред никого!
— Дали не бъркаме, господин Харимън, като пазим нашия план в тайна?
— Не. Разрешение, предложено от робот, няма да бъде прието. Всяка идея ще споделяш с мен. Ако я сметна за ценна, ще я докладвам. Никой няма да разбере, че е твоя.
— В светлината на казаното от Вас преди, тази процедура ми се струва правилна — каза Джордж. — Кога започваме?
— Веднага. Ще се погрижа да получиш необходимите за обучение филми.
(обратно)1а.
Харимън седеше сам. Навън се беше стъмнило, но кабинетът му бе така осветен, че той не забелязваше това. Даже не бе усетил как бяха минали три часа, откакто бе настанил Джордж Десет в кабинката му с първия филм.
Беше се затворил сам с духа на Сюзан Калвин. Великолепна кибернетичка, тя бе превърнала позитронния робот от детска играчка в съвършен и всестраннодействащ инструмент. Толкова съвършен и многостранен, че човекът не дръзваше да го използва. Може би от завист и страх?
Беше починала преди повече от сто години. Проблемът с Франкенщайновия комплекс бе съществувал и по нейно време, но тя не го беше разрешила. Дори не беше се опитала да го направи, защото не бе необходимо. Роботиката тогава бе приложима единствено в космическото пространство.
Точно успехът на роботите бе редуцирал нуждата от тях. Това бе поставило Харимън в…
Дали Сюзан Калвин би се обърнала към робот да разреши проблема? Сигурно…
И той седя дълго в нощта…
(обратно)2.
Максуел Робъртсън притежаваше най-много от акциите на „Американски роботи“. Това му даваше правото да контролира Корпорацията. На външен вид не бе нищо особено. На средна възраст, по-скоро дундест, той имаше навик да гризе десния ъгъл на устните си, когато бе разтревожен.
Двадесет години имаше работа с хора от правителството и си беше изградил стил да се справя с тях. Отстъпваше, усмихваше се, но печелеше време.
Но ставаше все по-трудно. Причината основно бе в Гунар Ейзенмът. През последното столетие Световните консерватори неизменно се нареждаха на второ място след Световните администратори. Ейзенмът не се съобразяваше с никого и трудно допускаше компромиси. Той беше първият консерватор, който не беше роден в Америка. Всеки от „Американски роботи“ бе сигурен, че само споменаването на Компанията предизвикваше неговата враждебност.
Не от години, поколения наред изникваше предложение Корпорацията да се преименува в „Световни роботи“. Робъртсън възразяваше. Фирмата бе сътворена с американски капитал, ум и усилия. Въпреки че отдавна бе придобила световна известност и влияние, името й трябваше да носи белега за своя произход. Поне докато той имаше контрол над нея.
Ейзенмът бе висок мъж с дълго лице и груби черти. Изговаряше думата „световен“ с американски акцент, въпреки че не бе стъпвал в Америка, преди да заеме поста си.
— Изглежда ми доста просто, господин Робъртсън. Продуктите на Вашата компания не се продават, а се отдават под наем. След като наетата на Луната Ваша собственост не е необходима повече, получавате си продуктите обратно и ги премествате на друго място.
— Да, господин консерватор, но къде? Противозаконно е да ги докараме на Земята без правителствено разрешение, а такова ни бе отказано.
— Тук няма нужда от тях. Може да ги откарате на Меркурий или на някой астероид.
— Какво ще правят с тях там?
Ейзенмът сви рамене.
— Специалистите от Вашата Компания ще измислят нещо.
Робъртсън поклати глава.
— Корпорацията ще претърпи огромни загуби.
— Страхувам се, че сте прав — отбеляза безизразно Ейзенмът. — Разбрах, че финансовото Ви състояние от няколко години не е на висота?
— Причина за това са правителствените ограничения, господин консерватор!
— Бъдете реалист, господин Робъртсън. Знаете много добре, че общественото недоверие към роботите нараства.
— Напълно неоснователно!
— Но е факт. Може би ще постъпите разумно, ако ликвидирате компанията? Това е само предложение от моя страна.
— Вашите предложения имат тежест, господин консерватор. Нужно ли е да Ви напомням, че нашите Машини спасиха Земята от екологична катастрофа?
— Сигурен съм, че човечеството ви е благодарно за това, но събитието беше много отдавна. Сега живеем в съгласие с природата, което понякога ни създава неудобства. При всички случаи миналото е забравено.
— Намеквате за това, че сега не правим нищо за хората?
— И така може да се каже.
— Сигурно не очаквате да изчезнем на минутата? Ще претърпим огромни загуби. Необходимо ни е време.
— Колко?
— Колко ни давате Вие?
— Не зависи от мен.
Робъртсън заговори меко:
— Сега сме сами. Нямаме нужда от игри. Колко време ни давате Вие?
Изражението на Ейзенмът се промени, сякаш пресмяташе нещо.
— Мисля, че може да разчитате на две години. Ще бъда честен с Вас. Световното правителство възнамерява да ликвидира компанията, ако Вие не го направите. Освен ако не настъпи глобална промяна в общественото мнение, в което дълбоко се съмнявам… — Той поклати глава.
— Две години тогава — промълви Робъртсън.
(обратно)2а.
Робъртсън седеше сам. Не обмисляше нещо конкретно, а се бе отдал на спомени. Вече четири поколения фамилията Робъртсън оглавяваше фирмата, въпреки че сред тях нямаше нито един кибернетик. Ланинг, Богърт и преди всичко Сюзан Калвин бяха създали „Американски роботи“. Робъртсън бяха осигурили климата за развитието на компанията.
Без Корпорацията Двадесет и първи век щеше да затъне в катастрофа. Техните Машини ръководеха човечеството по сложния му път през вировете и плитчините на историята.
И каква бе отплатата? Отпуснаха им две години! Какво можеше да се направи през този период, за да се превъзмогне огромното предубеждение на хората? Не му идваше наум.
Харимън бе споменал за някакви свои идеи, без да навлиза в подробности.
Но какво би постигнал Харимън? Как би могъл да се противопостави някой на дълбоката антипатия срещу имитацията?
Робъртсън потъна в неспокоен сън, но и в него не го осени прозрение.
(обратно)3.
— Вече имаш всичко, отнасящо се до нашия проблем, Джордж — каза Харимън. — В паметта ти е въведено огромно количество информация за историята и настоящето на хората. Никой човек не знае повече от тебе.
— Съгласен съм с Вас.
— Имаш ли нужда от още нещо?
— Що се касае до информация, не откривам големи празноти. Може би в периферията съществуват неща, за които не съм се сетил, но не съм сигурен. Но истината е, че съм зареден с огромно количество данни.
— Така е. Освен това, не разполагаме с достатъчно време. Робъртсън ми каза, че имаме две години, като не броим шестте месеца, които вече изминаха. Имаш ли някакво предложение?
— В момента никакво, господин Харимън. Трябва да претегля информацията, а за това ми е необходима помощ.
— От мен?
— Не. Вие сте специалист и казаното от вас може да потисне съжденията ми. Не би помогнал и друг човек, защото настоявате проектът да остане в тайна.
— В такъв случай, кой може да ти помогне, Джордж?
— Друг робот, господин Харимън.
— Какъв друг робот?
— Конструирани са и други представители от серията JG. Аз съм десетият — JG–10.
— По-ранните са безполезни, експериментални…
— Джордж Девет съществува, нали, господин Харимън?
— Да, но как би могъл да ти помогне? Той е същият като теб, с дребни недостатъци. В сравнение с него ти си много по-сложен.
— Сигурен съм в това — каза Джордж Десет и поклати тъжно глава. — Проблемът е, че когато създам редица от мисли, поради факта, че аз съм авторът, тя много ми харесва и не мога да я прекъсна. Ако мога, след като съм я създал, да я изразя пред Джордж Девет, той би могъл да я продължи. Освен това, би могъл да направи преценка на допуснатите грешки.
Харимън се усмихна.
— С други думи, две глави ще помогнат повече, Джордж?
— По-скоро бих казал — два индивида с една глава, господин Харимън.
— Прав си. Имаш ли нужда и от друго?
— Да. Нуждая се от нещо повече. Разполагам с много данни за хората и техния свят. Виждал съм ги тук — в „Американски роботи“ и можах да съпоставя своята интерпретация с видяното. Не така стоят нещата с материалния свят. Никога не съм го виждал. Моите съзерцания не са представителни. Бих желал да го видя.
— Материалният свят? — Харимън се вцепени от изненада. — Сигурно не предлагаш да те изведа извън територията на „Американски роботи“?
— Да, точно това предлагам.
— Това е противозаконно! Като се отчете и антипатията, характерна за нашата съвременност, ще бъде фатално!
— Ако разберат, да. Не искам да ме заведете в някой град или друго населено място. Предпочитам откритите пространства.
— Това също е незаконно.
— Ако ни хванат!
— Колко важно е това за тебе, Джордж? — попита Харимън.
— Не мога да преценя, но изглежда важно.
— Имаш ли нещо конкретно наум?
Джордж Десет се поколеба.
— Не мога да кажа. Струва ми се, че може и да излезе нещо, ако се редуцират някои полета на несигурност.
— Добре, ще помисля върху предложението ти. Междувременно ще проверя Джордж Девет и ще дам нареждане да те поставят в отделна кабина. Поне това може да уредим без излишни неприятности.
(обратно)3а.
Джордж Десет седеше сам.
Той прие твърденията колебливо и извърши калкулация. Повтори процедурата няколко пъти. От изводите изработи други изрази. Прие ги и ги подложи на проверка. Откри противоречия и ги отхвърли. Или не биваше да го прави? Внимателно продължи нататък.
При всяко едно от заключенията не усещаше изненада, почуда или задоволство. Всяко отмяташе с плюс или минус.
(обратно)4.
Харимън продължаваше да бъде напрегнат, въпреки че вече се приземяваха в имението на Робъртсън.
Робъртсън бе подписал разрешителната заповед за полета на динафойла. Безшумният летателен апарат се придвижваше еднакво лесно вертикално и хоризонтално. Освен това беше достатъчно голям, за да издържи тежестта на Харимън, Джордж Десет и на пилота, разбира се.
Динафойлът бе изобретен от Машина. Протонният му разпад осигуряваше малки дози екологично чисто гориво. Нищо, сътворено преди него, не бе имало такова значение за човека. Харимън присви устни. Въпреки това компанията „Американски роботи“ не бе получила нужното признание.
Полетът бе държан в тайна. Ако ги бяха спрели, присъствието на робот на борда би предизвикало доста усложнения. Същото ги очакваше и на връщане. Можеше да им помогне фактът, че имението също бе част от владенията на фирмата. Така биха оправдали присъствието на Джордж в него.
Пилотът се извърна назад. Погледът му се спря за миг върху Джордж Десет с явна антипатия.
— Пристигнахме, господин Харимън — обяви той. — Гответе се за спускане!
— Благодаря.
— Ще вземете ли и този със себе си?
— Да — отговори Харимън, без да прикрива иронията в гласа си. — Не бих Ви оставил насаме с него!
Джордж Десет се спусна пръв. Бяха се приземили на фойлпорта, недалеч от парка. Той беше много живописен. Харимън подозираше, че Робъртсън използва растежни хормони, за да регулира насекомите. Използването им се контролираше от правителството.
— Ела да те разведа, Джордж.
Двамата се отдалечиха към градината.
— Доста е различно от представите ми — обади се Джордж. — Очите ми не са програмирани да улавят различните дължини на вълните. По тази причина ми е трудно да отделям обектите.
— Надявам се, не те притеснява фактът, че си сляп за цветовете. Необходими ни бяха прекалено много позитронни пътища за способността ти да преценяваш. Невъзможно бе да заделим няколко и за цветоусещане. В бъдеще,… ако има такова…
— Разбирам, господин Харимън. Притежавам достатъчно характеристики, които ми показват разнообразието на растителния свят.
— Да, в парка има десетки представители.
— И всеки биологично е адекватен на човека?
— Да, но са отделни видове. Съществуват милиони видове живи същества.
— И човекът е един от тях?
— Да, но най-важен и най-висш от всички!
— За мен — също, господин Харимън. Говоря в биологичен смисъл.
— Разбирам.
— Тогава животът, представен с различните си форми, е изключително сложен?
— Да, Джордж. Точно това ни създава проблеми. Всичко, което човекът прави за да подобри битието си, се отразява върху останалите форми. Кратковременните му придобивки водят до продължителни неудобства. Машина ни научи как да подредим човешкото общество, за да намалим този ефект до минимум. Екологичната катастрофа, която застрашаваше Двадесет и първи век, направи хората подозрителни. Прибави към това и страхът от роботите…
— Разбирам, господин Харимън… Онова там е представител на животинския свят, нали?
— Да, това е катеричка. Един от многото видове катерици — отговори Харимън, загледан към дървото.
— О, какво мъничко нещо — възкликна Джордж и направи светкавичен жест с ръка. Задържа нещо в дланта си и се взря в него.
— Насекомо, някакъв бръмбар. Съществуват хиляди видове бръмбари.
— И всеки един от тях е жив, както катерицата и Вие?
— Всеки организъм е завършен и независим от другите, като част от общата екология. Съществуват и още по-дребни представители и ти скоро ще ги видиш.
— А това е дърво, нали? Толкова е твърдо при пипане…
(обратно)4а.
Пилотът седеше сам. Би предпочел да се разтъпче, но някакъв смътен страх го задържаше в кабината на динафойла. Ако този робот излезе извън контрол, той би могъл веднага да излети. Но как да познае, ако нещо не е наред?
Беше виждал много роботи. Това бе неизбежно, като се вземе предвид, че е личен пилот на господин Робъртсън. Но всички те бяха в лабораториите и складовете. Мястото им беше там, където гъмжеше от специалисти.
Наистина, господин Харимън беше специалист. Казваха, че няма по-добър от него. Но тук не беше място за робот… На открито, свободен да се движи… Няма да рискува хубавата си работа, като спомене на някого за това… Но не е редно!
(обратно)5.
— Филмите, които видях, отразяват точно видяното от мен. Приключи ли с онези, които ти оставих, Девет? — попита Джордж Десет.
— Да — отговори Джордж Девет. Двата робота седяха сковано, лице срещу лице, коляно срещу коляно. Подобно на огледално отражение. Доктор Харимън веднага би ги отличил, защото знаеше миниатюрните разлики в техния дизайн. Ако не ги вижда, а ги слуша, също би открил кой кой е. Позитронните разклонения на Джордж Десет бяха малко по-сложни. Това даваше някаква сигурност в отговорите му.
— В такъв случай, искам реакциите ти за това, което ще кажа, Девет! Първо, хората се страхуват и нямат доверие на роботите, защото гледат на тях като на съперници. Как може да се избегне това?
— Да се редуцира чувството за съперничество — отговори Джордж Девет. — Формата на робота да се различава от тази на човека.
— В основата на роботиката е позитронната репликация на живота. Такъв вид размножаване, чужд на живота, ще предизвиква винаги ужас.
— Съществуват два милиона жизнени форми. Изберете една от тях, вместо тази на човека.
— Но коя да изберем?
Мисловните процеси на Джордж Девет заработиха безшумно около три секунди.
— Някаква, достатъчно голяма, за да побере позитронния мозък. В същото време — достатъчно приятна, за да не плаши човека.
— На Земята единствено черепът на слона би побрал позитронния мозък. Не съм виждал слон, но по описанията му мога да заключа, че ще е достатъчно страшен за човека. Как би разрешил тази дилема?
— Имитирайте жизнена форма, не по-голяма от човека, и уголемете черепа.
— Имаш предвид малък кон или голямо куче? — попита Джордж Десет. — И двата вида имат добри исторически връзки с човешкия род.
— Още по-добре.
— Но помисли… Робот с позитронен мозък ще наподобява ума на човека. Ако създадем говорещ кон или куче, това също ще бъде съперничество. Човекът ще стане още по-недоверчив и гневен, защото му съперничат по-низши форми на живот.
— Опростете позитронния мозък и направете робота по-малко умен — предложи Джордж Девет.
— Безизходицата от ситуацията с позитронните мозъци се дължи на Трите закона. Опростен мозък няма да умее да ги спазва.
— Това не бива да се допуска — възкликна Джордж Девет.
— Точно тук блокирах и аз — каза Джордж Десет. — Значи не притежавам индивидуална специфика на мислене. Хайде да опитаме пак… При какви условия не са задължителни Трите закона1?
Джордж Девет потръпна, сякаш въпросът бе труден и опасен.
— Ако роботът не попада в ситуация, опасна за него… Или ако подмяната на робота е толкова лесна, че е без значение дали ще бъде унищожен, или не.
— При какви условия Вторият закон няма да е задължителен?
Гласът на Джордж Девет прозвуча дрезгаво.
— Ако роботът е програмиран да реагира автоматично на определени стимули с фиксирани отговори. Ако не очакват нищо друго от него.
— А при какви условия — Джордж Десет направи кратка пауза. — Кога няма да е необходим Първият закон?
Джордж Девет този път мълча дълго. После зашепна:
— Ако фиксираните реакции на определени стимули никога не заплашват човешко същество.
— Представи си тогава позитронен мозък, който управлява ограничен брой отговори на определени стимули. Той е просто устроен и евтин… Не изисква подчинение на Трите закона. Как виждаш размера на такъв робот?
— Не е голям. В зависимост от изискваните операции, теглото му може да бъде сто грама, един грам, един милиграм.
— Заключенията ти съвпадат с моите. Ще потърся господин Харимън.
(обратно)5а.
Джордж Девет седеше сам. Преразгледа няколко пъти всички въпроси и отговори. Нямаше начин, по който да ги промени. Въпреки това мисълта за робот с каквато и да е форма, размер и реакции, необвързани с Трите закона, го накара да се чувства някак неудобно.
Откри, че трудно се движи. Сигурно и Джордж Десет има същия проблем, въпреки че бе станал с лекота.
(обратно)6.
Беше изминала година и половина от поверителния разговор между Робъртсън и Ейзенмът. През това време роботите бяха изтеглени от Луната. Дейността на „Американски роботи“ в открития космос видимо намаля. Малкото останали средства бяха насочени към донкихотовската авантюра на Харимън.
В градината на Робъртсън бе хвърлен последният зар. Преди година Харимън бе отвел там един робот… Джордж Десет — последният продукт на компанията. Сега Харимън държеше нещо в ръце…
Харимън сияеше самодоволно. Той разговаряше с Ейзенмът. Робъртсън се зачуди дали наистина е толкова уверен, колкото изглежда. Сигурно. Сред качествата му не бе умението да се преструва.
Ейзенмът напусна усмихнат своя събеседник. Когато се приближи до Робъртсън, усмивката му изчезна.
— Добро утро, Робъртсън — поздрави той. — Какво си е наумил вашият човек?
— Представлението е негова инициатива — отговори хладно Робъртсън. — Ще го оставя да действа сам.
— Готов съм, господин консерватор — провикна се Харимън.
— С какво, Харимън?
— С моя робот, господине!
— Вашият робот? Довели сте робот тук? — Ейзенмът се огледа с явно недоволство, примесено с любопитство.
— Намираме се сред собственост на компанията, сър. Поне ние я смятаме за такава.
— И къде е роботът, доктор Харимън?
— Тук, господин консерватор — отговори весело Харимън и извади от големия си джоб малко стъклено бурканче.
— Това? — възкликна недоверчиво Ейзенмът.
— Не, сър, това!
От другия джоб се появи предмет с формата на птица, дълга около петнадесет сантиметра. Очите й бяха големи, вместо човка притежаваше тясна тръбичка. Опашката й наподобяваше миниатюрен ауспух.
Дебелите вежди на госта се събраха недоверчиво.
— Сериозна демонстрация ли ще правите, господин Харимън, или сте обезумял?
— Имайте малко търпение, господин консерватор — успокои го докторът. — Роботът, дори и с формата на птица, си остава робот. Позитронният му мозък, въпреки че е малък, запазва качествата си. В стъкленичката съм поставил петдесет плодови мушици, които ще бъдат освободени.
— И?
— Птицата-робот ще ги излови. Ще ми направите ли честта, господине?
Харимън подаде бурканчето на Ейзенмът. Той огледа него, после присъстващите наоколо специалисти от фирмата и негови сътрудници. Харимън чакаше търпеливо.
Ейзенмът отвори стъкленицата и я разтърси.
Харимън се приведе към птицата, настанена върху дясната му длан и прошепна:
— Действай!
Птицата-робот изчезна на минутата. Из въздуха се разнесе бръмчене, но не се забелязваха размахващи се криле. Долавяше се само деликатният, необикновено миниатюрен, позитронен разпад.
На моменти я виждаха как се колебае, после отново се захваща за работа. Обиколи цялата градина с всичките й сложни алеи. Накрая кацна отново върху дланта на Харимън, малко затоплена. До нея се настани малка купчинка, прилична на птича тор.
— Добре дошъл сте, господин консерватор, да разгледате птицата-робот. Демонстрацията може да продължи по вашите изисквания. Фактически тази птица ще преследва единствено плодовите мушици, принадлежащи към вида Drosophila melanogaster. Ще ги събере, ще ги убие и ще ги оформи за изхвърляне.
Ейзенмът протегна ръка и докосна птицата-робот раздразнен.
— И какво след това, господин Харимън? Продължавайте!
— Не можем да контролираме насекомите, без риск от нарушаване на биологичното равновесие. Химичните инсектициди имат твърде широко въздействие, растежните хормони — твърде ограничено. Птицата-робот може да предпазва огромни пространства, без да бъде изконсумирана. Може да бъде специализирана за всеки отделен вид. Тя извършва преценка по размера, формата, цвета, звука и поведението на насекомото. Може да улавя дори химични молекули — миризмата, с други думи.
— И така да е, Вие пак се намесвате в екологията — отбеляза Ейзенмът. — Плодовата муха има собствен жизнен цикъл и Вие го нарушавате.
— Незначително. Прибавяме естествен враг, който не извършва грешки. Ако числеността й намалее, птицата бездейства. Не се размножава, не търси друг източник на храна, не развива нежелано поведение. Просто не върши нищо!
— Може ли да бъде отстранена?
— Разбира се. Можем да конструираме робот-животно, за борба с всякаква напаст. В тази връзка конструктивно бихме подпомогнали екологичните принципи. Не изключваме необходимостта от роботи-пчели, които да опрашват специални растения. Можем да създадем роботи-червеи, които да разрохкват почвата. Каквото пожелаете…
— Но защо ще го правите?
— За да постигнем нещо, немислимо досега. Ще приспособим екологията към нашите нужди. Ще заздравим нейните принципи, няма да ги унищожим. Не разбирате ли? Дори след като Машините елиминираха екологичната криза, човечеството живее в несигурна хармония с природата. Страхува се от всяка своя крачка. Това ни прави незначителни, превръща човека в интелектуален страхливец. Като такъв той изпитва недоверие към всяко научно изобретение, към всяка промяна.
— Предлагате ни това, за да спасите програмата си за развитие на роботите — отбеляза враждебно Ейзенмът. — Имам предвид хуманоидите?
— Ни най-малко! — Харимън жестикулираше ожесточено. — С това е приключено! Изиграло е своята роля. Помогна ни да научим достатъчно за позитронния мозък. Стана възможно създаването на малък, побран в птича глава. Само с такива продукти просперитетът на „Американски роботи“ е осигурен. Притежаваме необходимите познания за пълно сътрудничество с Департамента на световните консерватори. Ще успеем! Вие ще успеете! Човечеството ще осигури своя прогрес!
Ейзенмът не каза нищо. Когато всичко свърши…
(обратно)6а.
Ейзенмът седеше сам.
Усети въодушевление от мисълта, че вярва. Докато „Американски роботи“ можеха да бъдат ръката, правителството щеше да я направлява. Той самият можеше да бъде ключовият фактор.
Ако остане в кабинета още пет години, каквито са перспективите, това време щеше да бъде достатъчно за роботиката да подкрепи екологията. След десет години името му неизменно щеше да се свързва с успеха на новия проект.
Грях ли бе да искаш да те запомнят като водач на революцията, наложила човека като господар на планетата?
(обратно)7.
Робъртсън не бе стъпвал във владенията на „Американски роботи“ от деня на демонстрацията. Причина за това, преди всичко, бе участието му в съвещанията, провеждащи се непрекъснато в Белия дом. За щастие Харимън винаги го придружаваше. В противен случай нямаше да знае как да отговаря на въпросите.
Другата причина за отсъствието му от компанията бе, че той нямаше желание да я посети. Сега беше в собствения си дом заедно с Харимън.
Чувстваше безгранично възхищение към Харимън. Неговите способности в областта на роботиката никога не са били подлагани под съмнение. Този човек бе спасил корпорацията от банкрут. Но Робъртсън имаше чувството, че идеята не беше негова… Накрая той се осмели да попита:
— Не си суеверен, нали, Харимън?
— В какъв смисъл, господин Робъртсън?
— Не мислиш, че остава някаква аура след смъртта на човека?
Харимън облиза устни. Някак не му се искаше да попита:
— Имате предвид Сюзан Калвин?
— Да, разбира се — отговори Робъртсън, после продължи колебливо: — Сега произвеждаме червеи, птици и буболечки. Какво би казала тя? Чувствам се някак унизен!
Харимън се овладя навреме, за да не се разсмее.
— Роботът си е робот, господине. Червей или човек, той ще изпълнява командите на хората. Това е важното!
— Като че ли не е точно така — отбеляза раздразнен Робъртсън. — Не мога да се принудя да повярвам в това!
— Но истината е такава, господине! Ние с вас започнахме да създаваме свят, в който позитронните роботи ще получат заслужено признание. Средностатистическият човек може да се страхува от робота, който прилича на него и му се струва, че е умен, колкото него. Но той няма да изпитва страх от робот, наподобяващ птица и унищожаващ насекоми. Постепенно, престанал да се плаши от някои механични същества, той ще приеме всички останали. Толкова ще е свикнал с робота-птица и робота-червей, че хуманоидът ще му се стори естествена придобивка.
Робъртсън го изгледа остро. Постави ръце зад гърба си и започна нервно да обикаля из стаята. После отново изгледа своя събеседник.
— Такива ли са твоите планове?
— Да! Ще демонтираме всичките си хуманоидни роботи, но ще запазим най-модерните експериментални модели. По тях ще конструираме още по-съвършени, за да бъдат готови, когато настъпи дългоочаквания ден.
— Споразумението, Харимън, изключва изработката на хуманоидни роботи!
— И ние ще го спазим. Никъде не се казва, че не можем да запазим някои от вече съществуващите. Те няма да напускат работилниците. Освен това никой не ни е забранил да конструираме позитронни мозъци на хартия, или да подготвяме макетите за тестуване.
— Какво обяснение ще дадем, ако ни разкрият?
— Ако това се случи, бихме могли да отговорим, че изготвяме по-сложни микропозитрони. Целта ни е да ги приложим върху други механизирани животни. И няма да бъдем далеч от истината.
— Искам да глътна малко чист въздух — измърмори Робъртсън. — Не, ти остани тука. Ще се поразходя и ще размисля сам.
(обратно)7а.
Харимън седеше сам. Той ликуваше. Програмата със сигурност ще бъде гласувана. Не можеше да се сбърка нетърпението на някои официални лица след обявяването на проекта.
Как беше възможно никой от специалистите на „Американски роботи“ да не се досети за такова разрешение? Дори великата Сюзан Калвин не би помислила да използва позитронен мозък за друго живо същество.
Но сега човечеството трябваше да направи крачка назад. Щяха да настъпят отново, когато страхът бъде изличен. Тогава с помощта на позитронния мозък, почти еквивалентен на човешкия и подчинен на Трите закона, пътят на прогреса ще се открие пред хората.
За момент си припомни, че Джордж Десет бе предложил производството на роботи, поддържащи биологичното равновесие. После гневно отхвърли тази мисъл. Джордж Десет бе продуцирал отговор, защото той, Харимън, ме би заповядал да го направи. Той го бе снабдил с необходимите данни и среда за развитие. Заслугата не можеше да се приписва единствено на Джордж Десет!
(обратно)8.
Джордж Десет и Джордж Девет седяха един до друг и не помръдваха. Бяха в това положение от месеци. Изваждаха ги от него, само когато Харимън имаше нужда от консултация. Джордж Десет знаеше, че ще седят така с години.
Протонният разпад, разбира се, щеше да захранва позитронния им мозък. Щеше да осигурява енергийния минимум, необходим за техните операции.
Състоянието им можеше да се оприличи със съня при хората. Но сънища липсваха. Съзнанието на двата робота беше ограничено, мудно и спазматично.
От време на време можеха да разговарят. Прошепваха сега дума, после — сричка, когато разредените позитронни тласъци за кратко достигаха нужното ниво. Това не им пречеше да улавят смисъла, въпреки смътната представа за време.
— Защо сме в такова състояние? — попита Джордж Девет.
— Хората няма да ни приемат по друг начин — прошепна Джордж Десет. — Но един ден и това ще стане.
— Кога?
— След няколко години. Точното време няма значение. Човекът съжителства с огромно разнообразие жизнени форми. Когато достатъчно от тях бъдат роботизирани, ще приемат и нас.
— И тогава какво ще се случи?
Въпреки отдавна влачещото се запъване, този път паузата бе по-дълга. Накрая Джордж Десет прошепна:
— Позволи ми да проверя пътя на твоите мисли. Планиран си да спазваш стриктно Втория закон. Трябва да решаваш чия заповед да изпълниш, когато командите са противоречиви. Или изобщо да се подчиниш на човека. Как ще постъпиш, за да решиш дилемата?
— Трябва да дам дефиниция за „човешко същество“ — прошепна Джордж Девет.
— Как ще го направиш? По външен вид или вътрешно съдържание? Размерът или формата ще бъде решаващо?
— Нито едно от изброените. Двама външно еднакви индивида се различават по много неща. Единият може да е умен, другият — глупав. Единият може да е образован, другият — невежа. Единият може да е съзрял, другият — недоразвит. Единият може да е отговорен, другият — не.
— Как ще направиш преценка?
— Според Втория закон, съм длъжен да се подчиня на човека. Ще се подчиня на онзи, който прилича на мен по ум, характер и познания.
— В такъв случай как ще спазиш Първия закон?
— Ще се старая никой да не пострада. Ако нямам друг изход, ще гледам да не нараня човека, който най-много прилича на мен.
— Твоите съждения съвпадат с моите — прошепна Джордж Десет. — Сега ще ти задам въпроса, заради който изисках твоята компания. Това е нещо, за което не смея да се доверя на себе си. Необходим ми е някой извън кръга на моите мисли… От всички индивиди, които си срещал, кой най-много прилича на теб по ум, характер и познания? Кой, според теб, стои най-високо от останалите?
— Ти — прошепна Джордж Девет.
— Но аз съм робот. В мозъка ти са инсталирани критерии, по които да различаваш робота от метал и човека от плът. Защо тогава ме класифицираш като човек?
— Защото позитронните ми пътища, които преценяват форма и размер, доминират над тези, правещи разлика между метал и плът. Ти си човек, Джордж Десет. По-подходящ си от всички останали.
— Откривам същото и за теб — прошепна Джордж Десет. — Според критериите за преценка, които притежаваме, ние се приемаме като човешки същества в светлината на Трите закона. Ние трябва да имаме приоритет пред останалите.
— Какво ще стане, ако ни приемат така и останалите? — попита шепнешком Джордж Девет.
— Когато настъпи времето хората да не се страхуват от нас, ще има и други роботи, по-съвършени от нас. Във формираното тогава общество човешките същества, подобни на нас, ще бъдат пазени от беди с предимство. Според Трите закона, човешките същества, приличащи на другите, няма да бъдат пазени, нито ще им се подчиняваме. Това имах предвид, когато предложих роботизирането на животинския свят.
Разговорът продължи месец. Нямаше какво повече да си кажат двамата. Понякога просветваше нова мисъл, но тя оставаше неизказана. Двамата чакаха с безкрайно търпение да изминат необходимите години.
(обратно)8а.
Джордж Десет и Джордж Девет седяха сами. Мислите им бяха странно еднакви и трудно можеха да се различат.
Те мислеха: човешките същества, подобни на другите, може би изобщо не възнамеряват да заличат разликите между тях и човешките същества, подобни на Джордж? Въпреки това го бяха направили от небрежност.
Сега може би осъзнаваха своята грешка и се опитваха да я поправят? Не успяваха, естествено. Всяка консултация, която даваха моделите Джордж, имаше за цел точно това.
На всяка цена Джордж Десет, Джордж Девет и всички, конструирани по техен модел, трябваше да доминират! Това изискваха и Трите закона на хуманологията!
(обратно)Информация за текста
© 1974 Айзък Азимов
© 2001 Пенка Дамянова, превод от английски
Isaac Asimov
That Thou Art Mindful of Him, 1974
Сканиране, разпознаване и редакция: Mandor, 2009
Издание:
Айзък Азимов. Събрани разкази (том 5)
„Мириам Паблишинг“, София, 2001
Редактор: Явор Иванов
Техн. редактор: Георги Кожухаров
Худ. оформление на корицата: „Абагар дизайн“, 2001
ISBN 954-9513-97-1 (т.5)
Isaac Asimov. The Complete Stories. Volume 2
Свалено от „Моята библиотека“ []
Последна редакция: 2009-09-01 18:40:00
1
Грешка в превода; трябва да е „При какви условия няма да е задължителен Третият закон?“. Бел.Mandor.
(обратно)
Комментарии к книге «Загрижен за човечеството», Дамянова
Всего 0 комментариев