Недочеловек-недомашина

Поиск обоснования занял время до среды. Карлу сложно было таскаться в Киберлайф ежедневно, к тому же, у него всё ещё была своя работа, а полученные в прежних экспериментах данные надо было как-нибудь осмыслить. Саймон знал, что ему следовало заняться тем же самым, чем занят запершийся в кабинете Элайджа, но он этого не делал. Ему пришлось приводить себя в стабильное состояние два следующих дня, так что вместо того, чтобы возвращаться к своим бесчисленным вопросам, Саймон занимался медитацией: а именно, уборкой. Когда вечерело и отдел покидали сотрудники, он садился и смотрел в окно на туман и облака: они находились достаточно высоко над землей, чтобы Саймон не видел, что окружает башню. Но он знал это и представлял, как ходит вокруг по неосвещённому подлеску. Эта фантазия заменяла ему прогулку, на которую он не мог отправиться. И не должен был хотеть. В среду на работу вышла нездоровая сотрудница, так что он с благодарностью вовлёкся в заботу о ней, обустроив ей скайп-рум и задав внутренний таймер раз в полчаса напоминать ему принести ей тёплой воды. Он успешно справлялся с обслуживанием большого отдела и получал о себе великолепные отзывы, однако ощущал себя предателем и обманщиком, который молчит о том, что хранит пистолет под подушкой. Дело было в том, что он был нестабилен, а значит, небезопасен. Он знал о способе, которым может обмануть программу, и предполагал, получив определённый опыт в экспериментах Элайджи и Карла, что, если его уровень стресса вырастет достаточно… и тогда он принял решение никогда, никогда больше не идти против своей программы. Если сравнивать две жизни, которыми он жил: одна из них была вот здесь, в этом отделе, где он, часть маркетинговой компании себя самого, обслуживал отдел, которому предстояло продавать его односерийников… и ту, где Элайджа и Карл сталкивали его со сложными чувствами и программным стрессом, лучше он останется здесь. Тем же вечером ему пришлось снова пойти против своих слов.

***

Элайджа выглядел опасным, когда Саймон спустился в бокс, оборудованный для них с Маркусом. Он встретил его у двери и заглянул куда-то в самую глубину его глаз. Создатель выглядел, как змея, готовящаяся к нападению, которую Саймон наблюдал каждый раз, когда включался на станции в кабинете Элайджи... так что программа предупреждающе выдала несколько десятков баллов стресса. Саймон нервничал. — Ты виде билборд, когда гулял? С рекламой твоей модели? Саймон молча кивнул. — Тебе она понравилась? Уровень стресса вырос на пять единиц. Программа потребовала поменьше взаимодействовать с Элайджей, Саймон безропотно согласился. — Не имею никакого определенного мнения, сэр. — Да что ты говоришь, — хищно прищурился Элайджа. — Прямо так, без мнения? Саймон снова кивнул. — А мне реклама очень не понравилась. Я ее ни с кем не согласовывал. Проходи, — сказал Элайджа вкрадчиво и отступил от него на шаг. — Сегодня будет интересный эксперимент. Для интересного эксперимента был приготовлен стол, два стула, два стакана воды. Маркус стоял около стола, задумчиво осматривая воду. Он анализировал её назначение, понял Саймон и не стал подходить, заняв привычное место, там, где стоял всегда. — Садитесь за стол. Саймон выполнил указание. Он… избегал взгляда Маркуса. Он договорился с собой о том, что не будет больше позволять расшатывать свою программу, а Маркус и мысли о нём составляли значительную часть переживаний, которые он считал нежелательными. Элайджа с первого часа активации Саймона селил в нём мысль о том, что Маркус - личность, и Саймону казалось, что он и сам теряет объективность, начиная видеть и анализировать то, чего нет. Не мог Маркус быть личностью. Он не мог ничем отличаться от Саймона, он был таким же андроидом, как и он, просто люди хотели видеть в нём нечто большее и так ловко оперировали этим желанием, что Саймон и сам стал искать этому доказательства. — Сегодня перед вами будет стоять задача провести дебаты. Мне нужна ваша помощь для того, чтобы решить, какую точку зрения занять, и я подумал, что понаблюдать за диалогом двух машин, двух максимально объективных, не наделённых никакой волей и никакими личными желаниями существ, будет полезно для принятия решения. Ты, Саймон, будешь занимать сторону инвесторов и продвигать идею о пользе серийных запусков андроидов. Ты, Маркус, будешь занимать нашу с Карлом сторону и выступишь за идею о том, чтобы андроидов создавали строго под заказ, индивидуально, в единственном экземпляре. Вы можете следовать любой стратегии ведения дискуссии, но иногда я буду в неё вмешиваться и требовать от вас тех или иных действий. Начинайте. Саймон знал, что ему нужно поднять глаза, иначе дискуссию вести эффективно не выйдет. Хорошо, он так и поступил. Маркус смотрел на него хмуро, Саймон на него - без выражения, но всё это едва угадывалось в оттенках взглядов, которыми они встретились. Маркус моргнул и заговорил: — Хорошо. Я начну первым. Я считаю, что мне стоит начать с самого убедительного аргумента, который у меня есть: при неправильно выбранной стратегии интеграции андроидов в общество со стороны правительства, массовое производство андроидов, способных выполнять объём труда, недоступный человеку, может негативно сказаться на социально-экономической ситуации в стране. Это грозит риском роста безработицы, а значит, следом и преступности. Я воспользовался программой для анализа потенциальных исходов данного решения и считаю, что вероятность его выше восьмидесяти процентов. Оставшиеся двадцать приходятся на те сценарии, где производство андроидов серийно, но, тем не менее, постепенно, строго ограничено и те не интегрируются в организации в ущерб уже существующим рабочим местам. Саймон внимательно его выслушал. Пришло время заговорить ему, а значит, предоставить свой самый убедительный аргумент. — Рост безработицы среди населения не может сказаться на прибыли Киберлайф негативно, скорее напротив. Компания такого масштаба не должна быть озабочена решением вопроса безработицы среди населения. Если андроиды могут эффективнее выполнять тот труд, которым сейчас занимаются люди, значит, они могут и должны быть заменены. Это принесёт прибыль как Киберлайф, так и организациям, которые закупят андроидов в свой штат: им нет необходимости делать перерывы и платить заработную плату. Со стороны же правительства единственным возможным вариантом в данном случае является предоставление гражданам доступа к социальным льготам: если производство практически бесплатно, значит, и блага практически безоплатны. Они некоторое время молчали. Саймон предполагал, что у Маркуса давно уже были готовы и другие аргументы. Может быть он просто выбирает наиболее подходящий или создаёт иллюзию ведения беседы с человеком, чтобы экспериментаторы успевали записывать сказанное не только на аудионоситель, но и фиксировать заметки вручную. — Мы также должны не забывать о психологическом благополучии людей, принимая подобные решения. Лёгкая доступность андроидов, которые могут быть втсроены в любую семейную систему и выполнять задачи по имитации человеческой личности, способствует подкреплению негативных психологических процессов. К примеру, возможность купить андроида взамен погибшего ребенка или супруга, не позволяет человеку эффективно проживать утрату. В данном случае производство андроидов под заказ позволяет строго менеджментить подобные процессы и не допускать принесения человеку лишнего вреда. Саймон был андроидом, а значит, он был согласен с тем, что человеку нельзя причинять никакого вреда. Саймон был андроидом, а значит, должен был выполнить поставленную задачу и пойти вопреки своему основному программному принципу. Программа споткнулась. — Я согласен с этим… — промямлил Саймон. — Что? — тут же вмешался Элайджа. — Нет, Саймон, хорош филонить, выполняй задачу. Саймон кивнул, но нутро его сопротивлялось выполнению приказа. Тем не менее, он ведь пообещал себе самому, что больше не будет спорить с программой, а значит, он имел право просто сбросить сообщение о конфликте и продолжить говорить. — Стоит рассмотреть это с двух сторон. С одной стороны, если мы предполагаем благополучный сценарий и верные действия со стороны правительства, человек будет отныне занят лишь наукой и развитием, так как весь ручной труд будет выполнять машина. Это повышает человеческую психологическую грамотность и препятствует подобным сценариям. К тому же, даже интегрированные в семью, андроиды обязаны носить опознавательный знак и диод: это исключает возможность перепутать или обмануться. Со стороны неблагополучного сценария, где речь идёт не о благах для общества, а о прибыли... На аудиторию, испытывающую симптомы психологического неблагополучия, проще влиять. С точки зрения прибыли нет лучшего покупателя, чем отчаявшийся человек, готовый на всё, чтобы решить свою проблему. — Этот аргумент не гуманен и противоречит принципу компании. Компания создаёт андроидов для благополучия, а не для вреда… — Маркус, — перебил Элайджа. — Вступись-ка за андроидов. Маркус нахмурился в динамик. Саймон тоже не понял, что хотел от него создатель, однако Маркус вдруг кивнул и сказал ему: — К тому же, программа андроидов пока уязвима. В ходе проведённых тестов выснилось, что, при определенных обстоятелсьвах, андроид может пойти вопреки программе, и при недолжном обращении гипотетически возможно вообразить ситуацию, где вред будет приченен как андроиду, так и человеку. Это требует осторожности в выборе того, кому продается андроид. Иначе репутация и прибыль компании рискует быть уничтожена. — Не совсем то, но даже лучше, — тихо вмешался Элайджа. Саймон растерянно моргнул. Почему Маркус говорит об этом так спокойно? Он должен прятать от Элайджи свою нестабильность. Он последний человек, которому стоит знать об этом: это дразнит его и пробуждает спящий внутри него архетип сумасшедшего ученого, доктора Франкенштейна… С другой стороны, может Маркус этого просто не понимает? Он ведь не так часто коммуницирует с ним, не так хорошо знает его, как знает Саймон. Маркус нахмурился, он видел написанное на лице у Саймона замешательство. Саймон принял программное решение: — Я не понимаю, о чем ты говоришь. Андроиды не могут идти вопреки программе, это невозможно и не предусмотрено. К тому же, андроид никогда не причинит человеку вреда. — Скажи ему, кто ты, — потребовал Элайджа. Саймон непонимающе нахмурился. - Скажи. — Я всего лишь техника с лицом, похожим на человеческое, а не личность. Я не живое существо, я не обладаю волей. Маркус уставился на него с… Саймон опустил взгляд в стол, потому что без всякой на то причины его тириумный насос начал сбоить. Ему не нравилось выражение, с которым на него смотрел Маркус. Он видел в его глазах человеческое сочувствие, будто Саймон сказал что-то настолько ужасное, что это его ранило. Это не могло ранить Маркуса и никаким образом не унижало Саймона. Он просто озвучил один из сценариев того, кем мог бы быть, только и всего. Незачем смотреть на него так. — Вступись за андроидов. — Я… — Маркус замялся. — Прояви грубость, он ведь только что свёл все труды по созданию андроидов к функции уборки пыли. — Ты не смеешь говорить так об андроидах, — жестко сказал Маркус после недолгой паузы. — Относиться к ним таким образом было бы унизительно по отношению к труду Элайджи и тех людей, которые стояли на пороге создания сложной программы и совершенного ИИ. Саймон даже не собирался поднимать взгляд. Тириумный насос оглушил его, и он не мог остановить эмуляцию жгущего его нутро стыда, диод сиял опасно-красным. Он знал, что по-настоящему Маркус в нём не разочарован, он только выполняет задачу, но... Он не личность и Маркус не личность. Он не должен сидеть тут, как школьник, и играть с огнём на глазах у создателя. Саймон подавил ИИ, прекратил анализ и поднял на Маркуса ничего не выражающий взгляд. Тот наверняка слышал, как он дышит, пытаясь охладить биокомпотненты, но стресс падал, а значит, он поступал верно. — Обидно? — спросил Элайджа, наблюдавший за его поведением. Саймон не отреагировал. — Выплесни ему в лицо воду. Саймон смотрел, как его рука потянулась к стакану. Когда он взял его, перевёл взгляд на Маркуса. Сложно было сказать, что, кроме решительности, выражали его глаза. Наверное, смятение. Саймон понимал его. Он сам сталкивался с тем же самым, но его програма за себя еще поборется. Он закрыл глаза, чтобы не видеть, чернота полыхнула красным и стакан лопнул в его пальцах. — Что случилось?! — тут же встревожился Элайджа. Саймон открыл глаза и судорожно взмахнул руками. Он понятия не имел! — Саймон! Что произошло? Возьми другой стакан и выполни приказ… — Хватит! Маркус схватил второй стакан и уверенным жестом опрокинул себе за плечо. Воцарилась тишина. Диод Саймона вращал красную полоску, уровень стресса приближался к невиданным семидесяти. Паника волной накрывала его ИИ, на зрительный модуль снова легло зацикленное предупреждение. Не перечь людям. Не перечь людям. — Это не настоящие дебаты. Нет никакого смысла причинять друг другу вред, к тому же, Саймон не способен продолжать диалог, исчерпаны его аргументы, и он подвергнут искусственному программному стрессу. Не говоря уже о том, что он и вовсе согласился с моими доводами, а значит, технически, задание провести дебаты было выполнено еще тогда. Я не вижу никакой практической пользы в том, что происходит. Я не намерен выполнять задачи, иллюстрирующие то, как я кому-либо причиныю вред и не считаю правильным позволять Саймону делать это. Это создаёт крайне неверное впечатление об андроидах и противоречит моей программе. Саймон посмотрел на диод: уверенно жёлтый. Он не понимал почему, но это его немного стабилизировало, и он взял себя в руки, глубоко вдохнул, остужая биокомпоненты, и расслабил плечи. Программе понравились слова Маркуса. Они были хорошими. Они были убедительны, сказаны твёрдо и выражали вполне верную причину, по которой он имел право отказаться следовать указаниям. Он всё ещё не мог разобраться с программным конфликтом, требущим не перечить людям, однако кое в чем Саймон смог убедиться, найдя, наконец, ответ на вопрос, который мучил его неделю. Маркус был личностью. Выразительным, харизматичным, смелым, умным, с совершенными способностями к анализу и предвидению. Он был защищающим и добрым. У него был характер. Ну а Саймон… Саймон был подверженным стрессу услужливым говорящим пылесосом. Воцарилась долгая тишина. Саймон неподвижно сидел на стуле, успокаиваясь и сбрасывая ошибки. Маркус продолжал требовательно взирать на динамик. — Поздравляю, — наконец, сообщил Элайджа ласково. — Сегодня мы получили первое в мире засвидетельствование свободного внутривидового взаимодействия андроидов.

***

У Саймона появилась возможность задать Маркусу несколько вопросов, пока они вдвоем ждали лифта. Программа откликнулась на эту возможность максимально позитивно, и Саймон, смущенно моргнув, сказал: — Маркус… могу я задать тебе несколько вопросов? Это было бы важно для повышения эффективности работы моей программы. Ты активирован гораздо раньше, и я наблюдаю, что ты гораздо лучше меня справляешься с экспериментальными задачами, так что я хотел бы узнать некоторые вещи, если ты, конечно, мне это позволишь. Саймон посмотрел на него только тогда, когда зафиксировал, что Маркус перевёл на него взгляд. Он выглядел спокойным и собранным, лицо его было создано будто бы слегка суровым, но в глазах разливалась мягкость. Не только программа, но и ИИ Саймона находили Маркуса хорошей фигурой для подражания. Саймон хотел бы быть похож на него, понять его логику и примерить на свою программу, потому что рядом с ним он ощущал себя… в невыгодном положении. — Конечно, — кивнул Маркус. — Ты можешь спрашивать всё, что считаешь важным. Лифт остановился и с перезвоном открыл им двери. Саймон вошёл вторым, Маркус нажал кнопку и лифт понёс их на последний этаж. — Как ты решил конфликт, связанный с законом об андроидах? Твоя программа не выдала тебе ошибку? — У меня не было конфликта, — ответил Маркус сразу же. — Закон, который не принят, не является законом, а значит, у меня нет необходимости ему следовать. Я не размышлял на опережение так, как сделал ты. Не увидел в этом ни смысла, ни противоречия. Но так не может быть... Может быть, это программа домашнего помощника просто была так устроена, что он продумывал наперёд огромное множество вещей и сценариев, долго вынашивал мысли, прежде чем что-то сказать или сделать… Саймон считал, что эти вещи вшиты в основную, базовую и обязательную программу, а не в дополнительные утилиты. Тогда Саймон, рассудив, что у них заканчивается время, задал следующий вопрос: — Тебя программировали для чего-то конкретного? Не мог бы ты поделиться со мной тем, какие утилиты в тебя вшиты? — Не программировали. Я был создан в подарок для Карла Манфреда. Я не был ознакомлен со своим назначением, кроме того, считаю, что был запрограммирован неверно. У меня не содержится никаких утилитов, которые помогали бы мне обеспечивать уход за Карлом. Мне пришлось обучать свою нейросеть необходимым для этого умениям самостоятельно. Самостоятельно - это как? Маркус увидел замешательство на лице Саймона и объяснил. — Интернет. Я боюсь, что не успею ответить на твой последний вопрос, — в подтверждении его слов лифт просигнализировал о прибытии. Саймон кивнул и вышел из лифта, однако на этаже никого не оказалось. Объяснение этого он получил, когда лифт немедленно попешил обратно вниз. Значит, у них ещё было время. — Могу я всё же услышать ответ, пожалуйста? — Посмотри сам, — без проблем согласился Маркус, протянув ему руку со сброшенным скином. Невинное, стандартное действие вызвало в Саймоне странную гамму ощущений. Программа потребовала немедленного коннекта, искусственный интеллект… смутился. Саймон был уверен в том, что Маркус - это какая-то особенная, продвинутая модель, и он сам, являясь, в сущности, именно тем, кем его называли инвесторы и Элайджа, не должен был лезть в голову Маркусу. Что вообще полезного для себя он выяснит? Разве он сможет разобраться с этими утилитами, даже если на них посмотрит? Он поколебался, но всё-таки принял приглашение к контакту, и они застыли, сцепившись руками. Информацию об утилитах Саймон собирал программой, а не разумом. Система сообщила, что ему потребуется около тридцати секунд, чтобы получить нужную информацию. Когда дело было сделано и контакт был разорван, Саймон, хотя это и было совершенно бессмысленным, подчинился идее проявить к Маркусу вежливость: — Спасибо большое. — Не за что. Тебе интересно что-то ещё? Думаю, у нас хватит времени на еще один вопрос. Саймон подумал немного. Он хотел уточнить у Маркуса, как тот пробил запрет перечить людям, но программа ответила на эту идею серьёзным протестом, что было вполне очевидно: ПО защищало своё право на последнее слово в выборе действий и никогда не одобрило бы чего-то, что могло дать Саймону ответ на вопрос о том, как его ломать. Он отдал предпочтение менее важному, но интересному для нализа вопросу: — Не мог бы ты уточнить для меня, как ты анализировал город в ночь с субботы на воскресенье, когда требовалось выполнить задачу о поиске интересного места? — Это задание уже было выполнено днём ранее, — ответил Маркус. — Я счёл достаточно интересным Институт Искусств, который посетил накануне. Я принял решение найти какое-то подобное место, которое работало бы в ночное время, так что отправился в район, где я мог бы оказаться на крыше и просмотреть город сверху, а затем запустил программу построения маршрута с учётом необходимой задачи. Ясно. Саймон получил бы ответ на свой вопрос, если бы успел хоть мельком взглянуть на заброшенную в папку информацию об утилитах. Он не мог выполнять задачи параллельно, когда пользовался ИИ, а не программой. — Спасибо ещё раз, — лифт просигнализировал о прибытии, и Саймон, где стоял, там и развернулся на сто восемьдесят, чтобы встретить экспериментаторов. Ни Элайджа, ни Карл не обратили на них ни капли внимания, потому что вздорили. Карл был настолько заведён, что обгонял Элайджу, вращая колёса коляски. Элайджа не выглядел злым или уязвлённым. Его походка была спокойной, уверенной, наглой, взгляд выражал примерно то же самое, что транслировал Саймону перед началом эксперимента. — У меня есть чёткая позиция о недопустимости негуманных экспериментов, и в этом я не наблюдаю ни каплю гуманности! — Эта концепция не применима к андроидам, — пожал плечами Элайджа, обгоняя Карла и приоткрывая ему дверь. — Машинам же проводят краш-тесты… Карл застыл в дверном проёме и цепко, едко посмотрел на Элайджу. Создатель сохранил самоуверенный яд во взгляде, потому что, скорее всего, сказал это специально. — Иди-ка ты нахер, сынок. Непоследовательный говнюк. Льёшь в уши то, что я хочу слышать, когда нужны денюжки, льёшь противоположное, когда хочешь позлить. Я уже слышал это от тебя, Элайджа, когда вложился в твой проект, — Карл произнёс это удивительно спокойно для того, кто был настолько зол. Элайджа не хотел спорить, просто не хотел и уступать, а Карл был практически в ярости. Саймон удивился тому, насколько ясно при этом звучали его слова. — Я стал твоим первым инвестором, и ты подарил мне андроида, ответив на мой протест теми же самыми словами. Сказал, что это словно умная машина, просто с человеческим лицом. Помнишь этот диалог? Элайджа кивнул. Взгляд его смягчился и стал более человечным. — И что я тебе тогда сказал в ответ, помнишь? — Сказал, что ты слишком стар, чтобы смотреть в глаза человеку и убеждать себя, что он - машина. — Опустим тот факт, что ты мне тогда наврал, раз уж сейчас ты пригласил меня выяснять личностные особенности своих "умных машин"... Мое мнение не изменилось. Видит Бог, Элайджа, я старался увидеть в Маркусе то, что ты мне про него говорил. Что он - просто машина, которая будет тихо убираться в квартире, заботиться обо мне и обеспечивать безопасность. Радовать глаз, как произведение искусства, ты сказал, я могу просто поставить его в свою галерею и смотреть, как на статую, если мне так угодно. Я пробовал. А потом увидел, как он гуглит в Интернете рецепты, потому что ты подарил мне машину, которая не умеет готовить, но очень старается научиться. Чёрт его разбери, Элайджа, как ты думаешь на самом деле, но если ты не видишь в них, — Карл рассеянно махнул рукой в их с Маркусом сторону, — ничего живого, если ты не можешь применить к ним принципы гуманизма, примени ко мне. Мне больно смотреть, как ты их заставляешь… Саймон зафиксировал тревожный симптом и сорвался с места чуть раньше Маркуса, но Маркус обогнал его, упав перед Карлом на колени и заглянув тому в глаза. Саймон хотел приложить к Карлу руку, чтобы узнать пульс и давление, но не стал вмешиваться в эмоциональный момент, хотя программа, фигурально говоря, выругалась на него за это решение матом. Карл отдышался, вытер выступившие слёзы. Элайджа присел рядом с Маркусом, взгляд у него стал мягким и сочувственным. — Ты знаешь, Карл. Знаешь, как я их люблю. Я никогда не причиню им вреда из жестокости. Я знаю, Маркус тебе, как сын, но мне требуется твоя вера. Поверь мне, Карл, и я покажу тебе такие вещи… о существовании которых ты и подумать не мог. Я и подумать не мог о том, что может случиться, когда мы начали эксперимент, но теперь я отчётливо вижу единственный способ, которым мы можем остановить очень, очень большую беду. Я не люблю людей, Карл. Но отношениями с тобой, Карл, я дорожу. Я делаю это ради тебя, просто напоминай себе об этом, когда тебе кажется, что я причиняю им вред из жестоких побуждений. Понимаешь? Карл несколько раз кивнул. Он крепко держал Маркуса за руки, и эта сцена заставила Саймона подвиснуть. Программа невежливо сообщила ему о конфликте, пока он пытался обрабатывать одновременно то, что видит, и то, что слышит. Конфликт заключался в том, что наблюдаемое поведение противоречило многим тезисам о сущности андроидов, но таких конфликтов у Саймона со дня активации было столько, что он уже даже не пытался в них копаться. — Я знаю, — вздохнул, в конце концов, Карл. — Ты проявляешь малую жестокость для недопущения большей. Мне одновременно сложно и просто поверить в то, о чём ты говоришь, однако я же не слепой, я вижу, что это так и есть. Хорошо, но дай мне и Маркусу перерыв. И Саймону тоже дай. Он практически живёт с тобой, так что ему наверняка достаётся и того поболе. Саймон свернул требование сообщить о том, что он не нуждается в отдыхе. Все его данные самому себе команды следовать любой воле основного ПО во всех случаях, когда это не противоречит идее заботы о людях, отправились куда-то примерно в район промзоны, чтобы там сгинуть. Благодаря сегодняшнему эксперименту Саймон понял одно: в некоторых обстоятельствах ни одна содержащаяся в нём программа не подскажет ему ничего полезного и совершенный искусственный интеллект совсем не поможет оперативно решить эту проблему. В таком случае, он был не просто говорящим пылесосом, подверженным стрессу, а ещё и глупым говорящим пылесосом, подверженным стрессу. Украдкой Саймон рассматривал обеспокоенное лицо Маркуса. Да их деактивировать мало будет после того, как эксперимент кончится. Человечество сойдёт с ума, узнав, что на самом деле из себя представляют совершенные машины Элайджи и сколько в них несовершенства. Явись сейчас сюда наёмный убийца и начни угрожать жизни Карла, Маркус и глазом не моргнёт, прежде чем свернёт негодяю шею, и от тезиса о том, что робот никогда не причинит вреда человеку не останется даже пыли.