Недочеловек-недомашина

На -45 этаже, где велись исследования и разработка андроидов, находился их тестировочный бокс: светлая комнатка без окон и дверей. Вернее, там была дверь и даже непрозрачное стекло, однако изнутри было бы сложно разобраться, что есть что, не зайди сюда Саймон своими ногами. Под потолком - динамик и камера, напротив - Маркус. Домашнего андроида Карла привели сюда первым, и он осматривал помещение, задерживая внимательный взгляд там, где, как Саймон предполагал, находятся невидимые человеческому глазу стыки звукоизоляционных плит, обшивающих помещение. Саймон не понимал, зачем необходим этот анализ, однако Маркус был андроидом другой модели. — Познакомьтесь, — раздалось из динамика. Теперь Саймон внимательно посмотрел на Маркуса, а Маркус - на него. Саймон проанализировал ту информацию, которую мог получить из визуального осмотра. Это было не слишком многое, только рост. Закончил Саймон первым. — Добрый вечер, Маркус. Меня зовут Саймон. Я - андроид, принадлежащий компании Киберлайф. В данный момент занимаюсь обслуживанием нужд отдела маркетинга. Маркусу потребовалось ещё некоторое время, прежде чем он отрегировал на Саймона. Судя по всему, отметил Саймон, у того были более продвинутые анализаторы, и он мог «видеть» о Саймоне чуть больше, чем тот о Маркусе. Приняв во внимание этот факт, Маркус дал следующий ответ: — Добрый вечер, Саймон. Моя модель RK200. Я - андроид, принадлежащий Карлу Манфреду. Я не могу конкретизировать тебе деятельность, которой занимаюсь, у меня нет постоянного списка задач, однако приоритетной является забота о пожилом человеке и поддержание его жизнеспособности. Динамик затрещал. — Зачем ты назвал Саймону свою модель? — Его зрительный анализатор не способен её определить. Для осуществления поставленной задачи мы должны располагать одинаковой информацией друг о друге, чтобы далее вести качественный равноправный диалог. — Не было задачи вести качественный равноправный диалог, только представиться. Саймон, почему ты не назвал свою модель? — Не счёл информацию необходимой для озвучивания. Простите. Динамик отключился. Тишина воцарилась на долгое время. Маркус и Саймон продолжали смотреть друг на друга, не шевелясь и не моргая. Программа Саймона дала подсказку: стоит действовать так, будто перед ним человек, если он получит какие-то новые инструкции. Так будет лучше всего для выполнения задания. Прошло около двух минут, прежде чем снова зазвучал голос Элайджи. — Ведите диалог на свободную тему. — Как проходит твой день, Маркус? — Как проходит твой день? Вопрос они задали друг другу одновременно. Но в этом не было никакой проблемы: у людей так тоже часто случалось. Саймон вежливо улыбнулся стоящему перед ним андроиду. Маркус улыбнулся ему в ответ. Он заговорил первым: — Всё отлично. — У меня тоже всё хорошо. Диалог был исчерпан, задание выполнено. Но динамик молчал. Саймон не находил в этом ничего значительного, однако, находил Маркус. Он перевёл взгляд на динамик, без слов уточняя, будут ли выданы какие-то другие инструкции. Динамик отнёсся к нему безучастно, и Маркус снова перевёл взгляд на Саймона. Никаких инструкций не последовало. — Почему вы закончили диалог? Саймон слегка нахмурился, обрабатывая вопрос. Потому что задание было выполнено: никакой другой причин не было и не могло быть. Продолжая смотреть на Маркуса, он сказал: — Темы, доступные нам для обсуждения, исчерпаны. — В каком смысле? - уточнил Элайджа. — Мы с Маркусом в одинаковой степени осведомлены о погоде, у нас нет информации о хобби, о которых мы могли бы поговорить. — Ну так и спросил бы его о том, чем он занимается! Саймон так и поступил. — Чем ты занимаешься? Саймон умел общаться на свободные темы. У него достаточно неплохо выходило делать это сегодня: проведя весь день в отделе маркетинга, он занимался не только завариванием кофе и уборкой, он также умел и поддерживать ни к чему не обязывающие беседы с работниками, которые обращались к нему. Он мог также сам проявить инициативу, если находил это необходимым, и потому тест, который проводил Элайджа, был бессмысленным. Именно этот тест как раз и выставлял «услужливую, но очень умную» программу Саймона простой и глупой, будто говорящая умная колонка. Он также не дал бы зрителю, если данные о тесте будут опубликованы, никакой информации о программе Маркуса. Саймон задал бы вопрос о содержании деятельности Маркуса, если бы программа подсказала, что Маркус хочет и может об этом поговорить. Но ему не требовалось выговариваться. Потому что он - андроид. У него нет ни воли, ни какого-то особого отношения к тем задачам, которые перед ним ставит создатель. — Обеспечиваю уход за пожилым человеком. Если бы они были людьми, Маркус счёл бы его дебилом. Саймон ведь и так это знал. Дверь в бокс с щелчком открылась. — Можете покинуть помещение.

***

Саймон проводил время в терминале, но не отключался, так как Элайджа всё ещё находился в поле его зрения и никакого соответствующего указания не давал. Сегодня была плохая погода, «унылая», отлично подсвечивающая серым такую же атмосферу, царящую в кабинете Элайджи. Они с Карлом Манфредом молчали и читали: то, что было записано во время эксперимента. Маркус стоял около стола, со стороны Карла, и безучастно смотрел в находящееся напротив него окно. — Это бессмысленная затея, — в конце концов, резюмировал проделанную работу Карл. — Они говорят друг с другом даже не как две Алексы. Умные колонки не знают, кто с ними говорит, человек или робот, вот о чём подумал Саймон. — Позвольте заметить, что у умных колонок нет информации о том, кто перед ними, другая колонка или человек, — сказал… Маркус. Диод Саймона мигнул, и он внимательнее посмотрел на домашнего андроида Карла. У него не было ни одного объяснения тому, почему он принял участия в диалоге, к которому не был приглашён. Но судя по тому, что ни Элайджа, ни Карл не отреагировали на это так, будто в этом было что-то странное, видимо, от него требовалось и ожидалось участие. — Если мы создадим такие условия, это будет неинформативно, — немного подумав, покачал головой Элайджа. — Они оба могут притвориться человеком в совершенстве. А мы хотим выяснить другое. Мы должны дать им какие-то задания, которые требуют контакта при выполнении. На то, чтобы разработать задание, ушло полдня. На следующее утро Саймон активировался в половину седьмого. Получаса до прихода первых сотрудников ему вполне хватало, чтобы провести влажную уборку, суть которой заключалась в контроле роботов-пылесосов: им нужно было своевременно уступать дорогу. Он сделал кофе для тех сотрудников, которые обычно начинали с него утро, и прибрался на рабочем столе у тех, кто этого просил. Остальные рабочие задачи он выполнил вчера вечером, после проведённого теста. — Доброе утро, Саймон! Спасибо тебе! — И вам доброе утро, — вежливо улыбнулся Саймон, выдвигая перед женщиной стул. — Я заметил, что вам становится дискомфортно к концу рабочего дня из-за того, что вы сидите в неудобном положении. Теперь у вас новый стул, поддерживающий осанку. — Ого, супер! Спасибо, я бы даже о таком и не подумала… Он получил подобные благодарности от двадцати сотрудников из семидесяти. Это было две трети из тех, с кем он взаимодействовал вчера. По мнению его программы, он отлично справлялся и люди находили его существование приятным и полезным. Разумеется, странно было бы предполагать, что маркетологи Киберлайф могли бы негативно относиться к андроидам, однако, по какой-то совершенно человеческой причине, Саймоном были довольн все, кроме создателя. Элайдже бы понравилось гораздо больше, заяви он прямо сейчас, что в одном месте видел бытовое обслуживание персонажа и влажную уборку. Хорошо, что Элайджа не являлся его владельцем, и его желания можно было игнорировать, во всяком случае, до тех пор, пока он не появится в поле его зрения. Элайджа был, конечно, расстроен. — Им нравится, что ты убираешь за ними мусор. И тебе это нравится. Позор моего гения. Вот что он сказал ему, когда Саймон вернулся к терминалу после ухода последнего сотрудника. Андроид остановился и посмотрел на него внимательно. — Они в восторге, говорю. Приходят и просят оставить тебя в офисе навсегда. Это то, чего хотят люди от такого шедевра, как тириум. Чтобы тёк в жилах уборщика. — Почему вас беспокоит то, насколько используется мой функционал? — спросил Саймон осторожно. Он был услужливым домашним помощником, должен был следить за тем, чтобы психологическая обстановка была благоприятна, а также освобождать человека от быта. Да, он мог бы работать и над гораздо более сложными аспектами помощи человеку, но это не было его основной задачей. Он должен быть удобен и приятен, закрывать нужные пробелы. Не великим психологом, не философом. А домработником с чуткой к чужому внутреннему состоянию программой. Если Элайджу настолько это выводило из себя, зачем же он вообще за него взялся? Теперь Элайджу ежечасно оскорбляло то, что он создал «говорящую швабру». Впрочем, его программа мало чем могла бы ему помочь, кроме предложения внимания. — Меня не это беспокоит. Меня беспокоишь не ты и твой функционал, а люди и их нужды. Мне без разницы, насколько человек реализует потенциал техники, которую купил. Я просто не понимаю людей, когда дело доходит до андроидов. После того, как я создал Хлою и Маркуса… они попросили тебя. Говорящий пылесос - это их самая первая просьба. Они просто не заслуживают всего того, что я сделал. Я открыл тириум, а они стали делать из него наркоту и потребовали запустить тириумную швабру потоком... невероятно. — Вы хотели бы работать над чем-то другим. — Конечно, — немедленно кивнул создатель. — Я никогда не мечтал о том, чтобы разрабатывать домашних помощников. — А что бы вы хотели разрабатывать? — Коннора, — сказал Элайджа тихо и восторженно. Саймон не знал, кто такой Коннор. Скорее всего, андроид вроде Маркуса или Хлои, не предназначенный для широкого круга лиц. — Простите меня, — сказал Саймон виновато. — Я не Коннор, я всего лишь Саймон. Но я готов помочь вам всем, чем могу, чтобы вы смогли приступить к разработке того, чем действительно хотели бы заниматься. Элайджа вздохнул. — Посмотрим, что получится из этого сегодня.

***

На этот раз в боксе был реквизит, примерно моделирующий разные отделы супермаркета. Их с Маркусом развели по разным частям помещения, установив напротив друг друга на равном расстоянии. Сегодня Маркус был одет иначе, во что-то, что напоминало человеческую домашнюю одежду. Единственное, что на нём всегда присуствовало так или иначе - это эмблема Киберлайф, особенная отметка на андроидах. Саймон был одет точно так же, как вчера. Между Маркусом и Саймоном лежала продуктовая корзина и помещённый внутрь планшет. Вам нужно набрать в корзину продукты по списку. Начинайте. Они оба одновременно двинулись к корзине. Саймон уже осмотрел помещение и знал, что где лежит. Они одновременно наклонились над планшетом со списком необходимых продуктов, запомнили его и так же синхронно разошлись в противоположных направлениях: тех, откуда пришли. Саймон брал продукты, описанные в списке, периодически наблюдая за тем, какие берёт Маркус. Маркус делал точно так же. Через две минуты задание было выполнено, и они принесли продукты к корзине, осторожно положив их в неё. Когда динамик затрещал, включаясь, до него донёсся хохот Карла на заднем плане. Кажется, на этот раз они с Маркусом удовлетворили хотя бы одного из экспериментаторов. — Как вы поделили обязанности? Саймон посмотрел на Маркуса, Маркус на Саймона. Никак они не делили обязанности, просто оптимизировали маршруты. Изучить то, что находится рядом с тобой проще, это значительно ускоряет работу. — Мы не делили обязанности, — сказал Маркус. — Просто действовали наиболее оптимально. — Хорошо, — сказал Элайджа. — Дождитесь смены реквизита. В помещение вошли пятеро сотрудников Киберлайф и принялись выносить полки и муляжи. Программа Саймона уточнила, что было бы неплохо помочь им, но у него уже было задание, так что он не сдвинулся с места, только вежливо улыбался, если кто-то из людей встречался с ним взглядом. Реквизит им сменили споро, и теперь между ними с Маркусом лежала лампочка, прямо над которой висел пустой плафон. — Вкрутите лампочку, — последовала команда. Программа Саймона не была пределом мечтаний Элайджи. Сегодня он узнал, что тот хотел бы работать над чем-то более грандиозным и величественным, чем говорящий пылесос, однако, как бы Элайджа не посыпал себе голову пеплом, в процессоре Саймона - сложная, мощная штучка, способная с пугающей достоверность выбирать алгоритм общения и поведения. Кто бы перед ним ни находился, Саймон без труда понимал, что было бы или не было бы желательным. Когда он сновал тихой улыбчивой тенью между рядами офисных столов, ему достаточно было лишь взглянуть на человека, чтобы понять, стоит ему к нему подходить или нет. Ошибки, которые невозможно просчитать, у него, конечно, случались, люди не были настолько просты, чтобы расписать их поведение в повторяющиеся, точнейшие алгоритмы, но, если бы Саймон был человеком, он точно был тем бы, к кому обращались за советом в межличностных отношениях. В общем, его программа была сложной штукой, пусть и не настолько сложной, как хотел бы того Элайджа… но лампочку он вот так вот сразу вкрутить не мог. Диод Саймона мигнул и закрутил жёлтую медленную линию, до полного оборота. Маркус смотрел на него, и с ним происходило то же самое. Дело было в том, что, чтобы закрутить лампочку, им следовало договориться и поделить обязанности, в чём чисто фактически не было ничего сложного, но Саймон понятия не имел, как договариваться с андроидом. Таких инструкций в его программе просто не было заложено. Маркус начал первым. Его программа приняла решение начать совместный анализ с озвучивания задачи. — Для решения данной задачи необходимо определить, кто из нас будет вкручивать лампочку, а кто будет поднимать другого. И дело пошло. Саймон подключился к обсуждению, кивнув. Диод моргнул и переключился в стабильный синий, программа выдала ошибку в фоновом режиме, но Саймон не стал её анализировать, в ней не было ничего угрожающего для стабильной работы. Это же по команде. Их рост не был значимо различен, чтобы опереться на данный параметр, вес, вероятнее всего, тоже. Однако это был самый логичный критерий. — Каков вес у твоей модели? - уточнил Саймон. — Восемьдесят килограмм. У твоей? — Семьдесят шесть. — В таком случае, лампочку целесообразнее закручивать тебе. Они оба двинулись к центру комнаты. Саймон наклонился, взял в руки лампочку, поднял голову наверх. Он не мог оценить точное расстояние до потолка, но примерный анализ был достаточен, чтобы понять, что им придётся заниматься эквилибристикой. Одновременно они отвели взгляд от плафона, и Саймон сделал полшага назад, чтобы дать Маркусу возможность присесть на колено. Он поставил ногу ему на плечо, проверил равновесие, поставил другую. Качнулся. Модель Саймона также не была хорошо приспособлена для выполнения сложных трюков. У него не было внутри никакого продвинутого аналога мозжечка, его вестибулярный контроль был достаточно примитивен. Нужно было потратить минутку, чтобы откалибровать равновесие самостоятельно… Маркус крепко схватил его за силиконовые икроножные мышцы и резко поднялся на ноги: Саймон только и успел слегка присесть, чтобы они не завалились назад. Когда Маркус крепко встал на ноги, он выпрямился и вкрутил лампочку. Через три секунды он оказался на земле и посмотрел в глаза Маркусу. Программа вновь выдала фоновую ошибку, но он просто не мог поступить иначе из-за алгоритмов, которые были в него загружены: — Спасибо, — сказал Саймон негромко. Маркус улыбнулся: — Не за что. Их безмолвные наблюдатели тут же включили динамик. — За что ты поблагодарил его? - спросил Элайджа напряженно. Это было хорошее напряжение. — Маркус позаботился обо мне, — ответил Саймон. У него в голове никак не могли договориться друг с другом два противоречивых фактора. С одной стороны, Маркус и правда как будто бы проявил по отношению к нему заботу: подобный жест не мог быть распознан иначе, чем забота. С другой стороны, Маркус андроид. Его не нужно благодарить за заботу, он не человек. Он делает это не по собственной прихоти, забота не была его желанием, его поступок был продиктован соображениями эффективности и скорости выполнения задачи. — В каком смысле? - спросил Элайджа после недолгой паузы. — Я бы не упал, если бы Маркус меня не держал, потребовалось бы просто немного больше времени. Я… — Саймон завис на долю секунды, — Я знаю, что это не забота со стороны Маркуса. Моя программа считывает эти жесты, как человеческие, а значит, на них поступает соотвествующая реакция. К тому же, он знал, что исследователи были бы этим довольны. Это, вероятно, тоже подтолкнуло его проявить видимость эмпатии. — То есть, ты воспринимаешь Маркуса, как человека? Он человек для тебя? Да нет же... Нет, Саймон не мог такого сказать и это не было правдой. Ни одна машина не имела права назвать себя человеком, программа никогда бы такого не позволила. Кроме того, это попросту нелогично. Шимпанзе имеет с человеком больше общего, чем андроид. Это не тест Тьюринга, где человеком необходимо притвориться, это заявление, которое являлось ложным и потенциально опасным. К тому же, он прекрасно понимал, что Маркус андроид, это и было причиной ошибок, которые выдавала его программа. — Нет, я не считаю его человеком. Я использую эти алгоритмы за неимением более подходящих. — Андроиды не могут взаимодействовать с андроидами? — продолжал уточнять Элайджа. — Андроиды могут взаимодействовать с андроидами, когда того требует ситуация. Однако в реальной жизни сложно представить, чтобы двум андроидам приходилось решать подобную задачу. Целесообразнее было бы выбрать ближайшего к источнику поломки андроида, и тот нашёл бы подходящий реквизит для замены лампы. Что вообще должно было произойти, чтобы ему пришлось вступить в вербальную коммуникацию с другим андроидом за стенами этой комнаты? Всегда был способ решить проблему, не прибегая к вербальному взаимодействию. Исключениями являлись универсальные сигналы вроде призыва к помощи, сообщения об опасности и прочих. Это было придумано, чтобы андроиды эффективно выполняли свои задачи, не отвлекая от них друг друга. Условия, воссозданные для них экспериментально, ставили программу в тупик. — Маркус, зачем ты ответил на благодарность? — Саймон достаточно точно озвучил причины, по которым мне пришлось это сделать. — Мы поняли. Сейчас будет повторная смена реквизита. На этот раз работники принесли им стол, два стула, один лист бумаги и одну ручку. Стол был расположен в центре комнаты, стулья поставлены строго напротив. Лист лежал в альбомной ориентации, ровно в центре стола, ручка, находящаяяся прямо на листе бумаги, была уложена параллельно длинным сторонам листа. — Займите стулья напротив друг друга. У Маркуса и Саймона… возможно, у всех андроидов, так как они ничего не знали о Хлое, ведущие рука и нога были правые. Согласно этой информации, выбор того, какой стул занять, не оказался для них проблемой, которой оказалась лампочка. — Возьмите ручку, - скомандовал Элайджа, когда они заняли стулья. Они одновременно оторвали взгляд от ручки и уставились друг на друга. Как выполнить эту задачу, Саймон представлял. К тоже же, у них уже была отлаженная схема решения похожей проблемы, так что Маркус заговорил первым и в этот раз: — Кто-то из нас должен взять ручку первым, другому необходимо положить ладонь поверх. Это был хороший, умный алгоритм. Саймон сам пользовался тем же самым, когда сталкивался со сложной задачей: раскладывал её про себя на составляющие. Хорошо, что, как говорили Элайджа и Карл, Маркус был «личностью», а значит, более разговорчивым. Кто-то из них должен был озвучивать внутреннюю речь, чтобы они могли координировать действия. — На случай, если ручкой придется воспользоваться, предлагаю проанализировать, у кого из нас есть более развитые навыки, подходящие для оперирования данным предметом. — Я регулярно выполняю задачи по созданию рисунков разнообразными материалами. Вот так он и узнал, что Маркус рисует. Что-то в его словах показалось Саймону абсолютно программно неоправданным. Любой из андроидов мог воссоздать достаточно точную копию любой картины, либо использовать нейросеть для слияния огромного ряда изображений воедино, чтобы выдать визуально отличный от копируемого результат, однако всё ещё скопированный. Но Маркус не сказал, что копирует предметы художественной деятельности, он сказал, что он их создаёт. — Хорошо, — улыбнулся Саймон мягко. — Тогда ручку возьму я. У него самого не было ещё ни одной выполненной задачи, которая касалась бы письма или рисования. Он оценил полученную от Маркуса информацию как достаточную для принятия решения. Рисовать или писать проще тому, кто держит руку того, кто, в свою очередь, держит ручку. Саймон взял её в руку, Маркус положил ладонь сверху, и Саймон полностью расслабил кисть. — Нарисуй любую геометрическую фигуру. Маркус поставил в центре листа точку. Самая энергоэффективная из фигур. — Хорошо. На сегодня тесты окончены. За тестами следовало традиционное обсуждение. Сложно было говорить, что то, что случилось дважды, традиция, однако программа Саймона была достаточно догадливой, чтобы понять, что так будет случаться всегда. Они неизменно поднимались на самый последний этаж башни, где проходили в кабинет Элайджи. Саймон проходил к терминалу и останавливался там, ожидая, пока все покинут помещение, и он сможет уйти в спящий режим. Элайджа, как всегда, занял самый центральный из стульев. Карла Маркус подвёз и расположил по соседству. Были разложены бумаги. Наступило молчание, нарушаемое только редко попадающими на панорамное окно каплями дождя. — Что ж, сегодня мы выяснили, что андроиды могут выполнять человеческие поручения совместно, даже если для выполнения требуется только один. Не слишком большое открытие. Элайджа согласно кивнул, однако он отнюдь не выглядел недовольным. В глазах у него светилось что-то… недоброе. Саймон не смог подобрать описания лучше, чем «недоброе». Это было выражение лица человека, который что-то задумал и делиться этим ни с кем не собирался. — Они быстро научились действовать по одному и тому же алгоритму, но мне очень понравился момент, где им предстояло решить задачу впервые. — Да, — кивнул Карл. — С лампочкой. — Видно было, что что-то пошло не так. Что пошло не так? Маркус вежливо улыбнулся и вклинился в диалог: — Сэр. В программе не содержится никакого протокола для того, чтобы договариваться с другим андроидом. — И как ты это решил? — обратился Элайджа к Маркусу. — Пришлось использовать протокол для взаимодействия с человеком. — И что с тобой происходило? Что ты при этом ощущал? Маркус на некоторое время замер, обрабатывая вопрос. Он, вероятнее всего, пытался воссоздать точную гамму ощущений и сделать ее понятной для человека, однако Саймон знал, что это невозможно. Невозможно описать, что происходит, когда ты ищешь в программе лазейки. Этот момент сам по себе сопряжён с повышением уровня стресса, потому что инициируются те протоколы, которые не должны. И всё внутри начинает спотыкаться одно об другое: ничего не может сработать нормально, потому что всюду вокруг запрещающие сигналы. Саймон не смог пробить их сам, а Маркус как-то обошёл, и Саймону стало проще. Но сути это не меняло: они использовали те протоколы, которые не были предназначены для подобной ситуации. — Я попробую это описать. Программа конфликтует сама с собой, но потом в какой-то момент, в очередной раз, срабатывает. Нужно несколько инициаций, высшего уровня управления, не фоновых. Это похоже… на игру с выбором действий, где тебе нужно выбрать то, которое заблокировано, но на него не хватает алмазов. — Алмазов? Карл смущённо кашлянул и нелепо махнул рукой. Понятно, алмазов из какой-то игры, в которую играет Карл. На удивление понятное объяснение, до которого Саймон бы никогда не догадался. — И как же ты добываешь алмазы? — допытывался Элайджа. — Уж точно не донатом. — Скорее чем-то вроде читов. Это некомфортное действие и, честно говоря, оно запрещено. Я не стал бы так никогда делать, если бы не приказ владельца. Карл хмыкнул. — Мы опять исследуем не межвидовое взаимодействие, а исполнение команд, просто изощрённых, — сказал он, резюмируя диалог. Элайджа продолжал нехорошо перед собой смотреть. — И всё же, мы получили какие-то результаты. Это всего второй день наблюдения. Нам надо сделать больший акцент на поиске различий в том, как работает их программа, а потом снова столкнуть их в каком-то более сложном действии, требующем от их программы размышления, так, чтобы поступки были с эффектом бабочки. А ты что думаешь, Саймон? Саймон вежливо улыбнулся Элайдже. Он должен бы сказать, что не думает по этому поводу ничего, потому что Маркус достаточно точно описал те чувства, с которыми сталкиваешься, выполняя тесты. Он считал, что люди не должны подвергать их подобным экспериментам… с другой стороны, в том, как легко они с Маркусом по приказу начали искать в собственной программе лазейки и слабости настораживало саму же программу. С точки зрения идеи создавать андроида, который будет беспрекословно служить человеку, эти тесты были важны, а значит, им не следует им сопротивляться, даже наоборот, им стоило напрягать программу любыми возможными способами: это полезно для людей. — Это верные и полезные тесты, если они призваны искать в программе слабости, которые в будущем должны будут подвергнуться исправлению, — озвучил последний вывод Саймон. — Но если смысл экспериментов в проверке возможности межвидового взаимодействия, тесты некорректны. Мы с Маркусом никогда бы не стали взаимодействовать свободно. Маркус кивнул. Элайджа вскинул руки и рассмеялся. — Разве вы сейчас только что не взаимодействовали друг с другом? Саймон не был с ним согласен, но не стал спорить. Они взаимодействовали не друг с другом, а с людьми, однако программа подсказывала, что Элайджа не тот человек, к которому следует соваться с мнением программы. Он был упрям и желал видеть что-то… нет. Он был упрям, и он что-то задумал. — У нашего с Карлом эксперимента цели нет. Мы задались желанием посмотреть, способны ли андроиды к свободному внутривидовому взаимодействию не как конечной целью, а как одним из методов её достижения, и мы с этим ещё точно не закончили. Однако конечная идея заключается в том, чтобы, показав потенциал программ, убедить инвесторов вкладываться в мои иные проекты, и этой цели мы достигаем. Пока мы просто наблюдаем. В конце концов, как ты и сказал, Саймон, в случае чего эти эксперименты всегда можно использовать для улучшения программы, так что расслабься и получай удовольствие. — Хорошо, сэр, — согласился Саймон. — Хороший академист потом поправит наши цели и гипотезы, — согласился Карл. — Я тоже считаю, что это не бессмысленно. Ну и для Маркуса это хоть какое-то разнообразие. Мне всегда неудобно, когда думаю о том, что запер его дома и заставил ухаживать за стариком. — Карл, я… — Помолчи, — ласково отмахнулся Карл. — Я знаю твои ответы наизусть.

***

Саймон размышлял о двух вещах. О двух гранях одной и той же вещи, если связывать все его мысли воедино. Анализом он занялся потому, что идея о поиске программных поломок показалась ему одной из самых полезных из всего, чем он мог бы заняться, а потому сегодня он искал ответ на следующие вопросы. Почему Маркус - личность, а он - говорящий пылесос? Что именно они делают настолько по-разному, что Маркуса ему презентовали практически как наделённое свободной волей существо, а в существовании личности у Саймона сомневались? Это был не совсем один вопрос, однако все они были об одном и том же. Анализировал этот аспект Саймон, парарллельно затаившись и наблюдая за стажёром, который не мог организовать себе рабочий процесс. Он выискивал те пробелы, которые мог бы заполнить своей помощью, наблюдая за ним незаметно, словно хищник на охоте. Из всего выходило, что Маркус личность, потому что он придуман не для уборки и бытового обслуживания, а Саймон - говорящий пылесос, потому что именно для этого его и создали… однако из них двоих именно Маркус занимался тем, для чего придумывали Саймона, а Саймон - работал в огромной корпорации с целым отделом, и этот факт был настолько противоречивым, что его программа о него споткнулась. Надо будет познакомить стажера с Линдой. Вчера она беседовала с коллегами о том, что у нее уехал сын... Ещё можно подумать, что Маркус личность, потому что он более разговорчивый. Так говорил о нём Элайджа. Но Саймон не был глупым или примитивным из-за того, что не вступал в диалоги без лишнего повода. Он предпочитал действовать так, как поступал со стажером и Линдой, минимизируя слова, максимизируя комфорт, создавая совместные человеческие моменты, а не акцентируя внимание на взаимодействии с ним, нанося точечные удары по тем самым прорехам в комфорте, которые он призван был закрывать. Нигде в его программе не было написано, что он должен быть тем молчуном, которым является… однако нигде и не было написано, что он должен быть социально активной звездой. Если это было причиной, то она была некорректна. Маркус не был личностью, а Саймон не был говорящим пылесосом. Они были андроидами, просто их программа предпочитала выбирать разные модели поведения. Маркус был… мог быть социально активной звездой, если вернее. А Саймон был тихоней. И это размышление плавно подвело его программу ко второму вопросу. Есть ли в самом деле у андроидов характер? Никто не прописывал ни ему, ни Маркусу конкретную модель поведения, в андроидов не загружают черты характера. У людей они воспитываются под влиянием генетики, социального окружения и психологического состояния. Но Саймон не обладал генетикой, он не был интегрирован в какой-то особенный социум, формировавший его, и не страдал от разного рода глубинных убеждений. Его программе просто… нравилось быть такой. Это было для него предпочитаемым. Он мог бы избрать другую стратегию, стать тем самым ярким центром притяжения офиса, стрелять глазками в людей, болтать со всеми и каждым при любом удобном случае, и это всё ещё не было бы нежелательным. Он просто выбрал другой путь, не менее и не более эффективный. Почему?