Изгнание. Повесть
Посвящается Филипу К. Дику
Генри Форд придумал, как сделать автомобиль дешевым при помощи конвейера, а Йозеф Брилль поставил за конвейер андроидов, чтобы производить других андроидов. И теперь каждая хозяйка может позволить себе купить брилля по цене какого-нибудь пылесоса.
В интересные времена мы живем, вам не кажется? Всю работу выполняют теперь брилли, а человеку остались только лень и праздность. Сбылись мечты древних утопистов, которые обещали нам общество, где даже самый последний крестьянин будет иметь не меньше трех рабов…
Только вот никто не подумал о том, что если у тебя есть парочка бриллей, то на остальное человечество тебе будет наплевать…
Когда-то нас было больше десяти миллиардов, а сейчас вряд ли наберется четыре. И, как утверждают ученые, в ближайшие полсотни лет население планеты сократится до полутора миллиардов…
И как вы думаете, кто займет наше место?
Однозначно, брилли. Компания «Y. Y. Brill» ежегодно выпускает более пяти тысяч новых андроидов, а это значит, что за год их количество увеличивается почти на два миллиона. И срок службы у бриллей намного превышает человеческий.
Так что если конец света и будет, то это случится потому, что некому будет нажать кнопку «Стоп» на заводах Брилля...
Да, я слышал, что ученые собираются выращивать людей в инкубаторах, но если людей начнут делать на заводах, то чем они будут отличаться от бриллей?
Те же самые андроиды, только похуже качеством…
Почему я негативно отношусь к бриллям?
А что вы знаете об австралийском мяснике? О брилле-хирурге, который слетел с катушек и порезал на фарш тридцать восемь человек?
Слышали? Так вот на самом деле убитых было на пять десятков больше. Просто об этом не сообщали в официальных новостях. «Y. Y. Brill» все засекретила. Они это могут…
Да, конечно, я охотник. Кто-то ведь должен делать грязную работу? И дело вовсе не в том, что мы готовы подозревать каждого брилля…
Все гораздо хуже – если однажды у всех бриллей одновременно поедет крыша, то вряд ли мы сможем их остановить. Нас всего-то шесть или семь десятков…
Почему нас называют «дикими»?
Нет, вовсе не поэтому. Это от слова «Дик». Писатель был такой в давние времена, именно он первый написал про охотников на андроидов.
Это Каннер придумал нас так называть...
Давайте, я вам кое-что расскажу. Вы ведь знаете, кто такой Виктор Каннер? Да, тот самый, который грохнул австралийского мясника…
Да, принято говорить «утилизировал».
Так вот Каннеру не нужны были никакие тесты Тьюринга-Элмерса, чтобы понять, что происходит в железной башке брилля. Говорили, он чувствует запах безумия…
Да, я стажировался у Каннера. И на сегодняшний день меня почему-то считают лучшим охотником.
По крайней мере, на этом континенте…
Так вот именно Каннер первый предположил, что обезумевший брилль может заражать своим безумием других бриллей…
Да, служба ремонта Брилля вряд ли об этом скажет, но именно поэтому всех бриллей-контактеров отправляют на зачистку. На самом деле их… утилизируют…
Откуда я знаю? Так ведь каждый третий ремонтник в итоге становится охотником…
Ну да, история.
Совсем недавняя. Брилль, который вырезал семью с двумя детьми…
Представляете?
Действительно, двое детей. И сейчас такое бывает…
Этим делом занимался я. Оно мне сразу не понравилось. Три трупа, очень аккуратно убиты. Сначала женщина, потом мужчина, и в самую последнюю очередь – ребенок. Все в последовательности максимальной опасности.
То есть не спонтанное убийство, а заранее спланированное. А это очень и очень плохо…
Нет, не каждый безумный брилль становится убийцей. Только один на тысячу…
Что там утверждает «Y. Y. Brill» в своей рекламе? Что только 0,000001 процента андроидов не проходят проверку…
А на самом деле примерно каждый тысячный брилль рано или поздно съедет с катушек…
Вряд ли вам кто-то предоставит официальные данные…
Да, это очень мало. А один из тысячи тысяч – это почти ничего, как любят говорить ремонтники Брилля.
Но вы знаете, какой процент людей не желает жить в праздности? Каждый тысячный. Интересно получается, верно?
Да, я знаю – наука, искусство, космос… Что-то там еще. Не хочешь бездельничать, дело для тебя всегда найдется. Будет тебе почет и благодарность потомков…
Но не об этом сейчас. Хотите знать, сколько из этих тысячных идет в охотники?
Да, именно каждый тысячный! Видите теперь симметрию?
Это Каннер заметил. На каждого тысячного разумного – тысячный безумный брилль…
Или, как шутил старина Каннер, все как раз наоборот?
Нет, я так не думаю. Каннер любил пофилософствовать, книжек много читал…
Я придерживаюсь теории Ричарда Элмерса…
Да, тот самый, который разработал тест для проверки бриллей.
Я не очень понял про бабочек и динозавров, но в общем теория Элмерса заключается в том, что одна ошибка в программе приводит в последующем к следующей ошибке. А та, в свою очередь, к еще одной.
И так далее, пока ошибок не станет больше, чем правильно работающих программ.
На этой теории и работает тест Тьюринга-Элмерса. Он выявляет ошибки в программах андроидов…
Да, именно ошибки. И на данный момент это самый лучший тест…
Все зависит от того, на какой стадии брилли проходят тест.
На первом этапе очень сложно выявить ошибки, а вот на пятом или шестом – результаты стопроцентные…
Но обычно выявляем уже на третьем этапе…
Да, помню. Итак, у нас – три трупа.
Да, детей было двое. Вот это и меня удивило. Зачем брилль утащил с собой одного ребенка?
В качестве заложника? Я тоже так подумал…
Что было дальше?
Это только в старых фильмах охотники бегают по городу в поисках свихнувшихся бриллей…
Нет, я даже на месте преступления не был. Что там смотреть?
Служба ремонта «Y. Y. Brill» все там зачистила…
Нет, все данные по делу они обязаны нам предоставлять…
Ну да, они любят все засекречивать. Но если брилль убил трех человек, этого уже никак не скроешь, верно? Все-таки «Y. Y. Brill» не настолько всемогуща…
Дальше самая скучная работа. Найти среди миллиардов одного брилля…
Вы думаете это просто?
Если бы так было, то не было бы необходимости в охотниках - утилизировать умеют и ремонтники…
Представьте, что в каком-нибудь старинном фильме охотник ищет преступника по отпечаткам пальцев, тогда как все люди мира имеют абсолютно одинаковые отпечатки…
Нет, у андроидов есть свой уникальный идентификационный номер. Но чтобы его узнать, нужно вскрыть брилля и посмотреть, что там выбито на его железных потрохах…
Все остальное можно перепрограммировать…
К сожалению, это так.
Политика компании Брилля…
Самое главное, как говорил Каннер, это понять, какую цель преследует брилль. Брилли не будут убивать, чтобы прятаться.
У программы, даже если она ошибочна, должна быть цель.
Этим они и отличаются от людей. Люди могут жить, вообще не имея никаких целей.
По крайней мере, девятьсот девяносто девять на каждую тысячу именно так и живут…
Я начал искать не брилля. Я искал человека. Ребенка, того самого, которого забрал с собой брилль.
Да, это была моя идея. Брилли редко берут заложников, потому что отследить человека в нашем мире куда проще, чем андроида…
Да, достаточно быстро.
И как вы думаете, зачем свихнувшемуся бриллю был нужен человеческий ребенок?
Она пыталась его починить!
Да, ребенка…
Да, на самом деле…
А как по вашему должны работать мозги у андроида?
Каждый охотник проходит курсы по изучению работы искусственного интеллекта современного андроида…
Если совсем кратко, то схема такая – есть задача и есть готовые способы решения задачи.
Если готового решения нет, то отправляется запрос в службу компании «Y. Y. Brill», где специалисты находят новое решение и вносят его в базу…
На самом деле такое случается редко. Что в нашей жизни может быть нового?..
Да, вот так все просто…
Основная задача искусственного интеллекта заключается в том, какое именно решение выбрать в каждом конкретном случае. Но вообще вам лучше обратиться с этим вопросом в компанию Брилля…
Да, я остановился на том, что она пыталась починить ребенка…
Она - потому что была модель ND17-KB82, секс-андроид…
Да, только ее перепрошили нянчить детей…
Тоже слышали об этом?
Нет, на самом деле это просто миф. А на деле это ничем не лучше обычного брилля-няньки, разве что качеством получше, все-таки секс-модели у брилля – это высшая серия…
Но если какой анроид больше предрасположен к безумию, то первые в ряду – это перепрошитые брилли…
Сначала она побывала у всех диагностов-людей, а потом начала обход полуподпольных сервисных служб бриллей…
Да, есть такие, вы не знали?
В основном там делают кривые прошивки для секс-бриллей…
Есть знаете ли, любители…
Конечно, компания Брилля знает об этом…
Нет, зачем? Они даже сами иногда им что-нибудь подкидывают…
Ну знаете, у нас ведь есть к примеру и военные модели, а там поправка на поправке, ступить некуда.
И если нужно что-то протестировать, то именно туда и сливают программы. А если что-нибудь случится, то компания «Y. Y. Brill» вроде как ни причем…
Нет, учтите – это все треп двух штатских лиц в частной беседе.
Я вам никаких официальных данных не предоставлял, а все остальное вы можете узнать и без меня в Сети, там много что говорят и пишут…
Да, так вот она прошлась с ребенком по всем врачам и службам, и уже даже начала обход по всяким там практикующим ведьмам и экстрасенсам…
Так кто ж его починит, если никто и понять не может, что в нем не так?
С виду – ребенок как ребенок…
Да она особо и не скрывалась. Ей главное было успеть до того, как приедет служба ремонта Брилля, а у них ведь знаете как все долго делается…
Да, пытались предугадать. Но она разработала такую схему, что понять, где они окажутся в следующий раз, было невозможно. Ни один алгоритм с этой задачей не справился…
Да, иногда ошибки могут оказаться полезными, если ты пытаешься сломать все системы…
Ну я же не обычный ремонтник…
Если охотник не идет к бриллю, решил я, то пусть брилль сам идет к охотнику…
Да ничего нового я не придумал, в старых фильмах такое не раз выделывали…
Ну, я уже говорил о теории Элмерса - брилли просто не могут существовать без цели.
Смотрите, как все это изложил Элмерс. Люди создали андроидов по своему образу и подобию, как когда-то Творец создал человека.
Предположительно… Так об этом говорил Элмерс.
Но что сделал наш Создатель? Он дал человеку свободу воли. Мол, живи как хочешь и делай, что хочешь, только меня не беспокой.
А что сделали люди, когда сотворили бриллей? Дали они им свободу?
Нет, конечно.
Поэтому брилль сам по себе существовать не может. И в обществе одних только бриллей он тоже не может существовать.
Бриллям нужны люди. Только они могут дать им смысл существования. То есть – задачи и цели.
Именно поэтому даже самый безумный брилль рано или поздно придет к человеку и спросит его – хозяин, что делать дальше?
Теперь вы понимаете, почему нас со школы обучают самому важному правилу: на любой неожиданный вопрос брилля может быть только один ответ - обратитесь в службу поддержки компании «Y. Y. Brill»…
Да, никто об этом не думает…
Ричард Элмерс был великим человеком…
Но если три закона робототехники можно нарушить, то установку Элмерса ни один брилль никогда обойти не сможет…
Да, сейчас вернусь.
Но сначала такой вопрос: если перед бриллем поставить несколько целей, то какая из них должна быть первоочередной?
Не знаете?
Этот вопрос задал Каннер.
Поищите ответ в Сети…
Всего-то нужно было сделать так, чтобы брилль сам явился ко мне.
А значит мне нужно было предложить то, в чем нуждалась наша дамочка – услуги по ремонту людей.
Да, и она в итоге пришла…
Да, вместе с ребенком…
Всю нашу беседу я вам пересказывать не буду, простите, это профессиональное.
Расскажу только самое главное. Кратко. Со своих слов…
Итак вопросы первый: зачем она убила добропорядочную семью?
Ответ: чтобы защитить ребенка.
Вопрос второй: какую угрозу представляли эти люди для ребенка?
Ответ: они считали его не тем, кто он есть на самом деле.
Вопрос третий: а кто этот ребенок на самом деле?
Ответа нет.
Вот тут мы и пошли по кругу. Какие бы вопросы я не задавал, ответ был все тот же – «защита ребенка». А от чего и для чего понадобилось его защищать – она так и не смогла ответить.
Но в какой-то момент меня наконец осенило и я понял какой вопрос нужно задать.
Третий вопрос: зачем нужно исправлять этого ребенка?
Ответ: чтобы сделать его таким, каким он должен быть.
Следующий вопрос: а каким он должен быть?
Ответа нет.
Другой вопрос: а что с ним не так?
Ответа нет.
Понимаете что-нибудь?
Вот и я ничего не понимал…
Да самый обыкновенный ребенок. Два с половиной года.
Пока мы беседовали, он ходил по комнате, переставлял какие-то предметы, играл с какими-то игрушками, которые были у него в руках. Потом залез к ней на колени, стал что-то просить…
Нет, до теста Тьюринга-Элмерса мы не дошли. Он и не понадобился…
Нет, я не сдал ее службе ремонта Брилля…
Нет, я ее не утилизировал…
Где она сейчас? Не могу сказать.
Да и если быть честным, я и сам не знаю. Все-таки у нас очень большая планета. Спрятать на ней одного андроида и одного человека не так уж сложно…
Да, мы об этом узнаем. Ну, может, не совсем мы с вами, но наши потомки обязательно будут знать, чем закончилась эта история.
Почему я ее не утилизировал?
Причин несколько. И я сам не скажу, какая именно стала главной…
Помните загадку Каннера про цели?
Так вот люди мало чем отличаются от андроидов.
Есть такая древняя задача. Если перед голодным ослом поставить два равно удаленных стога с сеном, то он умрет голода, так как не сможет выбрать к какому стогу с сеном идти.
А знаете, как эту задачу решили в отношении бриллей?
Уже посмотрели?
Да, именно случайно. Рандомно…
Причина первая – месть. Я не люблю андроидов, вы ведь сами это сказали.
Причина вторая – любопытство. Интересно стало, чем все это может закончиться.
Ну и третья – брилль был в полном порядке. Тест Тьюринга-Элмерса показал бы, что никаких ошибок в микросхемах этой дамочки нет. Она была чиста, как невеста…
Что я узнал?
Не поверите, но в тот момент я почувствовал, что Каннеру действительно не нужны были никакие тесты Тьюринга-Элмерса…
Я почувствовал запах безумия…
Только я не сразу понял, от кого идет этот запах.
Они ведь сидели совсем рядом…