>*<
– Прошу простить за перенесённое заседание. – У Ван был несколько бледен, но уже бодр и деятелен.
– Мы искренне надеемся, что вы чувствуете себя хорошо, и не только не принимаем ваших извинений, но сами приносим их, поскольку вынуждены беспокоить вас, – очень вежливо и дружески-иронично ответил Мишель. – Но без вас мы не справимся.
– Лесть – не лучшее ваше умение, – улыбнулся У Ван и сразу посерьёзнел. – Начнём, у нас много работы. – Основной вопрос, который мы должны рассмотреть сегодня: можно ли считать полноценными личностями големов, а также иные, созданные в лабораториях, личности, и…
– Учитывая, что мы не имеем общего определения, что такое личность, – хмыкнул Штейнер.
– Да, всеобщего определения у нас нет, как нет полного определения жизни и разума, – оборвала его никарагуанка. – Но есть работающие, пусть и не полные, определения, и мы опираемся на них. Для нас наиболее важны такие свойства, как мышление, умение создавать новое, свобода воли и наиболее важное качество – осознание и принятие ответственности за свои действия.
– Вы забыли о нравственном чувстве, – добавил пастор Гилбер.
– Нет. – Никарагуанка грустно покачала головой. – Я могу привести сотни примеров личностей, не имевших никакого внутреннего представления о нравственности. Для них осознание последствий своих действий – наказания или награды – являлось внешней заменой морали, стыда, удовлетворения от доброго поступка. Поэтому наиболее важно именно понимание и принятие ответственности.
– Следовательно, мы в своих выводах должны опираться на это определение? – уточнил Фергюсон, скорее не для себя, а для лучшего понимания вопроса остальными. – Тогда на основании своей работы с присутствующими здесь коллегами-големами я признаю́ их бо́льшими личностями, обладающими всеми перечисленными качествами, в том числе обострённым нравственным чувством, чем многих обычных людей.
– Но вы не можете утверждать, что все големы являются личностями, – возразила никарагуанка. – И тем более нельзя говорить, что все личности будут людьми. Нам необходимо решить эту проблему сейчас, когда человечество вплотную подошло к созданию иных, не человеческих в обычном понимании личностей или, уж простите за фантастику, к возможному контакту с внеземным разумом. Да и о религиозных представлениях забывать нельзя. Думаю, пора дать слово нашим священнослужителям, мы слишком долго их игнорировали.
– Вы правы. – У Ван вежливо улыбнулся. – Чтобы не было претензий, хочу сначала дать слово господину аль-Сабиру. Представители ислама ещё ни разу не высказали своего мнения.
Молчаливый мужчина в строгом денимовом костюме чуть старомодного покроя и в тонком чёрном свитере с высоким воротником оглядел всех красивыми чёрными глазами:
– Всё, что есть в мире, создано по воле Аллаха и призвано выполнять Его волю. Человек только исполнитель Закона. Если мыслящее существо соблюдает Закон, то для нас нет вопроса, считать ли его достойным. Мы обсуждали этот вопрос и пришли к выводу, что должны опираться на мнение учёных. Это безопаснее для всех. Религиозные войны нам не нужны, их и так за последние полтора века было слишком много…
– Кратко и по существу, – хмыкнул падре Марко.
– Вы знаете, что мы не разрабатывали вопросы личности так, как вы, христиане!
– Я не хотел вас обидеть, – примиряюще поднял ладони падре. – Наоборот, я даже несколько завидую вам. Нам решить этот вопрос намного сложнее.
– Я выражаю мнение наших богословов и ведущих политиков, – лукаво взглянул на оппонента аль-Сабир. – Однако неофициально многие, и я в том числе, склоняются к мысли, что в сложившейся ситуации големы, вероятнее всего, не будут знать Закона и, следовательно, не смогут соблюдать волю Аллаха. Особенно если их лишат разума или они окажутся подвластны силе не соблюдающих Закона. Спорить с неверными проще, чем с их слугами, которых не победить и не обратить в истинную веру.
– Позволите предоставить слово буддистам? – громко спросил У Ван, немного недовольный словами аль-Сабира и в то же время улыбающийся находчивости мусульманина, который нашёл способ высказать реальное мнение единоверцев.
– Мы обсуждаем эту проблему, но не можем дать чёткого определения, – заговорил индонезиец, к удивлению присутствующих оказавшийся представителем этой мировой религии. – Вы знаете, что у нас несколько иные взгляды на человека. В целом мы примем решение учёных, но хотим заметить, что создание големов и иных личностей, если они будут зависеть от создателей, приведёт к увеличению страданий в мире, а это противно нашей вере. При этом страдания увеличатся и среди големов, и среди их хозяев.
– Благодарю вас. Представители иудаизма?
– Всё сотворено по воле Его, и големы – тоже. Если голем обладает разумом и признаёт ответственность за свои деяния, он – человек. Главный критерий: свободный выбор и ответственность за него, – довольно сильно картавя ответил не вмешивавшийся до этого в дискуссию Зеев Эйтан, богослов из Иерусалима. – Но мы разделяем высказанные мусульманами и буддистами опасения, что големам не будет дано право выразить свою волю, или же, что противно всем заповедям Его, их лишат разума. Тут впору добавить новую заповедь: не лиши разума ближнего своего. Кроме того, многие придерживаются мнения, что следует отдавать предпочтение уже существующему, что приносит плоды, то есть человечеству… И естественному рождению.
– Представители христианских конфессий согласны с высказанными мнениями, однако хотят уточнить: голем изначально является человеком, без разницы, имеет ли он разум или лишён его, точно так же, как признаются людьми все, рождённые женщиной… – Говоривший за всех христиан отец Иоасаф немного сбился, вспомнив о детях из искусственной матки, но всё же закончил: – Все големы, как физически и психически полноценные, так и неполноценные, признаются нами людьми со всеми вытекающими отсюда последствиями.
– Мы уже натыкались на эти грабли, – хмуро дополнил иеромонаха пастор Гилбер. – И сотни лет исправляем эти ошибки, но десятки миллионов индейцев, негров и австралийцев уже не воскресить… Как и тех белых, что погибли в бунтах цветных полвека назад. Никому не нужно повторение тех событий. В отличие от коллег я не могу говорить за всех представителей протестантских общин, но ведущие теологи не хотят рисковать. Големы признаны людьми!
– Остальные традиционные религии, насколько известно, не выражают особого интереса к обсуждению этого вопроса, – подытожил У Ван. – Слово учёным, прошу вас.
– Мы уже говорили, – пожал плечами Олаф Фергюсон. – Психически полноценные личности, то есть обладающие самосознанием, свободой выбора, принимающие ответственность за свои действия и адекватно взаимодействующие с окружающими, признаются нами людьми со всеми правами и обязанностями. В случае психического заболевания голем признаётся нами недееспособным человеком. При этом не имеет разницы, есть ли у голема тело или же один мозг.
– А если это не человек? – поинтересовался Стэн.
– Теоретически любое существо, обладающее перечисленными качествами и понимающее необходимость соблюдения человеческих норм при общении с людьми, является полноценной личностью.
– Следовательно, любая созданная личность приравнивается к человеку? – уточнил американец.
– Любая! – отрезала никарагуанка. – Правда, в случае с не-человеческим самосознанием нам придётся разрабатывать иные формы взаимодействия. Но в общем смысле понятие личности должно быть связано с человеческими правами и обязанностями!
– Социологи того же мнения! – переглянувшись с коллегами, объявила Катя.
– Для специалистов, занимающихся информационными технологиями, подобное определение несколько спорно. Мы не можем точно сказать, есть ли у созданного нами искусственного интеллекта самосознание, – подхватил эстафету Штейнер. – Но в общем смысле мы согласны! Разработка критериев становится для нас наиважнейшей задачей!
– Одним из решений может быть запрет на создание искусственного интеллекта с широким спектром выполняемых задач, переход к узкой специализации, – заметил Стэн.
Вскоре все эксперты подтвердили решение о критериях личности и статусе големов, и У Ван вывел на экран следующий вопрос, в отличие от предыдущих, написанный от руки.
– Какие этические проблемы ждут нас при таком отношении к големам?
– Допустимо ли вообще создавать искусственных людей? – поинтересовался падре Марко. – Конечно, всё создано по воле Господа, но не является ли создание големов насилием над человеческой природой?
– А является ли насилием над человеком его естественное зачатие? – поинтересовалась синьора Кано. – Мы же не спрашиваем мнения детей. Думаю, мы бы от младенцев при их рождении узнали много «хорошего», умей они разговаривать.
Все рассмеялись, а потом заговорил Мишка:
– В создании големов есть один этический момент. Обычные дети учатся после рождения и могут хоть как-то высказать своё мнение, показать свои интересы и предпочтения. Големов учат до рождения, и это может оказаться непреднамеренной или осознанной ломкой личности, особенно в случае влияния на мозг голема для выработки у него безусловного подчинения кому бы то ни было.
– Мы учим детей, подчас принуждая их к послушанию и соблюдению человеческих норм, это неизбежно, – пожала плечами сеньора Кано.
– Коллега говорит о том, что при формировании мозга голема в него можно заложить безусловный рефлекс подчинения, – пояснил Фергюсон. – Сейчас есть несколько сотен таких големов. Формально такое воздействие не является насилием, потому что внешне сходно с необходимым для формирования личности общением с родителями – так мать говорит с нерождённым ещё ребёнком, – но приводит к пожизненной полной зависимости голема от одного хозяина.
Всех невольно передёрнуло от слова «хозяин», и через несколько минут очень эмоциональных и однообразных высказываний такое воздействие на мозг, как и намеренное его повреждение, приравняли сразу к психическому насилию, физическому увечью и подсаживанию на наркотики. Никто не хотел брать на себя ответственность за судьбы «муравьёв».
– Вопрос с дородовой стерилизацией, – громко и жёстко сказал Лёшка. – Его нужно решать сейчас!
– Он уже давно решён! – У Ван высветил на экране текст какого-то документа. – В принятом ещё в начале века Римском стату́те7 чётко сказано, что насильственная стерилизация людей, тем более любые действия, приводящие к стерильности несовершеннолетних являются преступлением против человечности. Нерождённые големы могут рассматриваться как недоношенные и находящиеся на доращивании в медицинском боксе дети.
– Мы сейчас обсуждаем мелочи, – впервые за эти дни заговорил Родионыч, и все непонимающе посмотрели не него. – Всё это – последствия. Главный вопрос: кем будут големы и киборги? Анри уже говорил об этом, да и все вы, но никто не хочет признавать, что нужно выбрать: принять новое рабство или отказаться от такой заманчивой для многих возможности? Как бы вы ни декларировали их равенство, в реальности големов будут создавать только как рабов! Необходимо решать: как договариваться с теми, кто станет их делать и эксплуатировать? И как вписать новых рабов в общество, которое и так трещит по швам?
– А зачем? – вдруг раздался звонкий голос обычно робкого Мити. – Зачем решать этот вопрос?
– Ты о чём? – озвучила всеобщее удивление Лена.
– Смотрите! – Митя взял стилос. – Я свёл вместе все известные проблемы человечества, не только вопрос големов. И ваш рассказ, Катя, и вообще всё, что узнал. И вот что получилось.
Детский почерк заполнял экран, и вскоре все смотрели на ясную, логичную и пугающе-правдивую схему:
«Хозяин владеет роботами/големами => Робот добывает => робот обрабатывает => робот производит вещь/искусство/науку => человек получает/сразу сдаёт в утиль => робот перерабатывает вторсырьё => хозяин получает прибыль».
– Какие пункты лишние? – Митя взглянул на взрослых и демонстративно зачеркнул «человек». – Видите? Человек тут лишний, его можно заменить даже кошкой, а польза вместо общества идёт только хозяевам роботов и големов. А если сделать так?
На экране возникла новая цепочка:
«Создаёт человек (сам или с помощью роботов) => покупает человек => пользуется человек => перерабатывает робот под управлением человека => общается в процессе производства и использования человек => стабильность и развитие общества».
– Видите?
– Но это же нужно менять социальный строй и полностью отказаться от всех достижений науки! – возмутился кто-то. – Возврат к ручному труду – шаг, нет, бег назад! Мы триста лет старались избавить людей от…
– И пришли к тому, что имеем! – зло расхохотался Родионыч. – Простите. Я не социолог, я – прасовец. Но вы сами все эти дни говорите: «создание големов ведёт к проблемам». И триды, и вообще вся наша общественная система ведёт к проблемам. Триста лет людей избавляли от «рабского труда для поддержания жизни», вместо живых создав механических рабов, которые теперь стали нашими хозяевами именно потому, что никто не вспомнил основного правила: «Самый зависимый и бесправный из рабов – рабовладелец».
– Невозможно забыть то, что уже было сделано или открыто, – не сдавался англичанин. – История человечества…
– Говорит о том, что мы постоянно забываем о сделанном! – звонко от волнения сказала Лена. – Механику античности забыли почти на две тысячи лет. Китайский флот уничтожили по приказу одного человека, и целая страна на столетия забыла о море.8 Но это крайности, нам не нужно их повторять. Не надо забывать технологии, нужно менять способ их использования! Вы все знаете об установках исконников. Если бы не совместные действия всех правительств мира, расшатывание свойств пространства-времени привело бы к глобальной катастрофе. Именно поэтому эти технологии запрещены на Земле, зато стали основой для освоения космоса!
– Мы на основе установок исконников создали проект межзвёздного корабля и твёрдотелый двигатель для него, – громко объявил Шери. – Лена, ты о таком говоришь? Использование технологий в иной сфере?
– Почти. – Она быстро и немного коряво писала на экране стилосом. – Есть методика быстрого создания органов для трансплантации. Есть методика залечивания серьёзных ран. Есть методика лечения неврологических заболеваний, в том числе с помощью аватаров. Разве этого мало?! Создание големов как обычных людей не имеет смысла, они выгодны только как рабы – мы сто раз говорили об этом. Значит, нужно сделать так, чтобы их не делали! Вообще – ни людей, ни киборгов.
– Но как это сделать? Это же невозможно! – поразился американец.
– Экономика! – вступил в разговор Мишель. – Сколько сейчас големов? Психически полноценных, уже родившихся или вот-вот готовых выйти из родильных камер? Не больше двух тысяч. Мы признаём всех големов людьми со всеми правами и обязанностями, номинально не запрещаем их создавать, но требуем соблюдения таких условий, какие далеко не каждый крупный концерн может обеспечить. И жёстко контролируем их выполнение. Маленькие и любительские лаборатории не учитываем – у них нет таких возможностей. Они, конечно, будут пробовать, но это уже дело конторы – их нейтрализовать. А вот с уже созданными – да просто дать им огромные льготы! Такие, чтобы они получали в два, три раза больше обычного человека. Никто не захочет делать големов или киборгов, если это станет невыгодным.
– Но тогда големов все возненавидят! – возразил Марк.
– Я же говорю, сейчас их не больше двух тысяч на весь мир, и их можно принять на работу в госучреждения. Это в миллионы раз дешевле, чем разгребать то, что мы рассматриваем всё это время. И одновременно с этим влиять на общественное мнение, чтобы через сорок лет ни один нормальный человек и подумать не мог о создании искусственных личностей. Это должно восприниматься как… как инцест! Работать, конечно, много придётся, но всё решаемо.
– Нам этого никто не позволит! – с надеждой: «а вдруг удастся?» – заметил американец.
– Почему? – Митя удивлённо посмотрел на него. – Разве мы должны спрашивать?
– То есть как? – От мальчишки в который раз за день опешили все.
– Вы помните главный признак раба? Он не отвечает за свои действия9, вся ответственность лежит на его хозяине. А теперь посчитайте сами: ответственность за производство – на роботах, ответственность за искусство и экономику – на компьютерных программах, ответственность за рождение детей – на медицинских технологиях, нас с братьями создали, чтобы мы отвечали за науку. Что остаётся человечеству? Оно не отвечает ни за что, отдав власть политикам, а те – отдали её компьютерам и нам! Решаем сейчас мы! И мы должны решить за них: они снова станут людьми! Не потребителями, а личностями! Ответственными за свою судьбу!
– Думаю, вы правы. – У Ван просветлевшим и одновременно озабоченным новой задачей взглядом смотрел на Митю. – Дмитрий, вы задали огромную, невероятно интересную и важную задачу: без революций и крупных потрясений изменить всё общество. Уж точно «устами младенца глаголет Истина», а если этот ребёнок – голем-«компьютер»… Но и вы, и вы, Елена, правы: главная опасность – не террористы, а стоящие за ними фактические хозяева стран, концернов и корпораций.
– «Хозяева жизни»! – Митя серьёзно посмотрел на китайца. – Лев Борисович называл их именно так – «хозяева жизни». И именно их, а не отдельных мелких хозяйчиков центра нужно судить! Они все – одно целое, они – метастазы социального рака, сжирающего всё, что создано человечеством!
– Их много, – осторожно заметил француз. – И они объединены, а мы – нет.
– «Дураки любят собираться в стаю»10, – словно бы невпопад напел Родионыч известную только в конторе песенку, когда-то принесённую из другого мира Натой Счастливцевой. – Так почему бы для разнообразия не объединиться умным? Не в стаю, а в нормальное, думающее человеческое общество? Может, как раз это и есть настоящая эволюция, а не борьба «кто кого сожрёт»? Объединяться для будущего, когда за него отвечает и каждый человек в отдельности, и всё общество?
– Ну что, коллеги, интересная перед нами цель поставлена? – У Ван оглядел людей. – Справимся?
– Справимся! – неожиданно для всех стукнул кулаком по столу американец. – Или мы, или эти… «хозяева жизни». Мне совсем не улыбается пускать слюни в голоаттракционах. Я хочу, чтобы мои дети Марс осваивали, а внуки – Галактику!
– Справимся! – переглянувшись, в один голос сказали все – и хрупкие, ещё очень слабые мальчишки, и бледные от волнения Лёшка с Леной, и учёные, и священники, и даже забытые всеми, но внимательно следившие за обсуждением Виктор и тётя Аня:
– Справимся!
Спрос рождает предложение
Сформулированное Митей логичное, опирающееся на факты решение стало тем самым «а король-то голый», которого боятся «знающие жизнь» люди, и, как и любая насмешливая правда, разрушающая уловки шарлатана, было поддержано всеми участниками группы. Но это совсем не означало конца работы, к тому же выходило за рамки первоначальных задач и не могло явно влиять на текст готовившегося для СГМ заключения. Обсуждение новых целей началось в нерабочее время после быстрого, к огорчению старавшихся поваров, ужина. В просторной научной библиотеке в этот вечер собрались все, из высоких шкафов доставались старинные тома, на экранах высвечивались статистические таблицы, международные законы, политические и экономические карты мира, и воодушевлённые люди до хрипоты спорили, доказывая друг другу правоту своего ви́дения будущего. Самыми активными спорщиками, к всеобщему удивлению, оказались мальчишки, которые, то и дело прижимая к себе взятых из спальни тряпичных друзей, бесстрашно возражали остепенённым взрослым.
Лена сначала тоже участвовала в общем разговоре, но потом сникла и устроилась в дальнем полутёмном уголке, с удивлением глядя на раскрасневшуюся и ничуть не смущающуюся своим «неинтеллигентным» образованием тётю Аню, которая негромко, но настойчиво доказывала что-то пожилой индианке.
Мишка, заметив настроение Лены, подсел к ней:
– Устала? Может, к себе пойдёшь?
– Нет, не устала. – Она немного расстроенно взглянула на друга. – Поняла, какой глупой была, когда спорила с отцом… с Львом Борисовичем, и уверяла его, что никому не нужны послушные запрограммированные друзья. Оказывается, я тогда совсем ничего не знала…
– Ты была права. – Он осторожно накрыл её ладонь своей. – Ты говорила, что знала, что видела.
– Но в мире столько роботов – швейцары, горничные, даже актёры и художники…
– Катя немного сгущает краски, – сказал подошедший к ним Мишель. – Да и Стэн тоже. У них есть серьёзные причины, как и у остальных членов группы. Вы, русские, здесь единственные, кто смотрит на всё несколько со стороны, более объективно, чем остальные, даже когда опираетесь на их сведения или на свои воспоминания. Вон, послушайте, как Митя с Катей спорит, причём успешно. Все остальные, кроме вас, немного… зашорены. Так это по-русски? Они специалисты лишь в своих областях. Только Стэн и Накамура… У них свои счёты с хозяевами центра и трансгуманистами, как и у вас. А вы не обвиняйте себя в выдуманных ошибках.
– Мишель, кто вы по образованию? – спросил его подошедший Лёшка. – Психолог?
– Немного. В основном я аналитик Римского клуба и негласный осведомитель конторы, но теперь, думаю, придётся переводиться в штат. Вся наша семья связана с конторой, хотя мы и принадлежим к аристократическим кругам. Поль сейчас организует работу филиала на Марсе – там скоро начнётся строительство частных колоний, и поэтому создаётся небольшая международная группа прасовцев под эгидой СГМ. Катя об этой стороне его жизни не знает, он пришёл к нам уже после разрыва с ней и не хочет тревожить их с Сашей. Мой кузен во Франции, Али, один из ведущих психологов конторы. А я – то тут, то там, у меня двойное гражданство. – Мишель, улыбнувшись, взглянул на спорящих о чём-то Митю и Катю.
– Катя ошибается ещё в одном: объединять прасовцев под общим управлением нельзя. Мы и так работаем вместе, история с центром тому пример. Но… есть и другая сторона конторы и её аналогов: шантаж научных организаций, попытки подмять под себя политиков, не просто ограничивая их диктат, а заменяя их власть своей. Вспомните историю с исконниками – тогда руководство русского отделения конторы оказалось в числе организаторов нападения на несколько городов. К счастью, это исключение, но всё же не уникальный случай. Английское отделение не хотело предоставлять сведения о заказчиках центра, как и японское, и отделение в Эквадоре. В Японии штурм центра провели, не сообщив о нём руководству, потому что несколько человек из него и прикрывали центр, а один вообще оказался в списке заказчиков «секс-кукол». Хорошо, мы вовремя об этом узнали и не допустили утечки информации.
– А вы говорите, что я права! – Лена с горечью упрекнула Мишеля.
– Правы! Потому что… – он легко улыбнулся, – я слышал одну грубоватую русскую поговорку, что в проруби плавает… плавают только отходы жизнедеятельности. И именно они, к сожалению, часто всплывают наверх и в человеческом обществе. Хотя, конечно, далеко не все, имеющие власть, такое вот «гуано». Обыватели на самом деле не любят человекоподобных роботов: общаться с ними некомфортно, как с обманкой. Да и в играх всё чаще ботов убирают, тем более что игроков в сети всё больше. А нормальные люди, такие, как вы, ценят человеческое общение выше всего и живут, помогая другим, как ваши родители, тёзка.
Дюбуа кивнул Мишке и отошёл к давно подзывавшему его Родионычу: у сотрудников конторы имелось много своих тем для разговоров.
– А не пора ли нам гнать юных аналитиков по кроватям? – взглянув на старинные напольные часы, сказал Мишка. – Почти одиннадцать.