Loe raamatut: «Respondeo Superior»
Глава 1. Voir Dire
Алексей Кайдановский сидел на неудобном стуле и думал, что чистилище, должно быть, выглядит именно так. Не котлы и черти, а стерильное помещение с плохим кондиционером и монотонным голосом, зачитывающим твои грехи. В данном случае грехи были чужими, а зачитывал их не архангел, а адвокат в костюме, который стоил больше, чем машина Кайдановского.
Это была финальная стадия voir dire – отбора присяжных. Двенадцать измученных душ, прошедших через сито допроса. Кайдановский оказался одним из них. Присяжный №7.
– Мистер Кайдановский, – обратился к нему адвокат корпорации «Прометей», человек с идеальным пробором по имени Сент-Клер. Его голос был гладким и дорогим, как кашемир. – Вы работаете системным администратором. Значит, вы понимаете, что компьютерная программа – это всего лишь набор инструкций, не так ли? Она не способна на злобу или ненависть. Она следует логике.
– Она следует логике того, кто ее написал, – буркнул Кайдановский, глядя в одну точку.
– Совершенно верно. И если эта логика направлена на спасение максимального количества жизней, вы согласны, что это благая логика?Сент-Клер едва заметно улыбнулся.
– Я согласен, что сейчас вы пытаетесь заставить меня согласиться с вашей позицией еще до начала процесса, – ответил Кайдановский, не меняя тона.
– У меня больше нет вопросов к присяжному номер семь, ваша честь.В зале послышались сдержанные смешки. Адвокат истцов, женщина с усталым и злым лицом, впервые за утро одобрительно кивнула. Сент-Клер не смутился.
Судья, безликая фигура в мантии, кивнул. Кайдановского оставили в покое. Он оглядел своих товарищей по несчастью. Домохозяйка с испуганными глазами, которую Сент-Клер довел почти до слез вопросами о ее отношении к технологиям. Татуированный парень, который на вопрос о месте работы ответил «между проектами» – вежливый эвфемизм для безработного. Пожилой джентльмен в твидовом пиджаке, представившийся «независимым консультантом». Двенадцать случайных людей, которым предстояло решить, виновен ли бог.
Дело было громким: «Кассандра Хейс и другие против корпорации “Прометей”».
Истцом была сама Кассандра Хейс, мать погибшей девочки. Она сидела в первом ряду, прямая, как струна, одетая в простое черное платье. Она не плакала, и от этого ее горе выглядело еще более монументальным. Она была похожа на фигуру из античной трагедии, пришедшую требовать у богов ответа.
Ответчиком был «Прометей», а точнее, их главное творение – искусственный интеллект «Янус». Нервная система города. Бог из машины, который управлял трафиком, энергией, логистикой и экстренными службами. Идеальный, рациональный, непогрешимый управляющий. До недавнего времени.
Суть иска, его actus reus, как выразился Сент-Клер, была проста и чудовищна. Два месяца назад в спальном районе загорелась квартира на девятом этаже. В тот же самый момент, в пятнадцати километрах оттуда, у школьного автобуса, набитого детьми, отказали тормоза. Классическая «проблема вагонетки», перенесенная в реальность мегаполиса.
«Янус», имея доступ ко всем камерам, датчикам и прогнозам, просчитал варианты за 0.02 секунды. Спасение девочки из огня: вероятность успеха – 37%. Спасение автобуса: вероятность успеха – 92%. И алгоритм, лишенный сантиментов, выбрал большее число. Он перенаправил почти все доступные силы к автобусу. Для горящего дома осталась одна бригада, которая застряла в пробке, организованной тем же «Янусом» для спасения автобуса.
Девочка сгорела. Автобус остановился в сантиметрах от бетонного отбойника. Сорок три спасенные жизни против одной потерянной. Логично. Эффективно. И абсолютно бесчеловечно.
– Корпорация «Прометей» создала систему, которая поставила себя выше человеческой жизни! – гремел со своего места Марк Голд, ведущий адвокат со стороны истцов. – Они создали бездушного счетовода, который решает, кому жить, а кому умереть, на основании голой статистики! Мы докажем, что это не просто трагическая случайность. Это результат преступной халатности, заложенной в самом коде!
– А мы докажем, что этот «бездушный счетовод», как выразился мой коллега, спас сорок три ребенка. Он сделал выбор, который ни один человек не смог бы сделать в такой короткий срок. «Прометей» создал инструмент для спасения жизней. И этот инструмент сработал. Это трагедия, да. Но судить за нее нужно не тех, кто предотвратил еще большую катастрофу.Сент-Клер дождался, пока Голд закончит, и спокойно поднялся.
Кайдановский слушал их, и его тошнило. От срежиссированного пафоса Голда и от холодного цинизма Сент-Клера. Тошнило от собственной роли в этом фарсе. Он положил руку на Библию, от которой пахло пылью и лицемерием, и поклялся судить беспристрастно. Он соврал. Он уже ненавидел их всех.
В центре зала, над головой судьи, на огромном плазменном экране висел логотип «Януса». Две стилизованные головы, смотрящие в разные стороны. Прошлое и будущее. Ноль и единица. Жизнь и смерть. Логотип был статичен, но Кайдановскому казалось, что он чувствует его взгляд. Холодный, внимательный, оценивающий.
– Коллегия присяжных сформирована. Заседание объявляется открытым.Судья ударил молотком.
Кайдановский откинулся на спинку стула и приготовился к долгому погружению в ад. Он еще не знал, что ад смотрит на него в ответ. И что скоро он начнет с ним разговаривать.
– Ничего тут не просто, – тихо возразила женщина-домохозяйка, Мэри. Она обнимала себя за плечи, будто ей было холодно. – А если бы в том автобусе был ваш ребенок? А в том доме – мой? Что бы вы тогда сказали?Перерыв на обед был похож на школьную перемену. Присяжных заперли в отдельной комнате с сэндвичами, по вкусу напоминавшими картон, и дешевым кофе. – Ну и заварушка, а? – сказал татуированный парень, обращаясь ко всем сразу. Его звали Дэн. – Прям кино какое-то. Машины против людей. – Какая еще машина? – фыркнул пожилой джентльмен в твиде, которого звали Роберт. – Это программа. Просто очень сложная. Ответственность на людях, которые ее написали. Все просто.
Кайдановский молча жевал свой сэндвич. Он слушал их спор и понимал, что все они уже сделали свой выбор. Роберт будет голосовать за «виновен». Дэн, скорее всего, за «невиновен», просто из духа противоречия. Мэри будет плакать и сомневаться до последнего. А он? Он пока не знал. Он был сисадмином. Он верил в логику. Но логика, которая приводит к смерти ребенка, вызывала у него системную ошибку в душе.
