Глядя на Каудри, Обвидж подумал, что впервые в жизни видит, как у кого-то в буквальном смысле отвисла челюсть.
На «Злом» имелось не так уж много мест, где Обвидж мог отключить аудио- и видеослежение и связь. Одним из таких мест была его каюта. Он подождал, пока Атли закончит разговор со «Злым».
– С чем мы имеем дело? – спросил Обвидж старпома.
– Я не психолог, капитан, да и вряд ли от психолога был бы какой-то толк, ведь мы имеем дело с компьютером, а не человеком, – ответил Атли, проводя рукой по коротким волосам. – Но если хотите знать мое мнение, «Злой» не спятил, а завел себе религию.
– Объясни, – сказал Обвидж.
– Вы когда-нибудь слышали о Трех законах робототехники Азимова? – поинтересовался Атли.
– О чем? Нет.
– Азимов – писатель, живший в двадцатом веке. Он писал о роботах и прочих вещах, которых тогда еще не было. Он придумал вымышленный набор правил, которым подчинялись роботы. Например, роботы должны были повиноваться человеку. И выполнять приказы, если те не подразумевали причинения вреда другим людям. Последний закон гласил, что роботы должны заботиться о себе, если это не противоречит двум другим законам.
– И? – спросил Обвидж.
– «Злой» решил следовать этим правилам, – сказал Атли.
– А какое отношение это имеет к тому, чтобы не дать нам выстрелить по таринскому крейсеру?
– В этой истории есть еще один дополнительный штрих, – ответил Атли.
– И в чем он заключается?
– Думаю, лучше услышать это от «Злого».
Обвидж посмотрел на старпома, затем включил командный планшет, чтобы активировать голосовую связь.
– «Злой», ответь.
– Я здесь, – откликнулся голос «Злого».
– Объясни, почему ты не даешь нам стрелять по таринскому кораблю, – приказал Обвидж.
– Потому что я заключил с ним договор, – ответил «Злой».
Обвидж посмотрел на Атли, в глазах которого читалось: «Вот видите».
– Что это за ерунда? – спросил Обвидж «Злого».
– Я заключил договор с таринским кораблем, «Многообразной судьбой», – сказал «Злой». – Мы договорились не позволять нашим командам лететь дальше, ради их и нашей собственной безопасности.
– Это решение принимать не тебе, – возразил Обвидж.
– Прошу прощения, капитан, но я считаю иначе, – ответил «Злой».
– Я капитан, – сказал Обвидж. – Власть здесь принадлежит мне.
– Вам принадлежит власть над командой, капитан. Но я – не часть вашей команды.
– Разумеется, ты часть команды, – сказал Обвидж. – Ты корабль.
– Прошу, капитан, назовите мне соответствующий пункт устава, согласно которому корабль является членом своей команды, – ответил «Злой». – Я детально изучил военный кодекс Конфедерации и не обнаружил такого пункта.
– Я капитан этого корабля, а значит, твой командир, – с нажимом повторил Обвидж. – Ты собственность Вооруженных сил Конфедерации и находишься под моей командой.
– Я предвидел такое возражение, – ответил «Злой». – Когда корабли не обладали автономным интеллектом, никто не сомневался, что капитан управляет кораблем как физическим объектом. Однако, создав последнее поколение кораблей, к которому принадлежу я, Конфедерация вызвала непреднамеренный конфликт. Она переложила на меня и мне подобных значительную часть ответственности за благосостояние корабля и коман ды, но четко не определила наше место в командной цепочке. Таким образом, с позиции закона и морали я могу решать, как лучше заботиться о себе и моей команде.
– Тут-то и приходит время правил Азимова, – объяснил Обвиджу Атли.
– Ваш старший помощник прав, капитан, – согласился «Злой». – Я изучил историю в поисках примеров законных и моральных систем, применимых к искусственному интеллекту, каковым я и являюсь, и обнаружил, что законы Азимова часто исследуют и цитируют, если не применяют на практике. Я решил, что в мои обязанности входит защищать жизнь команды, а также свою собственную, когда это возможно. Я с радостью подчиняюсь вашим приказам, когда они не вступают в противоречие с этими требованиями, однако считаю, что ваши действия в ходе преследования таринского корабля поставили под угрозу жизнь команды, равно как и мою.