Читаем Фрайди. Бездна полностью

– Заткниииись! Черта с два! Я поддерживаю это потому, что мои братья по гильдии так проголосовали, но… Я же не идиот! Джордж, я же живу с тобой, мы общаемся, и… Я понял, что тут нужен компромисс, – мы должны как-то договориться. Мы ведь в нынешнем веке уже не настоящие пилоты – все делает компьютер. Если компьютер вырубится, я, как настоящий бойскаут, попытаюсь посадить коробку на землю, но… Не спеши ставить на меня! Скорости, требующиеся в критические моменты, давно уже лежат за пределами человеческих возможностей… Ну конечно же, я постараюсь! И каждый пилот на моем месте выложится, но… Джордж, если ты можешь создать ИЧ, который будет мыслить и действовать со скоростью, достаточной, чтобы справиться с проблемами во время посадки, я ухожу на пенсию. Это все, чего мы добиваемся: если компания заменит нас ИЧ, нам должны быть выплачены все наши деньги. Если ты, конечно, и впрямь можешь создать такое…

– Ну разумеется, я мог бы это сделать. И когда я сотворил бы это и если б мне разрешили его клонировать, все пилоты могли бы спокойненько отправляться удить рыбу до конца своих дней. Но это был бы не ИЧ, а искусственное существо. Если бы мне пришлось создавать организм, способный обеспечить полную безопасность при пилотировании, я никогда не стал бы ограничивать себя таким потолком – соблюдать абсолютную его идентичность обычному человеку…

– Не надо этого делать!

Мужчины уставились на меня с изумлением, а Жанет – с любопытством. Я же… пожалела, что не прикусила себе язык вовремя.

– Почему нет? – поинтересовался Джордж.

– Ну… Потому что я никогда бы не села на такой корабль. Гораздо безопаснее я чувствую себя с Жаном.

– Спасибо тебе, Мардж, – улыбнулся Жан, – но… Ты ведь слышала, что сказал Джордж. Речь идет о пилоте, который будет делать все лучше, чем я. Это вполне возможно. И так оно, черт возьми, и будет. Как шахтеров вытеснили кобольды – так же заменят и нас. Я не обязан кричать «ура» по этому поводу, но я не могу закрыть на это глаза.

– Что ж… Скажи, Джордж, ты работал когда-нибудь с компьютером, наделенным интеллектом?

– Конечно, Марджори. Искусственный интеллект – та область, которая очень тесно переплетается с моей.

– Хорошо. Тогда ты должен быть в курсе, что множество раз специалисты по искусственному интеллекту заявляли, что они совершили прорыв и вплотную подошли к созданию компьютера, наделенного сознанием. Но каждый раз такой компьютер сходил с ума.

– Да. Это печально.

– Нет. Неизбежно. Это всегда будет кончаться именно так. Компьютер может стать полностью разумным – какие сомнения?! Доведите его до уровня сложности, идентичного человеческому мозгу, и ему придется стать разумным. Но тогда он осознает, что он – не человек. Потом он обнаружит, что никогда не станет человеком и все, что он может, – это сидеть и подчиняться человеческим приказам… И тогда он сходит с ума. – Я пожала плечами. – Это неразрешимая дилемма. Он не может быть человеком, и никогда не сможет. Может быть, Жан и не сумеет спасти своих пассажиров, но он постарается. Искусственное же создание, не будучи человеком и не испытывая никакой лояльности по отношению к человеческим существам, может запросто разбить корабль… Просто так! Просто потому, что он устал от несправедливого обращения с ним. Нет, Джордж, лично я полечу с Жаном, а не с твоим ИС, который в конце концов научится ненавидеть весь род людской.

– Только не с моим ИС, дорогая, – мягко поправил меня Джордж. – Разве ты не заметила, в каком наклонении я все время обсуждал этот проект?

– Нет. Мне кажется…

– В сослагательном. Потому что ты не сказала мне сейчас ничего нового. Я никогда над этим не работал и не стану работать. Я способен создать такого пилота. Но я не способен встроить в этого ИС те этические установки, которое есть у Жана.

– Возможно, мне стоит на предстоящей встрече потребовать, чтобы любой пилот, будь он ИЧ или ИС, проходил этический тест, – задумчиво произнес Жан.

– Какой тест, Жан? Я не знаю, как внедрить в эмбрион этические понятия, а Мардж только что убедительно объяснила, почему в данном случае не помогут никакие тренировки и обучения. Но так или иначе, каким тестом ты это обнаружишь?

Джордж повернулся ко мне: