Шрифт:
— «Наше дело — сломать, а строить будут другие?» — с иронией спросил я.
— Это лишь метафора. Моя цель в том, чтобы заставить людей пошевелить мозгами. Естественно, это приведет к каким-то разрушениям, потому что наше общество не рассчитано на подобные перемены. Но, в среднем, думать не бывает вредно. К тому же, отказавшись от Плана сейчас, мы уже ничего не изменим. Технология общедоступна, и я не единственный, у кого достаточно наглости этим воспользоваться.
— А действительно. Почему китайцы вас не обошли?
— Скорее всего — обошли, просто мы об этом не знаем. Непобедимых они успешно скрывали двадцать лет. И я даже боюсь думать, над чем они работают сейчас.
— Например?
Винсент устало подпер лоб рукой и высказал свое предположение:
— Сверхразум. ИИ, превосходящий человека. Со всеми вытекающими.
Я ошарашенно уставился в пол. Только сейчас до меня дошла вся опасность затеи Винсента. Он не просто играет в бога — он жонглирует божественным огнем прямо над готовым костром человеческой цивилизации.
— То есть, я не знаю, насколько сильно такой разум может превзойти человека, — добавил Винсент, заметив мое беспокойство, — простое наращивание сети дает лишь логарифмический рост эффективности, так что для создания реального сверхразума нужна гораздо более мощная исследовательская база. Может, это вообще невозможно. Лет сорок назад все эксперты предсказывали, что мир вот-вот захватят классические нейросети, но как-то не зашло.
— А я могу быть умнее человека? — неожиданно поинтересовался я.
— Не обязательно умнее, но лучше — да. Про проницательность я уже упоминал. Кроме того, ты уже наверняка нашел функцию «замедления времени»?
— Было дело.
— Позже я дам тебе полный контроль над ее активацией. Делать это раньше было, как ты понимаешь, рискованно. Слишком долгое использование может тебя сжечь.
— Этим сюрпризы исчерпываются?
— Сюрпризы — да. Но есть еще и закономерные преимущества. Без биологического тела тебе практически безразличны параметры окружающей среды, ты можешь уходить в гибернацию на тысячи лет и питаться одним электричеством. Догадываешься, какие возможности это открывает?
— Какой ты предусмотрительный, — усмехнулся я, — Хочешь оставить Землю своему виду, а нас сплавить в космос?
— Это уж ты сам решай, — отмахнулся Винсент, — Я вообще не планирую ничего дальше месяца наперед от нашего разговора. И не говори «вид» в таком контексте. Это неуместно…
— А что с законами на ограничение антропоморфности? Ты собираешься открыто признать…
— А тут я использую интересную юридическую уловку. У нас в законе пока нет понятия «сильный ИИ». Есть только люди и роботы. Причем признаки их различения таковы, что сильный ИИ должен считаться человеком. А изменить их довольно сложно.
— Ладно, а какая во всем этом выгода для тебя? Мне не очень верится, что ты действовал исключительно ради «блага человечества».
— Имеешь полное право не верить. Но и я имею право не раскрывать свои личные мотивы.
Я хмыкнул и задумался над следующим вопросом.
— И все-таки не очень я понимаю, как ты планируешь менять мораль. Особенно сейчас. Люди и так едва держатся. Неужели это подходящее время, чтобы начинать борьбу за гражданские права роботов?
— И животных.
— Еще лучше.
— Да, самое что ни на есть подходящее, — непринужденно ответил Винсент, — По крайней мере, такой вывод я делаю из нашей истории. Когда старшее поколение предает своих детей, те, естественно, начинают ненавидеть все старое. В обществе образуется идеологический вакуум. И лучше его заполним мы, чем очередной Гитлер.
— А у тебя есть, чем его заполнить?
Винсент молча протянул руку к столу, поднял с него электронную книгу и повернул ее экраном ко мне. «Винсент Лоран. Жизнь после антропоцентризма для чайников» — прочитал я титульном листе.
Тут дверь в комнату щелкнула и медленно отворилась. Из-за нее с совершенно неприкаянным видом высунул голову Мун, огляделся и бесшумно проскользнул внутрь со словами:
— Вы продолжайте, я не помешаю.
Почему-то Винсент был немногим более удивлен, чем я.
— А ты-то что здесь забыл? — поинтересовался он.
— Да так, интересно стало, чем вы реально занимаетесь. Очень не люблю, когда мне предлагают искать какую-то магическую коробочку, не информируя, что в ней и кому она могла понадобиться.