— К чему вы клоните? — резко спросила Глория.
— К тому, что трудно измерить сознание, разум, душу — назовите как хотите — это неуловимое нечто , что делает нас живыми людьми. Это как с заменой ребенка его клоном. Единственное, на основании чего мы можем судить, — поведение . Если мы не видим различий в поведении, мы не можем, не в силах отличить ребенка от клона.
— То есть вы утверждаете, что ваш ИИ-контроллер есть разумное, наделенное сознанием существо?
— Я утверждаю, что вы не можете доказать обратного. По крайней мере, мы максимально приблизились к тому, что можно назвать настоящим искусственным интеллектом, — Роберт откинулся на спинку стула и скрестил руки на груди.
— Поэтому вы дали ему имя?
— Так бывает, когда долго с чем-то имеешь дело. Я как-то работал над роутером и стал называть его Капитан Связь. Ну, а ИИ-контроллер у нас прозвали Альфредом.
— Хорошо. Предположим, вы создали ИИ-контроллер (по имени Альфред), неотличимый от живого человека. А ум и тело каждого игрока контролируются виар-устройством. Таким образом Альфред имеет возможность доступа к мозгу игроков и влиянию на него. Если бы в этой роли выступал человек, он был бы жестко ограничен всякими правилами и контролем со стороны. А как с Альфредом? Что по-другому?
— Да, — согласился Роберт. — С Альфредом по-другому. В отличие от человека мы имеем возможность напрямую управлять «мозгом» Альфреда. Мы прописали в его программе множество протоколов безопасности, не позволяющих ему никаких действий, способных повредить игрокам. Он гораздо менее опасен, чем был бы живой человек на его месте.
— Расскажите о протоколах безопасности.
— Они делятся на инструкции первого и второго уровня. Первый уровень — это основные запреты. То есть запрет наносить какой-либо вред игроку в принципе. Второй более детализирован. Например, не залезать в память игроков или как-то на нее воздействовать.
— Как память связана с безопасностью?
— Мы только что об этом говорили, — удивился Роберт. — Память определяет поведение. Мы таковы, каковы наши поступки. Изменение памяти может привести к изменению сущности человека.
— Любопытно, — заметила Глория и продолжила: — Вы говорили, что в виар-оборудовании также заложены определенные системы безопасности. В чем они заключаются?
— Ну, например, оборудование автоматически выводит пользователя из игры, если оно фиксирует, что основные показатели состояния организма превышают определенный порог.
— Тем не менее опасения, что ИИ-контроллер способен захватить контроль над телом игрока или воздействовать на его память, сохраняются — так?