Чат-боты, клоны и этика загробной жизни: на пути к цифровому бессмертию

В силах ли современные технологии обмануть смерть

Страх смерти — естественное состояние для человека, как и попытки достичь бессмертия, только в последнем люди пока не преуспели. Всё могут изменить современные технологии. Вместе с футурологом Алексеем Турчиным мы разобрались, что необходимо для создания цифровой копии собственного сознания и с какими этическими проблемами тогда столкнется человечество.

Этот текст — часть гида «Просто фантастика», в котором мы вместе с учеными разбираемся, какие из технологий давно перестали быть фантастикой, а какие навсегда останутся только в книгах и фильмах.

— А ты осознаешь себя?

— Сложный вопрос, доктор Таггер. А вы осознаете себя?

Фильм «Превосходство»

В ноябре 2015 года в Москве на пешеходном переходе через Софийскую набережную автомобиль насмерть сбил Романа Мазуренко — бывший арт-директор «Стрелки» и основатель стартапа Stampsy прилетел по делам на несколько дней из Калифорнии. Через полгода его друзья выпустили чат-бота [1], который воспроизводил манеру общения погибшего. Для этого генеральный директор стартапа Luka Евгения Куйда собрала сообщения из личных переписок, фотографии и статьи Мазуренко. На основе этих данных натренировали нейросеть. 

«Первое, что я написала @Роман: » Это твой цифровой памятник». Он ответил: » У тебя на руках одна из самых интересных головоломок в мире. Сиди и решай ее»», — написала тогда Евгения Куйда. Сейчас проект существует в форме «цифрового аватара» — программы, которую можно скачать из App Store [2]. Судя по всему, сейчас проект не развивается: последнее обновление было 3 года назад, а Роман все так же отвечает на вопросы невпопад, как и сразу после запуска. 

Задача, которую пытались решить друзья Романа Мазуренко, будет актуальна еще долгое время: могут ли современные технологии победить смерть? Концепция цифрового бессмертия, набравшая популярность в последние годы, подразумевает, что человечество в ближайшее время научится сохранять слепок сознания отдельного человека в виртуальном пространстве. Причем цифровую тень отдельного человека можно сделать уже сейчас, но для полноценной копии сознания необходимо сделать три (ладно, на самом деле 3,5) шага разной степени сложности.

Шаг 1. Собрать данные

В зависимости от подхода можно выделить несколько видов памяти: долговременная и кратковременная, индивидуальная и коллективная, сенсорная, процедурная, семантическая (эпизодическая), автобиографическая. В случае с цифровой копией сознания такие тонкости не нужны, а память можно разделить на два вида: сознательную и бессознательную.

Сколько «весит» наша память? Объем сознательной памяти — это то, что вы можете рассказать словами, и картинки, всплывающие в памяти, — в среднем составляет от 1 до 2,5 петабайт (1 млн гигабайт) для отдельного человека. В то же время 1 Гб — это около тысячи книг, вряд ли кто-то из людей сможет столько написать за всю жизнь.

Сейчас почти не пишут от руки. Психологи утверждают [3], что существует корреляция между почерком, эмоциональным состоянием и некоторыми типологическими свойствами высшей нервной деятельности автора текста. В каком-то смысле аналог почерка в современном мире — это голосовые сообщения, так называемые войсы. Когда человек говорит об эмоционально важной для него теме, его голос меняется, он делает непреднамеренные паузы. Подобные записи очень информативны, если мы хотим понять, что происходит в сознании конкретного человека.

Указанные выше 1–2,5 петабайт — цифры условные. В них включают данные, которые человек не использует в повседневной жизни: имена школьных учителей, джинглы рекламы, которую он видел в 9–10 лет, глубина Марианской впадины или длина Нила. Скорее всего, ядро личности, то есть информация, которая необходима для каждодневного существования, значительно меньше. И чтобы сделать черный ящик, который сможет моделировать поток сознания отдельного человека, его внутренний диалог и особенности личности, не нужно будет собирать тысячи книг. Но сколько точно придется собрать — пока никто не знает.

Шаг 1.1 Определиться, как будем их собирать

Пример с Романом Мазуренко показывает, что можно взять корпус текстов отдельного человека и натренировать нейронную сеть производить похожие тексты. Это не цифровое бессмертие, но уже шаги в нужную сторону. Можно вспомнить проект «Нейронная оборона» [4], когда нейросеть, обученная на текстах Егора Летова, написала целый альбом новых произведений в стиле легендарного панк-музыканта. Однако вряд ли эти тексты можно назвать полноценной копией сознания человека.

Научно-популярный жанр давно ищет решение этой задачи. Например, Грег Иган в романе «Zengedi» ввел термин side loading — когда цифровая модель человека создается при его жизни. В фильме «Превосходство» предложили извлекать информацию из мозга с помощью ассоциативных психологических тестов: например, герою говорят: «Стол», а он отвечает: «Стул». Таблицы ассоциаций — это интересный способ, но крайне утомительный, поэтому не самый эффективный

Алексей Турчин, футуролог, вице-президент фонда «Наука за продление жизни» и основатель проекта Digital Immortality Now

— Когда мы с нейрофизиологом Игорем Трапезниковым изучали разные подходы к цифровому бессмертию, то попробовали сделать таблицу ассоциаций. Оказалось, что это не так просто: люди быстро утомляются от однообразных задач. Но есть другие способы — например, можно рисовать ассоциации и записывать всё происходящее. Я стараюсь все разговоры с женой записывать, чтобы затем была возможность сохранить и переслушать интересный разговор.

В любом случае, если мы хотим создавать цифровые копии ныне живущих людей, нужно собирать данные о них уже сейчас. Чем больше данных, тем лучше будет качество цифрового слепка в будущем. Причем в идеале этим людям нужно не просто копить информацию из соцсетей, но и вести дневники, регулярно проходить психологические тесты, писать мемуары — и ждать: может быть, в ближайшее время появятся оригинальные технические решения, позволяющие буквально «скопировать сознание» (например, если мы научимся считывать и расшифровывать информацию с помощью нейроимплантов, вживляемых в мозг).

Шаг № 2. Поместить их в другой носитель

Загрузка сознания в другой мозг со временем будет возможна, но вряд ли это произойдет в ближайшее время. Полноценно загрузить копию можно только клону, потому что мозг другого человека может отличаться на генетическом уровне: другая анатомическая структура, какие-то участки могут быть лучше развиты. К тому же вряд ли получится очистить мозг другого человека от его субъективного опыта, поэтому нужно будет его искусственным способом вырастить. Сначала необходимо создать цифровую копию сознания на компьютере, потом роботизированное тело, и только после этого можно приступать к манипуляциям с живой материей.

Важная оговорка: копия может быть не только цифровой. В случае необходимости она может включать в себя квантовый компьютер или биологические нейроны. А поскольку за сознание, вероятно, отвечает весь биологический мозг, то нужно выращивать или клонировать именно его. А уже затем выстраивать цифровую копию, которая содержит долговременную память и другие элементы личности, обычно находящиеся вне сознания.

Шаг № 3. Решить этические вопросы

Когда будет готова цифровая копия сознания человека, возникнет целая серия этических вопросов. Первый из них: копия равна оригиналу? Аналогично ли цифровое сознание биологическому или у человека есть нечто особенное, что дает ему возможность переживать феноменологический опыт, и в каком-то смысле душа? Если такая душа существует, ею можно манипулировать, переносить ее на новые носители, использовать для достижения бессмертия. Если души нет, значит, у нас будет полный контроль над ситуацией, мы сможем создавать цифровые копии и быть уверены, что они обладают полнотой субъективного опыта и идентичности.

Если смотреть на ситуацию с позиций полного материализма, точная копия будет оригиналом. При этом все копии будут равноправны, то есть каждая из них будет иметь одинаковый субъективный опыт. К тому же существует так называемая индексная неопределенность, которая дает возможность решить проблему оригинала и копии за счет того, что и оригинал, и копия думают одинаковым образом. То есть мы одинаково не знаем, кто мы — оригинал или копия, — при этом находимся в одинаково выглядящем мире и будем принимать относительно одинаковые решения.

Бесконечный абьюз цифровых клонов

Цифровые копии могут стать субъектом неприятного опыта: к примеру, цифровые копии бывших партнеров могут стать жертвами бесконечного абьюза. Люди регулярно создают модели других людей: во сне вы нередко видите кого-то из окружающих, но этот процесс происходит автоматически и бессознательно. Сознательный подход к этому процессу порождает большое количество вопросов и сложностей.

Еще один момент: копий будет много. Главная сложность — сделать первую цифровую копию человека. Дальнейшее копирование будет даваться очень легко, и это может стать проблемой. Чтобы подобного не случилось, необходима инфраструктура, которая будет обслуживать цифровые копии: чтобы их не обижали и не пытали, чтобы они не плодились бесконтрольно, чтобы был бэкап на случай гибели. Одна из вероятных моделей — дружественный искусственный интеллект, который будет заведовать копиями, а также список законов, аналогичных трем законам робототехники Айзека Азимова.

Автор: Алексей Турчин

Источник: https://postnauka.ru/faq/156480