БудущееЧто произойдёт, если оцифровать сознание

Философия всегда влияла на научную фантастику, но обратное случалось не так часто. Самые разные произведения, будь это «Матрица» (Декарт, Бодрийяр), «Евангелион» (Шопенгауэр, Гегель, Кьеркегор), «Франкенштейн» (Дарвин и философы эпохи Просвещения) или «Лабиринт» (Беркли, Лейбниц, Паскаль), эффективно распространяли философские теории методами популярной культуры. Все они тщательно подходили к философским вопросам, а потому убедительно выглядели как с художественной, так и с повествовательной точки зрения. И это не говоря о таких писателях-фантастах, как Станислав Лем и Филип Дик, которые повлияли на метафизику и гносеологию, или об Урсуле Ле Гуин и Олдосе Хаксли, повлиявших на политику и этику.

Профессора философии Пита Мандика отличает от коллег то, что он рассматривает философию и научную фантастику вместе. Он читает лекции
по этой теме, пишет эссе о механическом мозге и искусственном интеллекте,
а недавно выступил на «Ночи философии», рассказав об «оцифровывании сознания». Мандик не только говорит, что вещи, которые сейчас кажутся невероятными (вроде перемещения сознания человека в робота), реализуемы.
Он считает, что будущее человечества зависит от того, насколько всерьёз мы этим займёмся.

Пит Мандик

профессор философии Университета Уильяма Патерсона в Нью-Джерси

Изучает места пересечения между философией сознания и когнитивными областями знания, в особенности — неврологии, психологии и искусственного интеллекта. Автор книг Key Terms in Philosophy of Mind и This Is Philosophy of Mind: An Introduction, а также множества публикаций.

Чем вас так увлекает идея переноса сознания в цифровую форму?

Есть люди, которые считают, что можно пережить смерть, сымитировав или воссоздав сознание компьютерной программой. Например, можно просканировать ваш мозг, пока вы ещё живы, и создать подробную трёхмерную модель всех структур, а также деятельности головного мозга до молекулярного уровня. После этого можно запустить компьютерную симуляцию мозга. По смыслу она будет напоминать симуляции стихийных бедствий — например, ураганов.

Оптимисты считают, что эта симуляция будет тем же, что и есть вы: вы останетесь живы, просто в другом состоянии. Пессимисты не согласны с ними в двух вещах. Во-первых, они говорят, что компьютерная симуляция сознания невозможна — как невозможны искусственный интеллект и симуляция чувств. Во-вторых, даже если компьютерная система и может симулировать сознание, то в лучшем случае станет его копией. Как бы эта симуляция ни была близка к вам, вами она не станет: вместе с вами умирает и ваша личность.

А вы себя относите к оптимистам или пессимистам по этому вопросу?

На мой взгляд, как и в случае с другими метафизическими вопросами, дискуссионно его не разрешить. Ни один аргумент не позволит остановиться на той или иной точке зрения. Все факты, из которых мы исходим, никто не оспаривает, но они не дают сделать вывод, могут ли компьютеры обладать сознанием — или только его копией.

Я предполагаю, что из этого тупика можно выйти, обратившись к теории эволюции и дарвинистскому подходу. Их основы можно применять в любой системе, где есть воспроизведение и приспособление. Используя эту абстрактную модель, мы можем описывать систему с точки зрения качеств, которые повышают её приспособленность. Одно из таких качеств компьютерных симуляций — могут ли они во что-то верить, а именно: верить в то, что они выживут. С точки зрения метафизики это дискуссия о том, можно ли назвать эту веру истинной, я же подхожу к этому с другой стороны — можно ли сказать, что эта вера помогает системе выжить. Физические системы, которые верят в это, будут воспроизводить себя с более высокой вероятностью, чем те, которые не верят.

Могут ли метафизические воззрения способствовать выживанию?

Я рассматриваю отношение к воспроизведению по шкале метафизической храбрости и метафизической робости. Метафизическая храбрость проявляется
в том, что ставка делается на выживание. При этом система не обладает абсолютными знаниями и не может быть уверена, выживет она или нет, так что риск большой. В случае с робостью всё наоборот: система исходит из того, что не обладает абсолютными знаниями, и не готова верить в то, что выживет.

Разница между храбростью и робостью станет более очевидной, если мы рассмотрим её через призму оцифровывания сознания. Многие полагают, что, когда технология оцифровывания только появится, сканирование мозга будет разрушительным для самого мозга. Чтобы заполучить данные о нём, его придётся заморозить или тонко разрезать. Это потенциально рискованная процедура, особенно если окажется, что вы ошиблись в своих предположениях о природе сознания. Но я считаю, что существа, которые проявляют метафизическую храбрость, выживут с более высокой вероятностью — это более прагматичный подход.

Книги, которые советует
Пит Мандик:

Грег Иган — Diaspora
и Permutation City

«„Диаспора“ и „Город перестановок“ повествуют о жизни в виртуальном мире, создании целой вселенной, которую можно исследовать в компьютерной симуляции».

Чарльз Стросс — Accelerando

«Немало романов рассказывают о том, что в теории может представлять собой сингулярность. „Акселерандо“ — мой любимый из них. Он лучше других показывает, насколько это будет странно, хотя и не говорит об этом напрямую. В нём вы увидите, какой на самом деле может оказаться сингулярность».

Кори Доктороу и Чарльз Стросс —
the rapture of the Nerds

«Ещё одна хорошая история о сингулярности и постчеловеческом мире».

Когда вы говорите о выживании абстрактно, создаётся впечатление, будто вы имеете в виду информацию, симуляции
и генетические коды, а не конкретных людей. Теория Дарвина рассматривает выживание видов, а не его отдельных представителей. Хотя это убедительный подход, не должно ли быть конечной целью выживание отдельных личностей?

Да, я считаю, что так и должно быть. Другое дело, достижимо это или нет. Я говорю о том, что если вы думаете, что это достижимо, то с дарвинистической точки зрения у вас гораздо выше шансы выжить, чем если вы так не думаете.

Получается, что метафизическая храбрость — это не менее ценное дарвинистическое качество, чем привлекательность или интеллект?

Да, эти качества пригодятся любому виду или подвиду. Но пригодятся ли они отдельному его представителю? Рассмотрим это на таком примере. Представьте себе человека, который провёл достойную жизнь, но детей у него не появилось,
и человека, который тоже достойно провёл жизнь, и у него остались потомки.
С точки зрения каждого из них они провели жизнь достойно, и непонятно, почему их должно беспокоить что-то ещё. Но в целом людей, которые руководствуются интересами будущего и общества, больше. Легко объяснить, почему для многих ценно существование людей, похожих на них. Мы в этом плане гибкие существа,
у людей могут быть любые ценности. И если эти ценности ориентированы на будущее и других представителей вида, то это хорошая причина быть метафизически храбрым.

Судьба человечества волнует многих. Люди Вроде Ника Бострома и Илона Маска обеспокоены «экзистенциальными рисками», из-за которых наше существование под угрозой. Если так подумать, их немало: может произойти стихийное бедствие, может начаться эпидемия, которую не получится обуздать, или Земля может столкнуться с астероидом. Задумайтесь — ведь в нашу культуру заложены ценности, ориентированные на будущее человечества, и выживем мы или нет, зависит от них.

Если заглянуть в далёкое будущее, то, с одной стороны, есть перспектива покорения и колонизации космоса, а с другой — изменения формы существования человека. Здесь мы и задумываемся об оцифровывании сознания. Всё-таки путешествие человека по космосу — это дорогое удовольствие. Мы много весим,
у нас много потребностей, мы производим отходы — и без всего этого мы не выживем. Компьютерным программам нужно намного меньше. В своём нынешнем виде мозг человека, даже несмотря на всю сложность его строения, это довольно неэффективный способ расходования материи. Физики подсчитали, как много информации может храниться в куске материи: наш мозг и близко не подходит к этим пределам с точки зрения как хранения, так и обработки информации. Теоретически мы можем собрать сознания всех людей и хранить их на площади размером с дом.

Если следовать мышлению, ориентированному на будущее,
то не выходит ли, что всё так или иначе закончится тепловой смертью или большим сжатием Вселенной?

Согласно второму началу термодинамики, если к этому всё и идёт, то Вселенная прекратит своё существование в состоянии необратимого равновесия: всё погибнет, и надежды на бессмертие нет. Чтобы запустить хотя бы небольшие реакции, нужно будет нарушить равновесие. Но как бы то ни было, это случится ещё не скоро. Люди, которые обеспокоены экзистенциальными угрозами, добиваются того, чтобы мы прожили дольше, а не жили вечно. Более того, чем дольше мы живём, тем выше вероятность, что мы обнаружим недостатки текущей модели и создадим новую.

А что если мы загрузим своё сознание на компьютер
и выяснится, что это ужасная форма существования? Мы будем заперты в этой эхо-камере, в которой ни с кем не сможем разговаривать. Камю писал, что свобода человека заключается
в том, что мы выбираем жизнь и можем себя убить, если того захотим. Симуляция нашего сознания в компьютере сможет покончить с собой?

Физические системы, о которых мы говорим, не будут сильно отличаться от нас
и будут обладать тем же уровнем свободы и воли. Мозг человека следует тем же детерминистским законам, каким бы следовал и компьютер. Если вы придерживаетесь компатибилизма (абсолютная свобода воли и детерминизм могут сосуществовать), то у симуляций сознания всё ещё будет свобода: принимать или отвергать ценности, делать выбор и так далее. Вообще, мы сейчас настолько свободны, что можем выбрать другую форму существования, даже небиологическую.

Вопреки распространённому заблуждению, «Матрица» (1999) — это не история об оцифровывании сознания. Хотя действие происходит в виртуальной реальности и симуляции, сознание главного героя Нео по-прежнему находится в его мозге, который подключён к Матрице через специальный интерфейс.

Хорошо, но есть и другая проблема. Во многом человеческое сознание — это продукт нахождения в каузальной сети. Сетчатка глаза воспринимает свет, и мы видим, ухо воспринимает звук, и мы слышим. Наше сознание динамично, а не статично. Что произойдёт, если его оцифровать? Симуляция встанет на месте?

Возможно и то и другое. Для меня огромный источник вдохновения — это романы Грега Игана. Он как раз занимается этими вопросами и представил три сценария развития постчеловеческого мира. Первый, который я называю «робким», — это, по сути, появление всё той же земной биологической формы жизни, что
и человечество, просто придуманной заново. Второй сценарий — программы, существующие в виртуальной реальности, а третий — роботы, которые предпочитают исследовать внешний мир, а потому проводят в виртуальной реальности очень мало времени. Иган описал культуры, возникшие внутри каждой из этих групп. Так, в виртуальной реальности есть существа, которые исследуют внешний мир с помощью видеокамер и занимаются естественными науками, но есть и существа, которые следуют только априорным формам мышления. Любой из этих сценариев возможен.