Об искусственном интеллекте, его ближайшем будущем и сопряженных с ним философских и технических вопросах написано уже немало книг, однако среди них слишком много изданий, которые лишь спекулируют на разных футурологических выкладках, никому ничего при этом не объясняя. К счастью, книга Сьюзен Шнайдер «Искусственный ты» не из их числа — в этом убедился Игорь Перников, который изучил ее специально для «Горького».

Сьюзен Шнайдер. Искусственный ты. Машинный интеллект и будущее нашего разума. М.: Альпина нон-фикшн, 2022. Перевод с английского Натальи Лисовой. Содержание

Книга американского философа Сьюзен Шнайдер «Искусственный ты» посвящена проблеме искусственного интеллекта, а также тому, как технологии могут расширить интеллект человеческий — со всеми вытекающими отсюда последствиями. При этом Шнайдер не ограничивается одной лишь технической стороной вопроса, а рассматривает проблему отношений ИИ и человека в экзистенциальном, правовом, этическом и политическом отношениях.

Сразу стоит отметить очевидное достоинство книги — доступность изложенного материала. Сказывается общественная позиция автора: Шнайдер считает, что люди, а не компании должны рассматривать те вытекающие из новых технологий философские вопросы, которые будут влиять на их личную и общественную жизнь, а также на их культуру. Отсюда — необходимость эдакой брошюры, в которой были бы четко и понятно изложены те проблемы, с которыми человечеству предстоит столкнуться в результате технологической сингулярности.

И самый простой пример такого подхода — само слово «сингулярность». Так, если вы не являетесь астрофизиком или, скажем, поклонником философии Жиля Делёза, то и знать его вы не обязаны. Тем не менее слово это у всех на слуху, но мало кто потрудился доступно объяснить, что, собственно, оно означает. За это дело и взялась Сьюзен Шнайдер. Вот так просто и понятно она объясняет, что это такое:

«Понятие сингулярности проистекает из математики и физики, в первую очередь из концепции черной дыры. Черные дыры — это „сингулярные” объекты в пространстве и времени, места, где нормальные физические законы рушатся и не работают. По аналогии технологическая сингулярность должна привести к неуправляемому техническому развитию и вызвать принципиальные изменения в цивилизации. Правила, по которым человечество жило тысячи лет, внезапно перестанут действовать. Ситуация станет непредсказуемой».

Также стоит отметить, что автор не отстаивает в своей книге тут или иную позицию относительно развивающихся технологий. Обычно Шнайдер намечает основные тенденции по тем или иным проблемам, а затем пытается дать собственную максимально взвешенную и трезвую оценку этих проблем.

Например, она пишет, что на данный момент самым быстрым в мире является суперкомпьютер Summit, находящийся в Окриджской национальной лаборатории в штате Теннесси. Его производительность составляет 200 петафлопс, то есть 200 миллионов миллиардов операций в секунду. То, что Summit делает в мгновение ока, заняло бы всех людей на Земле, производящих по одной вычислительной операции в минуту в течение всего дня, на 305 суток.

Конечно, такие впечатляющие данные могут быть проинтерпретированы как безусловное превосходство машины над человеческим интеллектом (и это трудно отрицать), однако автор тут же замечает, что на деле все гораздо сложнее и человечество тоже пока не стоит списывать со счетов. Так, если за мерило взять не арифметические расчеты, то окажется, что человеческий мозг обладает куда большей вычислительной мощностью, чем Summit:

«Мозг — продукт 3,8 миллиарда лет эволюции (именно во столько оценивается возраст жизни на нашей планете), и его мощь направлена на распознавание закономерностей, быстрое обучение и другие практические задачи выживания. Индивидуальные нейроны, возможно, работают медленно, но они организованы в многократно запараллеленную структуру, которая до сих пор оставляет современные системы ИИ далеко позади».

Или, например, что появление ИИ может означать в правовом отношении? В самом деле, если ИИ когда-нибудь станет полноценной личностью в человеческом понимании, значит тогда ему потребуются права. Уже одно это утверждение вызывает недоумение. Тем не менее, как утверждает Шнайдер, ИИ-компаниям с большой вероятностью придется принять особые этические и законодательные обязательства, стоит им создать хотя бы прототип машины, обладающей сознанием. В таком случае выключение навсегда или «ограничение» сознания, т. е. перезагрузка ИИ-системы со значительным сокращением или полным устранением сознания, возможно, будет рассматриваться как преступление.

А вдруг разумный ИИ был не так уж и разумен? Шнайдер ссылается на статью философов Мары Гарцы и Эрика Швицгебеля, где те предлагают избегать создания разумных машин (в книге автор предлагает называть их «искины» — «искусственные интеллекты»; посмотрим, приживется ли это слово) в тех случаях, когда нельзя точно сказать, будут ли они обладать сознанием. Это необходимо для того, чтобы у машин был предельно недвусмысленный моральный статус, поскольку в том случае, если люди распространят этическую защиту на разумные машины, которые лишь могут обладать сознанием и могут заслуживать прав, это может обернуться весьма плачевно. Автор предлагает вообразить гипотетическую ситуацию, в которой три андроида, наделенные теми же правами, что и люди, попадают в аварию, сталкиваясь с машиной, в которой находятся два человека. Спасатели (тоже роботы, допустим), прибывшие на место трагедии, становятся перед выбором: спасти тех или других. И поскольку андроидов больше, спасают их, обрекая людей на смерть. «Такая ситуация будет особенно трагичной, если эти андроиды на самом деле не обладают сознанием», — отмечает Шнайдер.

И тут возникает, пожалуй, самый главный вопрос, поставленный в книге: а какой ИИ считать разумным? Для ответа на него автор обращается к различным философским теориям и мыслительным экспериментам, а также рассматривает уже существующие и предлагает свои собственные тесты, с помощью которых можно было бы установить разумность ИИ.

Например, в ходе таких тестов Шнайдер предлагает посмотреть, как разумная машина воспринимает определенные идеи и сценарии, такие как переселение душ, внетелесные переживания и обмен телами. Затем можно оценить способность разумной машины обсуждать философские темы, а после этого — способности машины самостоятельно, без наших подсказок, придумывать и использовать связанные с сознанием концепции. Как отмечает автор, возможно, ее заинтересует вопрос, обладаем ли сознанием мы, хотя и являемся биологическими существами.

При этом прохождение такого теста должно считаться достаточным, но не обязательным свидетельством наличия искусственного сознания. По мнению Шнайдер, утверждения о том, что какой-то вид, индивидуум или робот достиг «повышенного» уровня или «обогащенного» сознания, должны тщательно проверяться, ибо они могут быть следствием неявной вкусовщины или даже видовой дискриминации, ошибочного обобщения представлений о других системах сознания на базе нашего понимания осознанных переживаний у человека. Иными словами — а судьи кто?

И это подводит нас к еще одному важному вопросу книги: а что же такое, собственно, человеческое сознание? Можно сказать, что ИИ в книге в итоге предстает в виде эдакого зеркала, в котором человек пытается разглядеть самого себя и понять, кто он на самом деле. Безусловно, это довольно распространенный сюжет фантастических фильмов — достаточно вспомнить того же «Бегущего по лезвию», — однако Сьюзан Шнайдер подходит к нему с точки зрения философии сознания и технологических новинок, что и служит еще одной отличительной особенностью книги.

Получается, что граница между человеческим и нечеловеческим сознанием очень зыбкая, поскольку мы не до конца понимаем, как устроено первое. Тем не менее кое-что мы все же можем утверждать: автор считает таким объективным компонентом «человечности» впечатления, или, проще говоря, чувства. Довольно очевидная, на первый взгляд, предпосылка, но Шнайдер от главы к главе нюансирует этот тезис, углубляя и проясняя его с тех или иных неочевидных сторон.

Любопытна в этом отношении идея ИИ-зомби. Шнайдер проводит различие между «феноменологическим сознанием», отвечающим за осмысление впечатления, и «когнитивным сознанием», отвечающим за интеллектуальные операции. И если человек обладает обоими типами мышления и по праву считается разумным, то машина, обладающая лишь последним типом, едва ли будет таковой:

«Многие вообще не любят называть когнитивное сознание одним из типов сознания, поскольку система, которая обладает когнитивным сознанием, но не имеет состояний с феноменологическим сознанием, должна быть стерильной, без каких бы то ни было субъективных переживаний. Такая система не что иное, как ИИ-зомби. Системы, обладающие только когнитивным сознанием, не смогут вести себя так, как системы, обладающие функциональным сознанием, да и относиться к ним как к мыслящим созданиям было бы неразумно. Такие системы не способны осознать мучительность боли, обжигающую мощь вспышки гнева или богатство дружбы».

Таким образом, в книге раскрываются не только насущные проблемы, связанные с развитием новых технологий, но и ставится извечный вопрос «что значит быть человеком?». И это ей только на пользу, поскольку системы искусственного интеллекта, как и все на свете, также требуют от человека «феноменологического» (чувственного) познания, а не одного лишь «когнитивного», если, конечно, человек и дальше намерен оставаться человеком (Шнайдер описывает тенденции, где это совершенно необязательно). За остальными подробностями отсылаем вас непосредственно к книге.