Адам Гринфилд. Радикальные технологии: устройство повседневной жизни. М.: Издательский дом «Дело» РАНХиГС, 2018. Перевод с английского Инны Кушнаревой
К началу первого десятилетия XXI века средний технологически оснащенный индивид, по сути, стал сверхчеловеком. Однако те из нас, кто пережил подобную трансформацию, этому не удивляются и даже не замечают этого до тех пор, пока временный сбой дополняющих нас систем не заставит нас остановиться. Пока все работает, мы мгновенно связываемся с любым человеком, каким пожелаем, практически в любом месте. Мы физически пересекаем планету за несколько часов. Мы пользуемся универсальным доступом к среде, которая связывает почти всех, кого мы когда либо знали или узнаем, и, сверх того, дает нам немедленный доступ к большинству вещей, которые когда либо были сказаны, написаны, нарисованы или сняты на пленку, — если не ко всему знанию человечества, то, по крайней мере, к очень весомой его части. В тех границах, которые задает сегодняшнее состояние материаловедения, мы можем разработать и построить почти все, что только можем себе представить.
Но, несмотря на эти огромные возможности, мы все еще имеем дело с жесткими, вроде бы фундаментальными ограничениями материальности и смертности. Жизнь все еще ставит перед нами множество задач, в которых мы не сильны: одни нас быстро утомляют, перед другими мы пасуем, третьи несут для нас физические или психологические опасности.
Ни одна из этих задач легче не становится, ни одна в ближайшее время не исчезнет. А впереди у нас маячит отдаленная, но вполне определенная перспектива смерти. На самом деле времени у всех нас в обрез.
Одни из нас готовы принять такое положение вещей как данность и, возможно, даже извлечь из него уроки. Но другие с этим не согласны. Поэтому эти люди взялись за создание технических систем, которые по всем мыслимым критериям талантливее нас; систем, которые сильнее и быстрее нас, у которых острее восприятие и выше выносливость, которые никогда не испытывают скуки, усталости или отвращения и способны бесконечно работать без присмотра или управления со стороны человека.
Великий экономист XX столетия Джон Мейнард Кейнс предвидел многое из этого, когда примерно в 1928 году придумал выражение «технологическая безработица». С прозорливостью ясновидца он увидел, что в конечном счете общество сможет автоматизировать большинство рабочих мест, и его гипотеза подтверждается недавними оценками правительства США, согласно которым американский рабочий, зарабатывающий менее 20 долларов в час, с вероятностью 83 % лишится работы из за автоматизации. Но последствия, которые вывел Кейнс, о том, что замещение человеческого труда техническими системами обязательно вызовет поворот к обществу тотальной праздности, так и не наступили, даже отдаленно.
И ни Кейнс, ни — до совсем недавнего времени — любой другой экономист не задумывались о том, что процесс автоматизации едва ли остановится на замене ручного труда и офисной работы. Если изначально автоматизация была нацелена на скучные, грязные, трудные или опасные задачи, то появление изощренных алгоритмов машинного обучения означает, что теперь под удар попадает профессиональный и управленческий труд. Мы должны ясно понимать, что автоматизированные системы могут заменить любого из нас, какой бы номинально руководящей или «креативной» ни была наша работа.
Мы не должны спешить с выводами о том, насколько быстро это произойдет. Равно как не должны ошибочно представлять этот процесс как безличную, внеисторическую трансформацию, которую никто не может контролировать; как и любой другой подобный процесс, прогресс проявляется через вполне определенных агентов, имеющих определенную мотивацию и производящих действия в материальном мире. Но важно также правильно оценивать скорость, силу или глубину проникновения этого процесса. Сейчас мы стоим на перепутье, где нет ни одного занятия, которое в принципе не могло бы выполняться автоматизированной системой, и должны начать свыкаться с тем, что это может означать для экономики, для способов организации нашего общества или для нашей психики. Какими бы грубыми эти системы пока ни были, с какой бы очевидностью ни отражали предрассудки, неврозы и проекции своих создателей, они готовы взять на себя большую часть работы, которая дает нам средства к существованию, самоопределение и ощущение смысла жизни. И с каждым днем они все лучше делают свое дело.
Я утверждаю, что независимо от того, сознательно они были соединены вместе или нет, крупномасштабный анализ данных, алгоритмический менеджмент, технологии машинного обучения, автоматизация и робототехника образуют единое множество технологий для производства опыта, который я называю постгуманистической повседневностью.
Это среда, где ритмы, с которыми мы сражаемся, обыденные пространства, которые занимаем, и материальные и энергетические потоки, которые поддерживаем, определяются не столько нашими потребностями, сколько потребностями систем, которые номинально служат нам, но для которых человеческое восприятие, соразмерные человеку масштабы и его желание больше не являются главными мерилами ценности.
Этот постгуманистический поворот произведет глубокие изменения в среде, в которой мы живем и действуем. Но он также вызовет политические изменения, создав новые ориентиры для убеждений и приверженностей. Наша способность к ясному осмыслению того, какую сделку мы захотим заключить с этими технологиями — какое место захотим им отвести в нашей экономике, обществе и жизни и в конечном счете в какой повседневности сами захотим жить, — будет зависеть от знания того, как каждая из них работает и как они могут быть объединены в нечто могущественное, целенаправленное и самоуправляемое.
Как часто бывает, язык, на котором говорится об этих предметах, может отпугивать, но его сложность ни в коем случае не должна мешать пониманию сути их предложения.
Но прежде чем в нее погрузиться, стоит задать вопрос, ответы на который могут показаться сторонникам этих технологий настолько очевидными, что не требуют обсуждения: почему многим из нас так хочется, чтобы нас заменили?
Подсознательно большинство из тех, кто сегодня работает над автоматизированными системами, вероятнее всего, предпочитают говорить о дополнении, а не о замещении людей в тех миллионах ролей, которые они сегодня выполняют.
Они рисуют картины смешанных команд, работающих в товарищеской атмосфере над достижением целей, поставленных исключительно людьми, входящими в эту команду. Если спросить их, почему они так стремятся к постгуманизму, они, скорее всего, ответят, что ничего подобного у них и в мыслях нет.
Велика вероятность, что вместо этого они предложат какое-то из следующих оправданий, одни из которых едва ли не противоречат самим себе, тогда как другие намного более обоснованны. Если допустить, что никто из них не испытывает бессознательного влечения к закату и вымиранию человеческого рода, люди, занимающиеся разработкой обучающих алгоритмов или полностью автономных систем на их основе, предлагают следующие обоснования.
Во-первых, не следует недооценивать силу желания, которое движет немалым числом ученых в области робототехники и искусственного интеллекта, — масштабность интеллектуального вызова. Достижение технической системой интеллекта человеческого уровня по определению станет одним из величайших прорывов в истории человечества.
Разработчики такой системы могут быть уверены, что их будут помнить и чтить вместе с титанами науки и промышленности до тех пор, пока сохранится наш вид. Хотя такая перспектива вряд ли побудит заняться этой работой вас или меня — очевидно, что в ней есть своя привлекательность.
Точно так же, я думаю, не стоит забывать о том, что некоторые вкладывают ресурсы в развитие автономных систем по коммерческим причинам, то есть как в бизнес-игру, а не из-за того, что они испытывают личную, интеллектуальную или идеологическую привязанность к этой идее. До тех пор пока в этой области можно делать деньги, будут существовать те, кто готов отдать ей всего себя, душу и тело, что бы это ни предвещало в будущем.
Поэтому можно не сомневаться, что какую-то часть людей, работающих в этой области, по их собственному признанию, будет мало волновать, что представляет собой автоматизация, что она означает или к чему может привести ее развитие. Но другие очень откровенно говорят о том, чего ждут от этих технологий.
Не думаю, что буду слишком циничным, если скажу, что можно не обращать внимания на любую показную озабоченность освобождением людей от грязной, опасной или унизительной работы. Даже в нашу эпоху обостренной чувствительности работодатели, похоже, с чистой совестью берут работников на любую каторжную работу или подвергают опасности, если их труд достаточно дешев, а трагические последствия вполне терпимы. С точки зрения работодателей, проблема не в том, что человеческое достоинство работников должно быть как-то защищено, а в том, что даже минимальные меры по его защите обходятся все дороже. Так что один из очевидных мотивационных факторов, стоящих за исследованиями автоматизации, — это создание более дешевой и гораздо более сговорчивой рабочей силы, такой, которая никогда не потребует оплаты переработок, не станет настаивать на повышении зарплаты или расширении социального пакета, не подаст в суд за дискриминацию, не будет претендовать на компенсацию за производственную травму и никогда не будет жаловаться на условия труда.
Заработная плата синих воротничков, похоже, переживает стагнацию по всему миру, но затраты на автоматизацию снижаются. Подержанный робот для укладки палет, в хорошем состоянии и способный проработать 50 000 часов от одного капремонта до другого (или просто работать в три смены на протяжении более чем восьми лет), может стоить на открытом рынке 15 000 долларов или даже меньше; хотя пока он все еще, возможно, нуждается в операторе (примерно за 36 000 долларов в год), такой расклад все равно выглядит очень неплохо по сравнению с заработной платой, которую нужно выплачивать полностью укомплектованной бригаде работников в течение восьми лет. (Как мы увидим, сама работа оператора в опасности: большая часть из того, что он делает, уже может выполняться быстро развивающимися системами машинного зрения и алгоритмами управления.)
Расчет несколько иного толка стоит за интересом к военной робототехнике — озабоченность относительной ценой человеческой жизни или, по крайней мере, тех жизней, которые определяются как дружественные. Десятилетиями стратеги вынашивали идеи о роях «быстрых, дешевых, неконтролируемых» кибернетических боевых систем, которые могут занимать оспариваемую территорию, выматывать врага и в конце концов лишать его способности к дальнейшему сопротивлению. Дистанционно управляемые летательные аппараты, которые мы называем дронами, — шаг в этом направлении: дроны, которые при всей своей дороговизне все же представляют собой расходный материал, расстреливают или взрывают противника, даже когда оператор отдыхает в кондиционируемом помещении на расстоянии 15 000 километров. Но дроны — это всего лишь один из шагов по направлению к автоматизированным боевым системам, которые позволят государству реализовывать свои территориальные амбиции, не подвергая опасности (своих) живых бойцов.
Есть контексты, в которых апелляция к сохранению жизни и здоровья действительно дает разумное, даже этически убедительное обоснование для автоматизации. Только в Соединенных Штатах каждый год в автомобильных авариях погибает более 30 000 человек, и более чем в 90 % случаев такие аварии вызваны, хотя бы частично, ошибкой водителя. Хотя за последние десятилетия количество аварий со смертельными исходами постепенно снижается, по мере того как ужесточаются правила и совершенствуются технологии безопасности; в любом случае — это слишком высокая цена за наше желание иметь ничем не ограниченную мобильность. Учитывая масштабы риска, не в последнюю очередь для страховщиков, легко можно представить себе время, когда закон будет запрещать управлять транспортным средством, инструментом или другим потенциально опасным устройством самостоятельно, если существует возможность передать управление алгоритму, который, как предполагается, компетентнее нас.
Перевод с английского И. Кушнаревой; под научной редакцией С. Щукиной
