Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - Шошана Зубофф Страница 3

В случае отказа клиента принять требования Nest, согласно условиям обслуживания, функциональность и безопасность термостата будут серьезно скомпрометированы, поскольку прибор больше не будет получать необходимые обновления, предназначенные для обеспечения его надежности и безопасности. Последствия могут варьироваться от замерзания труб до отказа пожарной сигнализации или легкого взлома внутренней системы дома [13].

К 2018 году принципы, на которых строился «Осведомленный дом», были давно отброшены. Как это случилось? Кто был тому виной? «Осведомленный дом», как и многие другие опередившие время проекты, смотрел в цифровое будущее, которое расширяло человеческие возможности. Ключевым было то, что в 2000 году это видение будущего естественным образом предполагало твердую приверженность неприкосновенности личного опыта. Если человек решает перевести свой опыт в цифровой вид, то он должен обладать исключительным правом на знания, полученные из этих данных, а также исключительным правом решать, как эти знания могут быть использованы. Сегодня эти права на неприкосновенность частной жизни, на доступ к соответствующим данным и их использование узурпированы смелым рыночным предприятием, основанным на односторонних притязаниях на чужой опыт и вытекающие из него знания. Что эта смена эпох означает для нас, для наших детей, для наших демократий и для самой возможности человеческого будущего в цифровом мире? Цель этой книги – ответить на эти вопросы. Она о том, как тускнеет цифровая мечта и как стремительно превращается в ненасытный и доселе неслыханный коммерческий проект, который я называю «надзорным капитализмом».

Надзорный капитализм в одностороннем порядке претендует на человеческий опыт как на бесплатное сырье для превращения его в данные о человеческом поведении. Хотя часть этих данных используется для улучшения продукта или услуги, остальное объявляется проприетарным поведенческим излишком, передается передовым производственным процессам, известным как «машинный интеллект», и перерабатывается в прогнозные продукты, предсказывающие, что вы сделаете прямо сейчас, в ближайшем или более отдаленном будущем. В итоге эти прогнозные продукты торгуются на новом типе рынков – рынках поведенческих прогнозов, которые я называю рынками поведенческих фьючерсов. Надзорные капиталисты сказочно разбогатели на этих торговых операциях, поскольку многие компании горят желанием сделать ставку на наше будущее поведение.

Как мы увидим в следующих главах, конкурентная динамика этих новых рынков побуждает надзорных капиталистов прибирать к рукам такие источники поведенческого излишка, которые позволяют все более и более надежно предсказывать поведение: наши голоса, личности и эмоции. В конце концов надзорные капиталисты обнаружили, что наиболее ценные с точки зрения предсказания поведенческие данные поступают в том случае, если вмешаться в ход игры – подтолкнуть, уговорить, подстроить и направить поведение в сторону, которая принесет прибыль. Конкурентное давление привело к сдвигам, в результате которых автоматизированные машинные процессы не только познают наше поведение, но и в широких масштабах формируют наше поведение. С этой переориентацией со знания на силу уже недостаточно автоматизировать потоки информации о нас; теперь цель состоит в том, чтобы автоматизировать нас. На этой стадии эволюции надзорного капитализма средства производства подчиняются все более сложным и всеобъемлющим «средствам изменения поведения». Тем самым надзорный капитализм рождает новый вид власти, который я называю инструментаризмом (instrumentarianism). Инструментарная власть знает и формирует поведение человека для достижения целей других людей. Вместо вооружений и армий она проводит свою волю с помощью автоматизированной работы все более повсеместной вычислительной архитектуры «умных» сетевых устройств, вещей и пространств.

В следующих главах мы проследим за ростом и распространением этих операций и инструментарной властью, которая их поддерживает. В самом деле, стало трудно скрыться от этого смелого рыночного проекта, чьи щупальца простираются от нежного подталкивания ничего не подозревающих игроков Pokémon Go в рестораны, бары, закусочные быстрого питания и магазины, которые платят, чтобы играть на рынках поведенческих фьючерсов, чтобы заставить их есть, пить и делать покупки, и до беспощадной экспроприации излишков из профилей Facebook в целях формирования индивидуального поведения, будь то покупка крема от прыщей в 5:45 вечера в пятницу, клик «да» на предложении новых кроссовок, когда после длинной пробежки воскресным утром в вашем мозгу бушуют эндорфины, или голосование на следующей неделе. Подобно тому как промышленным капитализмом двигала непрерывная интенсификация средств производства, надзорные капиталисты и их клиенты теперь привязаны к непрерывной интенсификации способов изменения поведения и накоплению инструментарной власти.

Надзорный капитализм идет вразрез с изначальной цифровой мечтой, отправляя «Осведомленный дом» на задворки истории. Он уничтожает иллюзии о том, что сетевая форма имеет некое самобытное моральное содержание, что быть «на связи» – вещь по самой своей сути общественно полезная, по самой природе инклюзивная или естественным образом способствующая демократизации знания. Цифровая связь стала средством осуществления коммерческих целей других. Надзорный капитализм является глубоко паразитическим и замкнутым на самого себя. Он возрождает старый, восходящий к Марксу образ капитализма как вампира, который питается трудом, но с одним неожиданным поворотом. Вместо труда надзорный капитализм питается опытом каждого человека во всех его проявлениях.

Google изобрел и усовершенствовал надзорный капитализм во многом так же, как столетие назад компания General Motors изобрела и усовершенствовала менеджериальный капитализм. Google был пионером надзорного капитализма и в теоретических подходах, и в практических методах, бездонной кубышкой для исследований и разработок и первопроходцем в экспериментировании и внедрении, но сегодня он уже не единственный игрок на этом поле. Надзорный капитализм быстро перекинулся на Facebook, а затем и на Microsoft. Факты свидетельствуют о том, что в этом направлении поворачивает и Amazon и что это постоянная головная боль для Apple, представляет для нее внешнюю угрозу, а также выступает источником внутренних споров и конфликтов.

Будучи пионером в области надзорного капитализма, Google начал беспрецедентную рыночную операцию в неисследованных пространствах интернета, практически не встречая препятствий со стороны закона или конкурентов, подобно биологическому виду, проникшему в новую для себя среду, свободную от естественных хищников. Руководители компании двигались к системной согласованности ее проектов с головокружительной скоростью, за которой не могли уследить ни государственные учреждения, ни частные лица. На руку Google сыграли также и исторические события, когда аппарат национальной безопасности, гальванизированный атаками 11 сентября, склонялся к тому, чтобы вскармливать, подражать, защищать и осваивать нарождающиеся возможности надзорного капитализма ради тотального знания и сулимой им предсказуемости.