Технологии против человека - Герд Леонгард Страница 5

Подобные экспоненциальные преобразования говорят о том, что видение будущего как продолжения линейного роста, вероятно, приведет к катастрофически ошибочным предположениям о масштабах, скорости и потенциальных последствиях изменений. Все это выглядит безобидно и как будто бы так отдалено от нас, что очень многие люди не могут понять растущего беспокойства по поводу угрозы человечеству со стороны развивающихся технологий, ведь мы сейчас находимся только у подножия кривой. Такие проблемы, как потеря приватности, технологическая безработица или деквалификация человека, еще не успели стать нашими повседневными заботами, но ситуация скоро изменится.

Важно понимать, что главные изменения будут происходить из-за комбинаторных инноваций, например, из-за одновременного использования нескольких мегасдвигов и деструктивных элементов. Так, в третьей главе мы рассмотрим, как компании, стремящиеся создать новые деструктивные предложения, соединяют при использовании большие массивы данных и интернет вещей [11] наряду с ИИ и облачными сервисами.

Произведенные ли по доброй воле, без оглядки на нежелательные последствия, или же, наоборот, с целью навредить, грядущие изменения никого не обойдут стороной. С одной стороны, технологические прорывы могут существенно улучшить нашу жизнь и приблизить процветание человечества (см. главу 9); с другой стороны, некоторые из этих экспоненциальных изменений представляют угрозу для общественного устройства и ставят под вопрос нашу человечность.

Вернор Виндж, компьютерный ученый и знаменитый писатель-фантаст, написал в 1993 году следующие строки:

Спустя тридцать лет у нас появятся технические возможности для создания сверхчеловеческого интеллекта. Сразу после этого эра человечества подойдет к концу. Можно ли избежать такого прогресса? И если его не избежать, можно ли направить его так, чтобы мы смогли его пережить?6

Добро пожаловать в ХелВен!

Нам становится ясным, что будущее отношений между людьми и машинами зависит в первую очередь от экономической системы, которая их порождает. Мы сталкиваемся с тем, что я называю вызовами ХелВен [12]. Так, мы на полной скорости приближаемся к миру, похожему на нирвану, где нам уже не нужно зарабатывать на жизнь, где все проблемы решены с помощью технологий и где мы можем наслаждаться изобилием всего – что иногда называется экономикой Звездного пути7.

Или же, напротив, мы можем оказаться в мире антиутопии, где над обществом установлен контроль суперкомпьютеров, интернет-ботов, суперумных программ слежения – машин и алгоритмов, киборгов и роботов, а точнее, их владельцев. В мире, где людей будут терпеть в лучшем случае только в качестве домашних животных или как какие-то необходимые помехи, а в худшем – новые кибербоги обратят нас в рабство. Это темное общество будет представлять собой бесчувственный, бездушный и бестелесный мир, то есть мир, в котором все человеческие свойства будут утрачены.

Ты можешь дожить до того, что ужасы дел рук человеческих, которым ты будешь свидетелем, выйдут за границу твоего понимания.

Насколько параноидален этот взгляд?

Задумайтесь о том, что уже стало частью повседневности: доступные за небольшую цену цифровые сервисы позволяют нам перепоручать наше мышление, решения и воспоминания все дешевеющим мобильным устройствам и их облачным хранилищам. Эти «внешние мозги» очень быстро наращивают функционал: от знания-меня и представления-меня до бытия-мной. Они уже стали не чем иным, как нашей цифровой копией, и если это по-прежнему вас не смущает, то только представьте, как мощность этих «внешних мозгов» увеличивается в сотни раз в течение следующих пяти лет.

Нужно найти дорогу в незнакомом городе? Не обойтись без карт Google. Сомневаетесь, куда пойти обедать? TripAdvisor подскажет. Некогда ответить на электронные письма? Новый умный помощник от Gmail все сделает сам9. Разумеется, человечество еще не дошло до той стадии сближения с машинами, когда всем можно оставаться дома, пока двойники-киборги проживают жизнь за нас, как в фильме Брюса Уиллиса «Суррогаты»10. Также мы пока не можем осуществить сценарий из сериала 2015 года «Люди», где можно было приобретать многофункциональных человекоподобных компаньонов-синтов11. Но на самом деле мы недалеки от этого.

В этой книге я постараюсь объяснить, почему антиутопическая картина будущего представляется мне маловероятной. Вместе с тем я берусь утверждать, что степень влияния технологий на нашу жизнь и жизнь будущих поколений всецело обусловлена нашим собственным выбором.

Технологии и человечество переживают сближение, и мы находимся в точке поворота

Три важных слова пришли мне на ум, пока я писал книгу: экспоненциальный, комбинаторный и рекурсивный.

1. Экспоненциальный. Технологии развиваются экспоненциально. Несмотря на то что микрочипы, будучи подчинены основным законам физики, не могут бесконечно уменьшаться в размерах, технологический прогресс во многом еще совершается в соответствии с законом Мура12. Кривая производительности микропроцессоров демонстрирует экспоненциальный рост, а не линейный или постепенный, как люди привыкли считать. Это представляет определенные сложности для понимания: технологии развиваются экспоненциально, а люди (я надеюсь!) остаются заложниками линейности.

2. Комбинаторный. Разные проявления технологического прогресса комбинируются и интегрируются. Такие инновационные технологии, как машинный интеллект, глубокое обучение, интернет вещей и редактирование генома, начинают пересекаться и дополнять друг друга. Они больше не применяются только в узкоспециализированных сферах – напротив, уже во многих секторах можно наблюдать долгоиграющие последствия их применения. Технологии CRISPR-Cas9 [13], применяющиеся при редактировании генома, могут, к примеру, стать ключом к нахождению лекарства от рака и значительно увеличить продолжительность жизни13. Такие технологии смогут перевернуть всю систему здравоохранения, социального страхования и вообще капитализма, каким мы его знаем сейчас.

3. Рекурсивный. Такие технологии, как ИИ, когнитивные вычисления и глубокое обучение, смогут в дальнейшем привести к рекурсивным (т. е. самоусилительным) усовершенствованиям (т. е. усовершенствованиям систем самих себя). Уже можно, к примеру, наблюдать первых роботов, которые могут сами себя обновлять и перепрограммировать и контролировать состояние энергосети, от которой зависит их функционирование. Все это может привести к так называемому взрыву интеллекта. Профессор Оксфордского университета Ник Бостром утверждает, что подобный прогресс может привести к возникновению суперинтеллекта – систем ИИ, которые смогут обучаться быстрее людей и интеллектуально превзойти нас во всех смыслах14. Если мы можем создать ИИ с уровнем IQ 50, что же остановит нас от разработки ИИ с IQ 50 000 и что произойдет, если мы это сделаем?