Искусственный интеллект и будущее человечества - Марк О’Коннелл

Глава 1 Системный сбой

Многие рассказы повествуют о конце человечества. Мы любим придумывать сюжеты на эту тему, потому что смертны. Все эти истории мы рассказываем в стремлении покинуть человеческое тело, стать не просто животными, а чем-то большим. В древнейших повествованиях мы видим шумерского короля Гильгамеша: потрясенный смертью друга и не желающий принять такую же судьбу, он отправляется на край земли в поисках эликсира бессмертия. Если коротко – все оказалось бесполезно. Позднее мы видим мать Ахиллеса, погружающую сына в воды Стикса в стремлении сделать его неуязвимым. Что тоже, как известно, не сработало.

То же было и с Дедалом и его самодельными крыльями.

И с Прометеем, укравшим божественный огонь.

Мы, люди, существуем на обломках воображаемого великолепия. Так не должно было случиться: мы не могли и помыслить о том, чтобы быть слабыми и стыдливыми, чтобы страдать и умирать. У нас всегда были высокие представления о своем предназначении. Все это: райский сад, змей-искуситель, запретный плод, изгнание – фатальная ошибка, сбой в системе. Мы пришли в этот мир, чтобы пройти по пути грехопадения, по пути искупления. Такова, по крайней мере, одна из христианских версий нашего существования. Этой точкой зрения мы в какой-то степени объясняем самим себе, что несем ответственность за такую несправедливость – свою противоестественную природу.

«Человек, – писал Эмерсон, – это рухнувшее божество».

Религия, так или иначе, берет свое начало от подобного божественного падения. А наука как ее ненавистная сводная сестрица относит саму себя к некоторой животной неудовлетворенности. В статье «Условия бытия человека» (The Human Condition), написанной в связи с запуском СССР первого искусственного спутника Земли, Ханна Арендт поделилась возникшим чувством эйфории от прорыва, названного в одной из газет того времени окончанием «человеческого заточения на Земле». Это же стремление к прорыву, как она пишет, проявилось в попытке создать в лаборатории путем манипуляций с генетическим материалом сверхчеловека, чтобы расширить естественную человеческую жизнь далеко за пределы нынешних возможностей. «Человек Будущего, – написала Ханна, – как обещают ученые, будет создан не позднее, чем через сто лет. Судя по всему, он будет одержим борьбой против первозданной человеческой сущности – дара из ниоткуда, который он желает заменить, если можно так выразиться, на что-то рукотворное».

«Борьба против первозданной человеческой сущности» – в качестве характеристики эта фраза подходит к любой из следующих глав, где я попытаюсь кратко изложить и охарактеризовать побуждения людей, с которыми познакомился, пока писал книгу. Такие люди в основном отождествляют себя с движением, известным как трансгуманизм, – концепцией, основанной на необходимости использовать технологии, чтобы контролировать эволюцию своего вида. Трансгуманисты верят, что мы можем и должны искоренить старение как причину смерти; что мы можем и должны использовать технологии, чтобы укрепить наши тела и расширить наш разум; что мы можем и должны, наконец, слиться с машиной, переделывая самих себя в соответствии с нашими собственными более высокими идеалами. Они, эти люди, желают заменить дар природы на нечто лучшее – на нечто, сделанное человеком. Удастся ли нам это, еще только предстоит узнать.

Я не трансгуманист. Это, вероятно, вам уже очевидно. Но мое увлечение этим движением, его идеями и его целями строится на основополагающей симпатии к его принципу, что первозданная человеческая сущность – отнюдь не близкая к оптимальной система.

В абстрактном смысле – это как раз то, что, как я всегда верил, произойдет. Однако сразу же после рождения сына я почувствовал это на интуитивном уровне. Когда я в первый раз взял его на руки три года назад, меня охватило чувство уязвимости его крохотного тельца – тельца, которое только что появилось, кричащее и дрожащее, густо смазанное кровью, из трясущегося тела его матери – тела, которое испытало множество часов фантастических страданий и перенапряжения, чтобы доставить малыша в этот мир. «В боли будешь рожать детей» (Бытие, 3:16). Я не мог не думать о том, что система могла бы быть лучше. Не мог не думать о том, что на столь позднем этапе мы должны быть вне всего этого.

Что вам, новоиспеченному отцу, ерзающему на стуле родильного отделения рядом со своим спящим младенцем и его матерью, точно не стоит делать – так это читать газету. Я прочитал и пожалел. Сидя в Национальном родильном доме в Дублине, листая страницы The Irish Times, с постепенно нарастающим ужасом просматривая каталог человеческих пороков: массовых убийств и изнасилований, случайной жестокости и жестокости, носящей системный характер, – осколков сообщений падшего мира, я задался вопросом, насколько целесообразно втягивать ребенка в такой беспорядок, созданный нашим видом (припоминаю, что тогда я был слегка простывшим, что не делало ситуацию лучше).

Среди многих других последствий рождение ребенка заставляет задуматься о природе проблемы, которая во многом является как раз проблемой природы. Наряду с другими ужасами и пороками более широкого человеческого контекста, реалии старения, болезней и смертности внезапно становятся неотвратимыми. Или, по крайней мере, стали таковыми для меня. И для моей жены, чье существование было гораздо более тесно связано с нашим сыном в те первые месяцы. Она сказала тогда мне слова, которые я никогда не забуду: «Если бы я узнала, насколько сильно я его полюблю, я не уверена, что решилась бы на это». За неимением лучших условий человеческого существования мы принимаем эту физическую немощь, эту беззащитность и ранимость человеческого тела.

«Прах ты и в прах возвратишься» (Бытие, 3:19).

Оглядываясь в прошлое, я думаю, что момент, когда десять лет назад я впервые столкнулся с идеей, которая до сих пор занимает мои мысли, не был случайным. Я стал размышлять, что такое состояние человечества может и не быть неизбежной судьбой – от него, как от близорукости или оспы, возможно избавиться благодаря вмешательству человеческой изобретательности. Кроме того, я всегда был увлечен легендой о грехопадении и понятии первородного греха, ведь они отражают чрезвычайно глубокую правду о превратности нашего бытия: о невозможности принять самих себя и о способности верить в искупление.

Раньше в погоне за этой навязчивой идеей, устремлением, которое на тот момент еще не вышло за пределы Интернета в так называемый реальный мир, я натолкнулся на странный и провокационный текст, озаглавленный «Письмо к Матери-Природе». Как и предполагает название, это своего рода эпистолярный манифест, обращенный к антропоморфной фигуре, – для большей ясности, к той, которой часто приписывают создание мира и природы и покровительство над ними. Начинается этот пассивно-агрессивный текст с благодарности Матери-Природе за ее, по большей части, основательно проделанную работу над проектом человечества вплоть до нашего времени и воспитания нас от простых самовоспроизводящихся организмов до многоклеточных млекопитающих, способных к самосознанию и сопереживанию. Затем тон письма плавно меняется на обвинительный, и автор вкратце излагает некоторые наиболее очевидные моменты некачественного функционирования рода Homo sapiens – среди них уязвимость к болезням и травмам, смертность, способность жить только в определенных условиях окружающей среды, ограниченная память, заведомо слабый самоконтроль.