Восстание машин отменяется! Мифы о роботизации - Дэвид Минделл Страница 2

Вскоре на место трагедии вернулась другая команда с роботом иного типа – подводным аппаратом с дистанционным управлением. Это было устройство с большой грузоподъемностью, специально разработанное для работы на глубине. Оно присоединялось к судну с помощью кабеля. Используя созданные при успешном поиске карты, подводный аппарат с дистанционным управлением обнаружил черные ящики – речевой самописец и регистратор данных самолета – и поднял их на поверхность. Записи последних минут обреченных пилотов были извлечены из глубин океана, и теперь следователи могли воссоздать роковые обстоятельства, которые привели к неразберихе на борту автоматизированного воздушного лайнера. Затем подводный аппарат приступил к печальной миссии – извлечению останков погибших.

Катастрофа самолета рейса 447 авиакомпании Air France и операция по поиску его обломков связывают воедино современную автоматизацию и робототехнику в двух экстремальных средах: на границе стратосферы и в глубинах моря. Воздушное судно упало в океан из-за ошибок во взаимодействии человека с автоматизированными системами. Потом его обломки были обнаружены людьми с помощью дистанционно управляемых и автономных роботов.

Хотя слова «автоматизированный» и «автономный» (в своих наиболее распространенных значениях) предполагают, что такие системы действуют самостоятельно, в обоих случаях провал или успех произошел не из-за машин и людей, действующих по отдельности, но из-за совместных действий машин и людей. Люди-пилоты боролись за жизнь воздушного судна, автоматизированного с целью большей безопасности и надежности; множество связанных друг с другом судов, спутников и свободно плавающих буев помогали определить место катастрофы; инженеры обрабатывали информацию, полученную от роботов, и действовали в соответствии с ней. Автоматизированные и автономные аппараты постоянно возвращались к своим создателям – людям – за информацией, энергией и указаниями.

Трагедия рейса 447 авиакомпании Air France ясно дала понять, что, постоянно приспосабливаясь к среде обитания и видоизменяя ее, мы переделываем и самих себя. Как пилоты могли стать настолько зависимы от компьютеров, что уронили совершенно исправный самолет в море? Какой становится роль человека в таких областях, как перевозки и транспорт, исследовательская и военная деятельность, когда, кажется, все больше и больше задач первостепенной важности выполняется машинами?

Согласно крайней точке зрения, люди близки к тому, чтобы «выйти из употребления», что роботам «не хватает буквально одного обновления программ», чтобы стать полностью автономными, как недавно писал Scientific American [2]. Приверженцы этого взгляда говорят нам, что роботы наступают – мы все чаще встречаем их в знакомой обстановке. Обеспокоенность неизвестными и сомнительными возможностями искусственного интеллекта возникает в связи с мнением о том, что мы находимся на пороге «сверхразумности». Наш мир стоит на грани перемен, в сущности, он уже меняется под влиянием роботов и автоматизации. Неожиданно возникают все новые проекты, воплощающие старые мечты об умных машинах, которые помогают нам выполнять свои профессиональные обязанности, облегчают физический труд и рутинные задачи в повседневной жизни. Роботы, существующие и работающие в непосредственной близости от людей на физическом, когнитивном и эмоциональном уровне, становятся все более обширной и многообещающей темой для исследований. Автономность – мечта о том, что в один прекрасный день роботы будут вести себя как полностью самостоятельные субъекты, – остается источником вдохновения, инноваций и опасений.

Волнение вызвано остротой эксперимента; точные формы этих технологий далеки от завершенности, а еще менее определенно их социальное, психологическое и когнитивное значение. Как изменят нас наши роботы? По какому образу и подобию мы сделаем их? Что останется от наших традиционных сфер деятельности – ученый, юрист, врач, солдат, менеджер и даже водитель и дворник, – когда эти задачи будут выполнять машины? Как мы будем жить и работать?

Нам не нужно заниматься домыслами: по большей части это будущее уже наступило сегодня, если не в повседневной жизни, то в экстремальных условиях, где мы на протяжении десятилетий используем роботов и автоматику. Человек не может существовать сам по себе в верхних слоях атмосферы, в глубинах океана, в космическом пространстве. Из-за необходимости посылать людей в эти опасные условия робототехника и автоматика были созданы и внедрены в данные сферы раньше, чем в другие, более привычные для нас области деятельности.

В экстремальной среде отношения между людьми и роботами подвергаются испытаниям на прочность. В такой среде появляется больше всего инновационных разработок. Здесь у инженеров имеется самая широкая свобода для экспериментов. Несмотря на физическую изоляцию, именно здесь впервые начали проявляться когнитивные и социальные эффекты от использования различных устройств. Поскольку на карту поставлены человеческие жизни, дорогостоящее оборудование и важные миссии, автономность всегда должна сдерживаться соображениями безопасности и надежности.

В таких условиях суета и дела повседневной жизни временно отступают на второй план, и мы находим, выделяем из окружающей темноты отрывочные, призрачные аллегории человеческой жизни в мире техники. Социальные и технологические процессы в кабине авиалайнера или внутри глубоководного аппарата принципиально не отличаются от подобных процессов на фабрике, в офисе или в автомобиле. Но в экстремальных условиях они проявляются в более явной форме, и поэтому их легче понять. Каждый полет авиалайнера – это история, точно так же, как всякая океанографическая экспедиция, космический полет или военная операция. Через эти истории конкретных людей и машин мы можем собирать по крупицам данные о едва уловимой динамике.

В экстремальных условиях мы получаем представление о нашем ближайшем будущем, когда подобные технологии могут быть внедрены в такие области деятельности человека, как автомобильный транспорт, здравоохранение, образование и др. Аппараты, управляемые человеком дистанционно или автономные, раскрывают качественно новые возможности взаимодействия людей и машин, новые формы присутствия и новый опыт, в то же время привлекая наше внимание к опасностям, этическим аспектам и нежелательным последствиям жизни рядом с умными машинами. Мы видим будущее, где присутствие человека и его знания станут более важными, чем когда-либо, но в некотором смысле необычными и незнакомыми.

И эти машины просто замечательны. Я не единственный человек, который всю свою жизнь восхищается самолетами, космическими кораблями и подводными лодками. По сути, герои историй, которые я расскажу ниже, руководствовались не только поиском практической пользы – ими двигала еще и страсть к новым технологиям. Неслучайно подобные сюжеты часто описывались в научно-фантастических произведениях о людях и машинах. Рассказы о взаимодействии людей и машин на пределе возможностей захватывают воображение, вызывают удивление и пробуждают надежды на то, кем мы можем стать.

Этот энтузиазм иногда находит отражение в наивной вере в перспективы техники. Но постепенно подобный интерес приводит нас к главным философским и гуманистическим вопросам: кто мы такие? Как мы связаны с нашей работой и друг с другом? Как наши творения расширяют наш опыт? Как нам жить в этом изменчивом мире? Эти вопросы всплывают сами собой, когда начинаешь говорить с людьми, которые создают роботов и аппараты и управляют ими.