Восстание машин отменяется! Мифы о роботизации - Дэвид Минделл Страница 3

Я хочу поделиться с вами информацией, полученной мной из первых рук, из подробнейших интервью и результатов последних исследований Массачусетского технологического института и других организаций, в рамках которых проводятся испытания робототехники и автоматизации в экстремальных условиях океанских глубин, во время авиационных полетов (гражданских и военных) и в космосе. Это не воображаемое будущее, а то, что происходит сегодня: мы увидим, как люди управляют роботами и получают информацию посредством автономных устройств, проанализируем, как эти взаимодействия влияют на их работу, жизненный опыт, навыки и умения.

Наш рассказ начнется там, где начинал я сам, – в океанских глубинах. Двадцать пять лет назад, когда я был инженером, разрабатывающим встраиваемые компьютеры и инструменты для глубоководных роботов, я был поражен, обнаружив, что эта техника непредсказуемым образом меняет океанографию, научные методы и даже саму сущность профессии океанографа.

Это понимание привело к тому, что у меня появились две параллельно развивающиеся карьеры. Как ученый я изучал взаимодействия людей и машин, начиная от броненосных кораблей во времена Гражданской войны в США и заканчивая компьютерами и программным обеспечением, которые помогли астронавтам «Аполлона» совершить высадку на Луне. Как инженер я внедрял данные, полученные в результате этих исследований, в современные проекты – разрабатывал роботов и аппараты для использования в тесном взаимодействии с людьми. В некоторых историях я фигурирую как участник, в других – как наблюдатель, а в остальных – сразу в обеих этих ипостасях.

За долгие годы накопления опыта, поиска и разговоров с людьми я убедился в том, что мы должны изменить свое мнение по поводу роботов. Даже язык, на котором мы о них говорим, взят скорее из научной фантастики XX века и не имеет ничего общего с техническими достижениями современности. Например, дистанционно управляемые летательные аппараты называются дронами, как будто они являются лишенными разума автоматами, в то время как на самом деле они строго контролируются людьми. Роботов часто представляют (и продают) как полностью автономных посредников, однако даже сегодняшняя ограниченная автономность зачастую существует только в человеческом воображении. Роботы, которых мы столь широко и разнообразно используем, едва ли являются автоматами, несущими угрозу, – они внедрены в социальные и технические сети, как и мы сами. Далее мы рассмотрим множество примеров того, как мы работаем сообща с нашими машинами. Все дело в сочетаниях.

Пришло время рассмотреть, какие функции в действительности выполняют современные роботы, чтобы лучше понять наши взаимоотношения с этими зачастую поразительно умелыми творениями рук человеческих. Я предлагаю вам подкрепленное исследованиями эмпирическое заключение: что бы роботы ни выполняли в лабораторных условиях, в реальности же, где на кону стоят человеческие жизни и реальные ресурсы, мы стремимся ограничить их автономность бо́льшим количеством требуемых согласований и возможностей для вмешательства со стороны людей. Я не оспариваю тот факт, что машины умны, и не говорю, что в один прекрасный день они могут оказаться недостаточно умными. Скорее, мое утверждение заключается в том, что такие машины не являются обособленными от человека.

Давайте перечислим три мифа XX века, связанные с робототехникой и автоматизацией. Первый миф – о линейном прогрессе – идея о том, что техника перейдет от непосредственного управления человеком к дистанционному контролю, а затем – к полностью автономным роботам. Слова философа Питера Сингера, который постоянно высказывается в защиту автономных систем, отражают суть этого мифа. Он пишет, что «возможность народа сохранять контроль над происходящим сводится на нет как теми, кто стоит у руля, так и непосредственно технологиями, в связи с чем люди вскоре будут исключены из контура управления».

Но нет никаких оснований предполагать, что эволюция пойдет именно по этому пути, что «непосредственно технологии», как пишет Сингер, приведут к чему-то подобному. На самом деле существуют подтверждения того, что люди постепенно входят в более глубокий контакт со своими машинами.

Мы постоянно обнаруживаем, что люди, дистанционно управляемые ими и автономные аппараты развиваются параллельно, воздействуя друг на друга. Например, беспилотные аппараты не смогли бы летать в национальном воздушном пространстве США без соответствующих изменений для пилотируемых аппаратов. Или другой пример: новые достижения робототехники в сфере обслуживания космических кораблей отразились на работе астронавтов с космическим телескопом «Хаббл». Самые развитые (и сложные) технологии – не те, которые работают отдельно от людей, а те, что наиболее глубоко внедрены в социальную систему и быстрее откликаются на происходящее в ней.

Второй миф – миф о замещении, идея о том, что машины начнут постепенно брать на себя все выполняемые людьми задачи. Этот миф является родившейся в XX веке версией того, что я называю феноменом железной лошади. Первоначально люди воображали, что железные дороги сведут на нет необходимость в лошадях, но поезда показали себя весьма неважными лошадьми. Железные дороги прочно заняли свое место, когда люди научились делать с их помощью совершенно новые вещи. Исследователи человеческого фактора и ученые-когнитивисты утверждают, что автоматы крайне редко просто «механизируют» человеческие задачи. Скорее, они имеют тенденцию делать задачу более сложной, зачастую повышая рабочую нагрузку (или перераспределяя ее). Дистанционно управляемые летательные аппараты не выполняют те же самые задания, что и аппараты, управляемые людьми; они берут на себя новые функции. Дистанционно управляемые роботы на Марсе не повторяют работу геологов-разведчиков в полевых условиях; они и работающие с ними люди учатся вести полевые исследования в новой обстановке с использованием дистанционных механизмов.

Наконец, у нас есть третий миф – миф о полной автономности, утопическая идея о том, что сегодня или в будущем роботы смогут действовать полностью самостоятельно. Да, автоматы, конечно, могут взять на себя часть задач, ранее выполняемых людьми, и они действительно способны в течение некоторого ограниченного периода времени действовать самостоятельно в ответ на изменения окружающих условий. Но машины, которые не зависят от указаний человека, – это бесполезные машины. Только камень может быть действительно автономным (но даже камень был создан и помещен на свое место благодаря окружающей его среде). Автоматизация изменяет степень вовлечения человека в работу машины, но не устраняет необходимость в нем полностью. В любой, даже автономной с виду системе мы всегда можем найти интерфейс, благодаря которому человек может контролировать ее работу, считывать информацию и благодаря которому она становится полезной. Если процитировать один из последних докладов научного совета Министерства обороны США, «не существует полностью автономных систем, так же как и не существует полностью автономных солдат, моряков, летчиков или морских пехотинцев».

Чтобы мыслить терминами XXI века и изменить свои взгляды на робототехнику, автоматизацию и в особенности на более новую идею об автономности, мы должны вникнуть в то, как намерения, планы и предположения человека меняют суть создаваемой им машины. Каждый оператор, контролируя свой аппарат, взаимодействует с конструкторами и программистами, чье присутствие в машине неизменно – пусть даже в виде элементов конструкции или строчек кода, созданных много лет назад. Бортовые компьютеры рейса 447 авиакомпании Air France могли продолжать управлять самолетом и в условиях ограниченных данных о скорости воздушного потока, но люди запрограммировали их таким образом, чтобы они этого делать не могли. Даже если программное обеспечение предпринимает действия, которые невозможно предсказать, оно ведет себя в рамках схем и ограничений, заложенных его создателями. То, как система разработана, кем и для каких целей, определяет ее возможности и способы взаимодействия с людьми, которые ее используют.