«Они лишают нас практики и необходимости думать». Как компьютеры делают людей беспомощными

Современный человек зависим от технологий гораздо сильнее, чем он сам себе представляет. Сколько телефонных номеров вы помните наизусть? Сможете сложить или умножить числа без помощи калькулятора? A проложить себе разумный маршрут в из одного района города в другой, максимально быстрый и удобный?

Машины освободили людей от необходимости решать многие задачи. Мы с удовольствием используем их ежедневно, не задумываясь об этом. Ровно до того момента, когда что-то происходит: техника ломается или теряется, и мы становимся совершенно беспомощны. Специалисты называют эту проблему парадоксом автоматизации: чем лучше автоматические системы, тем менее опытны их операторы, то есть мы. Проблема возникает повсеместно — от ошибок в работе сотрудников атомных станций до нашей неспособности запоминать телефонные номера. Cossa.ru рассказывает, к чему этот парадокс приводит и как с ним бороться.

Штраф за парковку

Однажды Виктор Хэнкинс, обычный гражданин Великобритании, получил нежелательный подарок на Рождество — штраф за парковку в неположенном месте. Его машина стояла прямо на автобусной остановке, что зафиксировала камера. Компьютер определил номерной знак, нашел его в базе данных и выявил адрес Хэнкинса. Автоматически был создан «пакет доказательств»: видеозапись, временная отметка и месторасположение. Письмо, требующее оплаты штрафа либо судебного разбирательства, было составлено, распечатано и отправлено по почте через такой же автоматический процесс. Все сработало оперативно и четко, была лишь одна проблема: мистер Хэнкинс вообще не парковал автомобиль, он стоял в пробке.

Удачная поездка

В марте 2012 года три студента из Японии, приехавшие в Австралию, захотели осмотреть Норт-Страдброк, доехать до него было решено по указаниями GPS-навигатора. Техника проложила маршрут, 9 км которого приходились на Тихий океан. Студенты подчинились технологиям, выехали на пляж, заехали в ил у воды и продолжали движение до тех пор, пока вокруг машины откровенно не начали плескаться волны.

Под взглядами удивленных пассажиров парома студенты оставили автомобиль и пошли вброд к берегу. Машина не подлежала восстановлению.

Этот случай не единичен. Известны эпизоды, когда люди следовали указаниями навигаторов и вели свои машины в озеро, прямо в дом, вниз по лестнице, по скалистой тропинке к обрыву скалы и в огромный песчаный карьер. A в итальянском материковом городе Капри представитель туристических организаций однажды были смущены вопросами приезжих шведов, которые считали, что прибыли на остров Капри, находившийся в 640 километрах.

Пилот на автопилоте

Автоматические системы отвечают не только за наш комфорт, но и за безопасность. В современных самолетах установлены надежные автопилоты, которые снижают нагрузку экипажа. Однако пилоты вместо того, чтобы во время полета заниматься чем-то еще, засыпают на штурвалах, образно или буквально. В конце 2009 года произошел нашумевший инцидент, когда два пилота на автопилоте (не в переносном значении) пролетели мимо аэропорта Миннеаполиса более чем на 160 километров. Они смотрели в свои ноутбуки и не следили за «дорогой». Тогда все завершилось хорошо, но порой не удается избежать трагедии. Так, рейс Air France 447 рухнул в воды Атлантического океана на скорости 201 километр в час из-за того, что пилоты не смогли справиться с управлением, когда отключился автопилот. Они даже не поняли, что происходит. Погибли 228 пассажиров.

На смену маленьким ошибкам приходят большие проблемы

Эрл Винер, культовая фигура в области авиабезопасности, изобрел то, что сейчас известно как «Законы Винера» об авиации и человеческих ошибках. Один из них говорит:

Цифровые устройства исправляют маленькие ошибки, создавая возможности для крупных.

У парадокса автоматизации есть три направления. Во-первых, чем проще обращение с машиной и лучше система корректировки ошибок, тем менее компетентными становятся люди. Во-вторых, даже экспертные навыки ухудшаются, потому что машины лишают людей практики. В-третьих, автоматика сбоит в необычных ситуациях или сама служит их причиной, требуя вмешательства сверхкомпетентного человека.

Чем выше эффективность и надежность электроники, тем серьезнее каждая из этих проблем.

Кто кого контролирует

Отрицать пользу автоматизированным систем бессмысленно. Они делают нашу жизнь проще, безопаснее и комфортнее. Но в то же время, чем больше мы доверяем машинам, тем сильнее страдаем от их ошибок.

Одно из возможных решений этой проблемы — поменять роль компьютера и человека.

Вместо того, чтобы позволять компьютеру управлять самолетом с человеком, готовым принять штурвал, если что-то пойдет не так, возможно, будет лучше позволить человеку управлять самолетом, а машина будет отслеживать ситуацию, готовая вмешаться в нужный момент. Ведь компьютеры не устают, не волнуются и не нуждаются в постоянной практике. Так почему мы просим людей наблюдать за машинами, а не наоборот? База данных и алгоритмы, равно как и автопилот, должны существовать для поддержки решений человека.

Если человечество полностью доверится машинам, катастрофы не избежать. Не нужно попадаться на парадокс автоматизации: решения должен принимать ум человека, a не компьютер.