Бизнесмены против Харари: «Не пугайте людей страшилками в духе Греты Тунберг!»

В январе на форуме в Давосе историк и футуролог Юваль Ной Харари выступил перед мировой бизнес-элитой с апокалиптическим прогнозом. Главные риски XXI века он связал с искусственным интеллектом, автоматизацией, цифровизацией, биотехнологиями, развитие которых может привести к «взлому» человека и полной утрате свободы, появлению класса «бесполезных» людей, а также цифровых диктатур.  

Любопытно, что последние полгода показали: многое из предсказанного Харари «материализуется» буквально на глазах. За примерами далеко ходить не надо: в мае Госдума одобрила создание ресурса с данными всех жителей страны, а в начале июня Владимир Путин поручил сформировать Национальную базу генетической информации.

Руководители трех екатеринбургских компаний, в том числе технологичных, по просьбе «ДК» прокомментировали ключевые тезисы книги Ю. Н. Харари «21 урок для XXI века» и его речи в Давосе.

«Большинство людей будет страдать от своей ненужности»

Юваль Ной Харари:

«Некоторые убеждены, что через каких-нибудь 10-20 лет миллиарды людей станут ненужными для экономики. Другие утверждают, что автоматизация и в долгосрочной перспективе будет создавать новые профессии и обеспечит рост благосостояния для всех… Важно понимать, что революция в сфере ИИ связана не только с тем, что компьютеры становятся быстрее и умнее. Ее подпитывают прорывы в естественных и социальных науках. Чем яснее мы понимаем механизмы биохимических процессов, лежащих в основе человеческих эмоций, желаний и поступков, тем успешнее компьютеры анализируют поведение человека и предсказывают его решения, заменяя водителей, банкиров и юристов.

ИИ может не только «взламывать» людей и превосходить их в умениях и навыках, которые до сих пор считались исключительно человеческими. Он также обладает уникальными способностями, отсутствующими у человека, что делает различие между ним и работником из плоти и крови не только количественным, но и качественным… Исчезновение многих традиционных профессий в самых разных областях, от искусства до здравоохранения, отчасти будет скомпенсировано созданием новых…Однако новые профессии, по всей видимости, потребуют высокой квалификации, а значит, вопрос о занятости неквалифицированных рабочих останется открытым… Таким образом, несмотря на появление множества новых профессий, может возникнуть целый класс «лишних» людей».

Андрей Бриль, председатель совета директоров «Корин холдинга», полномочный представитель Гильдии управляющих и девелоперов в Екатеринбурге и Свердловской области:

— Мне кажется, проблемы, о которых говорит Харари, не то что не актуальны, но неправильно сформулированы. С одной стороны, все генералы готовятся к предыдущей войне, а революционеры — к предыдущим революциям. Реальность через 50-100 лет будет кардинально отличаться от всего, что было и есть сейчас. С другой стороны, исторический ретроспективный анализ позволяет утверждать, что прогнозы о возникновении класса лишних людей из-за прогресса неизменно оказываются беспочвенными. Когда появились первые автомобили и паровой двигатель, некоторые тоже предрекали катастрофу.

На мой взгляд, апокалиптические сценарии, описываемые Харари, не основаны на серьезном анализе будущих изменений в сферах профессиональной человеческой деятельности. То, что произойдет в ближайшие 50-100 лет в энергетике, гораздо важнее развития искусственного интеллекта. Автомобильная промышленность перестанет существовать в том виде, как сейчас, поскольку появится принципиально иная технология передвижения. Есть еще ряд технологических развилок, которые изменят целые отрасли и профессии. Не роботы лишат людей рабочих мест. Но ликвидация одних видов деятельности и появление новых — постоянный процесс в истории человечества.

Конечно, возникает вопрос: что делать с людьми, которые лишатся работы? Сейчас нам рассказывают о важности переобучения пенсионеров. Но у человека в возрасте 55-60 лет нет перспективы работать следующие 15-20-30 лет, ради которой стоило бы потратить время на освоение новой профессии. Когда средняя продолжительность жизни достигнет 120 лет, и из них 90-100 лет будут годами активной трудовой деятельности, в переобучении появится смысл. Правда, потребуется еще и ломка стереотипов.

Я не вижу трагедии в том, что люди старшего возраста не захотят работать с искусственным интеллектом. Меня бесполезно пытаться учить цифровым технологиям, в то же время моя внучка (ей 1 год и 5 месяцев) с телефоном на ты. Для этого поколения цифровая экономика будет «на кончиках пальцев». В конце 30-х годов в СССР конники Семена Будённого тормозили внедрение в армию танковых соединений. Прозорливые люди понимали, что это плохо, но не могли им противостоять. В 1941 г. проблема решилась автоматически: конники сразу были убиты или попали в плен. На их место пришли молодые ребята, не имевшие предубеждения против танков.  

Резюмирую: готовиться к вчерашней войне бессмысленно, надо пытаться прогнозировать технологические трансформации, которые изменят «лицо» профессий, думать о подготовке новых людей, которые будут нужны в новой экономике. Из-за инерционности процессов у тех, кто вооружен знаниями, будет время перестроиться.

Антон Халиков, основатель NetAngels:

— Футуролог Харари описал жутковатую картину: миллионы людей потеряют работу, тотальный цифровой контроль со стороны государства, управление сознанием со стороны мегакорпораций, установление контроля над разумом человека. Так ли это далеко от реальности? Сегодня эта реальность уже стучится в дверь, причем задолго до прихода тотального искусственного интеллекта.

Неустанно движущийся вперед прогресс постоянно приводит к тому, что какие-то профессии исчезают, но какие-то новые всегда приходят им на смену. Сегодняшние таксисты наверняка смотрят на самоуправляемые авто с ИИ примерно с такими же чувствами, с которыми всего 100 с небольшим лет назад многочисленные кучеры смотрели на вновь появившиеся автомобили. Сможет ли сегодняшний 50-летний водитель грузовика завтра, потеряв работу, стать программистом, пишущим код, взаимодействующий с ИИ? Вряд ли. Ведь сегодня каждая из таких задач тянет на мини-диссертацию по высшей математике. Но это сегодня. А уже довольно скоро бытовые механизмы с ИИ будут собираться так же, как машинки из конструктора. Тогда, наверное, и вопрос будет звучать: не «сможет ли», а «захочет ли»?

Александр Давыдов, глава совета директоров Naumen:

— Безусловно, машины будут замещать людей. Это огромная проблема, и ее невозможно решить в рамках капиталистической экономической системы, где отношения регулируются рынком. Мне не нравится словосочетание «лишние люди». Да, кто-то «не впишется в рынок», подобное произошло в России в 90-е годы: 80% населения оказалось не у дел. Вероятно, то же ожидает нас в будущем. Но не вписавшиеся в рыночную систему люди — лишние в существующей социальной и экономической модели, в которой значимость человека определяется его возможностью зарабатывать деньги. Однако мы видим, что капиталистическая модель зашла в тупик, исчерпала себя. Мы давно в состоянии производить больше, чем способны потребить, однако половина человечества живет в нищете.

«Алгоритмы Больших данных способны породить цифровые диктатуры»

Юваль Ной Харари:

«На наших глазах происходит слияние двух масштабных революций. Биологи проникают в тайны человеческого тела, мозга и чувств. Одновременно специалисты в области вычислительных систем открывают беспрецедентные возможности обработки данных.

Когда биотехнологическая революция сольется с революцией в ИТ, появятся алгоритмы Big Data, способные следить за нашими чувствами и понимать их гораздо лучше, чем мы. И тогда власть перейдет от людей к компьютерам. Иллюзия свободы воли, скорее всего, развеется, если я каждый день буду сталкиваться с институтами, корпорациями и госучреждениями, которые манипулируют тем, что я до недавних пор считал своим внутренним миром, недоступным для других.

Когда правительства и корпорации взломают операционную систему человека, на нас обрушится шквал точно выверенных манипуляций, рекламы и пропаганды.

Фактически мы имеем все шансы получить то, чего в своем богатом воображении не предвидел даже Оруэлл: режим тотальной слежки, который не только контролирует наши действия и высказывания, но и способен проникнуть нам под кожу и следить за нашими внутренними ощущениями».

Андрей Бриль:

— Странно, если г-н Харари полагает, что у умных людей сохраняется иллюзия свободы воли, и если верит, что свобода воли может быть ликвидирована. 

Сегодня нами манипулируют при помощи телевидения. Большое заблуждение думать, что методы манипулирования, применявшиеся в прошлом, менее эффективны, чем те, что появятся. Достаточно вспомнить речи Гитлера, которые привели к гибели миллионов людей. Да, наши реакции на происходящее во внешнем мире будет проще «считать». Но мне кажется, Гитлер или Сталин знали о людях больше, чем когда-либо узнает искусственный интеллект. На мой взгляд, главная проблема, которая стоит сегодня, связана не с развитием Big data и сбором информации о человеке, а с созданием интерфейса, который позволит при помощи мысли управлять компьютерами и другими физическими объектами.

Непонятно, будет ли вообще противостояние искусственного интеллекта и человека как биологического существа, или сформируется новое биологическое существо — симбиоз первого и второго, обладающее новыми возможностями.

Резюмирую: мне кажется, что ничего принципиально нового в области манипулирования общественным сознанием не происходит и не произойдет. Будут ли сидеть по разные стороны баррикады биологический человек и искусственный интеллект и Big data? Похоже, что все будет не так.

Антон Халиков:

— Серое будущее с тотальной слежкой со стороны большого брата не выглядит многообещающим. Но посмотрите на реальность: у каждого умеющего читать человека в кармане лежит смартфон. Необязательно покрывать всю поверхность земли видеонаблюдением, чтобы отслеживать перемещение любого из нас. Сотовые компании уже сегодня предлагают расширенные возможности отправки рекламы своим абонентам исходя из того, какие магазины посещает абонент, где расплачивается за обед, где покупает продукты и одежду, как часто ездит в другие города, за границу, и так далее.

Сегодня благодаря COVID-19 государства как никогда хотят знать историю перемещения и контактов каждого гражданина, и у них есть для этого все возможности, которые мы же сами им и предоставили через наши смартфоны. Просто большинство не было готово к этому, но поверьте, работа в этой области уже кипит.

Управление сознанием? Тоже не так уж и далеко от нас. Конечно, до того, чтобы хакнуть мозг конкретного человека и заставить его делать то, что нужно контролеру, еще очень далеко, но разве сегодня мы не слышим обвинения одних стран, что другие вмешиваются в их выборы? Разве таргетированная реклама в интернете не дошла до того, чтобы вываливать вам именно то, о чем вы подумали минуту назад? Ведь социальные сети уже формируют вашу ежедневную ленту новостей не из того, что пишут все ваши онлайн-друзья, а из того, что их ИИ считает более интересным для вас конкретно в данный момент. Да, конечно, ошибок в этих системах еще очень много, но они прогрессируют каждый день, изучая нас всё больше и больше по тому, что мы пишем, с кем общаемся, какие фильмы смотрим, какие книги читаем и так далее, ведь все это все больше переходит в онлайн.

Но важно понимать, что на сегодня никакого Искусственного Интеллекта, который мог бы самостоятельно думать, не существует. Существуют высокопроизводительные вычислительные системы, которые умеют находить мельчайшие шаблоны в огромных наборах данных и далее действовать по заложенным в них алгоритмам. А алгоритмы эти по-прежнему разрабатывают люди. И именно люди определяют, принесет ли конкретный ИИ кому-то пользу или вред. Или, точнее, кому он принесет пользу, а кому — вред.

Александр Давыдов:

— В тезисе, что власть перейдет к компьютерам, на мой взгляд, есть некоторое лукавство. Кто определяет параметры программ? Главный эффект развития цифровизации и искусственного интеллекта заключается в возможности сконцентрировать власть. В чьих руках она окажется — вот главная проблема.

Несколько лет назад в Китае появилась Система социального кредита. Ее можно рассматривать как альтернативу инструменту управления массами людей, который характерен для капиталистической экономики. Назовем его долговой кабалой. Сейчас в Китае вместо долговой кабалы — социальный рейтинг, в основе которого тоже лежит управление людьми через страх. Наверное, развитие по этому сценарию невозможно остановить. Главный вопрос: чьи интересы окажутся во главе угла — общества и государства или частные интересы, интересы олигархии? На мой взгляд, в Китае мы видим приоритет интересов государства и общества над частными интересами. В США же господствующими будут интересы крупных корпораций, как происходит и сейчас.

Харари также пугает приходом нового Сталина, но разве перспектива, что власть будет принадлежать, условно, корпорации Google, более радужная? Кстати, никто не говорит, что в Китае людьми управляет компьютер через Систему социального кредита. Управляет тот, кто создает рейтинги и задает параметры.

«Искусственный интеллект и биотехнологии способны дать нам богоподобные свойства» 

Юваль Ной Харари:

«… Развитие биотехнологий позволит превратить экономическое неравенство в биологическое. Сверхбогатые люди в конечном счете найдут действительно достойное применение своему богатству. Раньше они могли купить лишь символы статуса, но вскоре у них появится возможность купить саму жизнь. Если новые препараты для продления жизни и улучшения физических и когнитивных способностей будут очень дорогими, может образоваться глубокая биологическая пропасть между богатыми и бедными… Два процесса — биоинженерия и развитие искусственного интеллекта — совокупно могут привести к разделению человечества на небольшой класс суперлюдей и массовый низший класс бесполезных Homo sapiens».

Александр Давыдов:

— Сегодня есть экзоскелеты, делающие человека физически сильнее. Очевидно, в перспективе появятся и экзоскелеты для мозга — интеллектуальные системы, позволяющие резко ускорить те или иные процессы, и необходимые интерфейсы. Эти технологии можно использовать как во благо, так и во вред. И снова возникает вопрос: кто гарантирует, что инструмент, который используете вы, кто-то не использует против вас?

Что касается разделения на классы, биологические виды, думаю, человечество не сможет этого избежать, если частные интересы будут превалировать над общими. Кто-то получит доступ к достижениям, позволяющим стать сверхчеловеком, кто-то нет. Без сомнения, такие возможности появятся.

Андрей Бриль:

— Биологическое неравенство давно существует: продолжительность жизни людей с разным уровнем достатка кардинально отличается. На нее влияют возможность правильно питаться, пить качественную воду, иметь доступ к такому здравоохранению, которое позволит дожить до 80 лет, даже имея онкологическое заболевание, а не умереть от него в 50 лет. О проблеме неравенства писали еще Платон и Аристотель и в их работах можно найти очень содержательный анализ понятия «равенство».  

Неравенство есть и будет. И с развитием биотехнологий некоторые смогут приобрести 120 лет жизни, а миллионы людей — нет. В этом можно не сомневаться. Но технологии быстро станут доступными, как происходит и сегодня. В то же время класс эксклюзивных товаров будет всегда.

Сейчас человечеству снова надо анализировать и разбираться с проблемой равенства и справедливости. Все декларируют: «Мы за равенство и справедливость». С таким же успехом можно говорить: «Мы за все хорошее и против всего плохого». Но вряд ли вы получите внятный ответ, если зададите вопрос: «Вы за какое равенство — умственных способностей? Доходов? Количества ног?». С понятием «справедливость» еще сложнее.

Резюмирую: во-первых, необходимо корректно, аргументированно, со всех сторон и по возможности объективно анализировать происходящие события и понятия, которыми мы оперируем при их рассмотрении. А не пугать друг друга, используя слова, которые кажутся хорошими. Во-вторых, важно сосредоточить внимание на технологиях, развитие которых приведет к появлению нового класса люксовых продуктов и углублению неравенства. Каким будет противодействие различных социальных групп из-за доступа к новым биотехнологиям, как они будут решать эту проблему — а они неизбежно будут ее решать, — вот об этом надо думать сегодня.

В целом, ряд вопросов, поставленных Харари, представляются актуальными. Но, на мой взгляд, главный нерв текущего момента состоит в исчерпанности идейного запаса XIX-XX веков в отношении модели общественного развития, оценки базовых понятий, таких как благо, добро, равенство.

Джон Стюарт Милль, Адам Смит, Карл Маркс, Макс Вебер, Йозеф Шумпетер, Владимир Ленин, Махатма Ганди, Нельсон Мандела, Мао Цзэдун, Кемаль Ататюрк и другие создали огромную базу знаний, предложений и идей относительно того, что делать человечеству. Руководствуясь ими, в XX в. революционеры разных стран и народностей разрушили до основания то, что было, и практически все построили заново. В конце XX в. возникло ощущение: все сделали, опробовали, построили. И некоторые мыслители провозгласили конец истории.

Однако в начале XXI в. выяснилось, что всех обманули: Америку снова надо делать великой, Европа без конца бьется в кризисах, Китай растет быстрее всех, но нет консенсуса, что именно он приведет мир к светлому будущему.

Еще раньше в одно историческое мгновение самоликвидировался СССР — величайший социальный, экономический, политический, психологический эксперимент в истории человечества, продолжавшийся целых 70 лет. Философия ненасилия Ганди не спасла Индию от жуткого кровопролития и распада на три государства — Бангладеш, Пакистан и Индию. Кемаль Ататюрк кардинально изменил Турцию, но сегодня там расцветают неоосманизм и панисламизм. Таким образом, все государства оказались у разбитого корыта и не знают, что делать.

Сейчас идет процесс, в который, видимо, вовлечен и Юваль Харари: умные люди размышляют, что предложить человечеству, какие проблемы стоят перед ним, как их решить. Бросаться менять мир, пока ты его не объяснил, бессмысленно, бесполезно и очень вредно. Как и пугать людей апокалиптическими сценариями и страшилками в духе Греты Тунберг.

Источник цитат в тексте — книга Юваль Ной Харари «21 урок для XX1 века», изд-во «Синдбад», 2019.

Фото - Игорь Черепанов, DK.RU.