Девочка спросила умную колонку: «Как мне развлечься?». «Некоторые дети вставляют два провода в розетку, прикладывают монетку и высекают искру», — ответила та. Кто виноват в последствиях? Джефф Безос?
По мнению футуролога, генерального директора компании MINDSMITH Руслана Юсуфова, в ближайшие десятилетия технологии могут серьезно изменить жизнь человека, и миру придется решать множество философско-экономических вопросов. Главный из которых — как сделать так, чтобы не человек был на службе технологий, а технологии на службе человека?
Об изменениях на рынке труда
— Сегодня искусственный интеллект (ИИ) — инструмент в руках продвинутых. Но завтра он станет конкурентом для сотен миллионов человек, например, дизайнеров и программистов. Есть страны, где живут сотни миллионов фрилансеров, работающих на этих позициях. Если завтра они останутся без работы, могут начаться не только социальные и миграционные кризисы, но и военные конфликты.
При работе останутся только самые талантливые и продвинутые. А что делать тем, кто будет уволен? Кто будет нести за них ответственность?
Возможно, разговор об этих перспективах спровоцирует новые экономические форматы и заставит власти задуматься о безусловном базовом доходе. Возможно, сейчас нам нужно не снижать налоги, а повышать их, чтобы сформировать кубышку для поддержки людей, которые завтра могут быть уволены. Если люди перестанут получать деньги, кто будет покупать все те товары, которые производят роботы? Экономика сломается.
Мы оказались в ситуации, когда вузы продолжают плодить «лишних людей». Человек приходит в университет, учится несколько лет, после этого гарантированно попадает в ненужную профессию. То, что востребовано сегодня, через пять лет может быть никому ненужно.
Сейчас, например, растет рынок EdTech — это замечательно, но получается, что мы пытаемся закрыть дыру заплаткой. Сегодня нужны Python-программисты, завтра понадобятся дата-сайнтисты, через три года придется переучиваться на специалиста по этике в области ИИ. А еще через несколько лет придется стать нейрохирургом, который будет имплантировать чипы. Сможет ли человек впихнуть в себя все эти компетенции? Хватит ли ему времени, чтобы оперативно встраиваться в изменения? Сомневаюсь.
О цифровой среде
— Искусственный интеллект — один из ключевых факторов развития «умного города». Эти технологии обеспечивают безопасность людей и повышают их качество жизни.
Недавно я модерировал панельную дискуссию о кибербезопасности городов. И девушка из зала задала вопрос: «Вот мы говорим об «умных городах», а что делать с «глупыми деревнями», до которых технологии просто не доходят?». Вопрос совершенно правильный. Я неоднократно проезжал места, где в принципе нет интернета.
Есть, конечно, и обратные ситуации. Например, на Камчатке проложили скоростной интернет до отдаленных поселений оленеводов. И человек, сидя в своем национальном доме на огромном расстоянии от цивилизации, может стримить в Twitch. Но пока это скорее исключение, чем правило. Не увеличиваем ли мы существующие цифровые, социальные и экономические разрывы?
Нельзя забывать, что у нас есть люди, которые исторически не вписываются в цифру. Мы насильно пытаемся затащить их в мобильное приложение, улучшить пользовательский интерфейс. А им хочется читать газету. И, наверное, их не стоит лишать этой возможности.
Очевидно, что сегодня у нас есть трансгуманисты, готовые вживить себе чип ради расширения своих человеческих возможностей. Но есть и люди, которые будут сопротивляться этому по разным причинам — идеологическим, религиозным, этическим. Я думаю, что «техностарообрядцев» со временем будет становиться больше.
О факторах риска
— Человек является потребителем большого количества продуктов, где ИИ играет первую скрипку. Поэтому нужно помнить о последствиях, к которым это может привести.
Однажды я общался с технологическим предпринимателем: он рассказал, что сделал цифрового двойника, который читает вместо него лекции. Я подумал, что это здорово, попросил показать, как это выглядит. Действительно, на экране телефона предприниматель показал «говорящую голову», движение губ и голос которой были синхронизированы, а говорить она могла на нескольких языках.
— А откуда берется контент? Чьи это мысли? — поинтересовался я.
— Из ChatGPT, — ответил собеседник.
Кажется, нас ждет довольно страшная развилка с точки зрения создания и распространения данных Мы можем прийти в мир, в котором нет универсального общественного контента и нет возможности выбора информации, которую можно потреблять.
Уже сейчас мы не выбираем, на каком такси ехать — мы садимся в машину, которую за нас выбрал Агрегатор-1 и Агрегатор-2. Вероятно в перспективе у нас будет Труба-1 и Труба-2, закачивающие в нас определенную информацию и замеряющие, как мы на нее реагируем. Остается только догадываться, кто будет управлять этой трубой.
Сегодня во многих американских семьях стоят колонки Alexa от Amazon. То есть, фактически в воспитании ребенка принимают участие не только мама и папа, но и команда Джеффа Безоса. Мы с Ростелекомом и Альянсом по защите детей в цифровой среде год назад сделали масштабное исследование киберрисков для детей и подростков. От кейсов, которые мы анализировали, волосы встают дыбом.
Один из них мне особенно запомнился. Восьмилетняя девочка из Америки задала умной колонке вопрос: «Как бы мне развлечься?». Колонка ответила: «Некоторые дети, чтобы развлечься, вставляют два провода в розетку, прикладывают монетку и высекают искру». Девочка, которая росла с колонкой, просила ее о помощи в выполнении домашнего задания, восприняла это как руководство к действию. Случился пожар, и девочка обгорела. Возникает вопрос: кто должен нести ответственность? Родители, которые не поставили контроль? Джефф Безос? Программисты, которые написали неэтичный код?
Другая показательная ситуация — как современные технологии играют на руку мошенникам. Раньше они просто звонили бабушке и сообщали, что внук попал в беду. Сегодня они звонят бабушке голосом внука, а завтра будут отправлять видео происшествия, которого на самом деле не было.
В этом смысле мы становимся жертвами искусственного интеллекта. Мы переходим в новые форматы и парадигмы, но пока не можем их регулировать.
Поэтому, если переход в цифру продиктован лишь желанием развивать фундаментальную науку и технологии, мы упускаем важную часть — человеческое счастье и важность человека.
Материал подготовлен на основе выступления Руслана Юсуфова на «Форуме Будущего» в Екатеринбурге.
Читайте также на DK.RU:
«Государство пытается регулировать IT. Вместо этого нужно создавать возможности»