Людям нужно срочно прийти к единым стандартам и ценностям, иначе спустя 10 лет придется туго. В этом уверен специалист в области искусственного интеллекта Сергей Шумский.
Специалист в области искусственного интеллекта Сергей Шумский в книге «Воспитание машин» объясняет, почему совсем скоро у роботов появится собственная «психика». Он уверен, что людям до этого момента необходимо сплотиться и прийти к единым ценностям, и заняться этим вопросом нужно срочно. DK.RU выбрал главное из книги Шумского:
Мир через 5–10 лет: слабый ИИ
Самый надежный способ предсказания будущего основан на анализе уже запущенных проектов. Если они получили инвестиции, значит, в них заложено видение будущего, на которое инвесторы сделали свои ставки, опираясь на какую-то неизвестную нам инсайдерскую информацию. Следуя этой «мудрости толпы», мы можем обрисовать ближайшее будущее на характерном горизонте венчурных проектов 5–10 лет, просто анализируя текущий рынок ИИ стартапов.
Основная часть денег сегодня тратится на коммерциализацию существующих технологий слабого ИИ, то есть на то, чтобы сорвать «низко висящие плоды». Сильный интеллект человеческого уровня находится на стадии фундаментальных исследований и не является приоритетом для бизнеса.
Все известные нам гаджеты существенно поумнеют, начнут уверенно распознавать наши лица и голоса. И не просто распознавать, но и отслеживать наше эмоциональное состояние, диагностировать физические недуги и даже предсказывать наши желания. Кроме того, за 5–10 лет суммарные мощности компьютеров возрастут еще на один-два порядка, в основном за счет роста числа сенсоров и процессоров в окружающей нас среде. Так что поумнеет все наше окружение, и умные сервисы будут доступны повсеместно, даже в отсутствие привычных гаджетов.
Качество разговорного интеллекта персональных ассистентов на основе слабого ИИ вскоре станет вполне достаточным для поддержания основных сценариев взаимодействия с пользователями. Можно с уверенностью предположить, что разговорный интеллект пройдет «бытовой» тест Тьюринга, то есть ассистенты на основе такого «фасеточного» слабого ИИ смогут обеспечить вполне приемлемое качество общения по основным сценариям, умело имитируя человеческое поведение даже в отсутствие полноценной искусственной психики.
Если сегодня персональные ассистенты в основном помогают нам рационально тратить наши деньги, то на следующем этапе они станут помогать нам их зарабатывать. Ведь цифровые платформы — это возможность найти покупателя для любого товара, включая и наши профессиональные навыки и таланты. Интернет сегодня можно уподобить глобальному виртуальному торговому центру. За 5–10 лет он превратится в глобальный виртуальный бизнес-центр.
Получит дальнейшее развитие наметившийся тренд на автономность жилищ и локальную энергетику — пассивные дома, солнечные панели, тепловые насосы, ветро-генераторы, мини-ГЭС и различные накопители энергии. Если добавить к этому доставку товаров дронами и глобальный интернет, раздаваемый из космоса низкоорбитальными спутниками Starlink, плюс растущую популярность удаленной работы, то человечество вскоре сможет начать тестировать новые модели расселения в живописной местности вне больших городов.
Ранее на DK.RU: «Пока это голубой океан». Что такое AI-арт и почему на нем можно заработать
Мир через 10–20 лет: ИИ человеческого уровня
Становление цифровых платформ невозможно без интеллектуальных агентов в качестве нового человеко-машинного интерфейса. Первые поколения таких агентов будут основаны на слабом ИИ, способном имитировать основные сценарии взаимодействия с пользователями. Как мы знаем, некоторым ботам уже удалось пройти разговорный тест Тьюринга в его простейшем варианте.
Но при тестировании гораздо легче имитировать интеллект, чем в действительности. Разумное поведение роботов в реальном мире потребует настоящего интеллекта, а не его имитации.
Главное содержание следующего этапа — широкого внедрения в нашу жизнь разумных роботов — мы связываем с появлением у них искусственной психики, то есть с технологией сильного ИИ. Только обладая искусственной психикой человеческого уровня, роботы будут способны заменять или дополнять людей на производстве в массовых масштабах, обучаясь самым разным специальностям. А дальнейший рост экономики в отсутствие роста народонаселения возможен только за счет все более многочисленной армии все более совершенных роботов.
Появление операционной системы роботов, основанной на искусственной психике, ознаменует начало массовой робототехники, замену людей роботами с передачей последним всех человеческих знаний, навыков и ценностей. Это и станет основным содержанием рассматриваемого этапа — становления человеко-машинной цивилизации.
Как это все будет выглядеть на практике? Прежде всего, наши персональные ассистенты, обретя свою собственную психику, станут гораздо более самостоятельными и креативными, в отличие от прежних, поведение которых было в большой степени запрограммировано. Они смогут понимать нас и наши мотивы гораздо глубже и тем лучше, чем ближе будет устройство искусственной психики к человеческой. Соответственно, им можно будет перепоручить представление наших интересов в цифровом мире, ведение переговоров от нашего лица с такими же агентами других людей. Иначе говоря, мы сможем «повысить» их с должности секретаря-ассистента до роли агентаимпресарио или поверенного с определенными полномочиями, вплоть до подготовки и заключения юридически значимых смарт-контрактов.
То же относится и к роботам, которые будут связаны между собой и с программными агентами в единую сеть, обмениваясь информацией и знаниями в процессе совместной с людьми мыследеятельности. Вот почему важно иметь единую архитектуру искусственной психики агентов и роботов, как можно более похожую на человеческую. В этом случае им легче будет понимать наш язык, мотивы и ценности, то есть действовать именно в наших интересах.
Возникает вопрос: какие ценности мы сможем передать машинному интеллекту? Ведь они могут существенно отличаться у разных социальных групп, сообществ и стран, поэтому противоречия внутри человеческого разума неизбежно воспроизведутся и внутри коллективного машинного разума. Мир на Земле будет существенным образом зависеть от степени остроты этих внутренних противоречий. Образно говоря, если мы хотим договориться с будущим сверхинтеллектом, мы должны сначала суметь договориться между собой, дорасти до бесконфликтной самоорганизации всего мирового сообщества.
По мысли Юваля Харари, человечество обязано своими успехами способности людей формировать ментальные конструкции, «истории», в которые верят большие группы людей, — от религии и идеологии до общественных институтов и денег. Эти символы веры сплачивают человеческие общности, обеспечивают необходимый уровень взаимного доверия, понимания мотивов друг друга.
Беда лишь в том, что такие конструкции у разных групп людей могут существенно различаться. Соответственно между сообществами с разными системами ценностей возникает взаимное недоверие, потому что люди не понимают мотивов поступков чужаков либо эти мотивы кажутся им чуждыми — «варварскими». Возникает двойная мораль — по отношению к своим и к чужим. Если внутри своей общности принято соблюдать общие ценности, то в отношении к чужакам они уже необязательны, а то и нежелательны. Стремление унифицировать систему ценностей неискоренимо и является причиной бесчисленных войн, из которых человечество не вылезало со времен геноцида неандертальцев и прочих гоминид.
Однако остается надежда, что людям удастся сплотиться в единую общность, осознав общую для всего человечества опасность, как это описано в трилогии китайского фантаста Лю Цысиня «Задача трех тел», где человечество сталкивается с нашествием более совершенного инопланетного разума.
Читайте также: Какие цифровые технологии стоит внедрять на предприятиях и при чем здесь государство