Оригинальное название

AI 2041. Ten visions of our future

На русском языке публикуется впервые

Научный редактор Михаил Бурцев

Это написал я, наивный и восторженный студент, в заявке на участие в программе докторантуры в Университете Карнеги — Меллона. С того дня прошло почти 40 лет.

Термин «искусственный интеллект» предложил американский ученый Джон Маккарти еще раньше, в 1956 году, во время исторического Дартмутского летнего исследовательского проекта по искусственному интеллекту[1].

Сегодня многие считают искусственный интеллект типичной технологией XXI века, однако его концепция возникла в середине века двадцатого, правда, тогда мало кого заинтересовала. Первые 35 лет моего путешествия в область ИИ ограничивались практически чистой наукой, исключение составили пара-тройка успешных коммерческих адаптаций.

Долгие годы практическое применение ИИ пробуксовывало, но в последние пять лет он превратился в самую популярную технологию в мире. Все перевернулось в один момент — в 2016 году компьютерная программа для игры в го AlphaGo (создана в компании Google DeepMind[2]) со счетом 4: 1 обыграла в пятираундовом чемпионате южнокорейского профессионала 9-го дана Ли Седоля[3]. Матч вошел в историю как Google DeepMind Challenge Match.

Го — это настольная игра, сложнее шахмат в миллион триллионов квадриллионов раз. Энтузиасты-фанаты го считают, что, в отличие от шахмат, эта игра требует подлинного ума, мудрости и интеллектуальной дзен-утонченности. Так что победа искусственного интеллекта над чемпионом-человеком при игре в го многих повергла в шок.

AlphaGo, как и большинство коммерческих прорывов в области ИИ, основана на глубоком обучении, технологии самообучения системы с использованием датасетов (огромных наборов данных). Технологию придумали много лет назад, но вычислительные мощности для наглядной демонстрации ее эффективности появились относительно недавно. Примерно тогда же накопилось достаточное количество обучающих данных, что позволило получить значимые результаты.

Если сравнить с ситуацией сорокалетней давности, когда я только начал заниматься ИИ, сегодня в нашем распоряжении примерно в триллион раз больше вычислительных мощностей, а хранение необходимых данных обходится в 15 миллионов раз дешевле. Словом, тенденция очевидна и сомневаться не приходится — глубокое обучение и связанные с ним ИИ-технологии со временем затронут практически все аспекты существования человечества.

Сейчас мы переживаем переломный момент в развитии ИИ. Искусственный интеллект наконец-то покинул башню из слоновой кости и перестал быть исключительно научной концепцией. Дни неспешного прогресса окончились.

За последние пять лет ИИ не только победил чемпионов-людей в го, покер и Dota 2[4], но и развился настолько, что через четыре часа обучения шахматам его не одолеть никакому гроссмейстеру. Но ИИ, конечно же, хорош не только в играх.

Над загадкой сворачивания белка биологи всего мира бились на протяжении полувека — ИИ разгадал ее в 2020 году. Он превзошел нас в деле распознавания речи и объектов; преподнес нам «цифровых людей» потрясающей реалистичности — как по внешнему виду, так и по умению говорить; умудрился успешно сдать вступительные экзамены в колледж и «получил» медицинскую лицензию.

ИИ решительно обходит судей по справедливости и логичности вынесенных приговоров, врачей-радиологов — в точности диагностики рака легких. ИИ чрезвычайно эффективно используется в беспилотниках, которым суждено изменить будущее доставки товаров, а также сельского хозяйства и военного дела. И наконец, благодаря ИИ автомобили без водителя могут ездить по скоростным трассам — поездки в них безопаснее, чем с шоферами-людьми.

Что же нам сулит дальнейшее развитие ИИ и применение этой замечательной технологии в новых областях?

В книге «Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок»[5] я писал о разрастании данных — этой «новой нефти», «топливе», на котором работает искусственный интеллект.

Сегодня революцию в области ИИ возглавляют США и Китай. Соединенные Штаты лидируют в исследованиях, Китай с огромной скоростью использует всё большие массивы данных для практического применения технологий ИИ во всей Поднебесной. В предыдущей книге в 2018 году я прогнозировал новые достижения — от принятия важных решений на основе массивов данных до машинного восприятия[6] и автономных роботов самых разнообразных видов и специализаций, в том числе упомянутого выше автономного (беспилотного) транспорта.

Четыре волны применения ИИ-технологий, повлиявшие практически на все отрасли

Я предсказывал, что новые способы применения ИИ-технологий приведут к беспрецедентному росту экономической ценности в цифровой, финансовой и транспортной отраслях и в сфере розничной торговли, однако создадут проблемы, связанные, к примеру, с массовым сокращением рабочих мест. ИИ представляет собой универсальную технологию, поэтому со временем она проникнет практически во все отрасли и области деятельности.

К сегодняшнему дню влияние ИИ на жизнь человечества проявилось четырьмя последовательными волнами: сначала в сфере интернета; затем в бизнесе (область финансовых услуг), далее в сфере восприятия (вспомните о концепции умного города) и, наконец, в автономных приложениях, таких как беспилотные автомобили.

К тому времени, когда вы будете читать эту книгу (в конце 2021 года или даже позже), многие прогнозы из моей предыдущей книги, скорее всего, уже подтвердятся. Так что теперь устремим взор вперед. Я много путешествую, рассказываю об искусственном интеллекте в разных уголках мира, и меня постоянно спрашивают: «А что же дальше? Что будет через пять, десять, двадцать лет? К чему готовиться человечеству?»

Это чрезвычайно важные для текущего исторического момента вопросы. У всех, кто связан со сферой высоких технологий, есть на этот счет собственное мнение. Некоторые убеждены, что мы находимся в эпицентре «пузыря ИИ» — он со временем лопнет или как минимум сдуется.

Сторонники более радикальных и антиутопических теорий, вообще склонные верить во что угодно, полагают: реальна любая идея. Разброс — от «ИИ-гиганты “захватят наш разум” и сформируют новую утопическую расу киборгов-машинолюдей» до «коварный ИИ доведет нас до апокалипсиса». Подобные гипотезы порождены живой и искренней любознательностью или вполне оправданным страхом перед будущим. Однако все они, как правило, спекулятивны или как минимум сильно преувеличивают опасность. И все они совершенно точно не формируют полной картины.

Имеющиеся гипотезы и теории сильно разнятся: ИИ — явление чрезвычайно сложное и малоизученное. Пытаясь понять, что же он такое, люди, как правило, используют три источника — научную фантастику, новостные ленты и «лидеров мнений».

В фантастических книгах и сериалах часто присутствуют роботы, которые вдруг начинают управлять людьми и контролировать их, или как минимум стараются объегорить двуногих; суперинтеллект же зачастую вообще предстает в виде вселенского зла.

Медиа обычно ярко и подробно описывают отдельные негативные примеры: взахлеб рассказывают, как беспилотный автомобиль сбил пешеходов, как технологические компании с помощью ИИ подтасовывают результаты политических выборов, как злодеи используют искусственный интеллект для распространения дезинформации и фейков. Техническому прогрессу как таковому внимания уделяют мало, если только он не приводит к каким-то выдающимся результатам.

Наилучшим вариантом может показаться доверие в данном вопросе лидерам мнений и популярным авторам из соцетей. Однако большинство из них если и являются экспертами, то в какой угодно области — в бизнесе, физике или политике, но только не в ИИ-технологиях. Так что с виду весомым и аргументированным прогнозам на деле нередко недостает научности.

Ситуация усугубляется еще и тем, что журналисты, желая придать своим публикациям веса и убедительности, а заодно привлечь внимание аудитории, частенько цитируют эти «интернет-источники», да еще и вырывают слова автора из контекста.

Словом, удивляться тому, что люди относятся к ИИ настороженно, а то и негативно, не приходится — мнение даже самых думающих и стремящихся быть объективными основано в лучшем случае на полуправде.

Разумеется, многие аспекты дальнейшего развития искусственного интеллекта заслуживают пристального внимания и максимальной осторожности, но чрезвычайно важно уравновесить возможные проблемы пониманием полной картины и великого потенциала ИИ.

Как большинство технологий в мире, искусственный интеллект не является ни добром, ни злом. Как большая часть новых технологий, он в конечном счете окажет на нашу цивилизацию скорее позитивное, чем негативное влияние.

На протяжении всей истории люди поначалу относились к новым технологиям с опаской: всегда казалось, что они нарушат статус-кво и породят хаос. Но сегодня никто не вспоминает, как неоднозначно поначалу воспринималось электричество, мобильные телефоны и интернет — они удобны, это очевидно и сегодня даже не обсуждается. Технологии со временем органично вплетались в ткань жизни, существенно ее улучшали — и страхи рассеивались.

По моему убеждению, уже есть (и еще найдется) немало областей применения ИИ. Также возможно немало сценариев, в которых он имеет шанс существенно улучшить наше общество. Прежде всего это чисто экономическая выгода. По оценкам PricewaterhouseCoopers, к 2030 году она составит 15,7 триллиона долларов — это, конечно же, здорово поможет в борьбе с голодом и бедностью.

Новые эффективные ИИ-сервисы вернут нам самый ценный ресурс — время. Искусственный интеллект возьмет на себя однообразные повседневные задачи, освободив нас для более творческой или сложной работы.

Люди, наконец, начнут работать в симбиозе с ИИ: он станет выполнять количественный анализ, оптимизацию и рутинные задания, а мы, люди, сосредоточимся на креативности, критическом мышлении и страсти. Наша продуктивность резко возрастет, а это позволит человеку полнее реализовывать свой потенциал. Словом, вероятный вклад ИИ в будущий прогресс человечества необходимо исследовать так же глубоко и всесторонне, как и связанные с этой технологией проблемы.

Мы сегодня очутились внутри своего рода петли обратной негативной связи, нам важно понять: а что будет дальше? И я решил написать еще одну книгу об искусственном интеллекте, на этот раз несколько расширив горизонты. Я попытался представить себе и описать будущее нашего мира и общества через 20 лет, то есть в 2041 году.

Моя цель — составить «реальную» потенциальную историю ИИ, откровенную и сбалансированную, но в то же время конструктивную и с надеждами на лучшее. Обратите внимание: эта книга основана на реальном представлении об ИИ — в ней идет речь либо о существующих технологиях, либо о тех, появления и вызревания которых вполне обоснованно ожидать в течение следующих двух десятков лет.

Если еще точнее, истории, вошедшие в эту книгу, рисуют портрет нашего мира в 2041 году. Мир этот будет основан на технологиях, вероятность появления которых к тому времени составляет не менее 80 процентов. Конечно, я могу переоценить или недооценить некоторые из них, но, по-моему, книга представляет собой набор ответственных и максимально вероятных сценариев.

Что же вселяет в меня такую уверенность? Последние сорок лет я занимался исследованиями в области ИИ и разработкой продуктов в Apple, Microsoft и Google и инвестировал в новые технологии три миллиарда долларов. Так что некоторый опыт работы с процессами, необходимыми для превращения технологии из темы для научной статьи в универсальный продукт, у меня имеется. Я также в состоянии приблизительно оценить, сколько времени для этого потребуется.

Будучи советником разных правительств по стратегическим вопросам развития ИИ, я могу делать прогнозы, основанные на знаниях в области политики и нормативно-правовой базы. Я старательно избегаю любых спекулятивных прогнозов относительно фундаментальных технологических прорывов и полагаюсь в основном на экстраполяцию на будущее уже существующих технологий.

На сегодня ИИ проник менее чем в 10 процентов наших отраслей, у нас масса шансов представить себе будущее с учетом применения этой технологии в новых сферах. Я убежден: ИИ окажет на наше общество огромное влияние, даже если серьезных прорывов будет совсем мало, а то и не случится вовсе. Эта книга — мое официальное письменное заявление.

Мне не раз говорили: моя предыдущая книга оказала большое влияние на читателей, она понятна даже тем, кто практически ничего не знает об ИИ. Приступая к работе над новой книгой, я решил рассказать об ИИ еще более понятно и увлекательно, обратившись к помощи хорошего рассказчика. Я связался со своим бывшим коллегой по Google Чэнем Цюфанем.

Уйдя из Google, я основал собственную венчурную компанию, а этот парень сделал нечто еще более авантюрное — стал писателем-фантастом. Его произведения заметили и даже отметили престижными наградами. К моему великому восторгу, Чэнь согласился поработать вместе, объединить свой творческий потенциал с моими оценками того, какими будут технологии через двадцать лет.

И мы решили, что попробуем представить возможности ИИ через два десятка лет и встроим свои обоснованные фантазии в истории — должно получиться нечто весьма увлекательное. Ведь привлечь и увлечь читателя можно не только телепортацией и инопланетянами!

Скажу без ложной скромности: наш подход к работе над этой книгой уникален. Для начала я составил «технологическую карту», отобразив, когда созреет та или иная технология, сколько времени потребуется на сбор данных и итерацию ИИ, насколько легко будет разработать соответствующий продукт в разных отраслях.

Я учел всевозможные внешние факторы: проблемы, регламенты, тормозящие моменты, а также достойные упоминания конфликты и дилеммы, которые могут возникнуть попутно с появлением этих технологий. Затем, отталкиваясь от чисто технарского компонента, Чэнь проявил свой писательский талант во всей красе — придумал персонажей, обстановку и сюжетные линии и воплотил их в своих рассказах.

Каждый эпизод мы постарались сделать максимально увлекательным, технологически точным и провокационным. После каждой истории Чэня вы сможете прочесть ее экспертный анализ — я углубляюсь в описанную в рассказе форму ИИ и детально объясняю ее значение для жизни человека и общества.

Созданные таким образом десять рассказов с послесловиями-анализом охватывают все ключевые аспекты ИИ и выстроены в книге в определенном порядке — от самых простых, базовых технологий к наиболее сложным и продвинутым. Мы надеемся, что отдельные части нашей книги составят что-то вроде уникального и понятного букваря по ИИ.

Мы с Чэнем назвали книгу «ИИ-2041», потому что с момента ее первой публикации[7] именно в 2041 году пройдет двадцать лет. Мы выбрали этот год еще и потому, что начертание цифр 41 немного напоминает английскую аббревиатуру AI (artificial intelligence — «искусственный интеллект», ИИ).

Многие читатели наверняка обожают научную фантастику, но я отдаю себе отчет: тех, кто после окончания колледжа ни разу не взял в руки ни романа, ни сборника рассказов, тоже немало. Не беда — если вы из этого лагеря, отнеситесь к нашей книге не как к научной фантастике, а как к «научным фактам в форме беллетристики».

Действие рассказов происходит в разных местах планеты. В некоторых сюжетах вы без труда узнаете мир, который не слишком отличается от вашего собственного, — в них описаны события, основанные на реально существующих традициях и обычаях. В других историях описаны ситуации радикального вмешательства ИИ в человеческую жизнь, не всегда позитивного. Так что и адептам ИИ, и скептикам наша книга подкинет пищи для размышлений.

Создавая научный труд с заметной художественной частью, мы рисковали гораздо сильнее, чем если бы просто написали научно-популярную книгу, — описали настоящее и задали вопросы о будущем. Мы с Цюфанем постарались быть смелыми — мы верим, что наши истории найдут отклик у каждого непредубежденного читателя с фантазий и воображением. Мы надеемся, их окажется достаточно, чтобы заставить задуматься о будущем человечества.

В первых семи рассказах мы описали применение ИИ в различных отраслях и сферах по мере возрастания его технологической сложности, а также социально-этические последствия этого процесса. Последние три истории (плюс глава 6 «Святой возница») больше сконцентрированы на социальных и геополитических проблемах, связанных с ИИ: сокращении и исчезновении традиционных рабочих мест, беспрецедентном изобилии, дальнейшем расслоении общества, гонке автономных вооружений, компромиссе между приватностью и счастьем и стремлении человека к высшей цели.

Человечество ждут большие и глубокие изменения. Люди могут принять их и использовать во благо или во зло, смиренно капитулировать перед ними или вдохновиться и заново обрести себя.

В последних четырех историях мы привели четыре возможных варианта и разных пути развития событий. Мы хотели подчеркнуть: будущее еще не написано.

Мы искренне надеемся: наши истории не только развлекут вас, но и углубят понимание ИИ и проблем, связанных с этой замечательной технологией. Мы также рассчитываем, что представленная в книге дорожная карта на ближайшие два десятилетия поможет вам подготовиться к благоприятным возможностям и эффективному противостоянию вызовам будущего.

Но больше всего нам хочется получить от вас подтверждение, что эти истории придали вам сил. Мы надеемся, вы убедились: люди — хозяева своей судьбы, все зависит от нас и никакая техническая революция этого не изменит.

А теперь — вперед, в 2041 год!

В лондонском центре искусств «Барбикан» в августе 2019 года я наткнулся на выставку «ИИ: больше чем человек» — и, конечно же, зашел. Увиденное подействовало на меня как освежающая летняя гроза — будто бы даже облегчила дыхание, прочистила чувства и развеяла множество предубеждений и заблуждений в отношении искусственного интеллекта.

Незамысловатое название выставки приятно обмануло — оно и близко не дало представления о реальном разнообразии и богатстве экспозиции. В каждом следующем зале меня поджидали новые чудеса — они охватывали идеи кураторов о том, что же такое ИИ.

В залах посетителей встречали Голем, мифическое существо из еврейского фольклора; миляга Дораэмон, герой японских аниме; инсталляции, посвященные экспериментам Чарльза Бэббиджа, праотца информатики; AlphaGo, компьютерная программа, бросившая вызов фундаментальному человеческому интеллекту; подборка экспонатов, посвященная анализу гендерной предвзятости в компьютерных программах для распознавания лиц, на которое обратила внимание Джой Буоламвини; масштабные произведения интерактивного цифрового искусства TeamLab[8], проникнутые синтоистской философией и эстетикой. Выставка оказалась великолепным, расширяющим сознание напоминанием о великой силе междисциплинарного мышления.

Закон Амары гласит: «Люди склонны переоценивать эффект технологии в краткосрочной перспективе и недооценивать — в долгосрочной». Большинство и правда представляет себе ИИ максимально узко: робот-убийца из «Терминатора»; недоделанные алгоритмы, которым никогда не сравниться в творческом остроумии с человеком, но которые угрожают его существованию; многочисленные бездушные технологии обмениваются эмоциями и исследуют возможности жизни, не имея ни малейшего понятия о том, как их воспринимают люди.

Как показывают разнообразные легенды и мифы (от древнекитайского ремесленника Янь Ши, создавшего гуманоидных роботов, до бронзового витязя, человекообразного великана-робота Талоса из греческой мифологии), тема искусственного интеллекта занимает людей на протяжении всей мировой истории. Началось это задолго до того, как возникла информатика как область знаний, а в наш лексикон вошла аббревиатура ИИ.

С течением времени непреодолимая сила ИИ произвела революцию во всех измерениях человеческой цивилизации, и это, поверьте, только начало.

Надо сказать, научная фантастика, дело моей жизни, играет в исследовании парадигмы «человек-машина» довольно деликатную роль. Роман «Франкенштейн»[9] (его часто называют первым современным научно-фантастическим произведением) посвящен до сих пор актуальным вопросам: способен ли человек с помощью технологий создавать разумную жизнь, отличную от существующих на текущий момент форм? И если да, то как выглядят взаимоотношения между создателем и его творением? А ведь архетип безумного ученого, навязывающего миру страшный плод своих трудов, был представлен в шедевре Мэри Шелли два века назад!

Научную фантастику зачастую обвиняют в том, что она формирует у читателей узкий негативный взгляд, но это лишь часть реальной истории. Фантастика и вправду может оказаться предостережением, однако умозрительное, гипотетическое повествование обладает уникальной способностью преодолевать пространственно-временные ограничения, соединять технологии с гуманитарными науками, стирать границы между вымыслом и реальностью, пробуждать в читателе сочувствие и стимулировать более глубокие раздумья. Историк и автор бестселлеров Юваль Ной Харари назвал научную фантастику «важнейшим художественным жанром» нашего времени — это очень высокая планка, и ей нужно соответствовать.

Мы, писатели-фантасты, должны создавать истории, проявляющие неочевидную правду о нашей сегодняшней реальности. Но нам также важно обозначать еще более смелые и даже фантастические перспективы и возможности. Такова наша главная задача.

Когда бывший коллега из Google Кай-Фу Ли предложил мне присоединиться к его работе над уникальным книжным проектом, сочетающим научную фантастику с анализом перспективных концептуальных идей в области технологий, я пришел в восторг. Я знаю Кай-Фу как проницательного пионера, мирового лидера и инвестора, создателя трендов. Но он, кроме того, еще и творческий и непредубежденный пророк технологий грядущего. Его идеи о карьерном росте повлияли на целое поколение, а теперь он нацелился на будущее.

Вооружившись глубочайшим пониманием сути передовых исследований и способов их применения, Кай-Фу предложил описать, как в ближайшие двадцать лет ИИ может изменить человеческое общество в самых разных областях: от медицины и образования до индустрии развлечений, сферы занятости и финансов. Идея показалась мне интересной и амбициозной. Но тут следует упомянуть и некое магическое совпадение.

Несколько лет назад я предложил и развил в своих произведениях концепцию научно-фантастического реализма. Научная фантастика формирует творческое пространство, где эскапист может скрыться от унылой повседневной жизни, примерить на себя роль супергероя и исследовать далекие-предалекие галактики.

Но для меня главная ценность и увлекательность фантастики состоит еще и в драгоценной возможности отступить на время от повседневности, критически ее осмыслить. Более того, вглядываясь в будущее через призму научной фантастики, мы получаем шанс вмешаться, внести изменения в развитие событий и активно повлиять на реальность.

Чтобы создать будущее, нужно сначала представить его себе — живо и в деталях.

Главным движителем моего воображения в детстве стала классика научной фантастики — «Звездные войны», «Звездный путь» и «Космическая одиссея 2001 года»[10], с десяти лет они были моим порталом в неизведанные миры. Я убежден: прежде чем начинать писать, чрезвычайно важно определиться с жанром истории и с ее более широким социальным контекстом.

Как человек, глубоко увлеченный и даже одержимый научной фантастикой, я испытываю священный трепет перед шириной спектра этого жанра. В нем есть место практически любой теме или литературному стилю.

До того как начать зарабатывать на жизнь писательством, я трудился в сфере высоких технологий. Многие считают, что инженеры и компьютерщики мало интересуются беллетристикой — их мозг будто бы изначально заточен под науку, а не под художественную литературу. Однако за более чем десять лет в этой сфере я встретил множество технарей — великих поклонников научной фантастики, которые этого совершенно не стеснялись.

Их увлечение иногда проявлялось в названиях конференц-залов или переговорных вроде «Энтерпрайз» (отсылка к «Звездному пути») или «Нейромант»[11], но породить такие проекты, как Google X или Hyperloop[12], способны только могучие и незашоренные умы. Современные подводные лодки и лазерные пушки, мобильные телефоны и продукт генной инженерии — локусы бактерий CRISPR… Ученые честно признают, что на создание всего этого их вдохновила художественная литература. Так что наш мир действительно формируют фантазия и воображение.

Я сразу решил, что эта книга должна бросить вызов стереотипам пессимизма и антиутопичности литературы об ИИ, в которой технологическое будущее изображают на редкость безрадостным и мрачным. Мы с Кай-Фу постарались, не игнорируя недостатков и негативных нюансов ИИ, описать будущее, в котором основанные на искусственном интеллекте технологии позитивно влияют на людей и общество в целом.

Мы попытались представить будущее, в котором нам самим хотелось бы жить, и помочь его сформировать. Мы описали будущее, в котором последующие поколения смогут пользоваться великими преимуществами технического прогресса, будут привносить в этот мир еще большие достижения и смысл, станут жить долго и счастливо.

Создавать воображаемую картину будущего, нашей мечты, не всегда было легко. Мы стремились погрузиться в новейшие исследования ИИ, а затем с помощью науки и логики максимально реалистично спрогнозировать, каким будет ИИ через двадцать лет.

Кай-Фу и наша команда часами изучали свежие отчеты по исследованиям, беседовали с экспертами и мыслителями, связанными с ИИ-индустрией; мы приняли участие в семинаре по ИИ, организованном Всемирным экономическим форумом, посещали ведущие технологические компании, специализирующиеся на ИИ. Словом, мы хотели убедиться, что всесторонне и досконально понимаем технологические и философские основы искусственного интеллекта.

Перед нами был и еще один сложный вызов — представить себе будущее человечества. Ведь мы вознамерились рассказать, как люди из разных культур и отраслей, с разными идентичностями отреагируют на шок от развития ИИ. Психологические нюансы требуют большего, чем логика и рационализация. Чтобы создать как можно более полный эмоциональный портрет персонажей, мы обратились к истории и стали черпать вдохновение из радикально изменивших мир событий прошлого.

Мы понимали: надо максимально полно донести до читателей свое видение и свои чувства, стимулировать их воображение и способность осмысливать альтернативные условия человеческого существования. Поэтому наши истории должны вызывать эмоции, прежде всего сострадание. Для этого в каждую главу включен комментарий-анализ от Кай-Фу — он скрепляет парящего в эмпиреях воздушного змея фантазии с четкой и постижимой реальностью.

После месяцев интенсивной работы и многочисленных правок мы отобрали десять порталов, которые перенесут вас во время и пространство 2041 года. Мы надеемся, что вы отправитесь в это путешествие с любопытством, непредвзятостью и — непременно — с открытым сердцем.

И наконец, последнее: величайшая ценность научной фантастики не в том, чтобы давать ответы, а в том, чтобы задавать вопросы. Мы искренне надеемся: вы перевернете последнюю страницу, и в вашей голове продолжит крутиться множество вопросов.

Поможет ли ИИ людям предотвратить следующую пандемию, не позволив ей развиться? Как нам справиться с неминуемыми проблемами в сфере занятости населения? Как поддерживать культурное разнообразие в мире, если в нем доминируют машины? Как научить детей жить в обществе, где люди сосуществуют с роботами?

Мы рассчитываем, что ваши вопросы помогут нам всем продвинуться по пути построения более счастливого и светлого будущего.

Добро пожаловать в 2041 год!

Телевизор в квартире в Мумбаи показывал пляж Чаупати. В волнах прибоя мерно, будто бы под саундтрек индийской лютни-ситара, покачивалась огромная статуя Ганеша, бога мудрости и благополучия с головой слона. С каждой откатывающейся волной божество опускалось все ниже, погружалось в воду, пока наконец полностью не скрылось в Аравийском море.

Преимущества страховки Ganesh Insurance из рассказа «Золотой слон», работающей на базе ИИ, совершенно очевидны. Рия, мама Наяны, экономит семейный бюджет благодаря акционным приложениям. Папа Санджай бросает курить, пить крепкое спиртное и становится более ответственным водителем. Даже младший брат Рохан начинает правильнее питаться, когда под угрозой диабета ИИ забил во все колокола.

Такой набор приложений, работающих на смартстримах (вы, конечно, поняли, что это смартфоны 2041 года), и вправду мог бы помочь людям жить дольше, быть здоровее и богаче. Персонализированные ненавязчивые стимулы четко подсказывают, как жить более правильной жизнью.

В чем же тут подвох? В том, как и чем приходится за это расплачиваться. Вопрос лег в основу нашей первой истории, познакомившей читателя с основополагающей для ИИ концепцией глубокого обучения.

Глубокое обучение — прорыв в области искусственного интеллекта. Среди многих подобластей ИИ машинное обучение — это область, которая привела к наиболее успешным приложениям, а в машинном обучении самым большим достижением является направление под названием «глубокое обучение» — настолько, что термины «ИИ», «машинное обучение» и «глубокое обучение» иногда используются взаимозаменяемо (хотя это и неточно). В 2016 году глубокое обучение вызвало ажиотаж после впечатляющей победы AlphaGo над конкурентом-человеком в игре го, самой популярной интеллектуальной настольной игре в Азии. После этого нашумевшего поворота глубокое обучение стало важной частью большинства коммерческих приложений ИИ, и оно фигурирует в большинстве историй в AI 2041.

В «Золотом слоне» описан потрясающий потенциал глубокого обучения и его ловушки вроде воспроизведения социальных предрассудков в цифровых технологиях.

Так что же такое глубокое обучение? Каковы его ограничения? Какую роль в нем играют данные? Почему интернет и финансы считаются наиболее перспективными отраслями для применения ИИ на ранних этапах? Какие условия оптимальны для глубокого обучения? И почему кажется, что это работает чертовски хорошо — но только когда оно действительно работает? Каковы недостатки и недочеты ИИ?

Глубокое обучение вдохновлено сложнейшей сетью нейронов нашего мозга, оно строит программные многослойные искусственные нейронные сети с входными, скрытыми и выходными слоями. Данные поступают на входной слой — вход, а результат, соответственно, появляется на выходном слое. Между ними могут находиться тысячи других скрытых слоев — отсюда и «глубокое обучение».

Многие считают, что ИИ «программируется» или «обучается» людьми посредством указания конкретных правил и действий. Например, человек сообщает ИИ, что «у кошек заостренные уши и усы». Но на самом деле глубокое обучение работает лучше без внешних «человеческих» правил. Вместо того чтобы запоминать правила, данные людьми, на вход глубокой нейросети подается множество примеров, а на выход — правильные ответы для каждого из них. Таким образом, сеть между входом и выходом может быть «обучена», чтобы максимизировать шансы получить правильный ответ на заданный вход.

Есть множество примеров, когда человек не подсказывает, а передает информацию на входной слой и «правильный ответ» — на выходной слой.

Представим, что исследователи хотят, чтобы сеть глубокого обучения отличала фотографии кошек от любых других изображений. Для начала исследователь может подать на входной слой миллионы разных фото, маркированных «кошка» или «не кошка»; при этом на выходном слое метки «кошка» или «не кошка» уже должны быть заданы.

Сеть обучается определять, какие признаки в миллионах изображений наиболее информативны для отделения «кошек» от «не кошек». Это обучение представляет собой математический процесс, настраивающий в сети глубокого обучения миллионы (а иногда и миллиарды) параметров, для того чтобы максимизировать вероятность того, что для изображения кошки на входе будет выдана метка «кошки», а для другого изображения — метка «не кошка». На рисунке ниже вы видите такую нейронную сеть глубокого обучения для «распознавания кошек».

Нейронная сеть глубокого обучения, обученная отличать фото кошек от фотографий, на которых изображено что-то другое

В ходе этого процесса глубокая нейросеть математически обучается (или «тренируется») максимизировать значение «целевой функции». В нашем примере с распознаванием кошки такой целевой функцией является вероятность правильного распознавания «кошка» — «не кошка».

После такой тренировки сеть глубокого обучения, по сути, становится гигантским математическим уравнением; его можно протестировать на изображениях, которых она до этого не видела, и убедиться, что сеть путем «умозаключений» способна определить наличие или отсутствие в этих изображениях кошки.

С появлением глубокого обучения совершенно непрактичные ранее возможности ИИ стали пригодными для применения во многих областях и сферах. На следующей диаграмме наглядно показано, как резко сократилось число ошибок распознавания образов, когда начали использовать технологии глубокого обучения.

Глубокое обучение — это технология универсального применения, ее можно использовать практически в любой области для распознавания образов, прогнозирования, классификации данных, принятия решений или синтеза. Возьмем сферу страхования, о которой идет речь в рассказе «Золотой слон».

ИИ в приложениях Ganesh Insurance предобучили оценивать вероятность развития у клиента компании серьезных проблем со здоровьем и соответствующим образом корректировать его страховой взнос.

Чтобы сеть научилась отделять тех, у кого с большой вероятностью возникнут такие проблемы, от тех, у кого они, скорее всего, не возникнут, ИИ «тренируют» на обучающих данных, включающих в себя информацию обо всех прошлых заявителях на получение страховки, обо всех их обращениях в медицинские учреждения с разными жалобами и об их семьях. Каждый случай маркируют на выходном слое меткой «обращался с серьезными медицинскими проблемами» или «не обращался с серьезными медицинскими проблемами».

Использование глубокого обучения привело к существенному снижению частоты ошибок при распознавании объектов компьютерным зрением

Впитав в себя в процессе предобучения весь этот набор данных, ИИ может делать предсказания вероятности возникновения у заявителя серьезных проблем со здоровьем и решать, одобрять заявку на страхование или нет, и если да, то каким при этом должен быть страховой взнос.

Обратите внимание: в данном сценарии ни одному человеку не придется маркировать претендента на оформление страховки как объект, имеющий риски с точки зрения здоровья или же не имеющий таковых. Эти метки основываются исключительно на «достоверной информации» (например, были ли у претендента на оформление страховки серьезные жалобы на здоровье в прошлом).

ГЛУБОКОЕ ОБУЧЕНИЕ: ПОТРЯСАЮЩИЕ ВОЗМОЖНОСТИ. НО — С ОГРАНИЧЕНИЯМИ

Первая научная статья о глубоком обучении вышла еще в 1967 году. Потребовалось более полувека, чтобы эта технология проявила себя. Это заняло так много времени, потому что для обучения искусственной нейронной сети требуется огромное количество данных и вычислительных мощностей. И если вычислительные мощности — двигатель ИИ, то данные — его топливо.

Вычисления стали достаточно быстрыми для эффективного применения технологии глубокого обучения только в последнее десятилетие, и мы наконец научились собирать достаточное количество данных. Смартфон, которым вы пользовались сегодня, обладает в миллионы раз большей вычислительной мощностью, чем компьютеры НАСА, отправившие Нила Армстронга на Луну в 1969 году. А интернет 2020 года почти в триллион раз больше интернета 1995 года.

Глубокое обучение — результат озарения человеческого мозга, но работают они совершенно по-разному. Глубокому обучению требуется гораздо больше данных, чем человеку, но после обучения работе с ними технология значительно превосходит людей в решении многих задач, особенно связанных с количественной оптимизацией (например, выбор рекламного объявления для максимизации вероятности покупки или поиск нужного лица среди миллионов других).

Люди могут одновременно сосредоточиваться на ограниченном количестве объектов, а алгоритм, предобученный на океане информации, выявляет корреляции между неявными признаками, слишком незаметными или сложными для человека.

Кроме того, в процессе предобучения на огромном объеме данных глубокое обучение может подстраиваться под отдельных пользователей, базируясь на их паттернах поведения, равно как и на аналогичных шаблонах у других пользователей. Например, когда вы посещаете Amazon, ИИ этого веб-сайта выделяет или подсвечивает продукты, которые, скорее всего, должны вас заинтересовать и, соответственно, максимально увеличат ваши расходы.

А контент на вашей странице в Facebook должен удержать вас в соцсети как можно дольше. ИИ Amazon и Facebook таргетированный (узконаправленный); он предлагает каждому человеку разный, но персонализированный контент. Это значит, что показанный мне контент, скорее всего, сильно повлияет на меня, но может совершенно не сработать в вашем случае. Подобная узкая нацеленность гораздо эффективнее генерирует клики и покупки, чем универсальный подход традиционных статических веб-сайтов.

Каким бы мощным инструментом ни было глубокое обучение, панацеей его, увы, не назовешь. Человеку не сравниться с ИИ в деле одновременного анализа огромного количества данных, но мы обладаем уникальной способностью опираться при принятии решений на прошлый опыт, абстрактные концепции и здравый смысл.

Глубокому обучению для эффективной работы требуются огромные объемы релевантных данных, узкая конкретная сфера действия и четкая целевая функция. Если чего-то из этого нет — вероятнее всего, ничего путного не выйдет.

Мало данных? В алгоритме будет недостаточно примеров для выявления значимых корреляций. Несколько разных областей? Алгоритм не сможет учесть корреляции между примерами из разных областей и не получит достаточно данных, чтобы охватить все возможные перестановки. Слишком общая целевая функция? Алгоритм не будет иметь четких указаний для ее оптимизации.

Важно понимать, что «мозг ИИ» (собственно, глубокое обучение) работает совсем не так, как мозг человека. Их основные различия показаны в таблице 1:

Таблица 1. Сравнение сильных и слабых сторон человеческого мышления и «мышления» ИИ

ПРИМЕНЕНИЕ ГЛУБОКОГО ОБУЧЕНИЯ В ИНТЕРНЕТЕ И ФИНАНСАХ

Если вспомнить упомянутые выше сильные и слабые стороны глубокого обучения, то станет понятно, почему первыми бенефициарами этой формы ИИ стали крупнейшие интернет-компании. Высокотехнологические гиганты вроде Facebook и Amazon располагают самыми большими базами данных, которые к тому же часто размечаются автоматически в зависимости от действий пользователя (пользователь кликнул или купил? сколько минут он оставался на странице?).

Эти действия пользователей напрямую связываются с бизнес-метрикой (доход или количество кликов), которую необходимо максимизировать. Если заданные условия выполнены, приложение или платформа превращаются в денежный станок. Чем больше данных накапливается, тем большую выручку приносит платформа. Неудивительно, что интернет-гиганты вроде Google, Amazon, Facebook за последнее десятилетие показали поистине феноменальный рост и все активнее используют ИИ.

Как мы увидели в рассказе «Золотой слон», следом за интернет-компаниями огромный потенциал ИИ взяла на вооружение финансовая сфера, в том числе банки и те самые страховые компании.

Страховая отрасль обладает теми же преимуществами, что и интернет-компании: большой объем высококачественных данных из одной сферы (страхование), привязанных к бизнес-метрикам. С появлением финансово-технологических компаний, основанных на ИИ, таких как Lemonade и Waterdrop[20], появилась возможность покупать страховку или брать ссуду в компьютерном приложении с мгновенным одобрением.

Сегодня финтех-компании всерьез нацелены на победу над традиционными финансовыми корпорациями — ведь они показывают лучшие финансовые результаты (более низкий уровень дефолтов или мошенничества), предлагают клиентам мгновенные транзакции (с использованием ИИ и приложений) и более низкие затраты (благодаря исключению из этого цикла человеческого фактора). Однако и традиционные финансовые компании не сидят сиднем, а тоже спешно внедряют ИИ — так что гонка стартовала.

Есть еще одно любопытное преимущество финтех-компаний, взявших на вооружение ИИ: возможность использовать не только те данные, которые учитывают специалисты-люди. Иначе говоря, они укрепляют свою прогностическую силу за счет анализа огромного числа разнородных данных, которые не способен учесть никакой страховой агент.

Который не сумеет оценить, например, покупаете вы больше неполезных обработанных пищевых продуктов или полезных овощей; проводите вы больше времени в казино или в тренажерном зале; есть ли у вас постоянная подруга или вы вечно пристаете к женщинам в интернете. Но эти данные могут поведать о вас много важного, в том числе и о вашем относительном риске в качестве клиента страховой компании.

Кстати, миллионы единиц информации (или «признаков») можно найти в приложениях для мобильного телефона. Вот почему в нашем первом рассказе услуги Ganesh Insurance представлены в виде группы приложений под названием «Золотой слон». Они охватывают всё — от электронной коммерции до рекомендаций и купонов, инвестиций, ShareChat (реальная популярная индийская социальная сеть на местных языках) и придуманного Чэнем приложения для гадания FateLeaf.

Каждый раз, когда Наяна что-то покупает, пользуется рекомендацией, просит приложение предсказать судьбу или заводит с кем-то дружбу, Ganesh Insurance получает очередной кусок релевантной информации, и компания использует эти данные, чтобы стать еще более умной и оптимизированной. Это очень похоже на Google, который накапливает о вас очень неплохую базу данных, собирая крохи информации, которые вы случайно «насыпали» в Google, Google Play, Google Maps, Gmail и YouTube.

Потенциально это миллионы признаков, и пусть не все они актуальны и так уж полезны и большая часть имеет весьма скромную прогностическую силу, но даже среди последних глубокое обучение зачастую находит полезные и вполне информативные комбинации, которые между тем совершенно неуловимы и непостижимы для человека.

НЕДОСТАТКИ ГЛУБОКОГО ОБУЧЕНИЯ

Как известно, любая палка — о двух концах, что уж говорить о мощной технологии. Мы не можем представить себе жизнь без электричества — но соприкосновение с источником тока смертельно опасно. Интернет делает наше существование комфортным — но одновременно мешает нам сосредоточиться. Каковы же недостатки глубокого обучения?

Когда кто-то (ИИ) знает тебя лучше, чем ты сам, — это уже большой риск. Очевидны преимущества ИИ: он может порекомендовать новые полезные продукты быстрее, чем ты их заметишь; присоветовать совместимые варианты романтических партнеров и друзей — исходя из того, что ему известно о твоих нынешних близких. Но у такой осведомленности, безусловно, имеется и обратная сторона.

С вами когда-нибудь бывало такое: садишься посмотреть на YouTube одно видео и застреваешь на три часа? Или проходишь в Facebook по какой-то более-менее провокационной ссылке, а тебе тут же рекомендуют куда более экстремальный контент?

В киноленте «Социальная дилемма»[21] наглядно показано, как непревзойденные способности ИИ в деле персонификации позволяют ему манипулировать нами, а мы даже не осознаем этого. Звезда фильма Тристан Харрис, президент и соучредитель Центра гуманитарных технологий и специалист по этике технологий, так высказался по этой проблеме: «Тебе и невдомек, что твой клик нацелил суперкомпьютер на твой мозг. Он активировал миллиарды долларов вычислительной мощности, которая очень многому научилась на своем опыте заманивания двух миллиардов человеческих существ снова и снова кликать мышью».

Эта зависимость затягивает нас в порочный круг. Он весьма выгоден крупным интернет-компаниям, будучи своего рода станком для печати денег. Еще в фильме утверждается, что все это зачастую резко сужает мировоззрение, поляризует общество, искажает истину и негативно влияет на настроение и психическое здоровье.

Говоря техническим языком, суть проблемы заключается в простоте целевой функции и в опасности бездумной оптимизации целевой функции по одному критерию, так как это способно привести к вредоносным внешним эффектам. Сегодня ИИ обычно оптимизирует единственный критерий — и чаще всего для того чтобы получить больше (кликов, рекламы, доходов). ИИ маниакально сосредоточен на этой корпоративной цели и ничуть не заботится о благополучии пользователей.

В нашей истории «Золотой слон» Ganesh Insurance обещает потенциальным клиентам минимизировать страховые взносы, что в значительной степени коррелирует с минимизацией выплат по медицинскому страхованию и, следовательно, с улучшением здоровья застрахованных. На первый взгляд это подразумевает совпадение корпоративных целей с целями пользователей.

Однако в рассказе ИИ этой страховой компании определяет, что отношения между Наяной и Сахеджем с большой степенью вероятности приведут к увеличению страхового взноса семьи Наяны, и потому изо всех сил старается помешать их зарождающейся любви.

ИИ Ganesh Insurance предобучен находить причинно-следственные связи. Он может обнаружить повышенный риск заболеваний, связанных с курением, и, следовательно, будет пытаться отвратить человека от этой вредной привычки; и это хорошо. Но, руководствуясь узконаправленным анализом данных, ИИ может заставить приложение увеличить страховые взносы из-за потенциального романтического союза. Таким образом, умозаключения ИИ приводят к действиям, которые разрывают души людей на части и усугубляют неравенство.

Как же решается проблема? Один из первейших подходов — обучить ИИ сложным целевым функциям, таким как снижение страховых взносов с учетом фактора справедливости. Например, Тристан Харрис предлагает использовать в качестве метрики не просто «проведенное в интернете время», а «время, проведенное с толком».

Эти две цели можно объединить в одну сложную целевую функцию. Еще одно решение предложено экспертом в области ИИ Стюартом Расселом: гарантировать полезность каждой целевой функции путем поиска способа включить людей в цикл дизайна таких функций.

Например, можно попытаться построить целевые функции для «большего человеческого блага», такого, например, как счастье, и привлечь людей, чтобы определять, какой смысл они вкладывают в это понятие. (Эту идею мы исследуем подробнее в главе 9 «Остров счастья».)

Однако очевидно: эти идеи требуют дополнительных исследований в области сложных целевых функций и поиска способов количественной оценки таких расплывчатых концепций, как «с толком проведенное время», «справедливость» или «счастье». Более того, реализация этих идей изначально предполагает, что компании станут зарабатывать меньше денег.

Так как же нам стимулировать интернет-гигантов поступать правильно, невзирая на неизбежные финансовые потери? Один из способов — на законодательном уровне ввести нормы, предусматривающие наказание для нарушителей.

Другой путь — поощрять позитивное поведение как часть корпоративной социальной ответственности, например с помощью принципов ESG (environmental, social and corporate governance — экологическое, социальное и корпоративное управление). Сегодня принципы ESG уже набирают обороты в некоторых бизнес-кругах, и не исключено, что ответственный ИИ может стать частью будущей структуры ESG.

А еще можно привлечь третьи стороны и отвести им роль сторожевых псов: создавать информационные панели для основных показателей деятельности компаний и отслеживать такие показатели, как количество генерируемых «фейковых новостей» или «судебных исков с обвинениями в дискриминации», чтобы заставить их включать пропользовательские метрики.

И наконец, возможно, самым сложным, но и самым эффективным решением станет обеспечение стопроцентного совпадения интереса владельца ИИ с интересами каждого пользователя (подробнее об этом утопическом варианте рассказывается в главе 9).

У глубокого обучения есть еще один потенциальный недостаток — предвзятость. Поскольку ИИ основывает свои решения исключительно на данных и оптимизации целевой функции, они часто оказываются более справедливыми, чем решения, принимаемые людьми (на которых чрезмерно влияют всевозможные традиции и предрассудки).

Но ИИ тоже может быть предвзятым. Например, если использованных для обучения ИИ данных недостаточно, и, как следствие, они неверно отражают реальную картину, или данных достаточно, но расовая или гендерная демография в них искажена сторонними факторами. В результате отдел управления персоналом однажды обнаружит, что алгоритмы компании предвзяты к женщинам — потому что в обучающих данных было мало женщин.

Данные могут быть предвзятыми еще и потому, что их собирали в обществе с предрассудками. Так, чат-бот Tay компании Microsoft и алгоритм обработки естественного языка GPT-3 компании OpenAI печально прославились неуместными комментариями о меньшинствах.

Недавние исследования показали, что ИИ способен с высокой степенью точности определять сексуальную ориентацию людей на основе микровыражений лиц. Но такие способности чреваты риском дискриминации. В рассказе «Золотой слон» примерно так и получилось с Сахеджем — ИИ путем расчетов определил его как далита. Иначе говоря, Сахеджа не назвали «неприкасаемым», но поскольку его данные и характеристики коррелировали с принадлежностью парня к этой касте, Наяну забрасывали предупреждениями. Система ИИ таким образом пыталась разлучить молодых людей.

Это, конечно, непреднамеренная несправедливость, но последствия ее могут быть чрезвычайно серьезными. Если же общество применит некорректные алгоритмы к таким сферам, как принудительная госпитализация или уголовное судопроизводство, ставки окажутся еще выше.

Решение проблем справедливости и предвзятости при использовании ИИ потребует немалых усилий. Некоторые шаги в этом направлении совершенно очевидны и понятны.

Во-первых, компании, использующие ИИ, обязаны информировать общественность, где и с какой целью используются такие системы.

Во-вторых, инженеров по разработке ИИ следует готовить на основе набора стандартных принципов вроде адаптированной клятвы Гиппократа, которую дают врачи; эти специалисты должны понимать, что их профессия подразумевает элемент этики в продуктах, серьезно меняющих жизнь людей, и, следовательно, они должны поклясться защищать права пользователей.

В-третьих, необходимо ввести тщательное тестирование всех ИИ-продуктов; оно должно быть встроено в инструменты обучения ИИ и заблаговременно предупреждать о моделях, обученных на данных с несправедливым демографическим охватом. В противном случае использование ИИ-продукта должно быть запрещено.

В-четвертых, можно принять новые законы, требующие аудита ИИ. Скажем, если на компанию поступает определенное количество жалоб, ей следует обязать пройти такой аудит (на предмет справедливости, раскрытия информации и защиты конфиденциальности) — точно так же, как фирма подпадает под налоговую проверку, если ее бухгалтерская отчетность выглядит подозрительно.

И, наконец, последняя проблема глубокого обучения — объяснения и обоснования. Люди всегда могут растолковать, почему они приняли то или иное решение — оно основано на в высшей степени конкретном опыте и правилах.

Но решения глубокого обучения базируются на сложных уравнениях с тысячами функций и миллионами параметров. «Резоном» для глубокого обучения, по сути, является многомерное уравнение, полученное на основе больших объемов данных. И вряд ли возможно как следует объяснить его людям — оно слишком сложно. Тем не менее многие ключевые решения ИИ должны сопровождаться объяснением причин — либо по закону, либо потому, что этого ожидают пользователи.

Поэтому в настоящее время проводится множество исследований, направленных на увеличение «прозрачности» ИИ, — либо путем резюмирования его сложной логики, либо посредством введения новых ИИ-алгоритмов, которые изначально проще интерпретировать.

Описанные выше недостатки и ограничения глубокого обучения привели к тому, что в обществе появилось серьезное недоверие к ИИ. Но ведь все новые технологии имели свои недостатки. История показывает, что со временем многие ранние ошибки удается исправить, а технологии — усовершенствовать.

Возьмем для примера предохранитель в любой электрической сети. Он оберегает людей от поражения током, а имущество — от пожара. Или антивирусные программы — они защищают от компьютерных вирусов. Я уверен, со временем появятся технологии и политические решения и для проблем, связанных с негативным влиянием ИИ, с предвзятостью и непрозрачностью его работы.

Но сначала нам придется пойти по стопам Наяны и Сахеджа и сообщить людям о серьезности проблем, а уж затем мобилизовать человечество на поиск их решений.

Поезд наземного метро подтягивался к станции Яба, и Амака нажал кнопку открытия дверей. Они с визгом разъехались; парень, не дожидаясь полной остановки, спрыгнул на перрон. Он больше не мог вынести в этом черепашьем поезде, в его спертом воздухе, ни одного мгновения. Почти прижавшись к какому-то пожилому мужчине, Амака ловко проскользнул через турникет на выходе из вокзала — он опять проехался зайцем.

«Боги под масками» — история о визуальном обмане, об обмане зрения. Научившись видеть, распознавать, понимать и синтезировать объекты, ИИ может также манипулировать ими, создавая изображения и видео, неотличимые от реальных. В рассказе описывается будущее, в котором люди больше не смогут полагаться на невооруженный глаз, если наверняка пожелают отличить подлинное видео от тонкого монтажа.

Сайтам и компьютерным приложениям придется (их обяжут законом) использовать антидипфейковый софт (как сегодня используются антивирусные программы), чтобы защитить пользователей от поддельных видео. В нашей истории перетягивание каната между создателями дипфейков и детекторов для их выявления уже переросло в гонку вооружений, и с переменным успехом побеждает тот, у кого больше вычислительных мощностей.

Действие рассказа происходит в 2041 году, но, вполне вероятно, подобная ситуация сложится и раньше — как только развитый мир сможет позволить себе огромные расходы на супердорогие компьютеры, программное обеспечение и ИИ-экспертов, необходимых для создания и обнаружения дипфейков и прочих манипуляций ИИ. И регулирующие эту сферу законы, скорее всего, будут приняты прежде всего в развитых странах. Наша история происходит в стране развивающейся — в ней негативные внешние эффекты дипфейков, по всей вероятности, проявятся несколько позже.

Итак, как же ИИ научается видеть — и через камеры, и через записанные видео? Как используются способности ИИ? Как работает создатель дипфейков, применяющий ИИ? Способны ли люди или ИИ обнаруживать дипфейки? Наполнят ли наши соцсети фейковые видео? Как остановить поток дипфейков? Какими еще дырами в безопасности может быть чреват ИИ? И есть ли что-нибудь полезное в технологии, позволяющей создавать дипфейки?

В рассказе «Золотой слон» мы увидели потенциальные возможности глубокого обучения при работе с большими данными, в частности в интернете и финансах. Вряд ли вы удивляетесь тому, что ИИ опережает людей по эффективности обработки больших массивов данных. Но вот как насчет способностей, уникальных для человека или прочих живых существ, например восприятия?

Зрение — самый важный из органов чувств человека. Компьютерное (машинное) зрение — это отрасль ИИ, которая обучает компьютеры видеть. Это слово означает здесь не только оцифровку видео или изображения, но и осмысление того, что при этом «видит» компьютер. Алгоритмы компьютерного зрения позволяют реализовать следующие возможности (перечислены в порядке возрастания сложности):

— Да, погода сегодня шикарная, — завела светскую беседу Ким Чи Юн, директор закрытой школы-интерната «Источник». С посетителями, дорого и нарядно одетыми супругами Пак — Чжун Хо и Хе Джин, она была хорошо знакома. Кабинет и вправду заливало солнце, через арочные окна хорошо просматривался школьный двор.

— Я уверена, вам известно, что наши ресурсы очень ограничены, — перешла к делу директриса (ее тут называли Мама Ким). — Мало кто беспокоится, на какие средства заведения вроде нашего должны раскрывать таланты воспитанников. Но мы в «Источнике» стараемся восполнить этот пробел. У нас своя технология, и мы ее запатентовали. Мы обеспечиваем развитие детей, учитывая их потенциал, сколько бы времени они ни оставались с нами. Ой, да что это я — вы же отлично все это знаете.

Чжун Хо откашлялся:

— Мы с Хе Джин большие поклонники ваших достижений, именно поэтому наш фонд Delta Foundation так щедро вас поддерживает. Но сегодня мы к вам не как члены попечительского совета.

Он бросил быстрый взгляд на жену, Хе Джин подбодрила его ответным взглядом и кивнула.

— Видите ли, — продолжил Чжун Хо, — мы с Хе Джин решили усыновить ребенка.

— Неожиданно! — Мама Ким обрадовалась. — Вы кого-то присмотрели?

— Они все кажутся замечательными, — включилась Хе Джин, — но нас заинтересовали мальчики-близнецы.

— Воробьи, Золотой и Серебряный… — протянула Мама Ким и понизила голос. — Вы в курсе, что для усыновления двоих семейную экспертизу придется пройти дважды?

— Да, но нас это не беспокоит, — голос Джун Хо не дрогнул.

Мама Ким проводила Паков в светлую просторную гостиную с пушистым ковром на полу. Вскоре в комнату привели двух шестилетних мальчиков. Их можно было бы принять за клонов: одинаковые темные вьющиеся волосы, тонкие изогнутые брови, немного поджатая верхняя губка и прелестные веснушки на носу — разной была только одежда. Кроме нее, Паки в первый момент не заметили между близнецами никакой разницы.

Чжун Хо и Хе Джин поднялись навстречу детям, но мальчишки среагировали совершенно по-разному. Один шагнул навстречу, другой отступил подальше и забился в угол.

— Золотой Воробей, Серебряный Воробей, — обратилась к воспитанникам Мама Ким. — Это Чжун Хо и Хе Джин Пак. Они хорошие друзья нашей школы. Они хотят с вами познакомиться.

— Здравствуйте, Чжун Хо. Здравствуйте, Хе Джин, — вежливо кивнул мальчик, что был побойчее. — Вы хотите забрать нас к себе?

Чжун Хо и Хе Джин улыбнулись и переглянулись — они не ожидали столь прямого вопроса от ребенка и не были готовы ответить.

А мальчик в углу молчал. Он опустил голову и старательно выводил ногой спираль на ковре.

— Хочешь, угадаю, кто ты? — Хе Джин присела, чтобы оказаться на одном уровне с разговорчивым парнишкой. — Ты — Золотой Воробей. Так ведь?

— Чего тут гадать-то?! — довольно резко отреагировал на такое откровенное заигрывание парнишка. — Мы — однояйцевые близнецы с геномными данными, различающимися только в одной последовательности из миллиона. На самом деле мы разные.

Развернутый научный ответ не по годам развитого шестилетнего крохи ошарашил Чжун Хо и Хе Джин.

— Ну, а как вообще у тебя дела? — Чжун Хо не смог быстро переключиться со взятого женой, видимо, все-таки неверного тона. — Во что ты любишь играть?

— Я не люблю играть, — не повелся на сюсюканье Золотой Воробей. — Я предпочитаю соревноваться.

— Ух ты! И в чем же ты соревнуешься?

— Лично я могу соревноваться в чем угодно. С помощью Атомэна я недавно победил на конкурсе дизайнеров.

— Атомэна? — переспросил Чжун Хо.

— Это ИИ-компаньон Золотого Воробья, — объяснила Мама Ким. — В нашей школе такой есть у каждого ребенка, его предоставляет система vPals, «виртуальные приятели». Компаньоны помогают воспитанникам справляться с расписанием, делать уроки и даже играют с ними.

Пока Мама Ким объясняла, в XR-очках Чжун Хо вспыхнуло приглашение к обмену данными — это постучался Золотой Воробей. Посетитель его, похоже, заинтересовал. Чжун Хо повел глазами: «ОК». Силуэт мальчика в XR-поле засветился красным, вокруг замерцало пиксельное пламя. Оно стремительно преобразовывалось, пока не превратилось в красного робота с угловатым контуром. От фигуры веяло агрессией, во все стороны летели яркие искры — и Чжун Хо шутливо вскинул руки: «Сдаюсь!»

— Вот, это мой лучший друг Атомэн, — Золотой Воробей торжествовал. Пока все происходило как он хотел — взрослый дяденька полностью подчинился.

А Серебряный Воробей исподлобья наблюдал за происходящим, так и не выбравшись из своего угла.

Хе Джин шагнула к молчащему мальчику:

— Ну, а как зовут твоего ИИ-компаньона?

Серебряный Воробей не ответил. Хе-Джин наклонилась, протянула руку — хотела подбодрить. Мальчишка отпрянул, и тут Хе Джин разглядела особую примету: на правом веке Серебряного Воробья виднелся малюсенький шрам в форме лепестка розы.

Бойкий Золотой Воробей опять подал голос:

— Его ИИ-компаньонку зовут Солярис. По мне, так это просто какой-то мешок соплей, настоящее позорище.

Серебряный Воробей впервые с момента появления в комнате поднял голову, бросил на брата испепеляющий взгляд и тут же опять отвел глаза.

— Солярис — не мешок соплей! — выкрикнул он.

— Да точно мешок соплей! Ты просто дурак и этого не понимаешь, а у тебя самого изо рта вечно воняет соплями!

Серебряный Воробей немедленно пришел в ярость, и в сторону брата полетели отборные ругательства. Мама Ким немедленно подала знак, и мальчиков увели, пока ситуация совсем не вышла из-под контроля. Стало тихо, но общее молчание было очень неловким.

— Как видите, близнецы очень разные, — принялась оправдываться директриса. — Но оба замечательные. Итак…

— Да уж, впечатляюще, — Чжун Хо пытался осознать увиденное, говорил с Мамой Ким, но смотрел при этом на жену. — Нам, пожалуй, нужно подумать. Мы с супругой все обсудим и с вами свяжемся.

Небо уже потускнело. Во дворе зажглись фонари. Роскошный автомобиль увозил чету Паков — следом летели опавшие листья, которые не успели убрать с дорожки кампуса. Мама Ким одновременно ощутила облегчение и сожаление.

Ей не требовалось слышать, что решат усыновители, она и так это знала. Выбор любой пары, твердо, как Паки, придерживающейся принципов рациональности и эффективности, был бы таким же. Мама Ким не ошиблась — через неделю они пришли забрать Золотого Воробья. Без Серебряного.

Рассказ «Воробьи-близнецы» знакомит нас с идеей личных ИИ-компаньонов, основная функция которых, по сюжету, — опека осиротевших мальчиков-близнецов. ИИ-компаньоны, или vPals (виртуальные приятели), как их называют в соответствующей программе школы «Источник», включают в себя много ИИ-технологий, но мне хотелось бы особо выделить обработку естественного языка (ОЕЯ), то есть способность машин понимать (в самом широком смысле) человеческие языки.

Итак, каковы шансы, что через двадцать лет люди смогут устанавливать привычные, почти человеческие отношения со сложнейшими ИИ-партнерами вроде Атомэна и Солярис? Если говорить о детях — сомнений практически нет, шансы велики. Человеческим детенышам изначально свойственна универсальная склонность к очеловечиванию (антропоморфизации) игрушек, домашних животных, предметов и даже воображаемых друзей — дети без труда наделяют их человеческими чертами. ИИ-компаньоны, которые умеют говорить, слышать и понимать, как люди, могли бы оказать огромное влияние на развитие ребенка.

Я хочу начать с анализа обучения с учителем и самообучения в обработке естественного языка — технологии, благодаря которой ИИ-компаньоны могут стать реальностью. Затем я отвечу на закономерный вопрос: будет ли обладать общим искусственным интеллектом (ОИИ) искусственный интеллект, овладевший нашим языком? В завершение мы исследуем будущее образования в эпоху ИИ, в том числе рассмотрим, как ИИ сможет дополнить учителей-людей и значительно улучшить наши перспективы в области образования.

Обработка естественного языка (ОЕЯ) — одно из важнейших направлений ИИ. Речь и язык — центральные элементы человеческого интеллекта, общения и когнитивных процессов, поэтому их понимание часто считают глобальной и самой трудной задачей ИИ. Естественным языком называют язык людей — устную и письменную речь и невербальное общение. Естественному языку присущ врожденный компонент, который люди развивают посредством социальных взаимодействий и в процессе образования.

Тут самое время напомнить о тесте машинного интеллекта, известном как тест Тьюринга. Он ставил целью определить, способна ли диалоговая ОЕЯ-система обмануть человека — заставить думать, что он общается с себе подобным, а не с машиной. Ученые уже давно бьются над разработкой технологии ОЕЯ, используемой для анализа, понимания и генерации текстов на человеческом языке. С 1950-х годов компьютерные лингвисты пытались обучить компьютер естественному языку в соответствии с наивными представлениями о том, как им овладевает человек (начиная со словарного запаса, моделей спряжения и правил грамматики).

Однако в последнее время глубокое обучение потеснило эти ранние подходы. Новейшие достижения показали возможность моделирования сложных взаимоотношений и паттернов способами, уникально подходящими для компьютеров и масштабируемыми по мере увеличения доступности обучающих наборов данных.

Стоит ли удивляться, что сегодня глубокое обучение бьет рекорды по каждому стандартному оценочному заданию ОЕЯ!

Несколько лет назад практически все нейронные сети для ОЕЯ учили язык с использованием стандартного подхода «обучение с учителем» — мы обсуждали его ранее. Он подразумевает, что в процессе обучения ИИ нужно снабдить правильным ответом для каждого обучающего входа (входных данных). (Обратите внимание: человек при этом не должен «запрограммировать» правила в ИИ; как мы разобрали в главе 1, это не работает.)

ИИ получает пары размеченных данных (входные данные и правильный выход) и учится выдавать результат, соответствующий заданному входу. Помните пример ИИ, распознающего изображение кошки? Глубокое обучение с учителем — это процесс, в ходе которого ИИ обучается выдавать на выходе слово «кошка».

В случае с естественным языком можно применить принцип обучения с учителем, подбирая размеченные ранее для наших, человеческих, целей данные. Например, в ООН и многих других подобных организациях имеются датасеты многоязычных переводов для одних и тех же документов. Они обеспечивают естественный источник «учительского сигнала» для машин в процессе их обучения переводу между языками.

ИИ обучается путем простого «спаривания» каждого из миллионов предложений, скажем, на английском языке с его профессионально переведенным аналогом на французском. Также обучение с учителем может быть применено для распознавания речи (преобразование устной речи в текст), оптического распознавания символов (преобразование рукописного ввода или изображений в текст) или синтеза речи (преобразование текста в речь).

Во всех задачах распознавания естественного языка, где применимо обучение с учителем, ИИ уже сейчас превосходит большинство людей.

При более сложном применении ОЕЯ происходит переход от распознавания к пониманию. Чтобы совершить этот скачок, слова должны быть реализованы в действиях. Например, виртуальная ассистентка Алекса, услышав команду сыграть Баха, должна понять: вы хотите, чтобы она воспроизвела что-нибудь из классических произведений, написанных композитором Иоганном Себастьяном Бахом. А в ответ на фразу «я хочу вернуть деньги» чат-бот в программе для е-коммерции, скорее всего, посоветует, как вернуть купленный товар, а затем получить обратно уплаченное за него.

Создание таких «понимающих» предметно-ориентированных ОЕЯ-приложений посредством обучения с учителем требует огромных затрат времени. Подумайте только, каким количеством фраз люди могут выразить, по сути, одно и то же — вместо, например, «я хочу вернуть деньги» человек произнесет «этот тостер неисправен», и с человеческой точки зрения это будет означать то же самое!

В данных для такого обучения с учителем должны быть представлены все мыслимые вариации в диалоге, которые только могут возникнуть при пояснении и уточнении. Причем не только представлены, но и определенным образом размечены человеком, чтобы обеспечить ИИ достаточными подсказками для обучения.

Разметка данных для обучения с учителем систем понимания языка на протяжении двадцати лет является мощной индустрией. Такие данные в автоматизированной системе обслуживания клиентов авиакомпании выглядят примерно так:

Но это самый простой пример. А теперь представьте, каково будет разметить сотни тысяч фраз при таком уровне детализации. Как бы вы ни старались, вам все равно не удастся охватить все возможные варианты даже в рамках относительно узкой сферы действий вроде бронирования авиабилетов.

В течение многих лет понимание языка при помощи технологий ОЕЯ работало, только если вы были готовы потратить массу времени на очень узкую область применения (то есть речь идет о предметно-ориентированном ОЕЯ с учителем для одной конкретной сферы).

Грандиозная цель — понимание языка на человеческом уровне — оставалась недостижимой: мы не знали, как это выглядит. И мы не знали, как построить обучение с учителем в применении к ОЕЯ, задавая выход для каждого входа. Однако даже если бы и знали, разметка данных на всех языках мира все равно оказалась бы задачей непомерно трудоемкой и дорогостоящей.

Не так давно возник простой, но элегантный подход — самообучение. То есть ИИ сам обучает себя, ему не требуется никакой сделанной человеком разметки, и это позволяет обойти «узкое место», которое мы только что обсудили. Этот подход называется «предсказание последовательности».

Для обучения такой нейронной сети входом является просто последовательность слов текста некоторой длины, а выходом — слова продолжения для этой последовательности. Например, для входной последовательности «восемь десятков и семь лет назад» нейросеть учится генерировать выход «наши отцы образовали на этом континенте новую нацию»[38]. Вероятно, вы сегодня каждый день пользуетесь простой версией этой технологии — она реализована в функции умного письма Gmail или в функции подсказки в поиске Google.

Специалисты Google в 2017 году создали новую архитектуру нейросети — трансформер. Это модель машинного обучения, которая задействует избирательные механизмы памяти и внимания. Они способны выборочно обращать внимание на то, что является «важным и актуальным» в последовательности[39]. Так, в примере с Геттисбергским обращением Линкольна нейронная сеть, опираясь на механизм внимания, понимает значение слова «десятков» в данном контексте.

При достаточном количестве данных подобная продвинутая модель глубокого обучения может, по сути, обучить себя языку с нуля. Она не использует наши, человеческие понятия вроде спряжения глаголов и грамматики, а опирается на «самостоятельно изобретенные» конструкции и абстракции, полученные из данных и встроенные в гигантскую нейронную сеть. Обучающие данные для этих систем являются абсолютно естественным материалом — текстами, не требующими никакой внешней узкоспециализированной разметки, описанной выше.

Имея в распоряжении достаточно естественных данных и достаточные вычислительные мощности, такая система может научиться и дальше самостоятельно определять, например, время прибытия и отправления транспорта (при бронировании билетов), а также многое другое.

Вскоре после упомянутого прорыва Google OpenAI (исследовательская лаборатория, созданная Илоном Маском с коллегами) выпустила более известное расширение — третье поколение алгоритма обработки естественного языка GPT-3 (Generative Pre-trained Transformer — «генеративные предварительно обученные трансформеры»). Прорыв произошел в 2020 году.

GPT-3 — это гигантский движок по предсказанию текстовых последовательностей. Он обучен анализировать язык на основе огромной модели, включающей в себя в себя почти все мыслимые концепции. Используя один из мощнейших суперкомпьютеров, GPT-3 обучили на более чем 45 терабайтах текста (человеку, чтобы прочесть их, потребовалось бы полмиллиона жизней). С ростом количества текстов, доступных в сети, эта цифра (500 тысяч человеческих жизней) ежегодно возрастает в десять раз, расширяя возможности технологии поистине невероятными экспоненциальными темпами.

После очень долгого и дорогостоящего процесса обучения GPT-3 была создана гигантская модель со 175 миллиардами параметров. Если загрузить в алгоритм GPT-3 какую-либо последовательность слов, он выдаст то, что, по его мнению, должно следовать за этими словами. Благодаря огромным обучающим данным GPT-3 знает, что вопрос обычно стимулирует ответ.

Например, если сказать GPT-3: «Печь тяжелее кошки. Океан тяжелее частицы пыли. Что тяжелее, тостер или карандаш?», GPT-3 ответит правильно — «тостер». Первые два предложения помогают GPT-3 сосредоточиться на конкретном значении слова «тяжелее», а последнее указывает на то, что ему задают вопрос. Причем если ввести только последнюю фразу, GPT-3 все равно ответит, хоть и с большей вероятностью ошибки.

GPT-3 кардинально отличается от предметно-ориентированной ОЕЯ. В отличие от более ранних технологий с более узкой функциональностью, GPT-3 может достаточно успешно выполнять разнообразные задачи: сочинять стихи, делать философские выводы, выдавать пресс-релизы, составлять технические инструкции и даже имитировать стиль практически любого писателя.

Так, один репортер попросил GPT-3 написать стихотворение об Илоне Маске в стиле самого продаваемого англоязычного детского писателя доктора Сьюза, по книгам которого учат читать, и вот что вышло[40]:

GPT-3 способен вести связную (иногда прямо-таки пугающе связную) беседу. Приведу реальный пример — обмен сообщениями между репортером и алгоритмом:

Благодаря разносторонним способностям GPT-3 можно быстро настроить на определенную предметную область, снабдив гигантскую сеть дополнительной информацией из этой сферы. GPT-3 способен использовать гигантский массив базовых данных, на которых он был обучен, но обычно ему требуется относительно небольшое их количество, относящееся к определенной области.

Чтобы понять способность GPT-3 к «обучению посредством переноса», можно представить его ребенком, который сначала начинает свободно говорить на повседневном разговорном языке и только потом переходит к более специализированным языковым областям — к поэзии, истории или программированию.

В нашем рассказе о маленьких братьях-близнецах программистка Сун подгоняет аватары Солярис и Атомэна под конкретные потребности мальчиков; она дополняет общую языковую модель их виртуальных ИИ-друзей конкретной информацией о подопечных.

Конечно, GPT-3 не безупречен. Проведя бесчисленные тесты и испытания, ученые вручную отобрали множество поистине «блестящих» образчиков его усилий, в том числе довольно забавных. Например, следующая ошибка демонстрирует, что GPT-3 не знает, чего он не знает:

В этом примере алгоритм спутал слово «президент» со словом «правитель», так что эта ошибка по крайней мере объяснима. Но GPT-3 может выдавать и совершенно безумные ответы. Например:

Мы, люди, уверены в себе и отличаем то, что знаем, от того, чего не знаем. А для GPT-3 это — темный лес. Данный пробел в «сознании» и приводит к тому, что алгоритм выдает подобные глупости.

GPT-3, кроме того, откровенно слабоват в причинно-следственных связях, абстрактном мышлении, поясняющих утверждениях, здравом смысле и (преднамеренной) креативности. А еще, вобрав в себя так много данных, полученных от людей, он, к сожалению, впитал и человеческую предвзятость, предрассудки и злобу.

Оказавшись в преступных руках, GPT-3 может быть использован для бомбардировки людей персонифицированными сообщениями, влияя тем самым на их мнение и выбор. И, поверьте, механизм политического воздействия при этом будет гораздо опаснее того, который продемонстрировала британская аналитическая фирма Cambridge Analytica в 2016 году на президентских выборах в США. Уверен, в ближайшие десятилетия эти недостатки GPT-3 будут тщательнейшим образом изучены и, надеюсь, исправлены.

GPT-3 наверняка станет платформой, фундаментом, на котором можно будет быстро создавать приложения для самых разных сфер — и это наиболее захватывающий аспект его огромного потенциала. Всего через несколько месяцев после появления GPT-3 на его базе появились: чат-бот, позволяющий общаться с историческими личностями; инструмент для написания музыки, завершающий начатые человеком гитарные табулатуры; приложение, способное завершить наполовину готовое изображение; приложение DALL.E, отрисовывающее то, что ему описывают на естественном языке (например, «редька-малыш в балетной пачке выгуливает собачку»).

Пока это чаще всего игрушки — нечто забавное или максимум любопытное, но если указанные выше недостатки будут исправлены, платформа GPT-3 может стать эффективной средой, в которой десятки тысяч разработчиков создадут потрясающие приложения, улучшая и развивая саму платформу и одновременно привлекая к ней все больше пользователей, как это произошло с Windows и Android.

Одним из замечательных новых применений ОЕЯ непременно будет диалоговый разговорный ИИ — он сможет стать наставником для детей и компаньоном для пожилых; обслуживать клиентов корпораций, работать в службах поддержки неотложной медицинской помощи и так далее. ИИ будет оказывать помощь круглые сутки семь дней в неделю — этого зачастую не могут обеспечить люди.

Такой диалоговый ИИ можно будет быстро настроить под любое конкретное применение, под человека или ситуацию. Со временем более продвинутые версии диалогового ИИ непременно станут достаточно интересными и «приятными в общении», и даже скептики проникнутся к ним симпатией, а некоторые могут начать переживать откровенно позитивные эмоции. Хотя романтические отношения, показанные в фильме «Она»[44], на наше счастье, будут большой редкостью.

Вступая в диалог с ИИ, всегда помните, что разговариваете с тем, кто просто преобразует одни последовательности слов в другие — у него нет совести и нет души, даже если в кино показывают, что у него есть и то и другое.

Помимо диалогового ИИ, ОЕЯ-платформа может стать поисковой системой следующего поколения, способной ответить на любой вопрос. Она мгновенно перелопатит все, что связано с заданной темой, и подгонит добытую информацию под определенную функцию или индустрию. Например, финансовое ИИ-приложение ответит на вопрос вроде: «Как мне скорректировать свой инвестиционный портфель, если осенью опять будет всплеск ковида?»

Вполне возможно, платформа будет составлять базовые отчеты о спортивных играх или о состоянии фондового рынка, научится готовить выжимку из длинных текстов и станет отличным подспорьем для репортеров, финансовых аналитиков, писателей и всех, кто работает с языком.

Есть ли у сегодняшнего GPT-3 все необходимое для прохождения теста Тьюринга? Может ли он стать общим искусственным интеллектом? Или хотя бы решительно шагнуть в этом направлении?

Скептики скажут: GPT-3 просто ловко запоминает примеры, ничего толком не понимает и по-настоящему разумным его не назовешь. В человеческом интеллекте, как известно, центральное место занимает способность логически рассуждать, планировать и творить.

Чаще всего критики систем, основанных на глубоком обучении, в том числе GPT-3, произносят что-то вроде этого: «У них никогда не будет чувства юмора. Они никогда не смогут научиться ценить искусство, красоту или любовь. Они никогда не почувствуют себя одинокими и несчастными. У них никогда не будет сочувствия к другим людям, животным или окружающей среде. Они никогда не будут наслаждаться музыкой, влюбляться или плакать».

Весьма точно и убедительно, да? Удивлю: эти слова написал алгоритм GPT-3, когда ему предложили скептически взглянуть на себя. Разве способность к столь точной самокритике не опровергает саму эту критику?

И все же пессимисты считают, что настоящий интеллект требует более глубокого понимания когнитивного процесса человека, чем доступно ИИ. Другие убеждены, что сегодняшняя архитектура компьютерного «железа» не способна сымитировать человеческий мозг, поэтому выступают за нейроморфные вычисления, способные, наряду с новым способом программирования, создать схемы, имитирующие человеческий мозг. Третьи призывают использовать в гибридных системах элементы «классического» (то есть основанного на правилах экспертных систем) ИИ в сочетании с глубоким обучением.

В ближайшие десятилетия эти теории будут протестированы — либо доказаны, либо опровергнуты. Что ж, такова природа всех научных гипотез и их верификации.

Независимо от любых существующих ныне теорий я считаю бесспорным: компьютеры просто «думают» иначе, чем наш мозг. И лучший способ повысить уровень компьютерного интеллекта — разработать общие вычислительные методы (вроде глубокого обучения и GPT-3), которые будут масштабироваться по мере увеличения вычислительных мощностей и объемов данных.

За последнее время мы не раз наблюдали, как наилучшие ОЕЯ-модели «переваривали» за год в десятки раз больше данных, чем прежде, и за каждым десятикратным увеличением следовали качественные улучшения. Тенденция ежегодного десятикратного роста эффективности языковых моделей сохраняется: в январе 2021 года, всего через семь месяцев после выпуска GPT-3, Google анонсировала языковую модель с 1,75 триллиона параметров — в девять раз больше, чем у GPT-3.

Эта модель уже прочла больше, чем сумел бы любой из нас за миллионы человеческих жизней. Процесс будет ускоряться в геометрической прогрессии. Посмотрите на график, иллюстрирующий рост параметров ОЕЯ-модели (обратите внимание: на оси Y — логарифмическая шкала).

Ежегодный десятикратный рост параметров ОЕЯ-моделей

Да, GPT-3 пока допускает множество базовых ошибок, но мы видим в этом алгоритме проблески интеллекта, а ведь это всего лишь третье поколение. Возможно, через двадцать лет GPT-23 прочтет каждое написанное на планете слово, посмотрит каждое когда-либо снятое видео и построит собственную модель мира. Возможно, этот всезнающий предсказатель последовательностей будет держать «в голове» все знания, накопленные человеком за всю историю нашего существования. А нам с вами останется просто задавать ему правильные вопросы.

Итак, станет ли глубокое обучение «общим искусственным интеллектом» (ОИИ) во всех отношениях совпадающим с человеческим? Столкнемся ли мы с «сингулярностью» (см. главу 10)? Трудно сказать, не думаю, что это произойдет к 2041 году. Сегодня существует множество сложных задач, в решении которых мы не достигли особого прогресса или даже толком не поняли еще их суть, например как смоделировать креативность, стратегическое мышление, аргументацию, эмоции и сознание.

Для решения этих проблем, вероятно, потребуется еще с десяток мощных прорывов вроде глубокого обучения, а у нас за последние более чем шестьдесят лет прорыв такого масштаба случился только один. И, кажется, наивно верить, что за двадцать лет мы нагоним упущенное.

Кроме того, я бы посоветовал всем перестать использовать ОИИ в качестве окончательного испытания ИИ. Как я писал в главе 1, мозг ИИ отличается от человеческого. Через двадцать лет глубокое обучение и его расширения превзойдут людей в решении огромного числа задач, но все равно останется масса того, с чем люди будут справляться гораздо лучше, чем замечательная технология.

А еще непременно появятся новые задачи, явно демонстрирующие человеческое превосходство, особенно если учесть, что прогресс ИИ вдохновляет и нас на постоянное совершенствование и развитие. Важно, чтобы мы создавали полезные области для применения мощи ИИ, стремились найти симбиоз человека с искусственным интеллектом, а не зацикливались на угадывании, станет ли ИИ с глубоким обучением общим ИИ, и если да, то когда. Я лично считаю человеческую одержимость ОИИ проявлением нарциссизма — а как еще расценить убежденность в том, что мы являемся «золотым стандартом»?

ИИ В ОБРАЗОВАНИИ

Наше решение поместить братьев-сирот из истории «Воробьи-близнецы» в контекст учебного заведения не было случайным. Технологии сыграли центральную роль в революционных изменениях во многих отраслях и сферах человеческой жизни. За последние сто лет они полностью изменили то, как мы работаем, играем, общаемся друг с другом и путешествуем. И все же, если не считать временного перехода на дистанционное обучение во время пандемии ковида, сегодня наша классная комната по-прежнему очень сильно похожа на классную комнату вековой давности.

Недостатки современного образования известны всем; в первую очередь это его всеохватность. Мы отлично знаем, что каждый учащийся индивидуален, но персонифицированное обучение дорого, и его не распространить на страны и регионы, где на одного учителя приходятся десятки учеников. ИИ может сыграть критически важную роль в исправлении этих недостатков и в преобразовании системы образования.

Учебный процесс состоит из теории, практики, проверки выполнения заданий и собственно преподавания. Разноплановая подготовка к проведению занятий отнимает у учителя колоссальное количество времени, но многие решаемые им задачи можно будет автоматизировать с помощью достаточно продвинутого ИИ.

ИИ мог бы исправлять ошибки учеников, отвечать на наиболее частые вопросы, задавать домашние задания, проводить контрольные и выставлять за них оценки. А еще — оживлять исторических персонажей, чтобы те взаимодействовали с учениками, повышая увлекательность учебного процесса. Большая часть этих возможностей уже сегодня реализуются в образовательных приложениях, особенно в Китае.

Но, по всей вероятности, наибольший потенциал ИИ в области образования лежит в сфере индивидуализации обучения. Как мы увидели в рассказе «Воробьи-близнецы», у каждого ученика может появиться индивидуальный ИИ-наставник. Золотому Воробью помогал его любимый мультяшный персонаж Атомэн; он делал процесс обучения более интересным.

Но Атомэн — не просто добрый приятель. Именно он убедил Золотого Воробья развивать области, в которых тот был слаб; а еще ИИ хранил необходимые данные для своего подопечного. Кроме того, ИИ-компаньон был всегда под рукой, его можно было вызвать в любое время — такое невозможно ни с одним учителем в мире.

В отличие от педагогов-людей, которым приходится работать со всем классом, виртуальный учитель сможет уделять должное внимание одновременно каждому ученику: одному поправить произношение, с другим поработать над умножением, с третьим попрактиковаться в написании сочинений.

ИИ-учитель заметит, когда у ученика расширяются глаза от восторга или удивления, а от чего они начинают буквально слипаться, потому что скучно. Он подберет методику обучения геометрии, которая не работает с тысячей учеников, но позволит быстрее обучить одного-единственного. Для школьника, который любит баскетбол, ОЕЯ может сформулировать математические задачи в терминах этого вида спорта.

ИИ будет задавать домашние задания с учетом индивидуального темпа обучения каждого ребенка, что гарантирует индивидуальное — полное и качественное — освоение темы. Использование в онлайн-классах таких виртуальных учителей и виртуальных одноклассников значительно повысит успеваемость, равно как и степень вовлеченности учащихся в процесс, измеряемый реальными действиями, например постановкой хороших уточняющих вопросов.

В Китае внедрение одного популярного образовательного компьютерного приложения показало: добавление в учебный процесс активных и интересных виртуальных одноклассников (сегодня это технически делается с использованием записанного видео, но в будущем их будет генерировать ИИ) существенно повышает уровень вовлеченности и участия учеников-людей и даже побуждает их усерднее и больше учиться.

В будущем ИИ можно будет делегировать и другие образовательные задачи — планирование занятий, проверку и оценку письменных работ, даже чтение лекций. Благодаря неуклонно растущему объему данных ИИ сделает обучение намного более эффективным, увлекательным и интересным.

Впрочем, в школах учителя-люди не станут лишними с появлением ИИ. Они продолжат играть две критически важные роли. Во-первых, станут для учеников человеческими наставниками и связующими звеньями; останутся для детей движущей силой, стимулирующей их критическое мышление, креативность, эмпатию и командную работу. Они будут поддерживать и разъяснять, когда ученик окажется сбит с толку; подталкивать его к новым вершинам, когда он решит почивать на лаврах; утешать, когда он будет расстроен.

Учителя смогут меньше заниматься механическими аспектами передачи знаний и уделять больше времени формированию у учащихся эмоционального интеллекта, творческих способностей, характера, ценностей и психологической устойчивости.

Вторая важнейшая роль учителя в школе нового типа — направлять и программировать ИИ-учителя и ИИ-компаньона так, чтобы наилучшим образом удовлетворять конкретные потребности каждого ученика. Учитель будет руководствоваться при этом собственным опытом, мудростью, глубоким пониманием потенциала и устремлений учащихся.

В рассказе «Воробьи-близнецы» Мама Ким, увидев, что близнецы отдаляются друг от друга, велела школьной программистке Сун модифицировать их виртуальных друзей, чтобы близнецы оставались на связи и в конечном счете воссоединились.

Когда ИИ возьмет на себя многие трудоемкие и рутинные аспекты образования, основные затраты на него существенно понизятся, и это позволит получить к нему доступ гораздо большему количеству людей. По сути, ИИ в перспективе по-настоящему может уравнять права людей на образование, обеспечив ИИ-учителями всех желающих и сделав содержание учебных курсов и лучших учителей доступными не только для учеников элитных школ и студентов вузов. И все это, заметьте, с практически нулевыми издержками.

В то же время более богатые общества смогут подготовить гораздо больше учителей-людей, и тогда на каждого из них (или на родителя-учителя, обучающего на дому) придется всего несколько детей (против десятков и сотен — сегодня), каждый, по сути, получит личного наставника-коуча. Такая симбиотическая, гибкая новая модель образования значительно повысит его доступность и поможет каждому ученику реализовать потенциал в Эру искусственного интеллекта.

Ее опять мучил тот же кошмар. Чен Нань снова увидела себя призраком, парящим в воздухе и наблюдающим со стороны за собой пятилетней. Тельце девочки словно задеревенело, она зажмурилась. Она не открывала глаз, но все равно как будто видела заполнивших комнату людей в комбинезонах-скафандрах. Люди напоминали тайконавтов[45]. Они уложили тела бабушки и дедушки, ее единственных родных людей и официальных опекунов на всем белом свете, на носилки и накрыли белыми простынями.

Все в этом сне было каким-то бледным и ужасно унылым. Ни громких завываний сирены скорой помощи, ни резкого запаха дезинфицирующих средств — все тихо и бесцветно. Девочка стояла у двери с лицом, лишенным каких-либо эмоций. Но Чен Нань знала, что за этим видимым спокойствием на самом деле скрывался огромный, удушающий страх.

Однажды Чен Нань описала свои ночные кошмары психотерапевту, и тот предложил ей постараться заплакать во сне: «Первый шаг к заживлению шрамов заключается в том, чтобы выпустить на свободу эмоции, которые вы в себе подавляете». И Чен Нань старалась изо всех сил. Она очень хотела, чтобы маленькая девочка наконец закричала, разрыдалась, бросилась на медбратьев, пытаясь их остановить, чтобы она могла снова поговорить со своими любимыми бабушкой и дедушкой. Но малышка каждый раз продолжала молча наблюдать за происходящим из угла комнаты, не в силах сдвинуться с места.

В тот день, двадцать лет назад, в лексикон Чен Нань твердо вошел новый зловещий термин: COVID-19. С тех пор, стоило ей услышать это слово, как у нее учащалось сердцебиение, а тело начинало бесконтрольно дрожать. Психотерапевт сказал, что это панические атаки, вызванные сильнейшей психологической травмой. А потом начались эти кошмары — зловещие незваные гости, которым неизменно удавалось внести в ее жизнь еще больше боли и смятения, причем когда она меньше всего этого ожидала.

«Бесконтактная любовь» — явление, характерное для общества, до неузнаваемости преобразованного постоянной пандемией. В данном случае — это фантазия на тему, что может быть, если пандемия из-за постоянных мутаций вируса продлится еще десятилетия. Конечно же, это только наши предположения.

Независимо от того, как долго с нами задержится ковид, уже сегодня очевидно: ИИ изменит наше здравоохранение. Неминуемо ускорение открытия новых вакцин и лекарств и интеграции в существующую систему передовых технологий вроде ИИ-диагностики. Нацеленность ИИ на область здравоохранения особенно актуальна, поскольку мы уже находимся в процессе оцифровки этой отрасли.

Результатом станет массивный датасет, необходимый ИИ для преобразования нынешней системы здравоохранения. Так что шансы увидеть эту отрасль совершенно другой вследствие интеграции в нее ИИ в 2041 году крайне велики.

Еще один характерный аспект — ковид, породивший страх перед физическими контактами. В рассказе он проиллюстрирован фобиями и добровольной реальной самоизоляцией молодой девушки. Такой вынужденный образ жизни создает множество возможностей для развития робототехники — благодаря стремительному техническому прогрессу эта область уже готова к реальному прорыву. Будут ли в 2041 году по вашей квартире сновать роботы-помощники, как по жилищу Чен Нань из нашей истории? Поделюсь мнением и на этот счет.

На закуску обсудим, каким образом пандемия поспособствует нашему дальнейшему переходу на дистанционную работу, общению, обучению, коммерции и развлечениям; как непременно приведет к ускорению процесса цифровизации и сбора данных. Больше данных равно более развитому ИИ, что еще больше ускорит автоматизацию и приведет к дальнейшему сокращению рабочих мест.

То, что мы называем «современной медициной», в XX веке сильно выиграло благодаря беспрецедентным научным открытиям — они в итоге серьезно улучшили здравоохранение во всех его аспектах. Средняя продолжительность жизни человека увеличилась с 31 года в 1900 году до 72 — в 2017-м. Я убежден, что не сегодня-завтра грядет революция в сфере здравоохранения.

Цифровизация даст медикам возможность пользоваться любыми технологиями обработки данных; поставит им на службу вычислительную, коммуникационную, мобильную, робототехнику, а также науку о данных и, самое главное, медицинский ИИ.

Первым делом ныне существующие базы данных будут оцифрованы, а процессы — автоматизированы. Это затронет истории болезни, данные об эффективности лекарств и медицинских приборов, сведения о клинических испытаниях, о контроле качества медицинского ухода, статистику по распространению инфекционных заболеваний и поставкам лекарств и вакцин. В результате оцифровки появятся огромные базы данных, которые также обеспечат новые возможности ИИ.

Не так давно стала цифровой такая область медицины, как радиология. И врач уже не разглядывает подсвеченный рентгеновский снимок — на смену дедовскому методу пришла компьютерная визуализация 3D-изображений с высокой четкостью, а это делает возможной телерадиологию и ИИ-диагностику.

Уже сегодня начали оцифровывать медицинские карты и страховые данные; их сохраняют и объединяют (если это, конечно, разрешено законом) в анонимных базах данных, к которым можно применить ИИ, улучшив тем самым эффективность и качество лечения, диагностики, квалификацию медицинского персонала, выявление аномалий и профилактику заболеваний.

Полные базы данных по использованию каждого лекарственного средства позволят врачам и ИИ понимать, как и когда применять каждый препарат с максимальной эффективностью и как избежать врачебных ошибок. ИИ может выполнять многие виды работы гораздо тщательнее, чем люди-врачи, — ведь он имеет возможность обучаться на миллиардах реальных случаев, учитывая в том числе и результаты лечения.

ИИ может анализировать полный медицинский и семейный анамнез и подбирать лечение с учетом этих данных. А еще ИИ сможет, так сказать, держать руку на пульсе прогресса — знать и «помнить» все об огромном количестве новых лекарств, методов лечения и результатах медицинских исследований, что однозначно выходит за рамки человеческих возможностей.

В дополнение к существующим методам обработки информации в здравоохранении все больше используются новые революционные технологии, продукт собственно цифровых процессов. Мобильные устройства контролируют частоту сердечных сокращений, артериальное давление, уровень сахара в крови; постоянно увеличивают набор статистических данных о естественном движении народонаселения и могут своевременно подать сигнал об опасности для человечества.

Такой трекинг непременно приведет к созданию огромных баз данных, которые помогут ИИ точнее мониторить здоровье, выявлять болезни на ранней стадии, предлагать методы лечения и поддержки.

Благодаря новым технологиям огромное количество цифровых данных генерируется в сфере медицинских исследований. Определение последовательности (секвенирование) ДНК выдает жизненно важную цифровую информацию — например, о генах, кодирующих белки (молекулярных механизмах жизни), о регуляторной сети, которая определяет поведение генов.

Цифровая полимеразная цепная реакция (всем хорошо теперь известная ПЦР) способна точно выявлять патогены (например, вирус SARS-CoV-2 и его разнообразные варианты) и генные мутации (например, новые маркеры рака). Секвенирование следующего поколения NGS (Next-generation sequencing) обеспечивает быстрое прочтение и интерпретацию генома, что не под силу человеку (геном слишком длинен и сложен), но отлично поддается ИИ.

Есть еще CRISPR — революционная технология редактирования геномов, которая, вполне возможно, поможет искоренить многие болезни. И наконец, разработка новых лекарств и вакцин становится все более цифровым процессом и все сильнее интегрируется с ИИ (подробнее об этом поговорим в этой главе чуть позже).

Все эти новшества — цифровые изначально, поэтому они могут быть сопряжены с другими цифровыми технологиями, такими как ИИ, что непременно приведет к прорыву в здравоохранении.

Вы можете спросить, почему же провалились первые медицинские проекты с использованием ИИ вроде IBM Watson[50] с программой лечения онкозаболеваний? IBM работала с уважаемыми медицинскими учреждениями, MD Anderson и Sloan Kettering[51], и решила использовать их медицинский опыт и данные для обучения своего ИИ.

Эти высококачественные обучающие данные идеально подходят для обучения врачей и студентов-медиков. Они были кропотливо собраны ведущими исследователями с целью помочь учащимся усвоить ключевые концепции, установить связи между областями и синтезировать новые решения. Но эти базы данных слишком малы для ИИ, который учится на массивных данных, а не на концепциях (вспомните таблицу в главе 1, в которой противопоставляются обучение человека и ИИ), но имеющиеся базы оказались для него скудны. Технология IBM Watson попыталась расширить эти знания с помощью большого количества медицинских текстов из учебников и отчетов по исследованиям, но и эти материалы тоже предназначались для потребления человеком, а ИИ лучше подходят реальные данные о лечении и конкретных результатах.

К тому же лечение рака — задача слишком объемная и многофакторная и явно не годится для первого применения ИИ в области медицины. Здравоохранение с использованием ИИ должно начинаться с более скромных задач с большими датасетами, необходимыми искусственному интеллекту для обучения, и это очевидно.

Судя по всему, ИИ и медицинские сообщества усвоили урок IBM Watson. Сегодня они сфокусировались на более подходящих для ИИ задачах — разработке новых лекарств и вакцин, создании мобильных устройств для продолжительного обследования-мониторинга, секвенировании ДНК, радиологии, патанатомии и лечении генетических заболеваний.

Кроме того, мы должны быть реалистами и выбирать задачи, подходящие для нынешнего здравоохранения (создавать то, что может продаваться через уже существующие каналы). Машины должны дополнять работу ученых и врачей, а не пытаться амбициозно их подменить. При таком прагматическом и ориентированном на имеющиеся данные подходе уже в ближайшие двадцать лет ИИ-здравоохранение, без всяких сомнений, может рассчитывать на великое будущее. Предлагаю рассмотреть подробнее некоторые задачи; начнем с создания новых лекарственных средств.

До сих пор разработка лекарств и вакцин была чрезвычайно трудоемкой и дорогостоящей. Например, на открытие и совершенствование вакцины от менингита человечество потратило больше века. В случае с ковидом фармацевтические компании смогли продвинуться намного быстрее, во многом благодаря беспрецедентным государственным расходам на клинические испытания и работе по нескольким параллельным направлениям разом (одно только правительство США и только в 2020 году потратило на это 10 миллиардов долларов).

Но окажись ковид действительно столь же заразным и смертоносным, как заболевания, вызывавшие пандемии раньше, нас бы не спасло, что вакцины пришлось ждать всего год. Так что почивать на лаврах еще не время, процесс нужно ускорять.

Разработка новых лекарств требует понимания того, как вирусные белки (последовательности аминокислот) складываются в уникальные трехмерные формы. Без расшифровки этих трехмерных структур не определить, как действуют вирусы и как, соответственно, с ними бороться. Например, спайковый белок SARS-CoV-2 образует «шип», который, подобно ключу, вставляемому в замок, прикрепляется («подходит») к рецептору на поверхности клеток человека.

После такой интернализации (усвоения) вирусный геном (в случае ковида — это РНК) передается клетке-хозяину и реплицируется (копируется) во многих органах, возникает заболевание со всей печальной симптоматикой.

Но ковид и лечится примерно так же — лечебная молекула присоединяется к патогену (как ранее — зловредный вирус к клетке) и подавляет его. По сути, разработка новых лекарств представляет собой поиск этой лечебной молекулы. Процесс состоит из четырех этапов:

Возвращаясь к упомянутой выше метафоре, этапы 1, 2 и 3 помогают найти «замок», а 4-й этап — подобрать к нему «ключик». Эти четыре шага необходимо проходить последовательно, и все, кроме первого, требуют немалых затрат времени и средств.

На 2-м этапе используются традиционные методы кристаллизации белков, в частности технология криоэлектронной микроскопии, позволяющая увидеть вирусные белки в их родной среде. На основе этой визуализации и строится трехмерная структура белка — это работа кропотливая и небыстрая.

Затем, на этапах 3 и 4, следует поиск целей, мишеней для лекарственного воздействия и разработка новых средств. Это тоже долго, процесс требует хорошей интуиции, большого опыта и, конечно, большой доли везения.

Препарат — кандидат на доклинические исследования может появиться через несколько лет и с вероятностью 90 процентов не пройдет их II или III фазу. На серии исследований тратится очень много времени. Конечно, если разрабатывать параллельно несколько вариантов (как это было с ковидом), дело можно ускорить, но при этом и сильно удорожить.

Кстати, именно в таком контексте создавались мРНК-вакцины от ковида для компаний Moderna и BioNTech/Pfizer. мРНК-вакцины — продукт нового подхода в разработке препаратов, имеющего значительный потенциал. Для разработки мРНК-вакцины ученые расшифровывают взаимосвязь между последовательностью мРНК и структурой белка, а затем синтезируют вакцину, которая обучает человеческие клетки синтезировать белок, похожий на белок вируса-патогена. Возникает иммунная реакция, которая при встрече с реальным вирусом заработает с новой силой, и человек окажется защищен.

Сегодня описанный выше процесс создания действенного лекарственного препарата или вакцины стоит миллиард долларов и занимает много лет. Но я убежден: ИИ очень скоро значительно ускорит эту процедуру и снизит стоимость лекарств и вакцин, поможет создать новые, гораздо более эффективные препараты. Это позволит нам жить дольше, навсегда победив многие страшные и сегодня еще смертельные болезни.

ИИ способен существенно снизить скорость и стоимость разработки новых лекарств и вакцин. Так, для определения структуры сворачивания белка (этап 2) британская компания DeepMind в 2020 году разработала ИИ-программу AlphaFold 2 — и это величайшее на сегодня достижение ИИ в сфере науки.

Белки — это строительные блоки жизни, но до последнего времени один их аспект оставался для нас тайной. Речь идет о пространственной структуре белков, которая обеспечивает выполнение жизненно важных для нас задач. Это вопрос огромного научно-медицинского значения, подходящий, судя по всему, для глубокого обучения.

ИИ-программа AlphaFold компании DeepMind, обученная на огромной базе данных по ранее выявленным трехмерным структурам белка, продемонстрировала возможность их быстрого моделирования так же точно, как и при традиционных методиках (таких, как упомянутая выше криоэлектронная микроскопия). Но эти методики очень дороги, а на расшифровку одного белка могут уйти годы.

Все традиционные методы позволили ученым расшифровать всего лишь менее 0,1 процента всех белков — AlphaFold обещает нам истинный прорыв в этом направлении. Не зря же научное биологическое сообщество провозгласило эту программу героем, решившим «сложнейшую за последние пятьдесят лет задачу биологии».

Расшифрованная трехмерная структура белка позволяет найти эффективное лечение. Один из относительно быстрых способов сделать это — перепрофилирование: взять все доказанно безопасные лекарства и «примерить» их к лечению других заболеваний, посмотреть, не вписываются ли какие-нибудь из них в трехмерную структуру нового патогена.

Перепрофилирование лекарственных препаратов — быстрое решение, способное задавить распространение пандемии, что называется, в зародыше. То, что препараты уже используются, означает: они прошли тесты на побочные эффекты, соответственно, их можно применять без масштабных клинических испытаний (а для новых лекарств они обязательны, и на них уходит много времени).

В рассказе «Бесконтактная любовь», когда, по сюжету, Гарсия будто бы заразился новым агрессивным штаммом вируса, в клинике немедленно запустили ИИ-автоматизированный процесс для поиска препарата, который можно было бы перепрофилировать — во всяком случае, так должно было бы произойти, будь Гарсия действительно болен.

Но ученые могут привлечь ИИ и к получению совершенно новых соединений. ИИ можно использовать для выбора цели-мишени для прикрепления лечебной молекулы (этап 3). ИИ-модели могут сузить поиск препарата, так как выявят закономерности и автоматически предложат наиболее перспективных кандидатов (этап 4).

В 2021 году Insilico Medicine, биотехнологическая компания из Гонконга[52], анонсировала первый найденный искусственным интеллектом препарат для лечения идиопатического фиброза легких — тяжелого хронического заболевания. Сначала ИИ сам нашел цель на трехмерной структуре (этап 3), а затем предложил перспективных кандидатов и выбрал из них лучшую биомолекулу (этап 4), тем самым сэкономив Insilico Medicine 90 процентов затрат на два этих этапа разработки нового лекарства.

Для оптимизации шагов 3 и 4 ИИ может использовать многие типы знаний. Например, обработка естественного языка (ОЕЯ) способна обеспечить перебор всего массива вышедших академических статей, выданных патентов и опубликованных данных. Извлеченные из них новые идеи помогут ИИ предложить цели или ранжировать возможные новые молекулы по уровню их перспективности.

На основе результатов проведенных клинических испытаний ИИ может предсказывать вероятность каждого перспективного кандидата и соответственно их ранжировать. Такие эксперименты называют in silico, поскольку почти все процессоры для компьютеров делают на основе кремния (silicium), а реальный эффект лекарств и клинических испытаний имитирует специальная компьютерная программа. Эксперименты in silico выявляют наиболее надежных кандидатов, и тогда уже в дело вступают ученые-люди, работающие со списками, составленными ИИ.

Помимо относительно нового метода in silico широко используется давний и проверенный метод in vitro («в пробирке»): эксперименты в лабораторных условиях, в ходе которых предлагаемые новые препараты тестируют на человеческих клетках почти буквально в пробирке — в чашках Петри. Такие опыты также зачастую позволяют существенно ускорить разработку новых лекарств.

Кстати, сегодня такие эксперименты часто проводят роботы, а не люди-лаборанты, и это позволяет намного быстрее собрать гораздо больше данных. Ученые могут запрограммировать роботов на повторение серии экспериментов, и они станут проводиться в автономном режиме круглые сутки — люди роботам для этого не нужны. В будущем это откроет огромные возможности для ускорения процесса разработки новых лекарственных препаратов.

Разработкой новых лекарств и вакцин дело, конечно, не ограничится. В относительно скором будущем ИИ изменит здравоохранение и во многих других областях и аспектах. «Точной медициной называют индивидуальный, персонифицированный подход к лечению пациента — в отличие от использования универсальных лекарств-блокбастеров[53].

По мере расширения доступности в цифровом виде информации о каждом пациенте, включая историю болезни, семейный анамнез и секвенирование ДНК, точная медицина будет становиться, простите за каламбур, все более точной. ИИ для такой индивидуализированной оптимизации подходит просто идеально.

Смею предположить, что в ближайшие двадцать лет диагностический ИИ превзойдет всех, кроме разве что наилучших врачей-диагностов. Тенденция будет заметна прежде всего в радиологии, где алгоритмы компьютерного зрения для определенных типов МРТ и компьютерной томографии (КТ) уже сегодня ставят диагноз точнее лучшего врача-радиолога. В рассказе «Бесконтактная любовь» мы видим, что к 2041 году ИИ практически полностью возьмет на себя работу врачей этой специальности.

А еще мы наверняка увидим успехи ИИ в сфере патолого-диагностической офтальмологии. Диагностический ИИ для врачей общей практики появится позже, он будет «осваивать» болезнь за болезнью, пока постепенно не охватит все сферы диагностики. На кону стоят человеческие жизни, поэтому сначала ИИ будет лишь инструментом в распоряжении врачей либо станет применяться в ситуациях, когда врач-человек недоступен.

Но со временем, когда его обучат на большем количестве данных, ИИ станет настолько хорош, что большинство врачей начнут просто «утверждать» поставленные им диагнозы, а сами превратятся в неких медицинских коммуникаторов — будут ухаживать за пациентами с состраданием, недоступным даже самому развитому искусственному интеллекту.

Постепенно автоматизируются даже сложные хирургические операции, требующие многоуровневых решений и высокой скорости движений. Число операций с использованием роботов увеличилось с 1,8 процента (от всех проведенных операций) в 2012 году до 15,1 процента в 2018-м. В то же время все доступнее становятся полуавтономные хирургические операции и манипуляции, которые проводят роботы, но под наблюдением хирурга-человека: колоноскопия, наложение швов, анастомоз кишечника, установка зубных имплантатов и многое другое.

Экстраполируя эту тенденцию на будущее, мы можем уверенно ожидать, что через двадцать лет робототехника станет участвовать во всех хирургических операциях, а по большинству медицинских случаев будут проводиться полностью автономные роботизированные операции.

Поистине великие возможности откроются с появлением медицинских наноботов, многократно превосходящих возможности хирургов-людей. Эти миниатюрные (от 1 до 10 нанометров[54]) роботы-хирурги смогут восстанавливать поврежденные клетки, бороться с раком, исправлять генетические изъяны и заменять молекулы ДНК для искоренения многих болезней.

Следует сказать пару слов и о будущем носимых и стационарных медицинских устройств. Это и биосенсорные мембраны из рассказа «Бесконтактная любовь», и умные комнаты с датчиками температуры, и умные туалеты, и умные кровати, и умные зубные щетки, и умные подушки и всевозможные невидимые датчики, которые будут регулярно проверять наши жизненно важные показатели и собирать другую информацию, на ранней стадии выявляя потенциальные проблемы со здоровьем.

Сводные данные с этих устройств позволят точно определить, нет ли у человека серьезного заболевания или жизнеугрожающего состояния — будь то инсульт, сердечная аритмия, апноэ или травма, полученная в результате падения. Эти данные из интернета вещей[55] будут объединяться с другой медицинской и социальной информацией, такой как история болезни, записи отслеживания контактов и данные инфекционного контроля, чтобы прогнозировать эпидемии и предупреждать людей об опасности.

У многих пользователей непременно возникнут опасения по поводу нарушения конфиденциальности, приватности, поэтому система должна будет обеспечивать анонимность данных, заменяя каждое имя неизменным и неотслеживаемым псевдонимом. Кроме того, нам предстоит всесторонне изучить технологические решения, которые позволят централизовать ИИ и одновременно обеспечить конфиденциальность используемых им данных (подробнее об этом в главе 9).

И, наконец, уже сегодня нам необходимы новаторские идеи; например, возможность стать после смерти не только донором органов, но и донором персональных данных.

Исследование, проведенное в 2019 году, показало: доля ИИ в сфере здравоохранения будет расти на 41,7 процента в год и к 2025 году на нее придется 13 миллиардов долларов. В частности, речь идет о делопроизводстве и рутинных процедурах в больницах, носимых устройствах, компьютерных диагностических обследованиях, составлении плана лечения, виртуальных помощниках и, что самое важное, о разработке новых лекарственных препаратов. Появление ковида, по всей вероятности, существенно ускорит этот процесс.

В завершение темы скажу: есть все основания ожидать, что ИИ будет способствовать долголетию. Но он не только поможет нам жить дольше, а позволит улучшить качество жизни. ИИ начнет использовать огромные массивы индивидуализированных данных для достижения «точного долголетия»; будет составлять персональные планы питания, разрабатывать состав и схему приема биодобавок, комплексы физических упражнений, режим сна, подбирать лекарства и терапию для каждого человека индивидуально.

Биотехнология омоложения перестанет быть прерогативой исключительно очень богатых людей и станет доступной всем. Некоторые эксперты считают, что благодаря достижениям в области медицины и биологии, в частности благодаря ИИ, люди смогут жить в среднем на двадцать лет дольше, чем сегодня.

Прогресс ИИ в сфере роботизации — задача намного более сложная, чем в сферах интернета, финансов и восприятия. Об этом говорилось в предыдущих главах — ведь проблемы в этой области не решить путем прямого применения глубокого обучения. Кроме того, роботизация включает в себя определенные манипуляции, движение и планирование в реальном физическом мире, что, в свою очередь, требует тесного взаимодействия таких аспектов, как машиностроение, ИИ в области восприятия и мелкая моторика. Это проблемы, безусловно, решаемые, но требующие для окончательной доводки больше времени, не говоря уже о более масштабной междисциплинарной технологической интеграции.

Роботизация — это попытка максимально точно воспроизвести в технике врожденные способности человека видеть, двигаться и выполнять определенные манипуляции. Роботы нового поколения должны быть не только автоматизированными, но и автономными — только тогда можно передать им функцию принятия решений.

Они должны уметь планировать, получать обратную связь, адаптироваться к окружающей среде при изменении условий или даже импровизировать. Создав машины, способные видеть, осязать и двигаться, мы значительно расширим объем задач, которые может решать ИИ.

Конечно, зрение, прикосновение, манипуляции, движения и координация человека слишком сложны, чтобы роботы достигли близкого уровня за следующие два десятка лет. Каждая из этих способностей будет развиваться отдельно в ограниченных средах, и ограничения эти будут ослабляться постепенно, с течением времени.

Роботизированное компьютерное зрение уже сегодня достигло относительно высокого уровня; его можно применять для решения проблем безопасности пожилых людей (роботизированная система оповещения об опасности, например), для визуальной инспекции на конвейерах и выявления аномалий в энергетике и на общественном транспорте.

Автономные мобильные роботы (autonomous mobile robots, AMR) и автономные вилочные погрузчики уже научились перемещаться по внутренним помещениям: робот «видит» препятствия, с их учетом выстраивает траекторию и вполне успешно перемещает грузы на складе — все это без участия водителя.

Роботы-манипуляторы умеют захватывать, удерживать и перемещать твердые объекты, например при сварке конструкций, на сборочных линиях, при комплектации посылок в дистрибьюторских центрах в сфере электронной коммерции.

Со временем эти роботы станут более умелыми и ловкими. Компьютерное зрение с использованием камер и других датчиков (LiDAR — Light Detection and Ranging, дословно: «обнаружение и определение дальности с помощью света») станет неотъемлемой частью умных городов и беспилотных транспортных средств.

Автономные мобильные роботы научатся перемещаться не только в помещении, но и на открытом воздухе, будут быстро и эффективно работать группами, а роботы, снабженные ногами, смогут пройти куда угодно. Роботизированное зрение, манипуляции и движения будут все более скоординированными и комбинированными, станут применяться в новых сложных областях.

Роборуки обтянут мягкой кожей, и они смогут удерживать даже очень хрупкие предметы, их обучат новым приемам путем совершения ими собственных ошибок либо через наблюдение за тем, как аналогичные действия выполняют люди.

Самые дорогие технологии становятся зрелыми, когда отрасли видят в их использовании реальную ценность. Если у компании есть острая потребность, которую возможно удовлетворить применением той или иной технологии, фирма, как правило, готова платить и даже поначалу терять значительные суммы на ее внедрении, если позже, по достижении эффекта, это позволит серьезно экономить. Робототехника в данном случае не станет исключением.

Заводы, склады и логистические центры уже используют ИИ и робототехнику, начиная с систем визуального контроля и заканчивая автономными мобильными роботами и автоматической комплектацией посылок. Сегодня роботы только «поднимают», «перемещают» и «манипулируют». Позже появятся роботы-«бригадиры», они станут координировать работу других роботов, решать сложные задачи планирования и даже разруливать проблемы и справляться с непредвиденными ситуациями.

Конечно, полная автоматизация заводов и складов — дело совсем не близкого будущего, ведь для выполнения некоторых задач требуется ловкость человеческих рук, точная зрительно-моторная координация или умение действовать в принципиально новых ситуациях и средах. Но к 2041 году склады наверняка будут автоматизированы практически полностью, а заводы и фабрики — в основном.

Еще один низко висящий плод для роботизации — сельское хозяйство. Если изготовление телефона, рубашки или пары туфель — совершенно разные процессы, то удобрение почв, опрыскивание инсектицидами или посев семян схожи для многих типов сельскохозяйственных культур.

Сегодня эти три задачи для многих видов сельхозкультур успешно выполняют дроны; кроме того, роботы собирают яблоки, салат и прочие фрукты и овощи. Робототехника со временем снизит затраты на сельское хозяйство, что, в свою очередь, обещает повысить уровень продовольственной безопасности во всем мире.

Ковид ускорил применение робототехники в здравоохранении; роботы выявляют людей с повышенной температурой, ухаживают за пациентами, дезинфицируют больницы и аэропорты, доставляют еду людям на карантине, а их анализы — в лаборатории; оказывают помощь медицинским работникам в «красной зоне». Первоначально эти роботы выполняли только простые и повторяющиеся задачи, а некоторые требовали наблюдения человека. Но ковидный опыт явился боевым крещением и сам по себе делает машины все умнее и самостоятельнее.

Так, одна компания в Китае уже выпускает автоматизированные биолаборатории. Они не только высвобождают драгоценное время ученых и врачей, но и исключают ошибки и случайные заражения людей. Роботы работают круглосуточно, без выходных, собирают бесценные данные для автоматизированных повторений эксперимента.

В ходе промышленного использования роботы и технологии будут развиваться, со временем это приведет к снижению стоимости робототехники и запчастей — она станет доступной для коммерческого и потребительского использования. Например, робот-рука, имеющийся в автоматизированных лабораториях, можно использовать и для подачи напитков в кафе, а когда он еще подешевеет, и дома.

У автономного мобильного робота (AMR) при некоторой переделке и настройке может появиться множество бытовых специализаций — такие роботы помогали Чен Нань из нашего рассказа и ее современникам: Юаньюань предназначался для работы по дому; робота-доставщика сделали подобным R2-D2; робот-дезинфектор напоминал паука или краба; робот-уборщик; робот-сиделка; робот, выгуливающий собак.

Подобные этим роботы, только в несколько более примитивных формах, есть уже в 2021 году. Когда я недавно был на карантине в Пекине, все заказанное в интернете, включая еду, мне доставлял робот. Он, кстати, тоже здорово напоминал R2-D2.

Администраторы в холле, у входа в здание, клали ему «на спину» предназначенный для меня пакет, он сам вызывал лифт, подъезжал к моей двери и звонил по телефону, чтобы я вышел и забрал посылку; после этого робот сам возвращался на рецепцию.

В Кремниевой долине уже проходят испытания полностью автономные фургоны-доставщики «от двери до двери». К 2041 году такая доставка наверняка станет обыденным явлением: автономные вилочные погрузчики будут перемещать предметы на складе, беспилотные дроны и грузовые тележки — доставлять коробки в жилой комплекс, а роботы типа R2-D2 — в конкретную квартиру.

В некоторых ресторанах уже теперь гостей обслуживают официанты-роботы — это уменьшает нежелательные в пандемию контакты людей с людьми. Правда, это пока не роботы-андроиды, а только автономные подносы на колесах, подвозящие заказ к столику.

«Робот-прислуга» — это сегодня и ловкий маркетинговый ход, и мера безопасности, но завтра он может стать привычным элементом сервиса в ресторанах. Исключение составят только самые дорогие заведения или те, в которых человеческое общение является неотъемлемой частью имиджа.

Роботов можно использовать в отелях (для уборки, доставки белья и багажа, обслуживания номеров), в офисах (в качестве регистраторов посетителей и сотрудников, охранников и уборщиков), в магазинах (для мытья полов и выкладки товаров), в разнообразных информационных подразделениях (для ответов на вопросы или указания людям нужного направления движения в аэропортах, гостиницах и офисах).

И домашние роботы выйдут далеко за рамки возможностей уже привычного нам робота-пылесоса Roomba. Машины научатся мыть посуду. Не как посудомоечная машина, требующая соблюдения правил эксплуатации, а как автономное приспособление. Просто сложил все кастрюли, сковороды и тарелки с остатками еды, а спустя какое-то время получил все отмытым, продезинфицированным, высушенным, а тарелки — еще и аккуратными стопками.

Роботы научатся готовить — не как шеф-повар, конечно, но как автоматический кухонный комбайн, подключенный к кастрюле для самостоятельного приготовления пищи. Заложил ингредиенты — получил готовое блюдо. Технологические компоненты для этого существуют уже сейчас, и в ближайшее десятилетие они будут доработаны и соединены.

Так что наберитесь терпения. Подождите, пока робототехнику усовершенствуют и затраты на ее производство снизятся. Это непременно приведет к коммерческому, а затем и к бытовому использованию роботов. По-моему, не будет большим преувеличением: к 2041 году вы, возможно, будете жить, как Джетсоны из одноименного мультфильма[56]!

Во время карантинов по случаю ковида мы максимально сократили число офлайновых контактов и все, что возможно, стали выполнять в сети. Такие резкие изменения в социальном поведении человека не могут пройти без долгосрочных негативных последствий, и это иллюстрирует нозофобия героини рассказа «Бесконтактная любовь» Чен Нань и вызванное этим ее асоциальное поведение.

Однако мы увидели, что резкая смена привычек привела к повышению гибкости ума и продуктивности. Модернизированный стиль работы Чен Нань позволяет ей почти все время трудиться из дома. Раньше мы считали поездки в офис и обратно, командировки и посещение учебного заведения важными компонентами жизни, но теперь узнали, что многие вопросы не хуже, а то и эффективнее решаются онлайн — а раньше казалось, они требуют личного присутствия.

Месяцы, проведенные дома, разрушили старые убеждения и привычки. В конце 2020 года Билл Гейтс предсказал, что половина деловых поездок будет заменена эффективными виртуальными встречами. Он также ожидает, что треть американцев будет практически на постоянной основе работать из дома.

Дэвид Оутор, экономист из Массачусетского технологического института, назвал пандемию и порожденный ею экономический кризис «событием, вынуждающим нас к автоматизации». По его мнению, она вызвана тройственной потребностью: в повышенной продуктивности, в снижении затрат и обеспечении безопасности человека.

Zoom и аналогичные сервисы для видеоконференций войдут в историю как инструменты, благодаря которым мир не замер и планета не перестала вращаться во время ковида. Именно эти сервисы сделали возможными продуктивные командные встречи, веселые свадьбы и продолжение учебы миллионов школьников и студентов.

Мы можем уверенно предсказать, что в ближайшем будущем деловые встречи будут архивироваться и расшифровываться с помощью технологии автоматического распознавания речи. Появится возможность вернуться к любому прошлому мероприятию, отследить взятые сторонами обязательства, построить графики и рассмотреть возможные отклонения — а это, конечно, значительно повысит эффективность бизнеса и управления им.

Повсеместно налаженная видеосвязь позволит использовать аватары на основе ИИ. Как мы узнали из главы 2 «Боги под масками», создать правдоподобное видео с собственной говорящей головой намного проще, чем реалистичную виртуальную копию, неотличимую от человека-прообраза.

Виртуальный учитель может преподавать увлекательнее реального.

Виртуального сотрудника службы поддержки клиентов или продавца можно снабдить набором полезных сведений о клиенте. Последний в таком случае всегда будет доволен — и доход, соответственно, окажется максимальным.

Лично я не отказался бы от дублеров, которые читали бы вместо меня лекции об ИИ в нескольких местах разом и одновременно на нескольких конференциях отвечали на вопросы!

Цифровизация рабочего процесса существенно упрощает реорганизацию, аутсорсинг или автоматизацию. Если работа использует цифровые технологии, то ее данные становятся идеальным топливом для расширения возможностей ИИ.

Например, рабочая нагрузка каждого работника характеризуется конкретным входом (вводом) и выходом (выводом). И если ИИ сможет нести ту же рабочую нагрузку, что и человек, возникнет огромное искушение ее автоматизировать. (См. главу 8 «Спаситель рабочих мест», где описаны технологии RPA для автоматизации рабочей нагрузки человека.)

Исторически сложилось, что к подобной автоматизации приводят экономические трудности предприятия вкупе с полным созреванием технологий. Если компания заменила сотрудника роботом и обнаружила эффективность последнего, вряд ли на его место когда-нибудь вернут человека: роботы не болеют, не бастуют, не требуют повышения зарплаты и надбавки за вредность.

Как справиться с надвигающейся проблемой сокращения рабочих мест, мы обсудим в главе 8.

Комнату, в которой должен был проходить спиритический сеанс, оформили в викторианском стиле. Все освещение — семь уже наполовину сгоревших свечей на черном деревянном столе; по столешнице разбросаны лепестки роз. Белый полупрозрачный шелковый полог, похожий на медузу, тянется складками вверх, к потолку.

Айко мельком глянула на трех других девушек. Их лица в тусклом неровном свете выглядели сверхъестественно-страшновато. Айко уже начала сожалеть, что приняла странное предложение, но эту мысль тут же вытеснила другая: а что, выбери я японский синтоистский храм периода Эдо или традиционный китайский даосский ритуал, было бы не так жутко?

Пламя всех свечей разом зловеще затрепетало, как от порыва ветра. Но двери плотно закрыты — откуда сквозняк?

Девушки переглянулись — не по себе было всем, у всех четверых в глазах плескался страх. Может, это явился тот, ради кого они здесь?

Колченогая старуха в черном балахоне схватила за руки девушек справа и слева от Айко. Глаза медиума закатились. Стол затрясся и начал подпрыгивать — как допотопная стиральная машина при отжиме сбившегося в барабане белья.

Дрожащие и бледные как мел девчонки зажмурились и почти в унисон завизжали.

— Я вижу его! О-хо-хо, это действительно великий человек, — хрипло бормотала и мерно раскачивалась медиум. — Похоже, он умер во время какого-то важного ритуала…

— Точно, так и было! — лицо коротко стриженной яркой блондинки оживилось. — Хироси-куна нашли в запертой изнутри гримерке, в антракте прощального концерта.

— И тело выглядело так, будто он утонул, — добавила девушка с каштановыми кудряшками.

— Когда я узнала эту историю, я рыдала целую неделю! — вспомнила третья, с длинными серо-синими волосами, и чуть опять не разревелась.

— Всё принесли, что я велела? Всё положили на стол? — медиум впервые глянула в глаза посетительницам. — Это даст нам важную подсказку, — старуха не ждала ответа, просто продолжила скрипеть.

Каждой из девушек велели принести с собой что-нибудь, купленное на официальном сайте Хироси Икса. В интернет-магазине уверяли, что к этим предметам прикасался сам Хироси. Айко посчастливилось, ей удалось приобрести расческу с несколькими каштановыми волосками. Продавец утверждал, что этот раритет принадлежал Хироси. Проверить информацию Айко не могла, но за расческу заплатила чертовски дорого.

— О-о-о-о! — взвыла медиум. — Дух… Хироси… Хочет что-то сказать. О-о-о-о… Слушайте! Слушайте!

Стол перестал прыгать, а потом и вовсе успокоился. Стало невероятно тихо. Все ждали — сейчас случится что-то важное. Девчонки не сводили глаз с губ старухи, которые едва угадывались под черной вуалью.

Глаза медиума загорелись, она содрогнулась и стихла. И заговорила. Голос звучал совершенно по-новому.

Теперь девушки видели старуху, а слышали молодого мужчину. Он говорил тихо-тихо, неуверенно, если не сказать нежно.

— Я застрял в бардо[57]… Тут темно и холодно, как на дне океана… Я не могу дышать… Я не хочу умирать… У меня еще так много желаний, — с каждой новой фразой у Айко все больше расширялись глаза.

— Это… Это же Хироси-кун! — голос был так хорошо знаком, что по спине пробежали мурашки.

Мужчина продолжал едва слышно: «Я так хочу еще раз спеть “Пусть чудо воссияет на краю света”. Но мне нужно узнать правду… Пожалуйста, помогите мне узнать правду».

Все четыре девушки дружно зарыдали. Песню «Пусть чудо воссияет на краю света» часто сокращенно называли «Сияющее чудо», и это был главный хит их кумира Хироси.

— Держись, Хироси-кун! — заикаясь и хватая ртом воздух, прошептала Айко.

Голос певца стих. Голова медиума упала на грудь, как у сорвавшейся с нитей марионетки. Старуха открыла глаза, но теперь ее бормотание было вообще неразборчивым. Свечи на столе ярко вспыхнули — в комнате стало светлее.

— Он ушел, — прохрипела старуха.

Я услышала тебя, Хироси-кун. Я узнаю правду и спасу тебя. Айко решительно кивнула самой себе.

В самом начале рассказа «Мой призрачный кумир» рок-звезда Хироси Икс появляется на спиритическом сеансе в виде духа. Его вызвала группа суперфанаток, так как он скоропостижно скончался много лет назад в антракте прощального концерта. Тогда же мы знакомимся и с Айко, одной из тех суперфанаток. Она твердо намерена расследовать загадочную смерть своего айдола.

Позже призрак музыканта возникает в квартире девушки, чтобы дать ей подсказки и помочь установить истину, а потом спускается к ней с небес прямо посреди оживленной улицы Токио, когда она бродит по городу и ломает голову над этой загадкой.

Ближе к концу рассказа выясняется, что призрак был виртуальным персонажем, «оживленным» ИИ, — видимым, но не осязаемым. Но Айко и читателям Хироси кажется реальным или как минимум достаточно правдоподобным, чтобы вызвать неподдельный интерес, удерживать внимание, создавать напряженность повествования и порождать острые ощущения.

Хироси-призрак не только реалистичен как физический объект, но и органично интегрирован в окружающий мир. Такой «естественности» уже в ближайшие годы наверняка достигнут разработчики в области компьютерного зрения и обработки естественного языка, чему также будет способствовать прогресс в сфере технологий иммерсивного моделирования, больше известного как X-реальность, или XR.

XR — это не просто улучшение качества изображения и его увеличение до размеров экрана, повышающие реалистичность восприятия. По словам доктора Бреннана Шпигеля, «это как грезы наяву». Иммерсивные технологии создают интенсивный опыт, формируют эффект присутствия.

Виртуальные сцены, объекты и персонажи одновременно и реалистичны, и волшебны. Технология погружает в захватывающий опыт, который воспринимается как параллельная реальность. В следующие двадцать лет XR произведет революцию в развлечениях, образовании, розничной торговле, здравоохранении, спорте и путешествиях.

Предлагаю исследовать границу между реальным и виртуальным и приподнять завесу над загадочными XR-технологиями.

Аббревиатурой XR обобщенно обозначают три типа современных цифровых технологий: VR, AR и MR. Виртуальная реальность (VR — virtual reality) создает полностью синтезированную (не существующую в материальном мире) среду, в которую погружается пользователь. Мир VR четко отделен от мира, в котором живет тело пользователя (вспомните, как контактные XR-линзы Айко виртуально «переносили» ее в Альпы во время тренировки на велотренажере).

Дополненная реальность (AR — augmented reality), в отличие от виртуальной, основана на реальном мире, в котором пользователь находится физически: она фиксирует объекты этого мира с помощью камеры и накладывает поверх этого изображения еще один, свой, слой. AR-алгоритмы наслаивают контент (3D-объекты, текст, видео и так далее), создавая «линзу», обеспечивающую пользователю «экстрасенсорный» взгляд на все, что его окружает.

Скажем, турист в незнакомом городе может спросить систему AR, какие тут поблизости достопримечательности, и система, наложив на реальные улицы «линзы» с текстом, подскажет, что стоит посмотреть. В нашей истории Айко вызывает такие подсказки и разные справочные материалы, и они как бы плавают перед ней в воздухе, а она видит их через свои контактные XR-линзы — это и есть технология AR. (Если вы киноман, то вспомните, как OASIS превращает Саманту в Art3mis в фильме «Первому игроку приготовиться»[60].)

В последние годы появилась еще одна технология — смешанная реальность (MR — mixed reality), представляющая собой более продвинутую форму AR. MR объединяет виртуальность и реальность, формируя гибридный мир. Однако синтезированные виртуальные MR-среды — это не просто сумма реального и виртуального, это более сложная, интегрированная среда, созданная путем полной декомпозиции и последующей интерпретации сцены, обеспечивающей интерактивное взаимодействие пользователя с содержащимися в ней объектами.

В рассказе «Мой призрачный кумир» MR органично интегрирует фантом в среду кухни Айко и в тренажерный зал (не говоря уже об улицах Токио). Созданный образ настолько реалистичен, что под пристальным взглядом «Хироси» девушка смущается и краснеет.

Чтобы нормально функционировать, MR должна хорошо разбираться и в среде, и в объектах, и в людях внутри этой среды. Например, знать, что такое холодильник и как он устроен — только так виртуальный Хироси сможет открыть дверцу и появиться перед Айко в «холодном водянистом тумане».

Уровень понимания смешанной реальностью окружающей среды, описанный в этом рассказе, выходит за рамки сегодняшнего компьютерного зрения, но есть все основания ожидать, что в течение двух следующих десятилетий мы его достигнем.

Айко в рассказе чувствует себя без контактных XR-линз «как без рук». Полагаю, уже скоро так будут ощущать себя очень многие.

Технология MR пока еще в зачаточном состоянии, но уже сегодня мы видим позитивную и устойчивую траекторию ее прогресса. Я предсказываю: к 2041 году технологии компьютерного зрения научатся раскладывать сцену на составные части и понимать их роль.

Кроме того, по моим прогнозам, MR разовьет способность добавлять в среду новые виртуальные объекты, представляя их так, будто они подчиняются законам физики материального мира. Они станут выглядеть настолько естественно, что сценарии, представленные в «Моем призрачном кумире», перестанут казаться фантастикой.

Иммерсивный опыт, опыт погружения, дает пользователю ощущения как в реальной жизни — при этом невозможно отличить «настоящее» от «синтезированного». По сути, нам нужно обмануть самый чувствительный человеческий орган — глаз.

Помните, как в AR-игрушке Pokеmon Go[61] экран телефона служил окном в реальный мир с синтетическими персонажами мультфильмов? Гироскопы и датчики движения гаджета изменяли угол зрения геймера и даже позволяли ему взаимодействовать с происходящим в игре. Игра была новинкой и поэтому стала чрезвычайно популярной, но пользовательские возможности ограничивал размер экрана мобильных устройств. Игрушка не была полностью иммерсивной и не произвела революции в пользовательском опыте.

Гораздо более реалистичный и масштабный опыт глубокого погружения обеспечивают шлемы или очки виртуальной реальности, хотя вернее было бы называть их наголовными дисплеями (HMD — head-mounted displays). В HMD на два экрана синхронно поступают изображения одного объекта, но с чуть разных ракурсов — точно так же работают глаза человека, обеспечивая объемное зрение. HMD тоже обеспечивает объемное изображение (как специальные очки для просмотра программ 3D-телевизоров или фильмов в 3D-кинотеатрах).

XR-опыт иммерсивен и интерактивен. Для глубокого погружения требуется поле зрения не менее 80 градусов (но лучше — шире). Для обеспечения интерактивности необходимо, чтобы каждое незначительное движение пользователя (поворот головы, изменение позы) меняло картинку, пользователь при этом должен увидеть что-то новое — другое или по-другому.

Экран HMD обычно непрозрачный, сквозь него ничего не видно — вся выведенная на него картинка синтезирована. А вот наголовные дисплеи для AR и MR снабжены прозрачными линзами (напрямую или оптически), при этом реальный (видимый) мир смешивается с синтезированными объектами, и лишь затем изображение попадает в глаза пользователя. В нашем рассказе такие очки надеты на пареньке в тренажерке — он переключает их из режима MR в режим VR, и его линзы становятся непрозрачными.

Первое иммерсивное устройство создали много десятилетий назад. Ранние гаджеты были неуклюжими, тяжеленные HMD-шлемы подключали к рабочей станции или серверу-мейнфрейму кабелями. Тогда еще не было ни смартфонов, ни подходящих беспроводных технологий, поэтому без высокопроизводительных отказоустойчивых компьютеров, скоростных (с высокой пропускной способностью) кабелей и больших (а оттого тяжелых) дисплеев, установленных на еще более неуклюжих HMD, обойтись было невозможно.

Эта кондовая конфигурация была крайне неудобной, непривлекательной и не нашла коммерческого применения, однако сыграла (и продолжает играть до сих пор) очень важную роль: она обеспечила ученых лабораторной средой для тестирования и совершенствования этих технологий.

В последние несколько десятилетий в работе сетей произошел серьезный прорыв — разрешились проблемы частоты обновлений и времени ожидания. Появился Wi-Fi (технология беспроводной локальной сети) и технология мобильной связи 5-го поколения (обеспечивается частотным стандартом 5G) — мобильные устройства стали беспроводными.

Электроника и технологии позволили уменьшить HMD до размера обычных очков. Функции суперкомпьютеров-мейнфреймов взяли на себя микросхемы, вмонтированные непосредственно в устройство HMD. Наступила эра коммерциализации XR.

Конечно, не все было гладко. В 2015 году компании, разрабатывающие AR/VR-приложения, стали чрезвычайно популярными объектами для инвестиций, но впоследствии многие знаменитые стартапы потерпели крах. С продуктами мейнстримовых компаний тоже не все было в порядке, что очень заметно снизило популярность этих технологий.

Один из продуктов, которому удалось пережить «пузырь» AR/VR, — очки смешанной реальности HoloLens компании Microsoft. Это мощное, довольно удобное устройство весом чуть более 500 граммов (зависит от модели), похожее на большие очки для подводного плавания. Очевидный минус — запредельная цена, невольно наводящая на мысль о «налоге на дураков».

HoloLens относят к вертикальным бизнес-приложениям, то есть предназначенным для конкретной отрасли, в первую очередь для образования, здравоохранения и аэронавтики. Программный продукт, применение которого предполагает использование шлемов и огромных специфического вида очков, не может стать повседневным и массовым, в отличие, скажем, от умных часов Apple Watch.

Дизайнеры пытались сделать так, чтобы человек в AR/VR-гаджетах не выглядел по-дурацки, им даже придали вид обычных очков. Все попытки оказались неудачными, но, скорее всего, просто преждевременными. Такие продукты, как Google Glass и Snapchat Spectacles, не имели ожидаемого успеха по нескольким причинам. Прежде всего они не обеспечивали высокой детализации, сопоставимой с детализацией HoloLens.

Безусловно, со временем физические ограничения удастся преодолеть. Технические характеристики гаджетов — ширина полосы пропускания, частота кадров, разрешение экранов и динамический диапазон — значительно улучшаются с каждым годом, оборудование становится легче и дешевле. Так что, вполне возможно, очки Microsoft HoloLens станут еще легче и подешевеют, а умные очки Snapchat станут мощнее и популярнее.

Качественные и легкие XR-очки мы в любом случае получим довольно скоро. В 2020 году команда Facebook Oculus продемонстрировала исследовательский прототип такого устройства с линзами толщиной всего в сантиметр. Развитие событий позволяет уверенно предположить, что XR-очки серийного производства появятся на рынке уже к 2025 году; по всей вероятности, лидировать опять будет Apple (ходят слухи, что компания уже работает над таким продуктом).

Когда-то новаторские «яблочные» продукты iPod, iPhone и iPad стимулировали развитие целого сегмента рынка электроники, а многочисленные последователи-подражатели весьма оперативно сбили цены.

По моим прогнозам, одной из первых массово признанных XR-технологий (помимо XR-очков), станут контактные XR-линзы, над ними уже трудятся несколько стартапов. Созданные прототипы подтвердили возможность встроить дисплеи и датчики непосредственно в линзы, делая видимыми текст и изображения.

XR-линзам необходим внешний процессор, например смартфон. Мы ожидаем, что к 2041 году рынок примет такие контактные линзы благодаря их внешней незаметности, а основные проблемы типа высокой цены, конфиденциальности при использовании и законодательных требований будут успешно преодолены. Собственно, на этой уверенности и построен рассказ «Мой призрачный кумир», в котором Айко постоянно носит контактные линзы, иногда меняя их на очки и другие гаджеты для иммерсивного опыта.

Визуальный ввод будет обеспечиваться с помощью очков и контактных линз, аудиоввод — через наушники, которые тоже с каждым годом улучшаются. К 2030 году хорошие наушники должны стать практически незаметными благодаря использованию свойства костей проводить звуковые колебания, бинауральному способу записи[62] и другим технологиям — возможно, наушники тоже можно будет не снимать весь день.

Комбинации описанных технологий, реализованных в мобильных устройствах, по всей вероятности, станет достаточно для появления «невидимого смартстрима» (смартфон 2041 года). Стоит активировать смартстрим, и его визуальный дисплей охватит все ваше поле зрения. Этот дисплей, скорее всего, будет полупрозрачным.

Управлять контентом и приложениями смартстрима можно будет жестами, как это делал персонаж Тома Круза в фильме «Особое мнение»[63]. Звук смартстрима будет поступать через «невидимые наушники», управление — голосовое и жестовое, а текст при необходимости можно будет набирать пальцами прямо в воздухе.

Такой вездесущий XR-смартстрим будет уметь гораздо больше, чем смартстрим с экраном (или нынешний смартфон). Он сможет напомнить имя знакомого, случайно встреченного на улице; сообщит, что в ближайшем магазине появилась в продаже вещь, которую вы искали; переведет с разных языков речь и текст и поможет спастись от стихийного бедствия.

Помимо привычных ощущений от обычных шести органов чувств[64], наше тело сможет осязать виртуальные ветер и объятия, а также воспринимать тепло, холод, вибрацию и боль. Тактильные перчатки позволят виртуально брать предметы и чувствовать их в пальцах. Благодаря соматосенсорному костюму (их тоже иногда называют тактильными) можно будет почувствовать холод, жар, даже удары или нежные поглаживания.

Именно благодаря таким технологиям Айко в специальном костюме ощущала на VR-велотренажере дуновение легкого ветерка, тепло солнечных лучей и даже неровности дороги. В таких костюмах для имитации прикосновения могут использоваться двигатели или экзоскелет: стимулируя нервные окончания, они провоцируют сокращение определенных мышц. Когда тело сталкивается в виртуальном пространстве с каким-то объектом, в соответствующую область соматосенсорного костюма посылаются импульсы, имитируя это столкновение.

А еще в нашем рассказе соматосенсорный костюм в режиме реального времени отслеживает физиологические показатели и положение тела Айко на тренажере и, возможно, преобразует ее жесты в команды. Такие костюмы можно будет использовать в вертикальных приложениях — компьютерных играх, тренажерах или симуляторах реального мира. Подобные технологии уже присутствуют в некоторых коммерческих продуктах, и, скорее всего, диапазон их применения расширится задолго до 2041 года.

Сегодня на подходе распылители ароматов, имитаторы вкусов и тактильные перчатки, имитирующие прикосновение. Они могут охватить шесть — нет, пока только пять — основных чувств человека. Симулятора экстрасенсорного восприятия пока все же не предвидится.

Приведенный анализ касается устройств для стимуляции нашего восприятия. Как в XR обеспечивается ввод данных, как мы управляем XR-устройствами? Сегодня это делается с помощью портативного пульта, похожего на пульт Xbox или другой игровой приставки, только выполненный под одну руку.

Освоить несколько кнопок несложно, но пока пульт выступает в роли сказочной волшебной палочки — одно движение игрока меняет окружающий мир, в мгновение ока создает иную, крайне правдоподобную реальность. В идеале ввод со временем должен стать максимально естественным — материальный пульт управления вытеснят айтрекинг (технология отслеживания положения глаз), трекинг движений, распознавание жестов и понимание естественной речи. Подобные технологии будут интегрированы в XR-устройства и станут основными способами ввода данных.

А кстати, как мы двигаемся в виртуальном мире? Если наши движения должны соотноситься с естественным движением в реальном мире, то нам нужны большие пространства. Но даже в этом случае — как в виртуальной реальности мы бегаем, ползаем, лазаем вверх-вниз? И как нам исключить там риск падения и травмы?

Лучшее на сегодня решение — всенаправленная беговая дорожка (ODT — omnidirectional treadmill) вроде той, которую вы наверняка видели в фильме «Первому игроку приготовиться». Сегодня ODT уже доступны.

Укрепленные на раме тренажера плечевые ремни определяют силу, которую прилагает пользователь, и страхуют его от падения. Дорожка движется с той же скоростью, с какой идет или бежит человек, поэтому он всегда находится в центре ленты. Ее можно наклонить, имитируя подъем на холм. На дорожке ODT можно позволить себе практически любые движения, не опасаясь свалиться.

Смею предположить, что прежде всего эти технологии найдут применение в сфере развлечений, например в гиперреалистичных играх. Наши цифровые копии будут играть, соревноваться и сражаться с цифровыми двойниками других людей.

А еще пользователи смогут взаимодействовать с полностью синтезированными существами (как, например, Хироси из истории «Мой призрачный кумир»).

Получив все это в свое распоряжение, люди к 2041 году, скорее всего, будут все чаще существовать сразу в нескольких мирах: реальном, виртуальном и смешанном.

Я предвижу множество неигровых применений XR-технологий, прежде всего в сфере обучения. Совсем недавно Microsoft продала армии США устройства HoloLens почти на 22 миллиарда долларов. В течение следующих десяти лет военных будут обучать с их помощью таким важным задачам, как ситуационная осведомленность, обмен информацией и принятие решений.

VR-технологии также будут использоваться для лечения психических заболеваний, в частности посттравматического стрессового расстройства (ПТСР).

Благодаря VR-технологии мы получим образовательную среду, в которой реальные и виртуальные учителя смогут отправляться вместе с учениками в путешествия во времени: наблюдать за динозаврами, посещать разные чудеса света, слушать лекции Стивена Хокинга и общаться с Альбертом Эйнштейном.

Zoom-видеоконференции прибавят реалистичности виртуальным рабочим встречам — все будет выглядеть, как привычное совещание за длинным столом (хотя на самом деле участники собрания могут находиться дома в пижамах), и все будут сообща работать на виртуальной (но якобы реальной) доске.

В медицине AR- и MR-технологии будут все чаще помогать хирургам проводить операции, а VR-технология обучит студентов оперировать на виртуальных пациентах.

В розничной торговле покупатель сможет подобрать себе одежду и аксессуары, декорировать дом и офис, выбрать, куда отправиться в отпуск, — все это можно будет примерить, пощупать и опробовать в виртуальной реальности.

Одно из главных препятствий на пути к описанному великолепию — создание контента. Этот процесс в XR-среде похож на разработку сложнейшей 3D-игры: рабочая группа должна охватить все мыслимые и немыслимые варианты выбора пользователя, смоделировать физику реальных и виртуальных объектов, эффекты освещения и погоды, обеспечив при этом еще и максимально реалистичную их визуализацию.

Уровень сложности тут несравнимо выше, чем требуется для создания видеоигр и разработки компьютерных приложений. При этом без качественного профессионального контента люди просто не купят такие устройства, а без их продажи не получится хорошо монетизировать контент. Это проблема из категории «что было раньше, курица или яйцо»; ее решение потребует долгого итеративного процесса с непрерывной обратной связью и оперативной коррекцией.

В итоге должен появиться благоприятный цикл — так когда-то телевидению и Netflix потребовалось немало времени и инвестиций, чтобы стать мейнстримом. Зато, как только нужные инструменты будут подобраны и испытаны, их распространение станет стремительным. Представляете — профессиональные инструменты вроде Unreal и Unity[65] однажды превратятся во что-то вроде XR-версии фотофильтров?!

И наконец, устройствам на базе XR-технологии еще нужно преодолеть серьезную проблему разочарования, которое возникает в виртуальной реальности: «мир иногда замедляется». Однако по мере усовершенствования технологии и увеличения пропускной способности сетей мы постепенно справимся и с этим.

Проще всего понять, что такое виртуальная среда, можно на примере голограммы. В 2015 году компания Magic Leap, специализирующаяся на MR-технологиях, показала промовидео: кит выныривает у стены из оказавшегося вдруг жидким пола школьного спортзала и плюхается в его центр — тоже неожиданно жидкий. Во все стороны летят брызги и катятся волны. Зрители — школьники, сидящие по периметру зала, — уворачиваются от брызг, вскрикивают и поджимают ноги, чтобы их не намочила волна[66].

Анонсировалось, что голографический эффект будет виден без специальных очков, и это сделало Magic Leap одной из самых обсуждаемых компаний года.

Но когда компания, наконец, представила разрекламированный продукт, оказалось, специальные очки все же требуются. Впрочем, данное «недопонимание» только четче продемонстрировало всем очарование и притягательность MR-технологии, не предполагающей использования специальных гаджетов для глаз.

Жаль, но возможности MR-технологий, не использующих очки, сильно ограничены. В 2013 году зрителям показали выступление одного известного китайского певца, использовав трехмерное голографическое световое поле. Это не выглядело бы чудом, но музыкант умер в 1995 году, и из зрительного зала голограмма действительно выглядела почти как живой человек. Однако она не была фотореалистичной, видеть ее можно было только на расстоянии и без какого-либо интерактива.

Голографическая технология неуклонно совершенствуется, однако маловероятно, что к 2041 году реалистичность голограммы, просматриваемой без дополнительных индивидуальных устройств, встанет на одну доску с реалистичностью изображений, полученных с применением XR-технологии, с помощью XR-очков или контактных XR-линз.

Если наиболее логичным и естественным «выходом» системы XR будет изображение для обычного человеческого глаза, то самым естественным входом, безусловно, будет нейрокомпьютерный интерфейс (НКИ, или, по-английски, BCI). В 2020 году важная новость пришла от компании Илона Маска Neuralink, которая продемонстрировала практический BCI, вмонтировав в мозг свиньи три тысячи тончайших электродов, способных отслеживать активность тысячи нейронов мозга. Это весьма многообещающее направление исследований, в частности в области лечения травм спинного мозга и нейродегенеративных заболеваний вроде болезни Альцгеймера. Однако медиа больше обсуждали и комментировали оптимизм Маска и его убежденность в том, что теперь мы сможем контролировать активность мозга, научимся сохранять и воспроизводить воспоминания, вставлять собственные воспоминания в мозг других людей или хранить их для потомков.

Рискуя разочаровать некоторых читателей, скажу: смелое видение Маска — это очень далекое будущее даже при самом оптимистичном подходе. До того нам нужно решить массу проблем. Например, для таких манипуляций доступна лишь небольшая часть мозга, и повтор процедуры может нанести этому главному человеческому органу серьезный ущерб.

Кроме того, мы пока не научились расшифровывать сигналы, которые получаем от мозга таким способом, поэтому у нас есть «сырые» данные, смысл которых не известен. Что же до передачи воспоминаний, то проблема еще больше — ведь в этом случае мы изменим живой человеческий мозг, что непременно повлечет негативные последствия, связанные со здоровьем, конфиденциальностью и этикой. Словом, Neuralink разработала интересный прототип. Однако к 2041 году Илон Маск вряд ли удовлетворит свои амбиции на ниве усиления человеческого потенциала.

Мы обсудили основные технические сложности распространения XR-технологий и проблемы, связанные со здоровьем человека. Но очевидно, что XR-технологии чреваты также весьма серьезными этическими и социальными проблемами.

Призрак музыканта Хироси в рассказе «Мой призрачный кумир» впервые появился перед Айко, когда она произнесла ключевое слово. Он возник на кухне, а девушка доставала из холодильника молоко. Выходит, система должна узнавать, насколько сейчас удобное время — ведь и вправду вышло бы неловко, если бы Айко принимала ванну. Но чтобы выбрать подходящее время, система должна постоянно следить за Айко и знать всю подноготную. Разве это приемлемо?

Если мы будем постоянно носить гаджеты вроде VR-очков или контактных линз, то в их памяти окажется каждый день — кадр за кадром, все, что с нами происходит, весь окружающий мир. С одной стороны, такое «хранилище с бесконечной памятью» очень удобно — человеческая память несовершенна. Архив может пригодиться, если нечестный деловой партнер откажется от взятого на себя обязательства — видео поможет припереть его к стенке.

Но действительно ли мы хотим, чтобы каждое наше слово сохранялось в веках? А если данные попадут в преступные руки? Или их использует приложение, которому мы сейчас доверяем, но при этом не знаем всех (в том числе негативных) его возможностей?

Необходимо разработать четкие правила регулирования XR и хорошенько подготовиться — у нас и сегодня хватает проблем с конфиденциальностью и приватностью, а в будущем, похоже, их еще прибавится. Многие уже сегодня считают, что смартфоны и приложения знают о нас слишком много, но, поверьте, это цветочки по сравнению с ягодками, которые созреют с развитием XR-технологии.

А еще XR заставит нас переосмыслить концепцию самой человеческой жизни. Люди на протяжении тысяч лет искали путь к бессмертию. Благодаря этим технологиям мы теперь можем всерьез задуматься о такой штуке, как «цифровое бессмертие». Помните, в одном из эпизодов популярного телесериала «Черное зеркало»[67] женщина, потерявшая бойфренда, с помощью цифровой информации пытается вернуть его к «жизни»?

MR становится все более реалистичной и повсеместной, и киношная ситуация может стать реальной уже в недалеком будущем. Ранее мы обсуждали использование алгоритма GPT-3 для общения с давно умершими историческими личностями (да, тут еще есть некоторые изъяны, но ситуация быстро улучшается). Кроме того, сегодня в социальных сетях прибывает виртуальных инфлюенсеров; рано или поздно большинство из них станут работать на базе ИИ и VR — это только вопрос времени.

«Цифровое бессмертие», или «цифровая реинкарнация», непременно породит множество проблем с конфиденциальностью и вопросами этического характера. Если использовать данные других людей для создания виртуального персонажа — это нарушение авторских прав? А если такой персонаж станет говорить или делать что-то отвратительное — это надо расценивать как клевету или как нечто худшее? И с кого спросить, если виртуальный персонаж введет людей в заблуждение или совершит преступление?

Если мы вынесли хоть какой-то урок из недавних опасений по поводу негативных внешних эффектов соцсетей и ИИ, то нам пора задуматься над решением куда больших проблем, которые возникнут, когда эти эффекты умножатся мощью XR.

Лично мне наилучшим выходом в краткосрочной перспективе представляется расширение соответствующей законодательной базы. Затем следует принять ряд решений, включая новые правила, активизировать борьбу с цифровой безграмотностью и разработать технологические способы решения возникающих проблем.

Значительная доля нашей работы и развлечений к 2041 году будет подразумевать использование технологий виртуальной реальности. И сегодня нам стоит ориентироваться на эту неизбежность. Нас ждет огромный прорыв, и он начнется с индустрии развлечений. Но затем XR распространится на все области, и все неизбежно столкнутся с трудностями — все будет точно так же, как сегодня происходит с ИИ.

Если ИИ превращает информацию в интеллект, то XR-технологии позволят собирать от людей больше данных все более высокого качества — они будут поступать от наших глаз, ушей, конечностей и даже из недр мозга. ИИ в сочетании с XR осуществит извечную мечту человека о том, чтобы лучше понять себя и максимально увеличить свой потенциал — а по ходу дела расширит возможности человеческого опыта.

Наручные часы на руке зажужжали, циферблат настойчиво замигал красным. Пора.

Чамал был постоянным посетителем VR Cafе, и у него давно сложился четкий ритуал подготовки к гонке. Мальчик сосредоточивался, натягивал тесный тактильный комбинезон, причесывался и надевал шлем в форме раковины. Чамал каждый раз представлял, что сейчас сядет в кресло болида «Формулы-1». Затем он соединял ладони и закрывал глаза — молился Будде об удачной гонке, о том, чтобы никто из гонщиков даже не приблизился и уж тем более не прикоснулся к его виртуальной тени. Потом он втискивался в кабину — довольно тесную, узкую, практически такую, какую он минуту назад представил.

Глубоко вдохни. Очисти разум. Убедись, что все физиологические показатели в безопасном интервале.

Стоило Чамалу тронуться с места, как все тревоги разом улетучивались.

Многоцветье гоночной трассы плясало перед глазами — Чамал рвался к очередной победе.

В научно-фантастических фильмах, — например, «Рыцарь дорог» или «Особое мнение»[76], — беспилотники разного типа уже довольно давно представлены как нечто обыденное. На самом деле такие машины — один из столпов или святой Грааль искусственного интеллекта. Управление любым транспортным средством представляет собой сложную задачу с множеством подзадач и вводных, а также с заметными проблемами в плане неопределенности среды и маловероятных сценариев развития событий.

Именно поэтому в рассказе «Святой возница» говорится, что эта технология еще не достигнет зрелости к 2041 году, хотя от начала коммерческих разработок Google в этой области пройдет уже 32 года, и 52 — с момента, когда Университет Карнеги — Меллона продемонстрировал первый исследовательский прототип беспилотника на реальной трассе.

Автономные транспортные средства станут по-настоящему беспилотными и «самостоятельными» не в результате какого-то одного крупного прорыва, а после десятилетий неудач и ошибок. Одной из первых реализованных технологий данного направления была система автоматического экстренного торможения (AEB), которой, согласитесь, еще есть куда расти.

Беспилотный транспорт, о котором теперь говорят все чаще, — это не просто нынешние апгрейдированные автомобили, а принципиально новый элемент инфраструктуры умного города. Именно в таком виде он и описан в нашем рассказе.

Как показано в «Святом вознице», реализация этой технологии негативно скажется на целом ряде профессий и отраслей и породит серьезные проблемы этического и юридического характера. Разберем их подробнее.

Попросту говоря, беспилотный автомобиль — это управляемая компьютером машина, которая едет без человека-водителя.

Как уже говорилось, вождение является сложной комплексной задачей — считается, человеку требуется около 45 часов, чтобы научиться управлять машиной. Данный процесс с участием человека включает в себя следующие компоненты: восприятие (наблюдение за окружающим миром посредством зрения и слуха); навигация и планирование (увязка среды с локациями на карте и перемещением из точки А в точку Б); выдвижение версий и умозаключения (прогнозирование намерений и действий других участников движения — пешеходов и водителей); принятие решений (применение правил дорожного движения к конкретным ситуациям) и собственно управление транспортным средством (перевод намерения в поворот рулевого колеса, нажатие на педаль газа или тормоза и так далее).

Когда автомобилем управляет ИИ, а не человек, то «думают» нейронные сети, а функции рук и ног выполняют механические компоненты. Например, для восприятия окружающей среды используются камеры, технология лидар и другие радары.

Система ИИ-навигации прокладывает маршрут — связывает каждую точку на дороге с точкой на цифровой карте высокого разрешения.

Специальные алгоритмы позволяют ИИ прогнозировать действия автомобилей или пешеходов. В экстренной ситуации — при внезапном обнаружении препятствия или тем паче движущегося препятствия — решения принимаются на основе действующих регламентов или статистических данных.

Автономные транспортные средства будут совершенствоваться постепенно. Сначала водителю-человеку придется поддерживать ИИ, но потом потребность в этом отпадет. Эти этапы классифицированы Обществом автомобильных инженеров[77] по уровням автономности от 0 до 5 следующим образом.

Летние ночи в Исландии бледны и холодны, как живот утопленника.

В Кеблавике, городе-спутнике Рейкьявика, находится самый защищенный на европейском континенте дата-центр Hrosshvalur. В этой настоящей крепости для хранения данных работают тысячи серверов. Энергию для дата-центра производит геотермальная электростанция, а охлаждение обеспечивают арктические ветра.

Пятьсот ведущих компаний Европы доверили Hrosshvalur свои информационные ресурсы. С материком и с Северной Америкой объект связан двенадцатью артериями — высокопроизводительными оптоволоконными кабелями. До Нью-Йорка информация долетает по ним всего за шестьдесят миллисекунд.

Выбросы углекислого газа в помещениях были почти нулевыми. Робин это казалось чудом.

На пляже в юго-западной части залива Фахсафлоуи лежало старое рыбацкое судно. Зияющая в обшивке дыра делала его похожим на кита с распоротым брюхом. Через эту «рану» в трюм были протянуты толстые черные кабели. Они терялись в темноте, которая изредка вспыхивала сине-белыми огоньками.

В проржавевшем корпусе судна хакеры и разместили свою базу — тут было такое оборудование, о котором многим и мечтать не приходится. Ребята провели здесь полгода, пользуясь дармовыми местными ресурсами: геотермальной энергией, холодным воздухом и избыточной вычислительной мощностью квантовых компьютеров из дата-центра. Сегодня должно было свершиться чудо, ради которого все и затевалось.

Уилл — в этом трио он играл роль спеца по «железу» — колдовал над клавиатурой. Он завернулся в видавшую виды куртку и здорово смахивал на бурого медведя.

— Поверить не могу, что мы дождались, — клацнул он зубами то ли от холода, то ли от возбуждения. — Сколько, говорите, биткойнов у Сатоси[84]?

Ли, 16-летний вундеркинд, откликнулся, не отрываясь от мелькавших перед глазами строк кода.

— Не менее двухсот шестидесяти миллиардов, — тон безразличный, как будто не про кучу долларов шла речь, — а может, и все пятьсот, смотря какой трейдинговой стратегии следовать.

— Бабло — зло, не позволяйте ему трахать вам голову, — в губе Робин запрыгал пирсинг. — Помните, парни, — удача и слава!

Технологии по своей сути и природе нейтральны — и добром, и злом их делают люди. Если мощность позволяет разрушить статус-кво, технология способна стать огнем Прометея или ящиком Пандоры — в зависимости от целей того, кто ее использует. Именно об этом и рассказывает история «Квантовый геноцид».

В рассказе мы видим множество замечательных новых технологий, но я в своем комментарии остановлюсь на двух. Сначала я опишу квантовые вычисления. Мне кажется, существует 80-процентная вероятность проявления их во всей красе к 2041 году. Если это случится, то, возможно, они повлияют на человечество даже сильнее, чем появление ИИ. Это действительно универсальные технологии (как паровой двигатель, электричество, вычислительная техника вообще, в том числе и искусственный интеллект), они способны помочь нам значительно продвинуть науку и лучше понять природу.

Квантовые вычисления, как и любая универсальная технология, сулят нам, людям, огромные блага. Квантовые компьютеры станут великим ускорителем ИИ, а потенциала квантовых вычислений хватит для истинной революции в сфере машинного обучения и решения проблем, которые прежде представлялись тупиковыми.

Однако в рассказе «Квантовый геноцид» речь идет об одном отнюдь не позитивном варианте использования этого блага — о взломе алгоритма шифрования биткойна, что с большой вероятностью станет одним из первых примеров реального применения квантовых вычислений. Уже сейчас, обдумывая, как предотвратить подобные преступления, мы не должны упускать из виду: потенциал полезного, позитивного применения квантовых вычислений гораздо больше, чем негативного и преступного.

Автономное оружие, как и любая техника, может использоваться и во зло, и во благо. Когда в будущем на поле боя станут биться машины, оно сохранит жизни солдат. Но все преимущества сходят на нет перед угрозой массового или целенаправленного убийства людей машинами.

Автономное оружие, кроме того, может спровоцировать новую гонку вооружений, которая в какой-то момент непременно выйдет из-под контроля. Оно может попасть в руки террористов — и тогда начнутся убийства лидеров государств, да и вообще кого угодно. Я очень надеюсь, что ужасы, описанные в этой истории, послужат тревожным предупреждением для человечества и помогут лучше оценить суровую перспективу такого применения ИИ.

Квантовый компьютер — это новая компьютерная архитектура, в которой для выполнения определенных видов вычислений используется квантовая механика. Вычисления эти намного эффективнее, чем на привычном всем сегодня компьютере (назовем его «классическим»).

Классические компьютеры оперируют битами — это мельчайшая частица, так сказать, «атом» информации[108]. Бит похож на переключатель — он может быть либо нулем (если выключен), либо единицей (если включен). Каждое приложение, веб-сайт или фотография состоит из миллионов таких битов. Использование двоичных разрядов упрощает представление данных и управление классическими компьютерами, но при этом ограничивает их потенциал для решения действительно сложных задач информатики.

В квантовом компьютере используются квантовые биты, или кубиты; обычно это субатомные частицы, такие как электроны или фотоны. Кубиты «живут» по принципам квантовой механики, их свойства достаточно необычны, их можно даже назвать «суперсвойствами».

Первое из них — суперпозиция, способность кубита находиться в любой момент времени в нескольких состояниях разом. За счет этого несколько кубитов в суперпозиции могут одновременно обрабатывать огромное количество данных.

ИИ, решая задачу победы в компьютерной игре, на классическом компьютере будет перебирать разные ходы и опробовать, «вертеть» их до тех пор, пока не нащупает путь, ведущий к выигрышу. ИИ, построенный на квантовых вычислениях, испробует все ходы гораздо быстрее (а значит, эффективнее), к тому же учтет вероятность ошибки — все это экспоненциально снижает сложность процесса.

Второе необычное свойство кубита — спутывание (взаимозависимость). Два любых кубита в квантовом компьютере всегда взаимосвязаны — и действия, выполняемые над одним, влияют на другой, даже если кубиты сильно удалены один от другого. Благодаря спутыванию каждый кубит, добавленный в квантовый компьютер (это возможно сделать программными методами), увеличивает вычислительную мощность машины в геометрической прогрессии.

Чтобы удвоить мощность классического суперкомпьютера стоимостью 100 миллионов долларов, нужно выложить еще столько же; а удвоить мощность квантового компьютера можно, просто добавив еще один кубит.

Но у этих потрясающих свойств есть, естественно, и обратная сторона. Квантовый компьютер чрезвычайно чувствителен — на него влияют мельчайшие сбои техники («железа») и даже изменения окружающей среды. Вибрации (от проходящего неподалеку трамвая), электрические помехи, перепады температуры или магнитные волны могут ослабить суперпозицию или даже ликвидировать ее.

Для постройки работоспособного и расширяемого квантового компьютера предстоит придумать новые технологии и создать беспрецедентные вакуумные камеры, сверхпроводники и суперохлаждающие холодильники — только так можно минимизировать потери квантовой когеренции[109] (результат декогеренции) из-за влияния окружающей среды.

Ученым удалось увеличить количество кубитов, затратив, правда, очень много времени; в 2020 году их стало 65 — против двух в 1998-м. Но их пока по-прежнему слишком мало, чтобы сделать что-нибудь действительно полезное для человечества[110]. Однако и на нескольких десятках кубитов некоторые вычислительные задачи идут в миллионы раз быстрее, чем на классических компьютерах.

В 2019 году Google продемонстрировала нам это «квантовое превосходство»: 54-кубитный квантовый компьютер за считаные минуты решил задачу (правда, совершенно бесполезную — «экспериментальную»), на которую у классических компьютеров ушли бы годы.

Так когда же у нас будет достаточно кубитов, чтобы решать реальные проблемы, а не просто устраивать эффектные демонстрации? И сколько их, кстати, вообще нужно для получения практической пользы?

Согласно дорожной карте IBM, в течение последующих трех лет количество кубитов будет увеличиваться более чем вдвое каждый год, и к 2023 году мы можем получить процессор на 1000 кубитов. А поскольку 4000 логических кубитов[111] должно быть достаточно для некоторых полезных применений, оптимисты прогнозируют, что в действительности (не в лабораториях) квантовые компьютеры появятся лет через пять-десять.

Однако эти оптимисты упускают из виду некоторые весьма серьезные проблемы. Специалисты из IBM признают: контроль ошибок, вызванных декогеренцией, ухудшается по мере добавления кубитов. Справиться с этим поможет сложное тонкое оборудование, для которого потребуются новые технологии и прорыв в точном машиностроении.

А еще из-за ошибок декогеренции необходимо, чтобы каждый логический кубит был представлен множеством кубитов физических — это должно обеспечить стабильность, коррекцию ошибок и отказоустойчивость системы. По оценкам специалистов, для обеспечения эффективности в 4000 логических кубитов, скорее всего, потребуется не менее миллиона физических. Так что даже когда публике предъявят первый полезный квантовый компьютер, массовое производство подобной техники еще долгие годы будет серьезной проблемой.

К тому же код для квантовых компьютеров совсем не похож на код для «классики», поэтому предстоит создать новые инструменты программирования.

Большинство экспертов сегодня полагают, что на создание полезного квантового компьютера уйдет от десяти до тридцати лет. Я же, основываясь на этом экспертном мнении, прогнозирую: с 80-процентной вероятностью к 2041 году у нас будет функциональный квантовый компьютер с 4000 логических кубитов (и более чем миллионом физических), способный делать то, что описано в рассказе «Квантовый геноцид». По крайней мере, в части взлома кода, используемого сегодня для защиты биткойнов.

Одним из вариантов применения функционального квантового компьютера, который однозначно изменит наш мир к лучшему, станет разработка новых лекарств. Современные суперкомпьютеры могут анализировать только основные молекулы, но их общее число, пригодное для создания эффективного лекарства, экспоненциально больше, чем число всех атомов в наблюдаемой Вселенной.

Для решения задач такого масштаба требуются квантовые компьютеры, принцип работы которых базируется на тех же квантовых свойствах молекул, которые они станут моделировать. Такие компьютеры смогут одновременно создавать in silico новые соединения (предположительно — лекарственные средства), моделировать сложные химические реакции с их участием и оценивать их эффективность для лечения различных заболеваний.

Американский физик Ричард Фейнман сказал в 1980 году: «Если хотите создать модель природы, лучше сделать ее квантово-механической». Квантовый компьютер сможет давать прогнозы, непосильные для классического компьютера: предлагать способы противодействия климатическим изменениям; предсказывать риски пандемий и последствия изобретения новых материалов; исследовать космос; моделировать деятельность человеческого мозга; понимать квантовую физику.

Влияние квантовых компьютеров на ИИ не ограничится просто ускорением методов глубокого обучения. Программирование такого компьютера позволяет производить для всех возможных вариантов, представленных кубитами, параллельную оценку каждого потенциального решения. Таким образом, квантовый компьютер попытается найти наилучший ответ за минимальное время. И это может привести к революции в сфере машинного обучения и решения задач, которые до сих пор считались неразрешимыми.

В рассказе «Квантовый геноцид» гениальный физик Марк Руссо, переживший личную трагедию, использует прорыв в квантовых вычислениях для кражи биткойнов. Биткойн — это наиболее распространенная криптовалюта, которую можно обменять на любые другие активы (в том числе драгметаллы или деньги).

Но биткойн не имеет собственной ценности (в отличие, скажем, от золота). Его не поддерживает ни одно правительство, никакой центральный банк (в отличие от национальных валют). Биткойны существуют виртуально в интернете, безопасность транзакций с ними обеспечивается кодом, который не взломать ни одному классическому компьютеру.

Ограниченность современных вычислительных мощностей гарантирует, что количество биткойнов не превысит 21 миллиона — то есть исключены избыточное предложение и, соответственно, инфляция. Биткойны стали особо популярны с началом пандемии ковида, поскольку все большему числу корпораций и частных лиц понадобились надежные активы, невосприимчивые к искусственной инфляции, порождаемой денежными вливаниями центральных банков. Биткойн технически спроектирован как актив-убежище, поэтому в последнее время существенно вырос в цене. В январе 2021 года общая стоимость биткойнов превысила 1 триллион долларов.

Кража биткойнов кажется мелочью на фоне грандиозных преступных вариантов применения квантовых вычислений, описанных в рассказе, зато она считается возможной даже при наличии самого маломощного квантового компьютера. Это позволяет предположить, что первое, если так можно выразиться, «полезное» применение этой технологии будет именно таким.

На разработку других способов квантовых вычислений уйдут годы, но взломать некоторые типы криптографии относительно несложно уже сейчас — была бы подходящая техника. Для этого годится квантовый алгоритм Шора, предложенный в 1994 году профессором Массачусетского технологического института и названный именем автора.

Если реализовать алгоритм Шора и на квантовом компьютере с 4000 или большим числом кубитов, то большую часть современного шифрования, основанную на классе алгоритмов под названием «асимметричная криптография» (где наиболее известен алгоритм RSA), можно будет взломать. Некоторые специалисты, кстати, убеждены, что именно работа Шора подогрела интерес к квантовым компьютерам.

Алгоритм RSA используется для транзакций с биткойнами и некоторых других, а также для создания цифровых подписей. В нем, как и во всех алгоритмах асимметричного шифрования, используется два ключа: открытый и закрытый (секретный). Они представляют собой очень длинные математически связанные последовательности символов. Трансформировать закрытый ключ в открытый очень просто, а вот обратное на классических компьютерах практически невозможно.

Отправляя мне биткойны (скажем, оплачивая какую-то покупку), вы посылаете вместе с ними скрипт (программу — сценарий действий), который, по сути, играет роль «квитанции о депозите» (или транзакции). В качестве открытого ключа при этом используется учетная запись (или адрес биткойн-кошелька) получателя.

Открытый ключ виден всем, но лишь у владельца кошелька есть закрытый ключ, только с помощью которого можно открыть эту «депозитную квитанцию». Закрытый ключ служит цифровой подписью. Получатель должен завершить транзакцию — «получить денежки», для чего ему надо «подписать» квитанцию, использовав цифровую подпись (закрытый ключ).

Процесс для обеих сторон совершенно безопасен — конечно, до тех пор, пока этот закрытый ключ не окажется в чужих руках.

С квантовыми вычислениями все меняется в корне. В отличие от классических компьютеров, квантовые могут сгенерировать закрытый ключ для любого открытого ключа RSA или аналогичных алгоритмов, используемых сегодня для транзакций с биткойнами, за приемлемое, по человеческим меркам, время.

Квантовый компьютер просто получает доступ к публичному реестру (где содержатся все транзакции), берет все открытые ключи, с помощью квантовых вычислений генерирует цифровую подпись закрытого ключа и забирает все биткойны с аккаунтов.

Возникает естественный вопрос: а зачем сообщать адрес своего кошелька и открытый ключ всему миру? А это — изъян начального этапа проектирования. Позже биткойн-эксперты поняли, что это опасно, да и ненужно. В 2010 году практически все новые транзакции перевели в другой формат, который содержит адрес, но не показывает его, что намного безопаснее (хотя и не исключает успешность хакерских атак).

Новый стандарт назвали P2PKH. Но два миллиона биткойнов по-прежнему хранятся в старом уязвимом формате (P2PK). В январе 2021 года один биткойн стоил 60 тысяч долларов[112], и в пересчете это составляет весьма привлекательную сумму в 120 миллиардов. Именно на нее и нацелились юные хакеры из нашего рассказа. Так что если вы до сих пор пользуетесь старой учетной записью P2PK — немедленно отложите эту книгу и защитите свой электронный кошелек!

Но тогда следующий вопрос: почему люди до сих пор используют старые скрипты P2PK и не переводят денежки в безопасные кошельки? Могу предложить три объяснения.

Во-первых, многие владельцы кошельков давно посеяли свой закрытый ключ — он слишком длинный и непригоден для запоминания. Поначалу народ относился к биткойнам довольно легкомысленно — десять лет назад они были далеко не такими ценными.

Во-вторых, многие владельцы биткойнов знать не знают об их (своей) уязвимости в этом плане.

В-третьих, около половины из двух миллионов биткойнов в этих потенциально незащищенных кошельках принадлежит Сатоси Накамото, таинственному изобретателю этой криптовалюты, который, похоже, бесследно исчез. Вот почему в нашей истории их называют «сокровищем Сатоси».

Еще один интересный вопрос — а зачем вообще размещать транзакции в публичном реестре? Предполагается, что это должно защитить биткойны от чрезмерного накопления в руках отдельной компании или физического лица. Публичный реестр хранится децентрализованно, на многих компьютерах, поэтому его невозможно изменить или подделать на одной машине — в других местах он останется в прежнем виде. Решение, безусловно, блестящее. Правда, оно будет оставаться таким только до момента, пока не станет возможным реконструировать закрытые ключи из открытых, содержащихся в реестре.

А еще этот подход сделал возможными блокчейны для множества полезных приложений, требующих сохранения информации в неизменном виде (например, сохранение документов, контрактов, завещаний и так далее).

Если кто-то украдет у вас биткойны, обращаться в полицию или подавать в суд бессмысленно — определить виновного и доказать его вину чрезвычайно сложно. Биткойны не контролируют ни правительства, ни компании, операции с ними не регулируются ни одним банковским законодательством. Поэтому любой, у кого есть правильный закрытый ключ, может безнаказанно забрать биткойны из кошелька, к которому он подойдет. И у хозяина нет никакой правовой защиты.

Так почему же Марк Руссо не стал грабить банки, а выследил хакеров?

Во-первых, у банков нет публичного реестра с открытыми ключами — даже гипотетически извлечь закрытые ключи просто не из чего.

Во-вторых, в банках установлены специальные компьютерные программы, отслеживающие аномалии в транзакциях, в том числе подозрительно большие переводы средств.

В-третьих, движение денег между банковскими счетами легко отслеживается, и в случае нарушения законов преступника можно привлечь к ответственности.

И, наконец, легальные банковские транзакции защищены другим, более сложным алгоритмом — для его декодирования требуется намного больше времени и сил, чем на взлом электронного кошелька.

Что же можно сделать для апгрейда своей нынешней цифровой защиты, как ее обновить и усилить? Для этого уже существуют квантово-устойчивые алгоритмы. Профессор Шор, по сути, показал, что с помощью квантовых вычислений можно создать совершенно неприступную систему шифрования. Симметричный криптографический алгоритм, основанный на квантовой механике, не взломать даже посредством мощного квантового компьютера — это возможно, только если неверны принципы квантовой механики.

Но реально пока бояться нечего — квантово-устойчивые алгоритмы невероятно дороги с точки зрения вычислительных мощностей, и большая часть коммерческих и биткойн-организаций их пока даже не рассматривает. Возможно, только после неизбежного квантового ограбления люди очнутся и обновят эти алгоритмы. Искренне надеюсь, что это случится скоро!

Автономное оружие — это, по сути, третья революция в военном деле после изобретения пороха и ядерной бомбы. Эволюция вооружения от противопехотных мин на земле до управляемых ракет в воздухе была лишь прелюдией к истинной автономизации процесса убийства с использованием ИИ — в данном случае речь об автоматическом поиске цели, принятии решения атаковать и уничтожении людей совершенно без человеческого участия.

Примером реального, уже используемого сегодня автономного оружия является израильский дрон-убийца Harpy («Гарпия»)[113]. Он программируется для полета в определенную зону, сам выслеживает цель и уничтожает ее с помощью осколочно-фугасной боеголовки, которую за эффективность прозвали Fire and Forget («стрельнул и забыл»).

Однако куда более жуткий пример нам недавно показали в вирусном видео Slaughterbots («Роботы-убийцы»)[114]. Беспилотник размером с воробья ищет конкретного человека и при обнаружении стреляет ему в голову зарядом с небольшим количеством динамита. Эти беспилотники летают сами по себе — их трудно обнаружить, невозможно остановить или уничтожить, они малы и чрезвычайно маневренны.

Сегодня опытный любитель может менее чем за тысячу долларов собрать робота-убийцу — вроде того, что чуть не убил президента Венесуэлы[115]. Комплектующие легко купить — да хоть бы в интернете, все необходимые технологии с открытым исходным кодом доступны для скачивания.

В ближайшем будущем все нынешние роботы продолжат выполнять свои функции, только вот стоимость производства (и, соответственно, цена) на них существенно упадет. ИИ и робототехника уже сегодня становятся во всех смыслах доступны. Это непреложный факт, к которому я и пытался привлечь внимание этой книгой. Даже представить страшно — убийца суперохраняемых первых лиц за штуку баксов! Это не эфемерная угроза далекого будущего — это явная и реальная сегодняшняя опасность.

Мы уже стали свидетелями стремительного развития ИИ, и эти достижения, без сомнений, уже в ближайшем будущем ускорят пришествие автономного оружия. Вспомните, как быстро эволюционировали автономные транспортные средства — от уровня 1 до уровней 3 и 4 (мы говорили об этом в главе 6). То же неизбежно произойдет и с автономным оружием.

Машины для убийства не только станут умнее, точнее, эффективнее, быстрее и дешевле — они научатся сбиваться в стаи, действовать четко и скоординированно, и это сделает их практически непобедимыми. При этом рой из 10 тысяч дронов, способный уничтожить полгорода, теоретически может обойтись замыслившему такое всего в 10 миллионов долларов.

Однако у автономного оружия, разумеется, есть и положительная сторона.

Во-первых, военные действия исключительно с помощью машин сберегут множество солдатских жизней. В руках ответственных военных такое оружие может быть использовано для избирательного уничтожения реально опасных врагов без непреднамеренного убийства условных союзников (даже фактически выступающих на стороне противника), детей, гражданских лиц. (Автономные транспортные средства уровней 2 и 3 так помогают водителям избежать ошибок на дороге.) Кроме того, автономное оружие можно использовать для защиты от киллеров и вообще злодеев.

Однако приходится признать: ответственность в данном случае существенно перевешивает все возможные выгоды. Речь прежде всего об ответственности моральной — практически все этические и религиозные системы считают человеческую жизнь великой ценностью; принудительное лишение человека жизни требует обоснования и тщательной проверки.

Не зря генеральный секретарь ООН Антониу Гутерриш заявил: «Перспектива [появления] машин, обладающих способностью и властью отнимать человеческие жизни, морально неприемлема».

Далее. Автономность оружия резко снижает стоимость убийства. Да, террористы-смертники, готовые отдать жизнь за идею, дешевы, но подавляющее большинство людей преодолеть этот барьер не в состоянии. С появлением автономных киллеров ни одному человеку не придется жертвовать собой, больше жизни желая уничтожить другого.

Следующий чрезвычайно важный вопрос — четкая линия ответственности, точное понимание, кто ответствен за ошибку автономного оружия. С солдатами на поле боя все предельно ясно, а система автономного вооружения неопределенна — точно так же, как и автомобиля-беспилотника, наехавшего на пешехода.

Но тут дело усугубляется еще и тем, что это может привести к освобождению агрессоров от ответственности за нарушение международного гуманитарного права. А это делает более вероятным развязывание реальной войны.

Другая опасность состоит в том, что автономное оружие может использовать технологии распознавания лиц или походки, отслеживания сигналов телефона либо интернета вещей. А это уже позволяет уничтожить не только одного, заранее определенного человека — это делает возможным истребление любой заданной группы людей. В рассказе «Квантовый геноцид» показано, как целенаправленно уничтожается бизнес-элита и интернет-специалисты.

Расширенная автономия без глубокого понимания метапроблем еще больше увеличит темп вооруженных конфликтов и, следовательно, масштабы ущерба и потерь, в перспективе приведет к катастрофической эскалации напряженности — вплоть до ядерной войны. ИИ, как известно, не обучен здравому смыслу и не оснащен человеческой способностью логически рассуждать, охватывая разные области, — и это его сильно ограничивает.

Как бы мы ни старались, применение автономного оружия только в одной области и с единственной целью не позволит его ИИ в полной мере осознать последствия своих действий. Вот почему в нашей истории ключевые фигуры контртеррористической операции, в которой задействован ИИ, — все-таки люди, а не роботы.

Многие страны, начиная с англо-германской гонки вооружений на море и заканчивая советско-американской «ядерной гонкой», стремились к военному превосходству — оно определялось как важнейший национальный приоритет. И с появлением автономного оружия данная тенденция наверняка сохранится и усугубится — ведь тут открывается столько способов «победить»! (Создать самое маленькое, самое быстрое, самое скрытное, самое смертоносное, и так далее, и тому подобное — оружие.)

Стоить такая гонка вооружений наверняка будет меньше, чем предыдущие, что спровоцирует на участие в ней. Некоторые вовсе не большие страны, располагающие, однако мощными технологиями, скажем Израиль, уже ввязались в эту гонку, создали продвинутых военных роботов, в том числе размером с муху. Словом, практически нет сомнений: как только одна страна создаст автономное оружие, любая другая, более-менее амбициозная, будет ощущать себя обязанной придумать что-нибудь поэффективнее.

К чему это приведет? Стюарт Рассел, профессор Калифорнийского университета в Беркли, говорит: «Возможности автономного вооружения будут ограничены скорее законами физики — например, ограничениями по дальности, скорости и полезной нагрузке, — нежели какими-либо недостатками ИИ-систем, им управляющими. В будущем можно ожидать появления платформ, гибкость и смертоносность которых сделают людей совершенно беззащитными».

Короче говоря, если пустить все на самотек, то многосторонняя гонка вооружений в итоге станет забегом в небытие.

Ядерное оружие, безусловно, реально опасно, но у человечества получилось взять его под контроль, более того, благодаря теории сдерживания оно даже помогло ослабить риск начала обычной войны. Согласно этой теории, наличие ядерного оружия сдерживает более мощного противника — при условии если оно не окажется выведенным из строя внезапной первой атакой.

Поскольку ядерная война ведет к гарантированному взаимному уничтожению, то любую страну, нанесшую первый ядерный удар, скорее всего, ждут ответные меры. Но в случае с автономным оружием теория сдерживания не работает — первая атака может остаться незамеченной, следовательно, не содержит угрозы гарантированного взаимного уничтожения.

Наглядный пример: дроны Судного дня в нашем рассказе очень трудно выследить. Ценные подсказки, возможно, даст взлом коммуникационных протоколов такого дрона, но для этого годен только «живой» беспилотник, а не сбитый и поврежденный.

Любая атака автономного оружия, скорее всего, вызовет ответную реакцию страны — объекта нападения. Эскалация конфликта тут может быть стремительной, даже привести к ядерной войне. Причем первая атака может быть инициирована даже не государством, а, например, террористами. А это уже существенно повышает уровень опасности автономного оружия.

Высказано уже несколько предложений, как нам избежать этой экзистенциальной катастрофы. Одно из них — подход «человек-в-цикле» как гарантия того, что любое решение, связанное с чьей-либо смертью, имеет право принять только человек. Однако мощь автономного оружия во многом обусловлена именно скоростью и точностью, достигаемыми без нашего участия. Так что это условие вряд ли сочтет приемлемым страна, которая жаждет победить в гонке вооружений. Кроме того, обеспечить соблюдение этого условия на законодательном уровне крайне сложно, а вот обойти, напротив, легко.

Второе решение — объявление автономного оружия вне закона. Это предлагают в том числе и организаторы Кампании по борьбе с роботами-убийцами[116], и три тысячи человек, в том числе Илон Маск, ныне покойный Стивен Хокинг и множество экспертов по ИИ, подписавших письмо соответствующего содержания. Надо сказать, подобные усилия предпринимались и ранее — биологи, химики и физики выступали против биологического, химического и ядерного оружия соответственно.

Конечно, запретить автономное оружие непросто, но предыдущие законодательные акты, запретившие, например, ослепляющие лазеры и химическое и биологическое оружие, оказались вполне эффективными. Сегодня главным препятствием на этом пути является сопротивление России, США и Великобритании — эти государства считают такой запрет преждевременным.

В 2021 году Комиссия по национальной безопасности по ИИ США (ее возглавляет бывший председатель Alphabet Эрик Шмидт) рекомендовала Соединенным Штатам изменить отношение к запрету автономного оружия.

Третий подход предполагает жесткое регулирование производства и применения автономного оружия. Это, судя по всему, тоже будет непросто — из-за сложности создания рабочих технических спецификаций без чрезмерного обобщения.

Что считать автономным оружием? Как проводить его аудит с целью выявления нарушений установленных спецификаций? Все это серьезные, хоть и вполне преодолимые, препятствия.

Поскольку эта книга о долгосрочной перспективе, позвольте мне пофантазировать о 2041 годе — вдруг к тому времени все страны договорятся, что все войны должны вестись только с помощью роботов (а еще лучше, только в компьютерных программах), без человеческих жертв, но с классическими военными трофеями?

А еще можно представить себе будущее, в котором войны ведутся с участием и людей, и роботов. Роботам разрешается использовать только оружие, выводящее из строя бойцов-роботов, но безвредное для солдат-людей (например, как лазерный бой). Сегодня эти концепции кажутся фантастическими, но могу же я надеяться, что они быстрее вдохновят человечество на что-то реалистичное?

Надеюсь, я убедил вас, что автономное оружие уже сегодня представляет явную угрозу для людей и с беспрецедентной скоростью становится все более умным, а также ловким, смертоносным и доступным. Развертывание таких видов вооружения будет разгонять неизбежную гонку, в которой еще и не окажется естественного сдерживания, характерного для гонки ядерного вооружения.

Автономное оружие — это применение ИИ, которое наиболее явно и глубоко противоречит нашей морали и сильнее всего угрожает будущему человеческой цивилизации. Нам уже сегодня нужно привлечь экспертов и прочих ответственных лиц, чтобы оценить и взвесить различные варианты решений и предотвратить распространение такого оружия, а как следствие — и уничтожение нас, людей, как биологического вида.

Свет был притушен. Дженнифер Гринвуд и еще двенадцать участников тренинга внимательно смотрели видео, плавающее перед ними в воздухе. В закадровом мужском голосе звучали прямо-таки пророческие нотки.

— Все начало меняться в 2020 году, — вещал он. — Пандемия привела к социальной изоляции и ограничению поездок. Владельцам бизнеса пришлось приспосабливаться, они обратились к роботизации и искусственному интеллекту, чтобы заменить машинами человеческий персонал.

Парящая в воздухе картина перенесла зрителей на пустынную Таймс-сквер, затем — в заброшенный торговый центр и безлюдный Диснейленд. Перед глазами всплывали изображения закрытых фабрик и замерших сборочных линий. Дальше пошли протестующие толпы в городах — на лицах респираторы, в руках плакаты с лозунгами против массовых увольнений. Затем появились еще более тревожные кадры уличных беспорядков и погромов.

Повествование меж тем продолжилось:

— В 2024 году власть в Белом доме перешла в новые руки, и администрация запустила программу по введению безусловного базового дохода. Предполагалось гарантировать каждому гражданину ежемесячную выплату за счет налогообложения сверхбогатых элит — эти олигархи сколотили состояния на новых технологиях и сборе данных. Первостепенной задачей стало справиться со структурной безработицей, которую спровоцировало развитие искусственного интеллекта.

В визуальном потоке возник мозаичный коллаж из заголовков. Фоном пошла узнаваемая тревожная музыка из новостной заставки. Анимированный график продемонстрировал скачки цен на фондовых биржах, а затем граждане принялись читать пришедшие на смартстримы уведомления о выплатах.

Голос продолжил:

— Несмотря на изначальную популярность, введение безусловного базового дохода вызвало неожиданные последствия. Многие уволенные, которым теперь стало нечем заняться, пристрастились к играм виртуальной реальности, азартным онлайн-играм, наркотикам и алкоголю. В городах выросла преступность — деловые и престижные районы обезлюдели, корпорации и состоятельные горожане покинули офисы и дома.

Искусственный интеллект развивался стремительно, на обочине оказалось сразу много людей, у них не было ориентиров на рынке труда. Одна социальная проблема цеплялась за другую, порождала третью — увеличилось число самоубийств. Раздались голоса за отмену базового дохода.

Социальные сети захлестнул большой спор о преимуществах и недостатках этой программы уже к 2028 году. Сенаторы и конгрессмены погрязли в бесконечных дрязгах, переходящих в битвы, сражаясь за выдвинутый план отмены базового дохода. Эту программу официально упразднили в 2032 году.

Вместо нее сформировали законодательную базу для создания новой отрасли — релокации, профессионального перенаправления. Надо же соответствовать времени! Профессионалы-релокаторы помогают людям обучаться новым профессиям, показывают пути для трудоустройства. Часть налогов, ранее уходившую на выплату базового дохода, правительство перенаправило на субсидирование релокации, надеясь таким образом притушить пожар разгоревшихся социальных конфликтов. Именно в тот момент я и решил основать компанию «Синкия»[118].

Дженнифер знала эту историю и спокойно могла бы заменить рассказчика. Теперь, в эру трудового перераспределения, от корпораций требовали сотрудничать с компаниями, подобными «Синкии», во время массовых увольнений сотрудников.

Компании по перенаправлению персонала получали правительственные дотации и оплату по контрактам с работодателями. Как правило, стоимость такого контракта была ниже, чем расходы компании на массовые выплаты по сокращениям.

Фирмы вроде «Синкии» сводили между собой рекрутинговые агентства и увольняемых сотрудников, получая за это плату, как и традиционные хедхантеры. Прибыль шла на тренинги для тех, кто не смог трудоустроиться без переобучения.

Искать рабочие места для людей было труднее, чем заполнять вакансии. По мере сужения диапазона профессий релокаторам из фирм, подобных «Синкии», приходилось без конца проводить тестирование жертв увольнений. Оно нужно, чтобы составить (или дополнить) личностный и профессиональный профиль, сформировать исчерпывающие дорожные карты по типам занятости, основанные на последней экономической статистике и социальных трендах.

Получив свежие данные, релокаторы выдавали безработным индивидуальные планы по трудоустройству и щедро сдабривали их дежурным сочувствием. И тут в игру вступала харизма Майкла.

Вводное занятие по истории релокации как отрасли и «Синкии» как одной из успешных в ней фирм подошло к концу. Возник голографический образ самого Майкла Сейвиора[119]. Словно маг, он появился в центре настенного экрана и обратился к Дженнифер и другим участникам тренинга — именно его голос сопровождал кадры в течение лекции.

На вид ему было под пятьдесят, полноватый, с седеющими висками и тщательно подровненными бакенбардами. Темно-синий костюм, достаточно нарядный, но без претензий, сидел идеально.

Впрочем, Дженнифер хотела работать в «Синкии» не потому, что была очарована лично Майклом — ее привлекало реноме этого человека. Она отыскала о нем все, что было в интернете, пересмотрела его выступления и дискуссии на отраслевых конференциях, где специалисты обсуждали применяемые его компанией техники.

Комментаторы всегда удивлялись, как умело и стабильно Сейвиор захватывал и удерживал внимание аудитории, где бы он ни выступал. Возможно, именно эта власть над слушателями и их настроениями и создала ему репутацию лучшего релокатора в стране. Он был чертовски убедителен: тщательно взвешивал и выговаривал слова; интонации, выражение лица, осанка — все так и подталкивало довериться его профессионализму. Он знал, как внушить людям веру в будущее.

Вот бы стать его ассистенткой… Мысль, возникшая как бы сама по себе, показалась Дженнифер настолько безумной, что девушка попыталась усмирить фантазию. Ведь шла всего-навсего первая неделя стажировки в «Синкии».

Держи себя в руках. Дженнифер сделала усилие и переключилась на текущую задачу.

Майкл продолжал вещать, плавая в воздухе и изящно жестикулируя. Окошко с видеофильмом подчинялось взмахам его рук — то увеличивалось, то съеживалось, то наклонялось…

— Как вы убедились, признаки грядущих перемен появились еще до пандемии, а вирус лишь их ускорил. Огромный объем экономических процессов перебазировался в виртуальную сферу из-за необходимости обеспечить физическую дистанцию между людьми. Традиционная сфера услуг, производственные отрасли понесли огромные убытки — у машин оказалось явное преимущество перед людьми.

Пока Майкл витийствовал, в воздухе мелькали изображения-напоминания о различных исчезнувших профессиях: кассиры, водители грузовиков, швеи, рабочие заводов, сборщики фруктов, специалисты по телефонным продажам, одетые с иголочки офисные сотрудники и даже врачи. Образы прокручивались всё быстрее, сливаясь в толпу размытых, едва различимых фигур, словно привидения.

— Конкурентом человечества стал искусственный интеллект, — продолжал Сейвиор. — Он мог круглосуточно учиться и совершенствоваться и не нуждался в отдыхе. Работу, которую еще месяц назад выполняли люди, поручали компьютерам. Гонка длилась уже более 20 лет, но только сейчас все осознали, что происходит. И вот мы наконец подошли к сегодняшнему дню.

Процессу не видно конца — по крайней мере, в обозримом будущем. Сегодня многие наемные работники, подобно индейкам перед Днем благодарения, сидят на ферме и ждут, когда их отправят в духовку. В эту эпоху всеобщей повышенной тревожности острые социальные конфликты стали обычным делом.

Изображение в воздухе развернулось, и появились кадры уличных протестов и ожесточенных стычек. Дженнифер видела такое на каждом тренинге, но привыкнуть и не реагировать все еще не могла. От детей, росших в эпоху «большого спора», скрывали самые страшные проявления этого социального слома.

— Власти попробовали разные смягчающие напряженность тактики: базовый доход, сокращенную рабочую неделю. Но история показала, что такие полумеры лишь продлевают агонию и не в состоянии решить фундаментальную проблему: люди, лишенные чувства удовлетворенности от выполненной работы, погружаются в беспомощность и отчаяние. В отсутствие чувства собственной ценности они прибегают к метафорическим или даже буквальным наркотикам. Кто же может спасти их от страшной судьбы?!

Майкл сделал паузу и с полуулыбкой обвел взглядом лица присутствующих. Вопрос, скорее всего, мог быть и риторическим, но Дженнифер не могла избавиться от ощущения, что оракул смотрит прямо на нее. Она подняла руку.

— О, девушка на первом ряду! Представьтесь, пожалуйста.

— Дженнифер Гринвуд, Сан-Франциско.

— Прекрасно, Дженнифер. Каков же ваш ответ?

— Мы, мы можем, это мы, мистер Сейвиор. Мы воплощаем вашу фамилию, мы и есть спасители!

Прозвучало слегка экзальтированно, все засмеялись, а Дженнифер покраснела. Она говорила искренне и совершенно не пыталась польстить Майклу.

— Спасибо, Дженнифер. Здесь для нас кроется важный урок. Люди — не машины, — он говорил слегка нараспев, — мы сложнее устроены, умеем приспосабливаться и действуем под действием эмоций, а значит, на каждого из вас, релокаторов, ляжет большая ответственность. Вы должны стать максимально компетентными специалистами по перераспределению. Ваша работа, а вернее сказать миссия, — спасать людей. Вам предстоит не только восстанавливать рабочие места, но и реставрировать человеческое достоинство.

ИИ может выполнять многие задачи лучше, чем люди, причем с практически нулевыми финансовыми затратами. Этот простой факт гарантирует огромные прибыли, а также беспрецедентный взрыв безработицы — и эта сокрушительная волна сметет на своем пути и синих, и белых воротничков.

В рассказе «Спаситель рабочих мест» описано самое начало этого процесса и показано будущее, в котором ИИ примет на себя контроль всех сторон нашей жизни — от кредитной аналитики до строительства домов. Он даже начнет нанимать и увольнять нас. Эти трансформации рабочего процесса не только вызовут масштабную безработицу, но и, вероятно, спровоцируют множество взаимосвязанных социальных проблем, включая депрессии, суициды, химические аддикции, усугубление экономического неравенства и общественные беспорядки.

Что же отдельный человек, компания или правительство могут противопоставить таким потенциально катастрофическим последствиям тотальной цифровизации? Какие рабочие места реально под угрозой, а представителям каких профессий можно не беспокоиться? Каково будущее рынка труда? Нужен ли нам новый социальный контакт, чтобы переосмыслить фундаментальные ожидания человека от трудоустройства? Если длинный рабочий день перестанет быть краеугольным фактором экономических благ, чем мы займем высвободившееся время?

Рабочие места, которым ИИ угрожает прежде всего, как правило, связаны с деятельностью, не требующей высокой квалификации. Но такая работа и оплачивается соответствующе. Эта тенденция усугубит существующие социальные проблемы — те, кто и так небогат, станут еще беднее. ИИ обещает небывалую эффективность экономики, но он спровоцирует и глубокие структурные разрывы в канве общества. Сложную динамику можно описать одним вопросом: «Чем станет ИИ для рынка труда — благом или проклятием?»

В рассказе «Спаситель рабочих мест» мы видим воображаемое будущее, где сокращенных работников консультируют и переобучают специальные компании-релокаторы. Люди переезжают в отдаленные регионы или даже решают реальные задачи в виртуальной реальности. Автор размышляет, хватит ли рабочих мест всем желающим? Не начнет ли верхушка общества имитировать рабочие места ради поддержания чувства самореализации у работников, даже если работа ненастоящая? Не станет ли самоцелью стремление обеспечить работой абсолютно всех?

Наступит ли уже при нашей жизни момент, когда рабочие места для людей будут настолько редки, что работа превратится в подобие компьютерной игры-симулятора — способ убить время? Фирма «Омега-Альянс» из рассказа воплощает этот худший сценарий. Но я не думаю, что перспективы настолько безнадежны. Все же высока вероятность того, что виртуальная реальность создаст среду для развития и обучения человеческого персонала.

Чтобы оценить вероятность реализации тревожных предсказаний, давайте рассмотрим, как именно ИИ отнимает у людей работу.

Главное преимущество ИИ — он может находить едва заметные закономерности в огромных массивах данных. Возьмем для примера оценку кредитоспособности. Человек, намереваясь вынести вердикт по заявке на страховку, рассмотрит всего несколько важнейших факторов. Он оценит стоимость имущества, доход, место проживания, должность, еще что-нибудь.

ИИ способен охватить тысячи параметров — от информации из открытых источников, истории покупок, записей в электронной медкарте до данных приложений и устройств, которыми вы пользуетесь (разумеется, с вашего согласия), а это уже даст куда более точную оценку вашей платежеспособности.

Открыли бы вы доступ ИИ к вашим персональным данным, чтобы повысить свои шансы? Как мы убедились в рассказе «Золотой слон», на это пошли бы многие.

Такие алгоритмы без труда заменят на технических должностях белых воротничков, подобно тому как программное обеспечение шаблонно решило офисные задачи, например ведение отчетности и ввод данных. В «Спасителе рабочих мест» мы увидели, как этот процесс затронул широкие сегменты офисных профессий — от бухгалтеров до кредитных аналитиков.

Когда же ИИ объединится с роботизацией, под сокращение начнут подпадать все более сложные специальности. К 2041 году, как следует из рассказа, от работников складов, выполняющих стандартные операции, уже не останется и следа. Сократят и многие строительные профессии — по мере того как строительная сфера перейдет на модульные конструкции и компоненты, легко производимые роботами в больших количествах.

И даже сантехников постепенно не станет — человеческий труд будет нужен лишь для обслуживания старых зданий с запутанными и устаревшими водопроводными системами, требующими индивидуального подхода. Новые здания из стандартных, заранее изготовленных узлов-модулей будут обслуживать роботы.

Как далеко зайдет процесс сокращений и какие отрасли пострадают сильнее всего? В книге «Сверхдержавы искусственного интеллекта»[124] я предположил, что к 2033 году ИИ и автоматизация заберут около 40 процентов наших рабочих мест. Разумеется, это не произойдет в одночасье. Рабочие места будут переходить к ИИ поэтапно, как мы видели в «Спасителе рабочих мест», когда функции отца Дженнифер, кредитного аналитика, постепенно брала на себя РАП — система роботизированной автоматизации процессов.

РАП — это «программный робот», установленный на компьютеры сотрудников и наблюдающий за всем, что они делают. Со временем, анализируя действия миллионов работников, РАП начинает понимает, как выполнять их повторяющиеся задачи. И в определенный момент компания решает, что рациональнее передать весь объем задач от наемных работников этому роботу. Нагрузка на персонал таким образом сокращается, а расходы на зарплаты снижаются.

Представьте себе кадровую службу, в которой трудятся 100 человек. Вероятно, РАП для начала приспособят для просмотра резюме и сличения данных с критериями должности. Допустим, в ручном режиме этим заняты 20 человек, а РАП способен вдвое увеличить их производительность. Значит, можно сократить 10 кадровиков.

Тем временем ИИ продолжит учиться на растущих потоках информации и собственном опыте, что в дальнейшем может привести к сокращению почти всех сотрудников, отвечающих за подбор кандидатов. Нетрудно представить, как РАП справится с электронной перепиской, начнет назначать собеседования, отвечать на обращения, принимать решения о найме и даже брать на себя простейшие переговоры с кандидатами. Переход каждой из этих задач к ИИ лишит работы целые толпы специалистов.

ИИ сможет даже организовывать и проводить первичные собеседования по аналогии с цифровым образом человека Люси, которая оценивала работу Дженнифер в «Спасителе рабочих мест». Это сэкономит бессчетные рабочие часы кадровым службам и сотрудникам, ответственным за наем персонала. Все перечисленное, вероятно, сократит количество сотрудников в нашем воображаемом отделе с сотни до примерно десятка.

А после того как ИИ захватит этот сегмент кадрового функционала, придет очередь тренингов, сопровождения новичков и оценки эффективности. И это только лишь кадровая служба! Когда же она падет под натиском ИИ, за ним последуют финансовая и юридическая службы, маркетологи и служба поддержки клиентов (а может быть, трансформации начнутся везде одновременно).

Эпидемия ковида ускорила цифровизацию рабочих процессов в компаниях, а значит, РАП и прочие технологии станет внедрить еще легче, а это лишь ускорит массовые сокращения. Наступление ИИ будет планомерным и всеобъемлющим.

Оптимисты доказывают: повышение эффективности труда от внедрения новых технологий почти всегда приносит экономическую выгоду, это приводит к созданию новых рабочих мест. Однако ИИ не похож на прочие технологии. Как мы выяснили в предыдущих главах, он отличается универсальностью, поэтому запустит коренные перемены разом в сотнях отраслей и в миллионах рабочих задач — как умственных, так и в физических.

Большая часть технологий не только отнимала работу у людей, но и порождала новые сферы. Вспомним конвейерную линию сборки, благодаря которой автомобильная индустрия перешла с ремесленного ручного труда и выпуска только дорогих машин к стандартным рабочим операциям и массовым дешевым моделям. Однако ИИ открыто ставит целью забрать себе человеческие задачи, просто уничтожая рабочие места.

Индустриальной революции потребовалось больше века, чтобы распространиться за пределы Европы и Соединенных Штатов, а ИИ уже внедряется по всему миру.

Взрывной рост безработицы — лишь малая часть проблем. Растущие толпы незанятых начнут конкурировать за постоянно сдувающийся объем рабочих мест, что приведет к падению зарплат. И без того огромное экономическое неравенство станет еще больше: ИИ будет, с одной стороны, уничтожать миллионы рабочих мест, а с другой — в рекордно короткие сроки баснословно обогащать технологические корпорации.

В свое время экономист Адам Смит обещал, что свободный рынок будет регулировать сам себя (например, высокая безработица собьет зарплаты, а это вынудит снизить цены, а это повысит потребление и вернет экономику в норму), но в эру ИИ многие рыночные механизмы попросту сломаются.

Если пустить процесс на самотек в XXI веке, ИИ может привести к новому формату кастовой системы: богатая верхушка, под ней — относительно тонкая прослойка рабочих с широким спектром навыков, решающих сложные задачи и занятых стратегическим планированием. Далее — креативный класс (как правило, низкооплачиваемый) и самый большой этаж социальной пирамиды — беспомощные массы на грани выживания.

Однако собственно потеря работы не будет так болезненна, как потеря осмысленности бытия. Рабочая этика, рожденная промышленной революцией, внедрила в сознание многих идею: краеугольным камнем личности является профессиональная деятельность. В предстоящие годы люди увидят, как алгоритмы и роботы легко обходят их в задачах, на овладение которыми ушла вся их жизнь.

Молодежь, выросшая с мечтами о карьерном пути в избранной сфере, может столкнуться с суровой реальностью. Людей захлестнет ощущение бессмысленности и бесплодности труда, а это приведет к зашкаливающим уровням химических аддикций, депрессий и суицидов. (В отраслях, затронутых новыми технологиями, например в службах такси, уже наблюдаются всплески самоубийств.) Но что еще хуже — это заставит сомневаться в базовой человеческой ценности и смысле человеческой жизни.

Недавние события продемонстрировали, насколько хрупки наши политические институты и структура общества перед лицом катаклизмов, подобных пандемии. Но экономика ИИ будет, пожалуй, еще разрушительнее, и если позволить ей развиваться самостоятельно, сегодняшние социально-экономические потрясения покажутся детской игрой.

Итак, перспективы невеселые. Что же мы можем сделать?

Огромные проблемы, вызванные ИИ и масштабными сокращениями, вдохнули новую жизнь в старую идею безусловного базового дохода (ББД, или БОД — безусловного основного дохода). ББД предполагает, что правительство предоставляет каждому гражданину пособие вне зависимости от его уровня дохода, наличия работы и профессии. Это пособие можно выплачивать из дополнительного налога, которым будут обложены сверхбогатые компании и отдельные магнаты.

В преддверии президентской кампании 2020 года кандидат Эндрю Янг[125] продвигал собственный вариант базового дохода «Дивиденд свободы». Ключевым пунктом программы была возможность бороться с волной автоматизации на рынке труда. Янг, новичок на политической арене, получил тогда неожиданную поддержку электората.

Янг был одним из лидеров в предвыборной гонке на должность мэра Нью-Йорка в 2021 году. Для избирателей оказалась привлекательной идея базового дохода, а еще Янг прямо заговорил о перспективах экономики. Прочие политики в основном игнорировали эти факты, а рабочие уже начали ощущать неприятную тенденцию.

Я уверен: нужно замедлить рост экономического неравенства, и ББД — простой и действенный шаг в этом направлении. Однако слепая раздача денег чревата расточительностью и неразберихой. Есть предложения по введению дополнительных условий, а также учету потребностей каждого человека. Они могут повысить эффективность этого механизма и улучшить общественную реакцию на него.

Мне всегда нравилась древняя мудрость: «Дайте человеку рыбу, и вы накормите его на день; дайте ему удочку, и вы накормите его на всю жизнь». Вот на что должен быть нацелен базовый доход. Иными словами, выплаты должны помогать рабочим, чьи места под угрозой сокращения, выбрать другую профессию, которая не падет под натиском ИИ в ближайшем будущем, и пройти необходимое обучение.

Если же бросить людей на произвол судьбы, большинство не сориентируется на рынке труда и не поймет, какое занятие сулит относительную надежность. А значит, они не смогут использовать ББД, чтобы совершить нужный поворот на жизненном пути. Если профессиональное переобучение не станет ядром базового дохода, миллиарды людей окажутся в положении кладовщицы из «Спасителя рабочих мест», оказавшейся на работе в парке развлечений, но вскоре снова потерявшей работу.

Чтобы помочь людям, страдающим от сокращений, мы прежде всего должны понять, какие типы деятельности неподвластны ИИ. Тогда мы сможем ускорить создание рабочих мест, устойчивых к упразднению, организовать трудовое консультирование и перенаправление трудовых ресурсов. Таким образом создастся и будет поддерживаться баланс спроса и предложения.

По моим наблюдениям, сейчас ИИ слаб в трех областях, и в 2041 году картина вряд ли изменится.

Что это значит для перспектив рынка труда? Профессии, в которых можно обойтись без живого общения — вроде эксперта по оценке страхового ущерба или специалиста по телефонным продажам, — ИИ, скорее всего, поглотит полностью. Но если деятельность шаблонна, и она непременно требует активного человеческого взаимодействия, то люди и ИИ могут сотрудничать, привнося в нее то, в чем каждый силен.

Например, в будущей системе образования ИИ возьмет на себя проверку однотипных домашних и тестовых экзаменационных заданий, а может, даже и разработку стандартных уроков и блоков задач по узкой теме. При этом человек-учитель сможет углубиться в психологические аспекты преподавания, демонстрировать навыки на своем примере, вести коллективные проекты, развивающие эмоциональный интеллект, и давать индивидуальную обратную связь.

В профессиях, требующих креативного подхода, но социально изолированных, ИИ способен вывести человеческое творчество на новый уровень. Например, ученый может с его помощью ускорить поиск новых лекарств. И наконец, есть профессии, в которых в полной мере задействованы незаменимые человеческие способности — такие, как у бизнес-стратегов Майкла и Эллисон в «Спасителе рабочих мест». Им необходимо как нестандартное мышление, так и развитые социальные навыки. На первой диаграмме можно посмотреть распределение белых воротничков по данным категориям.

Профессии умственного труда на двухмерной диаграмме. Правая верхняя часть больше соответствует человеку, левая нижняя — ИИ

Вторая диаграмма демонстрирует аналогичный разброс для физического труда и профессий у синих воротничков. По вертикальной оси представлены социальные навыки, по горизонтальной — сложность физической работы. Она определяется двумя параметрами: требуемая ловкость и необходимость ориентироваться в незнакомой обстановке.

К примеру, если уход за пожилыми людьми предполагает помощь в принятии душа, здесь нужны как социальные навыки, так и физическая ловкость, а контролеру качества конвейерной сборки не требуется ни то ни другое. Уборка домов включает в себя умение ориентироваться в незнакомых помещениях, а бармен полагается в основном на коммуникабельность. Между тем робот мог бы смешивать напитки лучше большинства барменов-людей.

Многие направления работы окажутся достаточно сложны для ИИ, а значит, они будут более безопасным выбором в качестве карьеры. Однако это не предотвратит катастрофы для легиона работников, чьи рабочие места станут легкой добычей для ИИ.

Так что же еще нам сделать, чтобы помочь реализовать базовую человеческую потребность в осмысленном существовании?

Профессии физического труда на двухмерной диаграмме. Правая верхняя часть больше соответствует человеку, левая нижняя — ИИ

КАК МОЖНО ТРАНСФОРМИРОВАТЬ РАБОЧУЮ СИЛУ?

Чтобы создать больше рабочих мест и лучше подготовить людей к грядущим переменам, я предлагаю стратегию трех П: переобучение, переоценка, перерождение. Она поможет нам справиться с главной проблемой нашего времени: революцией ИИ в экономике.

ПЕРВОЕ П: ПЕРЕОБУЧЕНИЕ

Люди, занятые в исчезающих сферах деятельности, должны узнать о переменах задолго до их наступления и получить поддержку в освоении новой специализации. Хорошая новость: ряд навыков находятся вне сферы досягаемости ИИ. В частности, это стратегическое планирование, креативность, эмоциональное обслуживание и физическая быстрота. Кроме того, новым инструментам, построенным на ИИ, понадобятся люди-операторы. Мы можем помочь работникам освоить эти новые навыки и освоиться с новой структурой рынка труда.

Курсы профессиональной подготовки должны обновить свои учебные программы и сделать акцент на карьерах с высоким показателем устойчивости. Правительствам следует взять на себя инициативу и разработать систему стимулов и субсидий в этой сфере. Слепое разворачивание программы широкой социальной поддержки вроде базового дохода будет малоэффективно.

Корпорации должны взять пример с компании Amazon, создавшей программу Amazon Career Choice — в ее рамках каждому сотруднику выделяется до 48 тысяч долларов на получение высокоприоритетной профессии вроде авиационного техника, компьютерного дизайнера или медсестры.

Даже если бы не случилась пандемия, спрос на профессии, основанные на эмоциональном труде (вроде ухода за пожилыми), все равно бы увеличивался. По прогнозу Всемирной организации здравоохранения (ВОЗ), нам скоро будет не хватать примерно 18 миллионов работников здравоохранения[126]. Без такого количества врачей и медсестер мы не достигнем поставленной ООН цели устойчивого развития: «Здоровье и благополучие для всего населения планеты».

Общество уже давно обесценивает базовые роли человеческого обслуживания как в плане социального престижа, так и в отношении зарплаты. Настало время ликвидировать этот перекос. В новой экономике ИИ профессии эмоционального труда станут краеугольным камнем.

Во время своей президентской кампании Эндрю Янг часто говорил о переосмыслении понятия «оплачиваемая работа». То, что сегодня представляется волонтерством или добровольной заботой о ком-то, может превратиться в полноценную занятость в будущем. Сотрудники станции переливания крови, профессиональные приемные семьи, руководители подростковых коллективов, родители, обучающие детей на дому, или взрослые, которые уходят с работы, чтобы ухаживать за больными или пожилыми членами семьи, тоже могут стать профессионалами.

В эпоху автоматизации и социальных сдвигов неизбежно появится огромный спрос на волонтеров на горячие линии для сокращенных работников, чтобы помогать им справляться с тревогами и проблемами. Эти волонтеры сами могут получать компенсацию и даже стать сотрудниками на полный рабочий день.

ВТОРОЕ П: ПЕРЕОЦЕНКА

Кроме получения профессиональной переподготовки нам понадобится переосмыслить сегодняшние рабочие места. Как в них можно встроить ИИ и в конечном счете достичь симбиоза между ним и человеком? Наиболее распространенные и простые типы такого симбиоза появятся в программных инструментах.

Софт обеспечит взаимозависимость между человеком и компьютером, которая уже произвела революцию в офисной работе. ИИ-помощники смогут генерировать альтернативы, оптимизировать результаты либо выполнять рутинную работу белых воротничков в многочисленных отраслях. Для каждой профессии и каждого занятия будут разработаны специальные ИИ-инструменты — например, генератор молекул для фармацевтической промышленности или фактчекинг в журналистике.

Более глубокая взаимозависимость между ИИ и «человеческим фактором» преобразит многие профессии, а также создаст совершенно новые. Пока ИИ решает шаблонные задачи, люди займутся тем, что требует сочувствия и душевной теплоты. Например, в будущем пациент по-прежнему будет полагаться прежде всего на врача, но тот станет обращаться к диагностике с помощью ИИ, чтобы определить лучший план лечения.

Таким образом, роль доктора сместится в сторону психологической поддержки и он получит больше времени на углубленное общение с пациентом.

Подобно тому как мобильный интернет породил новый тип таксистов, работающих через мобильное приложение, приход ИИ подарит нам такие профессии, которые пока даже трудно себе представить. Первые ласточки уже появились: инженеры по ИИ, специалисты по машинному обучению и по разметке данных, робототехники.

Но мы пока не знаем и не можем предугадать, как будут выглядеть профессии будущего — так же, как в 2001 году не могли предположить, что когда-то появятся водители Uber. Нам стоит внимательно прислушиваться к сигналам, отслеживать появление новых сфер деятельности, информировать людей и давать им возможность получить новую перспективную профессию.

ТРЕТЬЕ П: ПЕРЕРОЖДЕНИЕ

И наконец, при условии грамотной переподготовки и правильных инструментах мы можем ожидать, что ИИ приведет к ренессансу творческого начала, гуманизма и человеческих связей.

В XIV–XVII веках богатые итальянские города и купцы финансировали культуру Возрождения — и были достигнуты новые художественные и научные высоты. У нас есть основания полагать, что ИИ станет катализатором нового расцвета в сфере человеческого самовыражения и творчества. Как и в историческую эпоху Возрождения, люди станут совершенствоваться в своих увлечениях и талантах — у них появится для этого больше свободы и времени.

Художники, скульпторы и фотографы поставят ИИ себе на службу, чтобы создавать, экспериментировать и доводить свои произведения до совершенства. Писатели, журналисты и поэты станут использовать новые технологии для исследований и написания текстов. Ученые смогут эффективнее разрабатывать новые медикаменты.

ИИ полностью обновит систему образования и поможет преподавателям раскрыть способности каждого учащегося. Образование станет пробуждать в людях любознательность, критическое мышление и воображение. Процесс обучения будет основан на деятельности и групповых проектах, развивающих эмоциональный интеллект, — а это потребует взаимодействия не с экраном, а с живым человеком.

Когда я стараюсь представить, как будет выглядеть этот технологический Ренессанс, то на ум приходят пророческие слова второго президента США Джона Адамса: «Я должен изучать политику и военное дело, чтобы у моих сыновей была возможность изучать математику и философию. А им нужно будет учить математику и философию, географию, естественную историю, судостроение и навигацию, торговлю и сельское хозяйство, чтобы дать право своим детям изучать живопись, поэзию, музыку, архитектуру, скульптуру, ткачество и керамику».

ПУТЬ К ЭКОНОМИКЕ ИИ И НОВОМУ СОЦИАЛЬНОМУ КОНТРАКТУ

Чтобы воплотить в жизнь изложенные выше идеи, человечеству придется приложить беспрецедентные усилия.

Волна сокращений, вызванных внедрением ИИ, в конце концов, накроет практически всех, чьи специальности относятся к области начального профессионального обучения. Но без них нельзя — иначе люди не смогут учиться, расти и развиваться в направлении к более сложным и разнообразным типам занятости.

По мере распространения автоматизации нам придется поработать над тем, чтобы у людей все-таки была возможность входа во все профессии, чтобы они могли учиться на практике и карьерно расти в соответствии со своими способностями. Скорее всего, границы между «воображаемой работой», «стажировкой» и «реальной работой» будут неизбежно размываться, а технологии виртуальной реальности этому поспособствуют.

Именно эта тенденция легла в основу партнерства между компаниями «Омега-Альянс» и «Синкия» в рассказе «Спаситель рабочих мест» — там должности начального уровня перестали приносить прибыль, а вместо этого стали инструментом обучения новичков.

Ясно одно: переобучение понадобится огромному количеству работников. Для подобного скачка понадобятся астрономические деньги. Придется перекроить все образование, чтобы выпускать творческих, коммуникабельных и междисциплинарных специалистов. Изменения постигнут и рабочую этику, и права граждан, и круг ответственности корпораций, и функции правительств. Другими словами, нам нужен новый социальный контракт.

К счастью, его не придется создавать с нуля. Многие элементы уже существуют в разных странах. Можно упомянуть корейские образовательные программы для «одаренных и талантливых», начальное образование в Скандинавии, университетские инновации в США (а именно, массовые открытые курсы дистанционного обучения и проект «Минерва»), ремесленную культуру в Швейцарии, японский стандарт обслуживания, впечатляющую традицию волонтерского движения в Канаде, заботу о пожилых членах общества в Китае, а также показатель «валового национального счастья», принятый в Бутане.

Нам нужно делиться опытом и прилагать глобальные усилия, чтобы прийти туда, где новые технологии сбалансированы новыми социально-экономическими институтами.

Где нам найти смелость и мужество, чтобы взяться за эту неподъемную задачу? Мы — поколение, которое унаследует беспрецедентные богатства, создаваемые ИИ, так что на нас ляжет и ответственность за то, чтобы переписать социальный контракт и перенастроить наши экономики для процветания человечества.

А если и этого мало, подумайте о потомках — ИИ освободит человечество от нудной работы, даст возможность следовать зову сердца и подтолкнет к более глубокому осмыслению человеческой сущности.

Под необъятным южным небом раскинулась пустыня. По барханам пробирался черный внедорожник, то поднимаясь в гору, то проваливаясь, вновь выныривая на поверхность, появляясь, словно плавник акулы из морских волн. Мотор натужно ревел, когда машина взбиралась на высоту второго-третьего этажа, оставляя позади облака пыли.

Виктор Соколов вцепился в сиденье. Пальцы его побелели, да и сам он был бледным — его изрядно укачало.

— Тут с автоматической коробкой передач ни за что не проедешь! — подхохатывая, прокричал Халед через плечо. Но громкий голос алжирского водителя был едва слышен из-за оглушительной африканской электронной музыки. Мешала и густая пыль, летящая в лобовое стекло.

На спутниковой карте эти барханы прорезали полуостров Катар с северо-запада на юго-восток. Путешествуя в восточном направлении из сердца пустыни, путешественник видел верблюжьи караваны, заброшенные нефтеперерабатывающие заводы, приливные отмели и ультрасовременные города, подобные миражам, — складывалось впечатление, что процветающая экономика молодой страны волшебным образом самозародилась среди этих пустошей.

— Кстати, могли бы полететь. Вышло бы гораздо быстрее, — Халед указал на видневшееся вдалеке Аравийское море. Целью путешествия был искусственный остров Аль-Саида в северо-восточной части столичной гавани, и большинство посетителей предпочитали добираться туда на яхте или частном самолете.

— Я не тороплюсь, — пожал плечами Виктор.

— Сумасшедшие русские!

Однако пассажир совсем не был похож на типичного напыщенного богача из России. Мешковатый черный спортивный костюм скрывал худобу, а молодое лицо выглядело не по возрасту озабоченным. Но больше Халеда удивляло его полное равнодушие к окружающим пейзажам и достопримечательностям. Он был похож на бедного покупателя, зашедшего в дорогой супермаркет за батоном хлеба.

Совсем недавно Виктор был одним из самых известных в мире предпринимателей до 40 лет. Он создал платформу для киберспорта в Северо-Восточной Азии и продавал права на трансляции по всему миру, а подзаработав таким образом, переключился на криптовалютные спекуляции. Не прошло и десяти лет, как его состояние превысило ВВП некоторых стран. Но на пике успеха Виктор исчез. Его необъяснимое отсутствие породило вал слухов и теорий. Одни предполагали, что правительство хочет захватить его бизнес, другие — что он смертельно болен.

На самом деле Виктору вдруг все стало неинтересно. Ему опротивело быть генеральным директором, бизнес-гением, любимцем публики и гуру успеха — причем всеми сразу. Он жонглировал этими амплуа, ощущая собственную неловкость и неуклюжесть, и каждый шаг приближал его к срыву.

Виктор отправился в свое шикарное поместье на Черноморском побережье. Загул продолжался несколько месяцев — менялись пестрые компании, приезжали и уезжали старые друзья и случайные знакомые. Всем гостям хватало алкоголя и наркотиков. Плотские и прочие развлечения ограничивала лишь фантазия.

Но безудержное и бесконечное веселье не вернуло хозяину дома вкус к жизни. И все резко закончилось, когда один из пьяных гостей утонул в бассейне. Виктор наконец сдался врачам. В реабилитационном центре у него диагностировали тяжелую депрессию.

Он честно старался выполнять назначения, но быстро понял, что прописанные средства — курсы лекарств, групповая психотерапия — помогают лишь на время. Он постоянно будто слышал насмешливый голос: его идеалистичные мечты осчастливить людей, выпустив для них видеоигры, рассыпались в прах из-за его жадности и превратились в банальное зарабатывание денег.

Вернувшись с курса реабилитации, он обнаружил в ворохе скопившейся почты и бумажных рекламных листовок конверт с витиеватой надписью «Аль-Саида» и известным латинским изречением Carpe diem[128]. Внутри было письмо — Виктора приглашали в путешествие «в самый роскошный оплот счастья в мире», расположенный в Катаре, и обещали оплатить все расходы.

Он поспрашивал в своем окружении, но никто не знал подробностей. Аль-Саида — название искусственного острова, недавно намытого и благоустроенного катарскими властями, и это все, что удалось узнать. Может, небольшое приключение встряхнет его и выведет из черной полосы?

Виктор забронировал билет.

В предыдущих главах мы обсудили приложения для глубокого обучения ИИ, предназначенные для оптимизации финансовых параметров, выставления отметок школьникам, оценки состояния здоровья и так далее. Рассказ «Остров счастья» расширяет тему, а точнее, проблему, стоящую перед человечеством: может ли ИИ оптимизировать счастье? Это невероятно сложный и многогранный вопрос.

Неоднозначный финал рассказа предполагает, что в 2041 году ИИ еще не в полной мере справится с повышением нашей удовлетворенности жизнью. Будут некие подвижки, появятся прототипы алгоритмов, но предсказать, когда и как будет решена эта задача, да и случится ли это вообще, невозможно.

Почему это настолько трудно? Мне приходят в голову четыре причины. Но для начала разберемся, что такое счастье.

Его описывают бесчисленные теории, от пирамиды потребностей Абрахама Маслоу до позитивной психологии Мартина Селигмана. В 2041 году дать определение счастью станет еще сложнее. Общество шагнет в своем развитии, в частности благодаря технологиям на ИИ — значит, уровень комфортности жизни большинства, а то и всех людей на Земле, повысится.

Когда базовые потребности человека окажутся удовлетворены, что сможет сделать его счастливым? Споры вокруг этого понятия в 2041 году наверняка еще будут продолжаться.

Вторая трудность заключается в оценке. Само по себе счастье абстрактно, субъективно и индивидуалистично. Как нам измерить его уровень? Как последовательно фиксировать количество? Если нам удастся определиться с этим показателем, то как ИИ сможет корректировать нашу жизнь ради его достижения?

Третья проблема, безусловно, — сама информация. Чтобы разработать мощный ИИ, контролирующий уровень счастья, нам придется собрать невероятно огромные массивы данных, включая самые интимные сведения. Но где их надежно сохранить? В качестве нового стандарта в Европе принят Общий регламент по защите данных (GDPR), его цель — возвращение пользователям контроля над информацией о них самих. Как скажется этот документ на нашей амбициозной задаче по повышению уровня счастья? И есть ли альтернативные подходы?

Наконец, вопрос хранения. Как нам найти для этого действительно надежную организацию? История учит, что это возможно, если интересы самой организации совпадут с интересами пользователей. И как найти или создать такую структуру?

Очевидно, что разработка ИИ, оптимизирующего счастье, крайне затруднительна. Давайте подробнее рассмотрим варианты решения перечисленных проблем.

Давайте на минутку отвлечемся от ИИ и ответим на элементарный вопрос: что такое счастье? В 1943 году Абрахам Маслоу опубликовал свою судьбоносную статью «Теория человеческой мотивации», где впервые заговорил об иерархии потребностей. Ее традиционно изображают в виде пирамиды, как показано на иллюстрации. Она описывает человеческие потребности — от базовых до самых развитых. Чтобы удовлетворить каждую, нужно поступательно продвигаться снизу вверх.

Соответственно, уровни называются «физиология», «безопасность», «любовь и сопричастность», «социальный статус, уважение» и «самореализация».

Иерархия потребностей Маслоу: наше счастье возрастает по мере движения снизу вверх, когда удовлетворены базовые нужды[145]

Сегодня самым важным компонентом счастья для множества людей является материальное благосостояние. А оно главным образом относится к двум нижним уровням пирамиды — тем, где жизнеобеспечение и финансовая стабильность определяются доходами. Некоторые ассоциируют благосостояние с потребностями высокого порядка — властью, авторитетом и компетентностью. Но любопытно, что, согласно исследованиям, погоня за материальными благами не обеспечивает устойчивого ощущения счастья.

Психолог Майкл Айзенк ввел термин «гедонистическая адаптация» (или «гедонистическая беговая дорожка»). Так образно он описал человеческую склонность к постоянному возврату на определенный уровень счастья, невзирая на финансовые и имущественные приобретения (и потери).

Исследования показали: люди, неожиданно для себя получающие существенные денежные средства (например, выигрыш в лотерею), ощущают счастье несколько месяцев, после чего уровень счастья возвращается к исходному (до выигрыша) значению — то есть падает.

Именно поэтому прекраснодушный проект наследного принца Махди из рассказа «Остров счастья» был изначально обречен. Принц хотел построить гедонистический рай на отдельно взятом острове, чтобы гостей осчастливил ИИ. Когда они прибыли на остров, то сразу погрузились в разнообразные удовольствия и наслаждались кратковременными всплесками радости, но с течением времени вернулись на гедонистическую беговую дорожку, чтобы вечно стремиться, но никогда надолго не обрести счастья.

В противоположность гедонистическому счастью (материальное богатство, удовольствия, наслаждение, комфорт), люди, поднявшиеся выше двух нижних уровней пирамиды Маслоу, начинают стремиться к эвдемоническому счастью (развитие, осмысленность, искренность, профессионализм).

Согласно иерархии потребностей Маслоу, только реализовав критерии гедонистического счастья, люди могут перейти к эвдемоническому. Иными словами, стоит нам разобраться с материальными нуждами, как на первый план выступит потребность в эмоциональной близости, взаимной любви, уважении и самореализации. Именно поэтому принцесса Акила хотела заменить гедонистический ИИ Махди собственной — эвдемонической — версией.

В ее алгоритме ИИ может составить для каждого человека персональный набор компонентов, который сделает именно его жизнь более полной, искренней, содержательной и теплой.

В этом контексте и собрали на острове пеструю группу профессионально реализованных гостей. Виктор Соколов до прибытия на Аль-Саиду был успешным предпринимателем, застрявшим на своей гедонистической беговой дорожке. Он достиг богатства, успеха и уважения, и ему стало остро чего-то не хватать. До самореализации ему далеко — он искал утешения в попытках изменить сознание и других гедонистических удовольствиях.

Такие обстоятельства сделали его идеальным кандидатом для эксперимента Акилы — пригласив его на остров, она попыталась улучшить показатели его эвдемонического счастья.

По мере того как ИИ собирал информацию, самому Виктору была дана возможность построить отношения с Акилой. Кроме того, ему создали ситуации, в которых он смог удовлетворить внутреннюю потребность в приключениях и повысить самоуважение. В итоге он получил шанс самореализоваться, применив свои навыки гейм-дизайнера для совершенствования «острова счастья».

Цели Виктора персонализированы, и ИИ, изучив их, заставил события развиваться в нужном направлении. В ситуации, когда Виктор жаждал приключений, другой человек стремился бы к противоположному — например, к умиротворению, и ИИ подобрал бы для него совершенно другие события. К концу истории мы поняли, что Виктор будет счастлив, но не потому, что сколотил огромный капитал и наверняка его еще увеличит.

Виктор станет вести ту жизнь, которую хочет — развивать отношения с окружающими и вносить значимый вклад в развитие общества. Он понял, что счастье — не бинарное понятие, а непрерывный процесс.

Как и другие рассказы в этой книге, действие «Острова счастья» разворачивается в 2041 году. К тому времени государства станут богаче благодаря технологическим достижениям: ИИ возьмет на себя рутинные задачи, а роботизация и 3D-принтеры позволят создавать блага практически без затрат (эту концепцию называют изобилием, и ей будет посвящена глава 10).

Если во главе общества стоят хорошие руководители, то правительство заботится обо всем населении, обеспечивая ему материальный достаток. К 2041 году в развитых странах люди увидят, что их представление о счастье меняется, и население начнет двигаться от гедонистического к эвдемоническому счастью.

КАК ИИ МОЖЕТ ИЗМЕРИТЬ И ПОВЫСИТЬ НАШ УРОВЕНЬ СЧАСТЬЯ?

Чтобы разработать ИИ, максимизирующий счастье, нам нужно научиться его измерять. Мне видятся три способа, как это можно сделать с помощью уже существующих технологий.

Способ первый банален: мы просто спрашиваем людей. В рассказе новоприбывшим гостям предлагают заполнить анкету. Выявить уровень счастья, задавая вопросы и получая ответы — возможно, самый надежный метод, но его минус в том, что опросы можно проводить лишь периодически. Так что нужны и другие источники.

Второй предлагаемый мной способ измерения счастья основан на совершенствующихся технологиях интернета вещей (камеры, микрофоны, датчики движения, сенсоры температуры и влажности и так далее). Мы получаем данные о поведении и непроизвольных реакциях пользователя, выражении лица и голосе, а потом используем технологию аффективных вычислений, чтобы распознать эмоции пользователя.

Наблюдая за человеческими лицами, алгоритмы могут выявлять макро- (длительностью от 0,5 до 4 секунд) и микровыражения (0,03–0,1 секунды). Именно они и выдают наши эмоции. Микровыражения помогают распознать мимолетные чувства, которые человек пытается скрыть. Из-за краткости проявления окружающие люди обычно пропускают эти сигналы, а алгоритмы аффективных вычислений достоверно их распознают.

Другие значимые физические параметры, которые выдавали эмоции гостя Аль-Саиды, — оттенок кожи разных участков лица, связанный с локализацией кровотока, а также высота, темп, интонации и стабильность голоса. Вдобавок учитывались дрожание рук, ширина зрачка, увлажнение глаз слезами, скорость мигания, влажность кожи (еще до того, как человек вспотеет) и изменения температуры тела. Все это — ценные индикаторы душевного состояния человека.

С таким количеством параметров ИИ сможет различать человеческие эмоции (радость, грусть, отвращение, удивление, злость и страх) гораздо точнее, чем люди. Это распознавание станет еще совершеннее, когда накопится объем наблюдений. К примеру, в рассказе ИИ следил, как между Виктором и принцессой Акилой росло взаимное чувство, и начислил им баллы по показателю «любовь и сопричастность» из пирамиды Маслоу.

Способность ИИ распознавать человеческие эмоции уже сегодня превышает проницательность среднего наблюдателя-человека, а к 2041 году разрыв усилится. Однако прошу обратить внимание: эта способность — лишь функция ИИ, она не означает, что он будет убедительно демонстрировать эмоции или что-то чувствовать.

Третий способ измерить счастье — непрерывно замерять уровень гормонов, которые вырабатываются в организме при тех или иных ощущениях. В рассказе посетители острова носят кожные биосенсорные мембраны с матрицей из микроигл и электрохимическим сенсором, что позволяет следить за выработкой гормонов в режиме реального времени.

Так, серотонин коррелирует с ощущением благополучия и уверенности, дофамин — с удовольствием и мотивацией, окситоцин — с любовью и доверием, эндорфины — с удовольствием и расслаблением, а адреналин — с энергичностью.

Мониторя эти показатели, ИИ острова отмечал, какие занятия и параметры среды совпадали с ощущением счастья, и на основании этих наблюдений оттачивал дальнейшее его распознавание. Затем робот-ассистент Карин давал Виктору рекомендации и предлагал то или иное занятие, которое могло бы привести к повышению уровня счастья (достижения, саморазвитие, отношения) либо к его снижению (грусть, разочарование, злость).

К финалу истории, когда Виктору разрешили покинуть остров и отправиться домой, эксперимент был еще далек от завершения. ИИ знал, что при таком развитии событий Виктор выберет побег — ведь он любил приключения, что его дальнейшие действия не только вернут его на остров, но и сделают счастливее.

Чтобы создать научно обоснованный и стабильный механизм оптимизации счастья, исследователям понадобится решить непростые задачи.

Во-первых, от каких параметров отталкиваться при измерении счастья? У нас есть гипотезы (они изложены выше), но еще мы знаем, что состояние психики человека определяется пока не изученным набором из электрических (мозговые волны), органических (строение мозга) и химических (гормоны) компонентов, действующих синхронно.

Мы частично описали работу гормонов, и это очень важные взаимосвязи, но их определенно недостаточно. Необходимо добавить к ним и электрические, и органические измерения. В будущем нам понадобится считывать все три группы компонентов и расшифровать, как каждый из них влияет на уровень счастья и как они взаимодействуют между собой, — только так можно будет качественно обучать ИИ.

Во-вторых, достижение высоких уровней пирамиды Маслоу предполагает не моменты мимолетного наслаждения, а скорее долгосрочный поиск смысла и цели жизни. Обучение ИИ на протяженных отрезках времени представляет трудность — он не знает, чем вызван текущий скачок радости. А причины могут быть какие угодно — сегодняшнее происшествие, событие прошлой недели, прошлого года или всё одновременно.

С подобной проблемой сейчас сталкиваются алгоритмы соцсетей: как Facebook’у настроить новостную ленту на личностное развитие пользователя, а не на стимулирование сиюминутных рекламных кликов? Если человек демонстрирует личностный рост — как ИИ Facebook’а поймет, какой из компонентов алгоритма этому поспособствовал? Нам придется создать новые алгоритмы ИИ, чтобы в фоновом шуме распознать стратегически полезные отклики.

К 2041 году мы еще не поймем полностью, чем именно определяется наше душевное состояние. Не узнаем мы и того, как работает долгосрочное эвдемоническое счастье. Но к тому времени способность ИИ считывать человеческие эмоции должна вырасти, существенно превысив человеческую проницательность. Можно ожидать появления программных прототипов для оптимизации счастья на верхних уровнях пирамиды потребностей.

ДАННЫЕ ДЛЯ ИИ: ДЕЦЕНТРАЛИЗАЦИЯ ПРОТИВ ЦЕНТРАЛИЗАЦИИ

Сбор данных — необходимый шаг в разработке эффективного ИИ. Это сегодня делают гигантские интернет-компании. Google знает всю историю вашего поиска, каждое место, где вы побывали (через службу аналитики Android и Google Maps, если вы не отключили историю геолокации), каждое просмотренное вами видео и посланный мейл, каждый звонок через Google Voice и каждую встречу, внесенную в Google Calendar. На массиве этих данных Google подбирает услуги для большего удобства пользователей.

Google и Facebook имеют доступ к такому количеству информации, что они могут весьма достоверно предположить ваше местожительство, национальность, сексуальную ориентацию и то, что вас возмущает. Они могут определить, что вы скрываете от родных и от налоговой службы, знают о вашей алкогольной аддикции или, скажем, о супружеской измене. Эти предположения, безусловно, далеко не стопроцентны, но сама мысль о том, что компании располагают инструментами, позволяющими делать такие выводы, уже вызывает дискомфорт.

Опасения относительно безопасности привели нас к дискуссиям о роли правительства в этом вопросе. Разные страны, начиная с США и заканчивая Китаем, пытаются разобраться, как далеко зашла монополизация интернет-пространства и как применять антимонопольные законы для ограничения власти ИТ-гигантов.

Европа проснулась раньше — Европейский союз решил заложить фундамент нового порядка в отрасли, приняв GDPR — по словам европейских законодателей, «самый жесткий закон в сфере безопасности и приватности». Другие страны присматриваются к документу, чтобы на его основе выстроить собственную нормативную базу. GDPR — огромный шаг вперед, он выставил хорошую планку.

В GDPR заложено представление, что пользователь должен вернуть себе контроль над данными и самостоятельно решать, кто будет их видеть и использовать, вплоть до извлечения прибыли из предоставления доступа к ним. За первые несколько лет внедрения GDPR уже состоялись подвижки.

Закону удалось просветить широкие слои пользователей относительно рисков, связанных с персональными данными. Кроме того, он стал требовать от сайтов и приложений по всему миру пересмотреть свою работу, чтобы свести к минимуму преступное, некомпетентное или просто халатное отношение к пользовательским данным. Компаниям, нарушающим GDPR, грозят большие штрафы[146].

Однако не все детали этого закона имеют практическую ценность, и можно сказать, что в общем он мешает развитию ИИ. В нынешней форме GDPR обязывает компании быть прозрачными перед людьми в использовании персональных данных.

От пользователя требуется четкое согласие на каждое действие с ними — чтобы компания могла приступить к их сбору (например, вы даете Facebook’у свой адрес только для доставки онлайн-покупок). Данные должны быть защищены от несанкционированного доступа, утечек или кражи. У автоматических операций должно быть обоснование, а по требованию пользователя должен подключаться специалист-человек.

Я уверен, что принятие GDPR имеет благородные намерения — обеспечить прозрачность, подотчетность и конфиденциальность оборота персональных данных. Однако внедрение регламента, описанное выше, вряд ли способствует достижению этого, а то и может помешать. Так, сложно ограничить целевое использование каждого фрагмента данных, поскольку ИИ развивается непредсказуемо, и предусмотреть все цели использования данных в самом начале их сбора попросту не представляется возможным.

Скажем, сохранение почтовой службой Gmail всей вашей электронной переписки позволяет вам легко найти нужные письма. Но Gmail разработал новую функцию автозаполнения, и ее потребовалось обучать на прежних данных. Нецелесообразно рассчитывать, что пользователи поймут условия обработки данных каждой компанией, когда им придется в очередной раз подтверждать свое согласие. (Сколько раз вы натыкались на всплывающее на сайте окно, перекрывающее текст, и просто жали «ОК», не вникая в смысл уведомления?)

GDPR требует, чтобы пользователь имел право обратиться к специалисту-человеку, если переживает о том, как ИИ использует его данные. Но это может вызывать неразбериху — ведь люди не так хороши в принятии решений, как ИИ. И наконец, цель снижения количества удерживаемых данных, заложенная в GDPR, серьезно ограничивает развитие систем на ИИ.

Если задуматься над этим вопросом в отрыве от контекста, большинство людей захотят вернуть себе права на распоряжение своими личными данными — и для этого у них есть GDPR и прочие нормативно-правовые акты. Но взглянем на проблему через призму функциональности ИИ-программ и приложений. Если отнять у них львиную долю данных, они заметно поглупеют либо вовсе перестанут работать.

В рассказе «Остров счастья» мы исходим из того, что, выплескивая воду (минимизируя риски, связанные с сохранением приватности), можно случайно выплеснуть и младенца (парализовать сервисы на ИИ). Вместо этого можно вывести технологии на более зрелый уровень, когда ИИ станет можно доверять, — тогда мы без опасений позволим ему хранить наши данные, однако сможем запрещать использовать их по его (ИИ) усмотрению.

Если бы этот «доверенный ИИ» знал о нас все, что известно Google, Facebook и Amazon и даже больше, наши возможности намного превысили бы функционал сегодняшних интернет-сервисов. Множество разрозненных хранилищ, где содержатся наши данные, сольются в гигантский информационный океан. Наш «доверенный ИИ» (назовем его Остров) узнает о нас все и сможет сам отвечать на запросы данных от третьих сторон.

Например, когда музыкальный сервис Spotify запросит наше местоположение, Остров оценит, насколько польза от пользования сервисом превышает риск предоставления ему доступа к нашим данным. Он будет исходить из информации о наших ценностях и предпочтениях, а также о компании, делающей запрос. А нас это избавит от надоедливых и непонятных всплывающих окон, где приходится что-то подтверждать.

Остров станет не только высокоэффективным ИИ-помощником, но и защитником наших данных и посредником при взаимодействии с любыми приложениями. Можно сказать, это будет новый социальный контракт в отношении личных данных.

КОМУ МОЖНО ДОВЕРИТЬ ХРАНЕНИЕ НАШИХ ДАННЫХ?

Как нам убедиться, что Острову можно доверить всю нашу информацию? Если вызывают подозрение даже Google и Facebook, что уж говорить об Острове! Он ведь соберет куда больше данных, чем они. Кроме того, основываясь на этой информации, можно с высокой точностью предугадывать наше внутреннее состояние и эмоции, даже когда мы стараемся их скрыть. Так что же нам делать?

Фундаментальная проблема заключается в том, что когда интересы владельца ИИ и его пользователей расходятся, последние оказываются в проигрыше. Мы видели это в предыдущих главах («Золотой слон», «Боги за масками», «Квантовый геноцид» и «Спаситель рабочих мест»); кроме того, мы читаем об этом везде, где пишут о Google и Facebook.

Корень проблемы в том, что ИИ, на котором работают эти корпорации, настроен на явную коммерческую выгоду — ведь это частные компании, их акции торгуются на фондовой бирже, поэтому они приоретизируют цели, которые не интересны пользователям. Просить эти компании поменять их приоритеты на наши интересы бессмысленно — их прибыли сразу обвалятся.

Желая «отдать ИИ в хорошие руки», нам нужно искать структуру, над которой не довлеет коммерческая выгода. Тогда она естественным образом, без сопротивления, поставит во главу угла наши интересы.

Что же это за организация, интересы которой совпадают с пользовательскими? В «Острове счастья» мы видим, возможно, идеализированный пример великодушной монархии в небольшом богатом государстве. В XXI веке такой образ может показаться архаичным, но прообразом правителя в этом рассказе стал Фридрих Великий, прусский король[147], который говорил: «Главное мое занятие — это <…> просвещать умы, взращивать нравственность и давать людям такое счастье, которое пристало человеческой природе и какое позволяют средства, имеющиеся в моем распоряжении».

Приверженец просвещенного абсолютизма, Фридрих Великий полагал, что в его власти улучшить жизни подданных. Щедрый монарх имеет большой кредит доверия от своего населения и должен быть смелым, чтобы провести серьезные реформы. В XVII и XVIII веках именно просвещенные монархи оказались ключевыми фигурами, благодаря которым наступила эпоха Просвещения.

Нам тоже необходима подходящая фигура — катализатор для появления мощного ИИ, собирающего массивы данных. И совсем уж не так невероятно, чтобы этой фигурой оказалась королевская династия с благотворительными склонностями. Я также прогнозирую, что в следующие 20 лет небольшие страны под управлением популярных в народе сильных лидеров станут наиболее вероятными кандидатами на внедрение революционных технологий.

Но можно представить себе и другие варианты. Как насчет современного цифрового сообщества единомышленников, готовых пожертвовать свои личные данные на благо всего общества? Остальные члены социума смогут убедиться, как защищены и насколько корректно используются эти данные.

Уже разрабатываются научные проекты, экспериментирующие с подобными механизмами — на уровне университетских сотрудников, персонала и студентов.

Другая возможность — разработка некоммерческого ИИ наподобие «Википедии» или Движения свободного программного обеспечения[148]. Наконец, кто-то может разработать децентрализованную блокчейн-сеть, которую не контролирует и на которую не может повлиять ни один человек либо организация (как на биткойн).

Хранение личных данных в распределенной сети сложнее реализовать, чем хранение биткойнов, но, возможно, и эту задачу со временем удастся решить.

Как бы там ни было, у каждой организации всех названных типов гораздо больше шансов соответствовать интересам пользователей, чем у компаний, чьи акции торгуются на бирже.

Постепенно могут появиться технологические решения, которые позволят усидеть на двух стульях — и получить мощный ИИ, и защитить личные данные даже от их владельца.

Решения в этом направлении ищет новая отрасль — «конфиденциальные вычисления». Например, федеративное обучение представляет собой основанную на ИИ методику, которая обучает его на множестве децентрализованных устройств, содержащих локальные образцы данных. По эффективности она приближается к централизованному обучению, но не дает видеть данные центральному владельцу ИИ.

Другой метод, известный как гомоморфное шифрование, кодирует информацию таким образом, что владелец ИИ не в состоянии ее расшифровать. ИИ обучается непосредственно на зашифрованных данных. Такой метод еще не работает в случае глубокого обучения, но можно ожидать новых прорывов и в этой области.

И наконец, доверенная среда исполнения (TEE) считывает зашифрованные и защищенные данные, а затем обрабатывает их для ИИ внутри процессора с гарантией того, что они не покидают его в незашифрованном виде… (Правда, существует риск, что компания-изготовитель оставит для себя лазейку.)

Разумеется, у каждой из описанных технологий имеются слабые места и проблемы реализации, мешающие развернуть полноценный ИИ с надежной защитой личных данных. Но в следующие двадцать лет внимание к информационной безопасности будет расти, и я предвижу существенный прогресс в применении конфиденциальных вычислений в деле сохранности персональных данных.

Как мы видим из рассказа, к 2041 году конфиденциальные вычисления еще не охватят весь мир, однако технологии уже достаточно разовьются, чтобы сюжет «Острова счастья» мог воплотиться в жизни.

Скептиков заверю: предлагаемые варианты — не панацея, а лишь возможные пути, которые, по моему мнению, нужно изучить параллельно с внедрением GDPR и другими методами. У населения Земли еще крайне мало опыта взаимодействия с таким мощным инструментом, как ИИ. Задача защиты колоссального количества данных выглядит неподъемной, поэтому нам необходимо широко и непредвзято рассматривать все возможные опции. Поддержание стабильности и обдуманные эксперименты должны быть тщательно сбалансированы.

Если же вы продолжаете считать, что идея передача наших самых важных сведений третьим лицам абсурдна, вспомните: ценности многие предпочитают хранить в надежном месте, например в банковской ячейке. Свои акции мы доверяем брокерским компаниям, а биткойны — интернету. Почему бы не поступить так же и с личными данными?

Если бы мы могли отдать всю персональную информацию надежной организации, интересы которой совпадают с нашими, то насладились бы самым производительным ИИ и смогли бы выстроить долговременное счастье. Нам не пришлось бы задумываться, предоставлять или нет свои данные мириадам приложений, отпали бы тревоги о мошенничестве и злоупотреблениях.

Кто бы ни стоял за этой доверенной организацией — монарх-филантроп, Движение свободного программного обеспечения или децентрализованная блокчейн-система, — плоды работы мощного ИИ будут необычайно вкусны и станут подпитывать надежду, что новые технологические достижения постоянно повышают безопасность наших данных.

Кира остановилась в просторной прихожей и огляделась. А здесь уютно! Ветки кораллов, похожие на оленьи рога, красовались на столике-консоли из переработанной древесины, рядом — образцы примитивного искусства, традиционные изделия аборигенов.

Кира медлила, не решаясь отойти от своих чемоданов. Хозяйка запаздывала, и Кира осторожно заглянула в прилегающие к холлу комнаты. Ее внимание привлекли фотографии на стенах. Почти все они так или иначе связаны с морем, на многих была темноволосая женщина с живой улыбкой. Она, смеясь, позировала с разными морскими обитателями в руках на палубе исследовательского судна в Коралловом море.

Кира догадалась: это Джоанна Кэмпбелл в молодости. Известная на весь мир специалист по морской экологии всю жизнь изучала коралловые рифы и способы их сохранения. Теперь ей 71, и она осталась совсем одна — ни детей, ни родственников. Джоанна подумала и переехала в высокотехнологичный жилой микрорайон для пенсионеров в пригороде Брисбена — в прихожей этого дома теперь и стояла Кира.

Официально район назывался «Солнечная деревня», но местные прозвали его «Технодеревня». Каждый дом спроектировал искусственный интеллект, а построили роботы — все модули изготовили заранее. Собрав массив данных по пожилому населению Брисбена, искусственный интеллект так рассчитал каждую дверь, окно, шкаф, все приборы и даже ванную с туалетом, что пространство использовалось максимально эффективно.

Датчики следили за привычками и физиологическими показателями жителей Солнечной деревни, искусственный интеллект ежедневно предлагал им персонифицированные рекомендации.

Киру особенно заинтересовал яркий образчик искусства аборигенов, выполненный в стиле общины папунья: причудливые психоделические узоры из множества разноцветных точек. Она завороженно стояла, вспоминая свой дом в Алис-Спрингс[149] — небольшом городке в самом центре Австралии, притулившемся между хребтов горной цепи Макдоннелл. Кира достала XR-очки и просканировала картину, сохранила информацию в папку «Дом».

— Всем нравится. Правда, красиво? — раздался за спиной скрипучий голос.

Кира чуть не подпрыгнула.

Это была Джоанна Кэмпбелл, тихо подъехавшая в электрическом кресле-коляске. Худая старушка с копной серебряных волос вроде бы совсем не походила на крепкую женщину на фотографиях. Но глаза — Кира заметила почти сразу — все такие же яркие и пронзительные. Хозяйка разглядывала гостью.

— Да, очень красиво. Здравствуйте, мисс Кэмпбелл, я Кира. Управляющая компания обещала вас предупредить, что я сегодня приду.

— Ну, барышня, что вы сами зайдете, меня никто не предупреждал. А может, мне обращаться к вам «деточка»? Никогда не поймешь, сколько нынешним молодым лет на самом деле!

Кира смутилась.

— Я прошу прощения! — начала оправдываться она. — Я звонила в дверь несколько раз, никто не отозвался, и я зашла по паролю, который мне дали в управляющей компании.

— Все равно не понимаю, почему они не прислали обычного робота? — пробормотала Джоанна. — Прошлый соцработник тоже вечно глазел на мои картины. Я видела, какой жадностью загорались его глазенки, и долго он у меня не продержался. Вы же не вздумаете шалить с моими коллекциями, дорогуша? Как там вас?

— Кира, — застенчиво ответила девушка. — Конечно, ничего такого не будет. Моя задача — заботиться о вас, мисс Кэмпбелл.

— Ха! Вот так и происходит, когда стареешь — остается полагаться на чужую милость, — в голосе старухи звучало неприкрытое презрение. — И надолго вы сюда?

— Меня назначил браслет. Думаю, что пробуду… — Кира подняла левую руку, глянула на дисплей гибкого умного браслета и продемонстрировала Джоанне, как он переливается цветными огоньками. — Пока Джукуррпа[150] не покажет, что мое задание выполнено, — она старательно подбирала слова, чтобы не разозлить хозяйку.

— Прошу вас, говорите на нормальном английском, — поморщилась Джоанна.

— Ой! Джукуррпа на языке варлпири означает «мечты». Это, знаете, из мифологии коренного населения. Зря правительство назвало эту программу аборигенным словом, лицемерие какое-то. — Кира не знала, что сказать, поэтому говорила первое, что в голову пришло. И вдруг она просияла. — Я столько о вас слышала! Вы потрясающая!

На самом деле, медицинский куратор в управляющей компании предупредил Киру, что с Джоанной Кэмпбелл придется несладко. Все предыдущие соцработники уходили, потому что не выдерживали ее крутого нрава.

— Ах да, «мечтательный проект», точно, припоминаю. Забавное название. Мне про него рассказывали много раз, но память… — комплимента она будто и не услышала. — И сколько вам платят, чтобы вы со мной нянчились?

— В проекте «Джукуррпа» платят не деньги, а мулу.

— Опять ваши молодежные словечки, — оборвала ее Джоанна. — Может, вы и День Австралии не отмечаете?

— М-м-м, — неловко промычала Кира. — У 26 января неоднозначная история[151]. Десять лет назад праздник перенесли, мы теперь отмечаем 8 мая. Так даже удобнее, правда?

— Абсурд, — Джоанна развернула кресло-коляску и покатила в гостиную. Кира застыла, глядя ей вслед. Джоанна двигалась быстро и через минуту позвала девушку с другого конца дома.

— Кала! — перепутала имя хозяйка. — Найди мне очки. Я без них не могу читать.

— Иду! — крикнула Кира, глубоко вдохнула и поспешила на зов.

Люди давно пытаются представить себе тот день, когда никому не придется работать ради куска хлеба и все станет бесплатным. В рассказе «Мечты об изобилии» показано общество, для которого этот день уже не за горами: в будущем образца 2041 года произойдет энергетическая и промышленная революция, повсеместно будут внедрены ИИ и автоматизация.

Итак, ИИ и другие технологии ведут к четвертой промышленной революции[156] и прорыву в чистой энергетике. Он поможет справиться с неблагоприятным для человечества изменением климата и радикально удешевит энергию, питающую нашу цивилизацию. Мы приближаемся к полной перестройке мировой энергетической инфраструктуры. Будут усовершенствованы технологии солнечной и ветроэнергетики, а также разработаны новые типы батарей.

Стоимость энергии устремится вниз, а значит, упадут цены и на водоснабжение, сырье, производство, вычисления, логистику — словом, подешевеют все отрасли, где электричество играет значимую роль. Постепенно перестанут использоваться природные полезные ископаемые или токсичные материалы (нефть, минералы, некоторые химикаты). Сырье для промышленности в массе своей станет принципиально иным — это будут уже не вещества, а отдельные молекулы или даже элементарные частицы (фотоны). И, наконец, как ясно из описанного в главах с 1 по 9, ИИ и автоматизация чрезвычайно удешевят рутинный человеческий труд.

Когда стоимость энергии, материалов и производства стремительно сокращается, впереди начинает маячить изобилие. Я выбрал это слово, чтобы обозначить новый этап развития человечества. Всем людям в это время станет комфортно жить — в нынешнем понимании этого слова: все дешево или бесплатно, а работать не нужно. Некоторые, впрочем, уже сейчас называют это «постдефицит» или «избыток» (что звучит не так красиво, как «комфорт»).

В рассказе «Мечты об изобилии» показано общество, которое на первый взгляд обладает всеми составляющими райской утопии, в котором удовлетворены утилитарные потребности каждого, а значит, можно не отвлекаться на быт и полностью отдаться достижению высшей цели. Но, оказывается, когда основные проблемы решены, на освободившемся месте возникают новые.

В частности, в рассказе показана реакция молодежи на исчезновение привычного якоря — надежной карьеры, которая позволяет самостоятельно выстроить благополучную жизнь. Отсутствие новых экономических моделей создает множество препятствий на пути к утопии — старые перестали работать, поскольку были созданы в контексте дефицита, а не изобилия. Когда почти все бесплатно, какой смысл в деньгах? Однако люди привыкли добиваться всего своим трудом — в этом отчасти и был смысл их жизни. И какое будущее ожидает экономические институты и корпорации?

В этой главе я опишу революционные изменения в энергетике и промышленности и обеспечение топливом и сырьем производства нового типа — на автоматизации и ИИ. Последнее сделает изобилие неизбежным, и мы обсудим, как оно обесценит экономические модели и институты, а также деньги. Затем я объясню, во что могут эволюционировать деньги и какова концепция новых валют, фигурирующих в рассказе. И, наконец, я рассажу, почему для завершения книги мы выбрали идею изобилия, а не сингулярности, которая, по мнению некоторых футурологов, станет ключевой в 2040-х годах.

Ну и напоследок — несколько глобальных идей о будущем человечества, которые вы сможете осмыслить самостоятельно.

Эта книга появилась по счастливому стечению обстоятельств. Нас, авторов, свели Линь Цилин и Анита Хуан. У них возникла идея выпустить книгу в жанре научной фантастики, которая совмещала бы художественный вымысел и популяризацию науки, ради того чтобы исследовать будущее.

Вскоре Кай-Фу встретился с Маркусом Доле, главой издательства Penguin Random House, — следом за неожиданным знакомством с Лори Эрламом на одной конференции. Маркус сразу же загорелся идеей книги и познакомил нас с потрясающими Дэвидом Дрейком и Полом Уитлэтчем из издательства Crown, входящего в Penguin Random House.

На этом удачные совпадения не закончились: Кай-Фу и Лори выкроили время и пересеклись с Дэвидом и Полом в Нью-Йорке — как раз перед тем, как закрыли границы из-за пандемии. И наконец, вынужденно сидя по домам в 2020 году, мы смогли в тишине и уединении закончить книгу, затратив на этот титанический труд всего лишь год.

Из счастливых случайностей складываются новые возможности, но только люди могут реализовать этот потенциал. Мы глубоко признательны Цилин, Аните, Маркусу, Дэвиду и Полу за их творческий подход, энтузиазм и тщательность, благодаря которым эта книга увидела свет. Кроме того, мы хотим поблагодарить других сотрудников издательств Crown и Currency, включая Кэти Берри, Джиллиан Блейк, Эннсли Роснер, Дайану Мессина, Джулию Сеплер, Эмили Хоталинг, Сару Брейвогел, Роберта Сиека, Эдвина Васкеса, Мишель Джузеффи, Дженнифер Бак, Салли Франклин и Эллисон Фокс.

Создание этой книги потребовало гигантских усилий, ведь изначально Чэнь Цюфань написал свои рассказы на китайском, а комментарии Кай-Фу были на английском. Состыковать и согласовать части книги, написанные на разных языках, было непросто, и мы благодарим наших талантливых переводчиков: Эмили Цзинь, Энди Дудака, Блейка Стоун-Бэнкса и Бенджамина Чжоу.

В лице Пола Уитлэтча мы нашли скрупулезного и неутомимого редактора, который и сам является исключительным писателем. Его многогранность позволила ему работать с текстом гораздо глубже, чем требовалось по формальным обязанностям, и он помог сделать книгу последовательной и увлекательной.

Мы также благодарны техническим специалистам, которые отвечали на наши вопросы и помогали описать различные технологии, раскрываемые в книге. Это профессор Сяо Вэй, профессор Ни Цзяньцюань, профессор Ма Вэйсюн, доктор Тони Хань, доктор Хэ Сяофэй, доктор Ван Цзяпин, доктор Ши Чэнси, доктор Чзан Тун, Ван Юнган и другие коллеги из Sinovation Ventures, включая Мелоди Сюй.

Мы также хотим поблагодарить всю команду Erlam&Co — Майка Харви, Эми Холмс, Риз Дюрден, Дэниела Орчарда, Александру Шиль и Хелен Гловер — за чтение многочисленных черновиков и развернутые предложения по улучшению этой книги. В частности, мы в большом долгу перед Скоттом Мередитом, сделавшим объемные правки, оставившим проницательные комментарии и подавшим замечательные идеи для нескольких рассказов.

Напоследок мы хотим поблагодарить всех писателей научной фантастики из прошлого и настоящего, чье коллективное воображение легло в основу «ИИ-2041», а также всех ученых, разрабатывающих искусственный интеллект, создающих невероятные технологии, которые стирают границу между реальностью и магией.

Кай-Фу Ли — генеральный директор инновационного фонда Sinovation Ventures и автор бестселлера «Сверхдержавы искусственного интеллекта»[168]. Ранее Ли занимал пост главы Google China, был топ-менеджером в Microsoft, SGI и Apple, сопредседателем совета по искусственному интеллекту на Всемирном экономическом форуме.

Кай-Фу Ли окончил Колумбийский университет и защитил диссертацию в Университете Карнеги — Меллона. Среди его многочисленных достижений — включение в рейтинги Time 100 и Wired 25. Живет в Пекине.

Все книги по бизнесу и маркетингу: mif.to/business mif.to/marketing

Дартмутский летний исследовательский проект по искусственному интеллекту (1956) — основополагающее событие в области ИИ как научной области. Прим. ред.

Британская компания, занимается искусственным интеллектом. Основана в Лондоне в 2010 году под названием DeepMind Technologies; в 2014-м приобретена Google. Прим. ред.

На момент этого матча Ли Седоль занимал 2-е место по количеству выигранных чемпионатов мира; считался 4-м игроком го в мире (официального рейтинга нет). Прим. ред.

Продолжение популярной игры DotA; киберспортивная дисциплина с миллионными призовыми фондами профессиональных турниров. Прим. ред.

Ли Кай-Фу. Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. Москва: Манн, Иванов и Фербер, 2019. Прим. ред.

Способность компьютерной системы интерпретировать данные таким же образом, каким люди используют свои чувства для связи с окружающим миром. Прим. ред.

На английском книга вышла в сентябре 2021 года. Прим. ред.

Междисциплинарная группа «ультратехнологов». Создана в Токио в 2001 году. Состоит из художников, программистов, инженеров, компьютерных аниматоров, математиков и архитекторов, создает произведения искусства с использованием цифровых технологий. Прим. ред.

Роман М. Шелли «Франкенштейн, или Современный Прометей» (1818). Прим. ред.

«Звездные войны» (с 1979 года по настоящее время), «Звездный путь» (с 1966 года по настоящее время) — медиафраншизы; «Космическая одиссея 2001 года» — культовый научно-фантастический фильм (режиссер С. Кубрик, 1968). Прим. ред.

«Нейромант» (1984) — каноническое произведение У. Гибсона в жанре киберпанк. Первый роман трилогии «Киберпространство». Прим. ред.

X Development LLC. (ранее — Google X) — американская компания в составе холдинга Alphabet, основана в 2010 году. С 2015 года — независимая компания X в составе холдинга Alphabet. Hyperloop — проект вакуумного поезда Илона Маска (2013), до конца не реализован. Прим. ред.

Все рассказы в этой книге Чэнь Цюфань написал на китайском, и для англоязычного издания их пришлось переводить. Примечания и комментарии Кай-Фу Ли изначально были на английском. Прим. ред.

Индийская соцсеть, основана в 2015 году; более 250 миллионов активных пользователей в месяц. Для сравнения: у российской сети «ВКонтакте» — 73 миллиона в месяц (на весну 2021 года). Прим. ред.

Художница индийского происхождения, родилась в 1969 году в Лондоне, в 1993-м, получив степень бакалавра, переехала в Индию. В 2041 году ей исполнится 72 года. Прим. ред.

Ganesh Insurance («Страхование Ганеша») — реально существующая низкорейтинговая (сегодня) страховая компания; Life Insurance Corporation of India («Корпорация страхования жизни Индии») — крупная страховая компания, на рынке с 1956 года. Прим. ред.

Aadhaar — реально существующая сегодня и крупнейшая в мире система биометрического удостоверения личности. Граждане Индии и иностранцы-резиденты (при соблюдении некоторых условий) сейчас могут добровольно получить 12-значный уникальный идентификационный номер на основе биометрических и демографических данных. Проект запущен в 2009 году. Прим. ред.

Национализированная компания общего страхования, основана в 1919 году. Прим. ред.

Имперский колледж Лондона, до 2007 года входил в состав Лондонского университета. Основан в 1907 году путем слияния нескольких еще более старых учебных заведений. Прим. ред.

Страховая компания Lemonade основана в 2015 году в США; компания Waterdrop, представляющая онлайн-рынок страхования и связанную с ним платформу медицинского краудфандинга, — в 2016 году в Китае. Прим. ред.

Документальный фильм с элементами игрового кино (режиссер Дж. Орловски, 2020). Прим. ред.

Дипфейк (от deep learning [глубокое обучение] + фейк) — методика синтеза изображения, основанная на искусственном интеллекте. В видеороликах-дипфейках лицо одного человека подменяют лицом другого. Прим. ред.

Столица Нигерии до 1991 года. Крупнейший город страны и Африки. Население (в агломерации) — около 21 миллиона человек. Прим. ред.

Язык, распространенный на юго-востоке Нигерии. Прим. пер.

От XR (eXtended Reality — «расширенная реальность») — технология, позволяющая погрузиться в виртуальный мир. Прим. ред.

Так, по аналогии с американским Голливудом и индийским Болливудом, называют всю нигерийскую киноиндустрию. Прим. ред.

Развлекательный центр под открытым небом в Икедже, столице штата Лагос. Прим. пер.

Все имена принадлежат темнокожим — деятелям искусства, культуры, религии, борцам за права чернокожих в разных (в основном африканских) странах. Прим. ред.

Первый полнометражный фильм, смоделированный на компьютере полностью трехмерным; американский анимационный фильм. Совместное производство киностудии Pixar и компании Уолта Диснея (режиссер Дж. Лассетер, 1995). Прим. ред.

Near-field sensor — это сенсор, который считывает показания, находясь рядом с объектом, а near field communication (NFC) — технология передачи данных на близком расстоянии. Прим. науч. ред.

Бесконечная геометрическая фигура, каждый фрагмент которой повторяется при уменьшении масштаба. Прим. пер.

Люди, чья гендерная идентичность совпадает с биологическим полом. Прим. пер., ред.

Автоматически подгружаемый контент. Прим. пер.

«Чувство тела» — ощущение положения частей тела относительно друг друга и в пространстве. Прим. пер., ред.

Сокр. GTA. Серия мультиплатформенных компьютерных игр, первая вышла в 1997 году, последняя — в ноябре 2021-го. Прим. ред.

Медиафраншиза боевой фантастики. Игры — 2001–2021 гг. Прим. ред.

Non-Player Character — персонаж, управляемый не игроком, а компьютером. Прим. пер.

Фраза из двухминутной Геттисбергской речи Авраама Линкольна (1863), одной из величайших речей в истории на национально значимую тему. Прим. пер., ред.

Трансформеры предназначены для обработки последовательностей, в том числе текста на естественном языке, и решения задач машинного перевода и автоматического реферирования; обучаются быстрее, чем рекуррентные нейронные сети (РНС). Прим. ред.

But then, in his haste, / he got into a fight. / He had some emails that he sent / that weren’t quite polite. / The SEC said, “Musk, / your tweets are a blight.” Прим. ред.

Комиссия по ценным бумагам и биржам США. Прим. пер.

США образовались в 1776 году; у президентов всегда есть имя и фамилия, а «номер» в историографии присваивается монархам — царям, королям, императорам. Таким образом, мы наблюдаем несколько ошибок, совершенных GPT-3. Прим. ред.

Взаимоотношения Microsoft (один из основателей — Билл Гейтс) и Apple (один из основателей — Стив Джобс) всегда были достаточно напряженными, но Microsoft получала от Apple заказы на создание ПО. Microsoft была основана в 1975 году, Apple — в 1976-м; В 1980 году Microsoft подписала контракт с IBM на разработку MS-DOS (операционной системы, на смену которой пришла ОС Windows). В 1973 году Б. Гейтс поступил в Гарвардский университет, откуда через два года был отчислен (и стал считаться его выпускником в 2007 году). Гейтс никогда (в том числе и в 1980 году) не был студентом колледжа. Прим. ред.

Фантастическая мелодрама о «романе» одинокого писателя с новой операционной системой для его рабочего компьютера, оснащенной ИИ (2013, режиссер Спайк Джонз, США). Прим. ред.

Название космонавтов в Китае. Прим. ред.

Методика заключения модели в защищенную среду и ее обучение без перемещения данных куда-либо. Прим. пер.

Инфицированный организм, обладающий свойством повышенной заразности. Прим. пер.

Тревожное расстройство, иррациональный страх угрожающих жизни заболеваний. Прим. пер.

Технология генной инженерии — от англ. Clustered regularly interspaced short palindromic repeats — короткие палиндромные повторы, регулярно расположенные группами. Прим. ред.

Суперкомпьютер IBM Watson, оснащенный ИИ, был создан в начале 2010-х; в 2014 году, как сообщалось, фирма вложила в проект 1 миллиард долларов; в марте 2021 года стало известно, что IBM намерена продать этот суперкомпьютер. Прим. ред.

Онкологический центр имени М. Д. Андерсона Техасского университета и Мемориальный онкологический центр имени Слоуна — Кеттеринга (США). Прим. ред.

Биотехнологическая компания, разрабатывает новые медицинские препараты. Основатели — Александр Жаворонков, Полина Мамошина. Прим. ред.

Инновационный подход в системе здравоохранения: средства профилактики и лечения подбираются главным образом по генетической информации. Термин появился в 2009 году, первый проект запущен в США в 2016-м. Пока помогает примерно в 30 процентах случаев, не поддающихся традиционному (типовому) лечению. Прим. ред.

1 нанометр = 1 × 10^–6 мм (одна миллиардная метра). Прим. ред.

Концепция сети передачи данных между физическими объектами («вещами» — things). Прим. пер.

Анимационный ситком, герои которого живут в 2060-х гг. В утопичном мире большую часть работы делают машины; с их помощью люди даже одеваются, умываются и перемещаются по дому. Для выполнения любой работы достаточно нажать кнопку. (Производство США — Канада; показ сезонов 1962, 1963, 1987 гг.) Прим. ред.

В буддизме: промежуточное состояние, буквально: «между двумя»; «промежуточная стадия между одним явлением и другим». Прим. ред.

Сегодня известны кинорежиссер Наото Такенака и композитор и музыкант Кэнъити Маэямада. Возможно, автор дал своим героям их имена. Прим. ред.

Generative Pre-trained Transformer; GPT-3 — третье поколение алгоритма обработки естественного языка. GPT-3 (на сентябрь 2020 года) — самая крупная и продвинутая языковая модель в мире; разработчики заявили, что она может быть использована для решения «любых задач на английском языке». Прим. ред.

Оригинальное название — Ready Player One. Экранизация одноименного романа Э. Клайна (режиссер С. Спилберг, 2018). Прим. ред.

Бесплатная многопользовательская ролевая мобильная игра для устройств с операционными системами iOS и Android, мировой хит 2016 года. Прим. ред.

Технология аудиозаписи, которая благодаря особому расположению микрофонов и предполагаемому воспроизведению через наушники создает специфический объемный звук. Прим. ред.

Научно-фантастический фильм по мотивам одноименного рассказа Ф. Дика (режиссер С. Спилберг, 2002). Прим. ред.

По-английски обычно говорят о шести чувствах в отличие от «русских» пяти; под шестым имеют в виду интуицию. Прим. ред.

Unreal — серия компьютерных игр-шутеров («стрелялок») (1998–2007 гг.). Unity — эксклюзивный (Apple) кросс-платформенный игровой движок Mac OS X (2005). Прим. ред.

Видео доступно на YouTube по запросу Magic Leap Whale, длительность 9 секунд. Прим. ред.

Британский научно-фантастический телесериал-антология о влиянии информационных технологий на человеческие отношения (автор Ч. Брукер, с 2011 года по настоящее время). Прим. ред.

Самый популярный сорт китайской водки байцзю двойной перегонки; содержание спирта — от 56 процентов. Прим. ред.

Один из главных буддистских храмов в Коломбо, по сути, храмовый комплекс, включает в себя кроме собственно храма музей, библиотеку, жилой зал, трехэтажную пиривену (монашеский колледж), учебные залы и зал для сбора милостыни. Прим. ред.

Метод определения переменного расстояния с помощью лазера. Используется для построения трехмерной модели областей на поверхности Земли и создания карт высокого разрешения. Прим. ред.

Система тактильной обратной связи в компьютерных играх. Прим. пер.

Феномен восприятия: раздражение в одной системе ощущений ведет к автоматическому реагированию другой. Доказан, но малоизучен. Прим. пер.

Технология BrainWave, существующая уже сегодня. Прим. ред.

На Шри-Ланке левостороннее движение. Прим. ред.

Храм Сима-Малака является частью храма Гангарамайя и находится в нескольких сотнях метров к востоку от основных зданий. Строился для медитации и отдыха (а не как место поклонения). Физически находится посередине озера Бейра — над водой. Прим. ред.

Научно-фантастические американские телесериалы. «Рыцарь дорог» (Knight Rider) — создатель Г. Ларсон (1982); «Особое мнение» (Minority Report) — создатель М. Боренштейн (2015). Прим. ред.

Society of Automotive Engineers (SAE International) — профессиональная ассоциация и международная организация по разработке и внедрению стандартов для транспортных средств, создана в 1905 году. Базируется в США. Прим. ред.

В РФ принято Постановление правительства «О проведении эксперимента по эксплуатации на автодорогах высокоавтоматизированных транспортных средств», который должен пройти в Москве и Республике Татарстан на автомобильных дорогах общего пользования. Сроки эксперимента — 1.12.2018–1.03.2022. Прим. ред.

Райдшеринг, или карпулинг, — использование автомобиля для поездки с помощью онлайн-сервисов поиска попутчиков. Прим. ред.

Один из видов тенденциозной подачи материала в медиа с целью манипуляций массами — умышленное преувеличение или преуменьшение значимости событий. Прим. ред.

Мысленный эксперимент в этике. Какое решение будет правильным: перевести железнодорожную стрелку, чтобы несущаяся вагонетка врезалась в одного человека, или не переводить, и тогда она врежется в группу людей? Прим. ред.

ИИ, результаты решения которого понятны людям, — по контрасту с концепцией «черного ящика» в машинном обучении, когда непонятно, почему ИИ пришел к определенному решению. Прим. ред.

Производитель технологии для беспилотных автомобилей, дочерняя компания Alphabet. Прим. ред.

Сатоси Накамото — псевдоним человека или группы людей, придумавших биткойн. Состав группы и подлинные имена пока не установлены. Прим. ред.

Реальная первоначальная форма транзакции в сети Bitcoin, позднее замененная на более надежную P2PKH (Pay-to-Public-Key-Hash). Прим. ред.

Персонаж романа А. Кларка и фильма С. Спилберга — «разумный» компьютер с искусственным интеллектом. Прим. ред.

Американский программист. Получил первую транзакцию биткойна в количестве 10 монет от Сатоси Накамото, как сообщала Washington Post. Прим. ред.

PSDC — сленг геймеров, созвучная русскому нецензурному ругательству аббревиатура. Прим. ред.

20 мс = 0,02 с. Прим. ред.

Нейроны, которые активируются при наблюдении действия (здесь: эмоционального состояния) другого человека. Прим. ред.

Популярный архитектурный стиль; характерные детали — плоские крыши, большие окна, отсутствие украшений. Прим. ред.

Китайско-американский физик, профессор физики МТИ. Прим. ред.

Раздел математики, изучающий наиболее общие свойства геометрических фигур, не изменяющиеся при любых деформациях. Прим. ред.

Стратегически важный пролив в районе Персидского залива. Прим. ред.

Пролив между островами Гренландия и Исландия. Прим. ред.

Автономный международный орган в рамках Организации экономического сотрудничества и развития (ОЭСР), создан в 1974 году. Прим. ред.

Тихоокеанский складчатый (геосинклинальный) пояс — самый крупный на планете окраинно-материковый подвижный пояс земной коры, окружает Тихий океан. Включает в себя горы Чукотки, Камчатки, Сихотэ-Алинь, Анды, Кордильеры, островные дуги Тихого океана. Ураган «Катрина» — самый разрушительный в истории США, 5 баллов по пятибалльной шкале, 2005 год. Война в Персидском заливе — вооруженный конфликт в 1990–1991 гг. Прим. ред.

Восстановление исходного текста программы на языке высокого уровня из ее исполнимого кода или объектных модулей. Прим. ред.

Тихоокеанская горная тропа, Маршрут тихоокеанского хребта — пешеходный и конный туристический маршрут вдоль Тихоокеанского побережья США от Мексики до Канады, проложенный вдали от крупных населенных пунктов по живописным уголкам дикой природы; протяженность — 4279 километров. Прим. ред.

Автор описывает реальные пожары в Калифорнии летом — осенью 2018 года, когда в регионе было объявлено чрезвычайное положение. Прим. ред.

Персонаж научно-фантастического комикса Филиппа Друйе (1966). Прим. ред.

От англ. block chain — «цепочка блоков». Децентрализованная база данных, выстроенная по определенным правилам, непрерывная последовательная цепочка блоков (связный список), содержащих информацию. Характерной особенностью хранения данных в блокчейне является невозможность скрытного изменения ранее записанных данных. Прим. науч. ред.

Здесь: сторонники идеи ускорения техносоциальных процессов в целях генерирования радикальных социальных перемен. От латинского acceleratio — «ускорение» (ср. акселерат, акселератор). Прим. ред.

Глобальная спутниковая система (компания SpaceX, США) для обеспечения высокоскоростным доступом в интернет в местах, где он до сих пор был ненадежным, дорогим или вообще отсутствовал. Первая группа спутников запущена в 2019 году. Прим. ред.

Эффект Комптона — рассеяние фотона заряженной частицей. Прим. ред.

Конечная игра (обоснованная игра) — игра для двух игроков, которая обязательно заканчивается после конечного числа ходов. Прим. ред.

Набран максимальный электрический заряд для мощного импульса. Прим. ред.

Уместна аналогия с химией и физикой. Атом — мельчайшая единица химического элемента, сохраняющая его свойства. Молекула — мельчайшая частица вещества, обладающая всеми его химическими свойствами. Прим. ред.

Протекания процессов. Прим. ред.

На сегодня реализован (но еще не опробован) процессор на 127 сверхпроводниковых кубитах (IBM, ноябрь 2021 года), на 2022-й запланирован выпуск чипов с 433, на 2024-й — с 1121 кубитом. Данные опубликованы РИА со ссылкой на зарубежные источники. Прим. ред.

Для коррекции ошибок, возникающих при работе кубитов, приходится объединять несколько «физических» кубитов в один «логический». Такая система нескольких кубитов и реализует на практике требуемую вычислительную функцию. Прим. науч. ред.

По данным российского справочного портала «Калькулятор» (https://www.calc.ru), ссылающегося на https://ru.cryptoratesxe.com, стоимость биткойна в январе 2021 года только однажды превысила 40 тысяч долларов, в остальные дни колебалась в основном между 32 и 38 тысячами долларов. Однако в течение года биткойн действительно несколько раз поднимался выше 60 тысяч долларов: в марте, апреле и октябре — ноябре. Прим. ред.

Беспилотный летательный аппарат (БПЛ) для уничтожения РЛС, самонаводящийся самолет-снаряд; на вооружении ВС Израиля. Первый полет — 1989 год. Стоимость — около 70 тысяч долларов. Прим. ред.

Институт будущей жизни (FLI) в ноябре 2017 года выпустил короткометражный научно-фантастический фильм об опасности самоуправляемых машин-убийц. Ролик предназначался для демонстрации на неделе Конвенции ООН в Женеве. Доступен к просмотру на YouTube по прямому запросу с переводом на русский посредством нейросетей. Продолжительность около 8 минут. Прим. ред.

Несколько мультикоптеров (два-три, данные разнятся) атаковали группу правительственных чиновников, в составе которой был президент Н. Мадуро. Инцидент произошел в 2018 году на государственном мероприятии. Полицейскими снайперами беспилотники были сбиты, никто не погиб, но были раненые (восемь-девять, данные разнятся). Примечательно, что, по некоторым источникам, это не были сугубо боевые БПЛА — преступники использовали мультикоптеры, применяющиеся для съемок и штатно способные нести видеокамеры. Но вместо кинооборудования дроны снарядили взрывчаткой. Цена беспилотников использованной модели — около шести тысяч долларов за единицу. Прим. ред.

Campaign to Stop Killer Robots, международная коалиция неправительственных организаций, стремящихся добиться запрета летального автономного оружия. Прим. ред.

Джон Генри — герой американского фольклора (XIX век), темнокожий рабочий-путеец, победивший в соревновании с паровым молотом, но погибший от истощения. Прим. ред.

«Синкия» (англ. Synchia) — название компании образовано от слова «синхронизировать» (англ. synchronize), то есть помогать специалистам адаптироваться к меняющемуся рынку труда. Прим. пер.

От англ. Saviour — «Спаситель». Прим. пер., ред.

Представители рабочего класса, чаще всего занятые физическим трудом с почасовой оплатой. Белые воротнички — служащие, не занимающиеся физическим трудом. Прим. ред.

А. Рэнд. «Атлант расправил плечи», роман-антиутопия, воспевающий индивидуализм (1957). Прим. пер.

От англ. point of view — «точка обзора». Прим. ред.

В культовом фильме «Матрица» (режиссеры братья Вачовски, 1999): «красная таблетка» — «болезненная правда», «синяя таблетка» — «успокаивающая иллюзия». Прим. пер.

Кай-Фу Ли. Сверхдержавы искусственного интеллекта. Москва: Манн, Иванов и Фербер, 2019.

Американский политик, в 2020 и 2021 гг. претендовал на посты президента США и мэра Нью-Йорка, но затем сам отказывался от участия в выборах. Прим. ред.

Прогноз ВОЗ на 2030 год, опубликованный летом 2021-го. Прим. ред.

Буря. Перевод Т. Л. Щепкиной-Куперник // Шекспир В. Полное собрание сочинений: В 8 т. / Под ред. А. А. Смирнова. Москва; Ленинград: Гослитиздат, 1949. Т. 8. Прим. пер.

Carpe diem (лат.) — «лови момент», «живи настоящим». Прим. пер.

Салуна — густой острый суп. Варак энаб — рулетики из виноградных листьев с начинкой из мяса, риса и специй. Макбус — пряное блюдо из риса, мяса и овощей. Прим. пер.

Эмили Дикинсон (1830–1886) — выдающаяся американская поэтесса XIX века, Раймонд Карвер (1938–1988) — выдающийся американский поэт и писатель XX века. Прим. пер., ред.

Работа Даниэля Канемана и Ангуса Дитона вышла в 2010 году и основана на масштабных исследованиях американского населения. Оба ученых получали Нобелевскую премию по экономике — в 2002 и 2015 гг. соответственно. Прим. пер.

Аль-рас — большой барабан, используемый в боевом танце. Прим. пер.

Арда — арабский танец с мечами. Прим. пер.

Клиника Модсли — крупный научно-исследовательский центр в области психиатрии. Прим. пер.

Кади — мусульманский судья. Прим. пер.

Работа вышла в 1978 году. В исследовании участвовали 22 победителя лотереи и 29 парализованных. Контрольная группа — 22 человека. Спустя четыре года (в 1982-м) 38-летний Брикман покончил с собой. Прим. пер.

Международная телекомпания, штаб-квартира находится в Дохе, столице Катара. Прим. ред.

Трехэтажный музей построен на краю гавани, на южной оконечности залива Доха. Если смотреть со стороны моря, кажется, будто он плывет. Прим. ред.

Колибри настолько быстро машут крыльями, что действительно возникает жужжащий звук. В стаи эти птицы не собираются, но Виктор услышал звук «как будто бы стаи». Прим. ред.

Летательные аппараты с неподвижным крылом взлетают благодаря его подъемной силе: самолеты, разнообразные беспилотники (БПЛА-дроны, крылатые ракеты и др.), дельтапланы и т. д. Винтокрылые летательные аппараты взлетают благодаря вращению одного или нескольких винтов: вертолеты, БПЛА-мультикоптеры и т. д. Прим. пер., ред.

1 миллион катарских риалов — почти 13 миллионов рублей, или около 174 тысяч долларов. Прим. ред.

General Data Protection Regulation, GDPR — постановление Евросоюза, унифицирующее защиту персональных данных в ЕС. Вне ЕС к исполнению необязательно, если только не обрабатываются персональные данные лиц ЕС. Прим. пер., ред.

Англ.: privacy computing, букв.: секретные вычисления. Прим. пер.

Англ.: trusted execution environment (TEE), букв.: доверительная («трастовая») среда выполнения. Прим. пер.

Эвдемонизм — философско-этическое течение, признающее критерием нравственности и основой поведения стремление человека к счастью. Прим. ред.

Регламент GDPR действует с 2018 года и заменил директиву Data Protection Directive («Директива о защите данных») от 1995 года. Штраф для юрлиц, нарушивших GDPR, — до 20 миллионов евро, или 4 процента мирового годового дохода компании. Прим. ред.

Фридрих II, или Фридрих Великий, правил Пруссией в 1740–1786 гг. Прим. пер.

Free software movement — социальное и политическое движение за гарантии четырех базовых свобод пользователей ПО: запускать, изучать, изменять свое ПО и распространять копии, с изменениями или без них. Движение зародилось среди приверженцев хакерской культуры и традиций в 1970-х гг., однако формально оформилось в 1983 году. Прим. ред.

В Алис-Спрингс живет много аборигенов. Прим. пер.

Система символов-тотемов аборигенов Австралии. Прим. ред.

День Австралии отмечается в честь высадки первых европейских колонизаторов 26 января 1788 года. Прим. пер.

Англ. Innovation and Science Australia. Прим. пер.

Обесцвечивание кораллов происходит из-за неблагоприятных изменений окружающей среды, например при повышении температуры морской воды. Первое массовое обесцвечивание произошло в 1997–1998 гг., погибло 16 процентов рифов в мире. Прим. пер., ред.

Йови — персонаж фольклора австралийских аборигенов, человекообразное чудище огромного роста. Прим. пер.

Англ. «Мечты ради будущего». Прим. пер.

Три первые промышленные революции: XVIII–XIX вв. (переход от ручного труда к механическому); вторая половина XIX — начало XX в. (электричество, конвейеры); вторая половина XX в. (цифровые технологии). Прим. пер.

В распространенных уже сегодня литий-ионных аккумуляторах (Li-ion) кроме общего для всех иона лития (собственно переносчика электрического заряда) используются другие вещества. Свойства литий-кобальтовых, литий-марганцевых, литий-железофосфатных, литий-титанатных и т. д. батарей сильно разнятся. Диапазон использования литий-ионных аккумуляторов — от мелких бытовых гаджетов до электромобилей. В 2019 году разработчики литий-ионных аккумуляторов были удостоены Нобелевской премии по химии. Прим. ред.

Международный аналитический центр, специализируется на прогнозировании последствий прорывных инноваций. Прим. ред.

Американский предприниматель, учредитель и организатор множества проектов, связанных с развитием космоса, медицины и передовых технологий. Прим. ред.

Materials Genome Initiative (MGI). Прим. ред.

Экономист и философ XVIII века, основатель классической политэкономии; главный труд — «Исследование о природе и причинах богатства народов» (1776). Прим. ред.

Первый глобальный экономический кризис 1929–1933 гг. Прим. ред.

Manu Saadia Trekonomics: The Economics of Star Trek [Трекономика: Экономика «Звездного пути»]. Pipertext, 2016. На русском не издавалась. Автор — французский экономист Ману Саадия. Прим. ред.

Харари Юваль Ной. 21 урок для XXI века. Москва: Синдбад, 2019. Прим. ред.

Мировые финансовые кризисы 2008–2009 и 2020 гг. Прим. ред.

Многозначное слово, употребляется во многих областях (философии, математике, астрономии, космологии, технологиях). Если грубо обобщить, то под сингулярностью везде понимается некая точка или момент времени, когда прогноз даже ближайшего будущего невозможен — некая «точка тотальной неопределенности». Прим. ред.

Попытка представить альтернативное развитие событий из прошлого: «А что было бы, если бы…?» Прим. пер.

Кай-Фу Ли. Сверхдержавы искусственного интеллекта. Москва: Манн, Иванов и Фербер, 2019. Прим. ред.

Цюфань Чэнь. Мусорный прибой. Москва: fanzon, 2020. Остальные книги на русском не издавались. Прим. пер., ред.