Аудио-издание · изложение на простом русском

Сценарии перехода к AGI

Антон Коринек, Донхён Су
Anton Korinek, Donghyun Suh, «Scenarios for the Transition to AGI». arXiv:2403.12107 (также NBER Working Paper 32255), март 2024. Оригинал: arxiv.org/abs/2403.12107. © авторы (лицензия arXiv).
Это не дословный перевод, а полное изложение статьи для прослушивания: сохранены все аргументы, выводы, цифры и примеры, формулы пересказаны словами, список литературы и технические приложения опущены. Примерное время прослушивания: 35 минут.

О чём эта статья

Эту работу в марте 2024 года выпустили два экономиста — Антон Коринек (Виргинский университет, институт Брукингса и центр GovAI) и Донхён Су. Она вышла и как препринт, и как рабочий доклад Национального бюро экономических исследований (NBER). Повод прост: лидеры ведущих ИИ-лабораторий и ведущие исследователи всерьёз заговорили о том, что общий искусственный интеллект (AGI) — система, способная выполнять все задачи, которые умеет человек, — может появиться в ближайшие годы. Авторы спрашивают: что это сделает с выпуском, с зарплатами и в конечном счёте с благосостоянием людей?

Главная мысль статьи такая. Работу человека можно разбить на мельчайшие «атомарные» задачи, которые отличаются сложностью. Техника умеет автоматизировать всё более сложные задачи — граница автоматизации сдвигается вправо. Что станет с зарплатами, решают два обстоятельства. Первое: есть ли у человеческих задач предел сложности или сложность уходит в бесконечность. Второе: успевает ли накопление капитала за скоростью автоматизации — авторы называют это «гонкой». В зависимости от ответа зарплаты могут расти вечно, могут застыть, а могут и обвалиться.

Для того, кто строит рынок ИИ-агентов, здесь есть прямой интерес. Статья даёт готовый язык, чтобы думать, как армия автономных агентов повлияет на спрос на человеческий труд, на цену вычислительных мощностей и на то, кому достанется доход — владельцам труда или владельцам капитала. И она показывает, что судьба труда может резко измениться при переходе через невидимые пороги, которые легко не заметить заранее.

AGI — общий искусственный интеллектВ этой статье — способность ИИ выполнять все задачи, которые может выполнить человек. «Полная автоматизация» наступает, когда для машин доступны все задачи без исключения.
Атомарная задачаМельчайшая неделимая операция мозга, из которых складывается любая работа: узнать число, вспомнить правило, распознать лицо. Авторы считают, что набор таких операций не меняется: новые профессии лишь по-новому их комбинируют.
Вычислительная сложность задачиСколько вычислений нужно машине, чтобы выполнить задачу. Удобно мерить в операциях с числами (FLOP). Для машины трудным может быть то, что человеку легко: пройти на двух ногах по неровной земле стоит машине огромных вычислений, а сложить числа — почти никаких.
Индекс автоматизацииПорог сложности: всё, что проще него, машина уже умеет, всё, что сложнее, — пока только человек. Авторы считают, что этот порог растёт по экспоненте, как в законе Мура. Это и есть «граница автоматизации», которая едет вправо.
Задачи — взаимодополняющиеЧтобы получить готовый продукт, нужны задачи всех видов, и редкая задача тормозит всё целое. Поэтому автоматизация одних задач поднимает ценность тех, что остаются за человеком, — пока их не становится слишком мало.
Накопление капиталаКапитал — это всё воспроизводимое: станки, вычислительные мощности, роботы, заводы. Его можно наращивать, откладывая часть выпуска. Чем больше капитала, тем выше зарплаты, потому что капитал и труд дополняют друг друга.
Доля трудаКакая часть всего дохода экономики достаётся работникам, а не владельцам капитала. Если доля труда падает к нулю, это значит, что плоды роста уходят почти целиком владельцам машин.

1

Вопрос: вырастут зарплаты или рухнут

Недавние успехи ИИ обещают большой рост производительности, но вернули и старый страх — что машины вытеснят работников. Всё больше исследователей и руководителей отрасли говорят, что человечеству пора готовиться к возможному появлению AGI. Это ставит несколько основных экономических вопросов. Как будет выглядеть переход к AGI? Что он будет значить для выпуска, для зарплат, для благополучия людей? Зарплаты вырастут или обвалятся?

Авторы строят экономическую модель, чтобы разбирать разные варианты будущего. Отправная точка одна: работу человека можно разложить на неизменные атомарные задачи, отличающиеся сложностью. Прогресс техники делает всё более сложные задачи пригодными для автоматизации. Это описывают порогом — индексом автоматизации, — который отделяет задачи, уже доступные машинам, от тех, что пока под силу только людям. Порог растёт сам по себе со временем, как в законе Мура. В эпоху ИИ удобная мера сложности задачи — это объём вычислений, нужный машине, чтобы её выполнить. Что-то вроде сложения чисел в таблице требует ничтожных вычислений. А что-то, кажущееся человеку простым и естественным — например, пройти на двух ногах по неровной поверхности, — требует для машины огромных вычислений.

Через всю статью проходят два противоположных случая — и они ведут к резко разным итогам. Первый: сложность человеческих задач не имеет предела, уходит в бесконечность. Тогда граница автоматизации едет вправо, машины забирают всё больше задач, но какие-то задачи, а значит и рабочие места, остаются за людьми всегда. Второй: сложность ограничена сверху, потому что вычислительные возможности человеческого мозга конечны. Тогда за конечное время граница автоматизации доходит до самой сложной человеческой задачи — и наступает полная автоматизация. У «слишком сложных» задач есть и другое толкование: общество может решить не автоматизировать некоторые из них, даже когда это технически возможно, — скажем, труд священников, судей или законодателей.

Ключевая мысльВсё зависит от формы распределения задач по сложности. Если у человеческих задач есть достаточно «толстый» бесконечный хвост, работы людям хватит всегда и зарплаты могут расти вечно. Если же сложность ограничена и полная автоматизация достигается, зарплаты в итоге обваливаются.

В модели атомарные задачи — сильно взаимодополняющие и вместе дают конечный продукт. В духе более ранних работ (Зейра, а также Асемоглу и Рестрепо) любую задачу может выполнить труд, а автоматизированную — либо труд, либо капитал. Но, в отличие от тех работ, здесь главное внимание — к крайним случаям у самого порога полной автоматизации. Авторы заранее называют и основные находки: при фиксированных запасах капитала и труда автоматизация может резко ударить по зарплатам даже раньше, чем доберётся до всех задач; в динамике всё решает упомянутая гонка автоматизации и накопления капитала; автоматизация самого научного прогресса способна поднять отдачу всех факторов, а нехватка невоспроизводимых ресурсов, наоборот, способна зарплаты добить.

2

Модель: работа как набор задач в пространстве вычислений

Атомарные задачи и их сложность

Главное допущение такое: работа человека состоит из задач и подзадач — неизменных атомарных задач, — которые по-разному поддаются автоматизации. Эти задачи куда мельче, чем профессиональные задачи из справочников вроде O*Net. Там, например, для экономиста перечислены пять главных задач: изучать данные; вести и публиковать исследования; собирать, анализировать и докладывать данные; руководить исследованиями; преподавать. Но за каждой из них стоит масса атомарных операций. «Преподавать теорию экономики» — это спланировать курс, вспомнить теории, собрать структуру, подготовить слайды, читать лекцию, следить за выражением лиц студентов, по ходу подстраивать план, готовить и проверять задания, и так далее.

Все эти операции опираются на базовые функции мозга, а это тоже своего рода вычисления. Одни функции машинам даются легко, другие — труднее. Важно лишь одно: насколько операция затратна по вычислениям для машины. Отсюда и важное замечание: часто говорят, что новая техника порождает новые задачи. На уровне крупных профессиональных задач это так. Но на атомарном уровне новая техника просто по-новому сочетает старые базовые операции. «Инженерия подсказок» (prompt engineering) выглядит новой профессией, но состоит из операций, которые существовали задолго до появления генеративного ИИ: задать желаемый результат, составить запрос, ввести его, прочитать ответ, оценить, решить, повторять ли, поделиться результатом.

Что делает задачу трудной для автоматизации? Авторы отвечают: её вычислительная ёмкость — объём вычислений, нужный, чтобы её выполнить. Его удобно мерить числом операций с числами (FLOP). И здесь важно: вычислительная трудность для машины часто совсем не совпадает с тем, легко или трудно это человеку. Именно трудность для машины и решает, можно задачу автоматизировать или нет.

Почему порог автоматизации едет вправо? Из-за роста доступных вычислений. Закон Мура гласит: производительность передовых чипов удваивается примерно каждые два года, и это держится уже шестьдесят лет. А объём вычислений в самых передовых ИИ-системах рос ещё быстрее — удваивался примерно каждые полгода в последнее десятилетие. Плюс улучшались алгоритмы. Поэтому авторы принимают: индекс автоматизации растёт по экспоненте с некоторой скоростью, и чем он выше, тем больше задач становятся доступны машинам.

Примечание. У сложности задач есть известный парадокс (его описал Моравек). То, что человеку кажется лёгким — например, зрение, — опирается на огромные объёмы «серого вещества» и для машины вычислительно очень затратно. И наоборот: арифметическое действие стоит простому компьютеру одной операции, а мозгу — миллиардов эквивалентных операций.

Базовая модель: как задачи складываются в выпуск

Представим экономику без времени, с одним представительным хозяйством. У него есть единица труда и какой-то запас капитала. Задач — целый континуум, они различаются сложностью. Чтобы получить общий выпуск, все задачи всех уровней сложности соединяют вместе. Соединяют так, что задачи — сильные взаимодополнители: не хватает какого-то вида задач — страдает весь выпуск. Это и значит, что эластичность замещения между задачами меньше единицы.

Каждую задачу выполняют капиталом или трудом. Правило простое: задачи ниже порога автоматизации можно делать и капиталом, и трудом; задачи выше порога — только трудом. Производительность капитала и труда на доступных им задачах принята одинаковой и равной единице, а на недоступных капиталу задачах производительность капитала равна нулю. Фирма нанимает капитал и труд на каждую задачу по текущим ценам — ставке аренды капитала и зарплате — так, чтобы прибыль была наибольшей. В равновесии рынки труда и капитала расчищаются: весь труд и весь капитал находят применение. Поскольку никаких изъянов рынка нет, это равновесие заодно и наилучший из возможных исходов.

Два режима: когда труд редок и когда — нет

При данных запасах труда и капитала возможны два режима, в зависимости от того, насколько высок индекс автоматизации.

Режим первый. Индекс низкий, автоматизировано мало задач. Тогда труд относительно редок по сравнению с капиталом. Зарплата выше ставки аренды капитала. Редкий труд идёт только на те задачи, которые машинам пока не под силу. Это мир последних двухсот лет: капитал и труд дополняют друг друга, а труд сравнительно редок и потому ценен.

Режим второй. Индекс перевалил за особый порог: задач, доступных только человеку, осталось так мало, что редкость труда исчезает. Теперь зарплата равна ставке аренды капитала. Труд применяют не только на оставшихся «человеческих» задачах, но и на части автоматизированных — на границе капитал и труд становятся идеальными заменителями друг друга. Экономика ведёт себя как простейшая модель роста, где выпуск прямо пропорционален капиталу.

Где лежит порог между режимами? Он зависит только от соотношения запасов капитала и труда, и растёт вместе с этим соотношением. Что важно: порог не зависит от того, насколько сильно задачи дополняют друг друга. Как только труд перестаёт быть редким, его начинают использовать наравне с капиталом на граничной задаче — и это верно, даже если отдельные задачи очень взаимодополняющие.

Примечание. Интуиция такая. При данных запасах более высокий индекс автоматизации расширяет круг задач, которые можно делать капиталом, — и имеющийся капитал «размазывается» по большему числу задач, становясь более редким. Одновременно сужается круг задач, что остаются только за трудом, — и труд концентрируется на меньшем их числе, становясь менее редким. Когда задач «только для человека» остаётся совсем мало, труд теряет преимущество редкости, и отдачи труда и капитала сравниваются.

Граница цен факторов и путь автоматизации

Чтобы увидеть, как автоматизация влияет на доходы факторов, авторы вводят границу цен факторов (factor price frontier). Это набор всех возможных сочетаний зарплаты и ставки аренды капитала, которые могут возникнуть при данном уровне техники и разных соотношениях капитала к труду. Удобство в том, что картинка не зависит от конкретных предположений о том, как копится капитал.

Граница устроена так. Она идёт сверху вниз: чем больше капитала на единицу труда, тем выше зарплата и ниже ставка аренды капитала. Есть верхняя точка — наибольшая возможная зарплата при данном уровне автоматизации, она достигается в пределе, когда капитала бесконечно много относительно труда. При таком избытке капитала ставка его аренды падает к нулю. Рост общей производительности раздвигает всю границу наружу, пропорционально поднимая доходы всех факторов. А рост автоматизации поворачивает границу — и поднимает ту самую наибольшую возможную зарплату, пока автоматизация неполная.

Но стоит автоматизации стать полной — и граница схлопывается. Из целой кривой она превращается в одну-единственную точку, где зарплата и ставка аренды капитала равны. Это важный разрыв: при полной автоматизации доходы труда и капитала выравниваются скачком.

Теперь — что делает автоматизация при данном запасе капитала. Во-первых, выпуск. Пока экономика в первом режиме, каждый шаг автоматизации поднимает выпуск: обильный капитал пускают на новые задачи, и это даёт прирост — так называемый эффект производительности. Во втором режиме выпуск от автоматизации уже не зависит.

Ключевая мысльДля зарплат действуют две встречные силы. Эффект производительности тянет зарплату вверх: новую задачу делают обильным капиталом, а не редким трудом, и выпуск растёт. Эффект вытеснения тянет вниз: вытесненный труд приходится перераспределять на всё меньший круг человеческих задач, и каждая единица труда там «дешевеет». Поэтому влияние автоматизации на зарплату имеет форму горба.

Ставка аренды капитала от автоматизации всегда растёт. А зарплата сперва растёт, потом, пройдя вершину горба, начинает падать. В самом начале, когда автоматизировано почти ничего, перевешивает эффект производительности. Ближе к порогу эффект вытеснения усиливается и в итоге берёт верх; у самой полной автоматизации он становится бесконечно большим. На языке границы цен факторов автоматизация «поворачивает» границу по часовой стрелке: если экономика в режиме редкого труда, зарплата сперва поднимается по этому повороту, но в конце пути всё равно сползает в ту единственную точку, где зарплата равна ставке аренды капитала.

Как автоматизация делит доход между трудом и капиталом

Авторы приводят два показательных примера того, как автоматизация перераспределяет доход. В обоих по горизонтали — доля уже автоматизированных задач, от нуля до единицы.

Пример первый: капитала и труда поровну, умеренная взаимодополняемость. Пока экономика в режиме редкого труда, выпуск строго растёт с автоматизацией. Сначала почти вся выгода достаётся труду, а доход капитала ничтожен. Но по мере автоматизации фонд зарплаты упирается в потолок и начинает снижаться. Выпуск ещё растёт, однако доход капитала растёт быстрее выпуска — за счёт фонда зарплаты. Когда автоматизирована половина задач, наступает второй режим: оба фактора получают поровну. При равных запасах это значит, что и труду, и капиталу достаётся по половине дохода. При полной автоматизации выпуск всего лишь удваивается.

Пример второй: капитала в десять раз больше труда, сильная взаимодополняемость. Здесь область, где основная выгода идёт труду, намного шире — но и обвал фонда зарплаты, когда порог пройден, намного глубже. Зарплаты будто бы растут по экспоненте, пока автоматизировано примерно до 80 процентов задач. А около 83 процентов они резко падают — примерно на 85 процентов — при взлёте дохода капитала. Когда наступает второй режим (автоматизировано около 91 процента задач), доходы факторов выравниваются, и при таких запасах доля капитала в десять раз больше доли труда. Зато выпуск к полной автоматизации вырастает в одиннадцать раз.

Ключевая мысльСудьба труда способна перемениться очень быстро, стоит перейти невидимый порог. И во что выльется автоматизация для выпуска на душу, решает запас капитала: в первом примере полная автоматизация лишь удваивает выпуск, во втором — увеличивает его в одиннадцать раз. Поэтому дальше нужно смотреть, как автоматизация взаимодействует с накоплением капитала во времени.

3

Динамика: гонка автоматизации и накопления капитала

В статике всё решали запасы. В динамике к технике добавляется накопление капитала, а значит — сберегательное поведение людей. Теперь судьба зарплат зависит от «гонки» двух сил: как быстро идёт автоматизация и как быстро копится капитал.

Четыре сценария автоматизации

Индекс автоматизации во всех сценариях растёт по экспоненте. Отличаются же сценарии тем, как устроено распределение задач по сложности.

Сценарий «как обычно». Распределение с бесконечным хвостом: каждый период автоматизируется постоянная доля оставшихся задач. Поскольку максимальной сложности нет, настоящий AGI за конечное время не наступает — задачи для людей остаются всегда.

Базовый и агрессивный сценарии AGI. Здесь сложность ограничена сверху: число задач, доступных человеческому мозгу, конечно, и за конечное время автоматизация доходит до предела. Опираясь на оценку Джеффри Хинтона, авторы берут два срока: в базовом сценарии полная автоматизация наступает за двадцать лет, в агрессивном — за пять.

«Я вдруг поменял свои взгляды на то, станут ли эти штуки умнее нас».

Джеффри Хинтон, один из «крёстных отцов» глубокого обучения, май 2023 года; он оценил появление AGI в срок от пяти до двадцати лет

Смешанный сценарий — «всплеск автоматизации». Сначала ИИ быстро забирает большую долю задач (скажем, умственных), но остаётся бесконечный хвост задач, которые трудно автоматизировать — по юридическим или культурным причинам. Это смесь двух предыдущих распределений.

Сбережения, границы и три исхода гонки

Представительное хозяйство выбирает, сколько потреблять, а сколько сберегать, чтобы максимизировать своё удовлетворение на всём горизонте жизни. Сбережения становятся капиталом, капитал изнашивается. Из этого выбора следует привычное правило роста потребления: оно растёт, пока отдача капитала выше суммы нетерпения и износа. Когда экономика надолго оседает во втором режиме, отдача капитала фиксируется на уровне общей производительности, и экономика выходит на путь равномерного роста с постоянной нормой сбережений.

Дальше авторы доказывают сильный общий результат — границы для выпуска и зарплат. При любых разумных предпочтениях пути капитала, выпуска и зарплат зажаты между нижней и верхней границами. Нижняя граница — это случай замороженного капитала: капитал не копится вовсе. Здесь нижняя оценка зарплаты сперва растёт с автоматизацией, затем падает; и если полная автоматизация достигается, зарплата за конечное время падает до уровня общей производительности. Верхняя граница — это случай, когда капитал мгновенно подстраивается под оптимум при каждом шаге автоматизации. Пока автоматизация неполная, верхняя оценка зарплаты растёт с автоматизацией без предела. Но стоит автоматизации стать полной — и верхняя граница зарплаты скачком обрушивается до уровня общей производительности.

Ключевая мысльЕсли сложность задач ограничена, то полная автоматизация наступает за конечное время и зарплаты обваливаются при любом сберегательном поведении. Если же хвост задач бесконечен, итог зависит от его «толщины»: достаточно толстый хвост — зарплаты растут вечно, слишком тонкий — автоматизация в итоге обгоняет накопление капитала и зарплаты всё равно рушатся.

Чтобы понять исход гонки, авторы находят «уравновешивающую» норму сбережений — ту, при которой влияние автоматизации на зарплату ровно гасится накоплением капитала. Чем сильнее эффект вытеснения за вычетом эффекта производительности, чем больше уже накоплено капитала, чем больше задач автоматизируется разом и чем быстрее растут вычисления — тем выше должна быть норма сбережений, чтобы удержать зарплату от падения.

Отсюда — три возможных исхода гонки (для бесконечного, паретовского хвоста задач). Первый: автоматизация идёт слишком быстро по сравнению со сбережениями. Тогда индекс за конечное время переваливает порог, экономика проваливается во второй режим, зарплаты застывают на уровне общей производительности, а доля труда падает к нулю. Второй: скорость автоматизации средняя. Тогда зарплаты растут вечно, но их рост сдерживает накопление капитала, а доля труда стремится к единице. Третий: автоматизация медленная. Тогда рост зарплат упирается уже не в капитал, а в саму скорость автоматизации — и, что любопытно, в этом режиме чем быстрее автоматизация, тем быстрее растут зарплаты и вся экономика, ведь автоматизация позволяет пускать в дело обильный капитал.

Числовая иллюстрация: четыре сценария

Авторы задают стандартные параметры (нетерпение 4 процента в год, износ 10 процентов в год, умеренная взаимодополняемость задач) и подбирают стартовую точку так, чтобы доля труда вначале составляла 66 процентов. Затем прогоняют все четыре сценария.

Сценарий «как обычно». Автоматизируется около 1 процента оставшихся задач в год. Выпуск растёт примерно на 2 процента в год, а доход капитала и фонд зарплаты растут почти вровень — с едва заметным сползанием доли труда. Это тот самый третий исход гонки: капитал копится достаточно быстро, и рост упирается в скорость автоматизации.

Базовый сценарий AGI. Доля неавтоматизированных задач падает к нулю за двадцать лет. Зарплаты в первые годы слегка растут, но затем обваливаются — ещё до того, как автоматизация станет полной. После обвала зарплата равна отдаче капитала, экономика сидит во втором режиме, где труд и капитал взаимозаменяемы, и растёт примерно на 18 процентов в год — почти в десять раз быстрее, чем «как обычно».

Агрессивный сценарий AGI. Полная автоматизация за пять лет. Обвал зарплат случается уже примерно на третьем году. Поскольку редкость труда исчезает раньше, раньше начинается и взлёт выпуска.

Смешанный сценарий. Сперва быстро автоматизируется большая доля задач — и зарплаты обваливаются, как в агрессивном сценарии: труд вдруг стал обильным, а капитала ещё мало. Но со временем капитал копится, труд снова становится редким. Примерно к девятому году капитала накоплено достаточно, экономика возвращается в первый режим, зарплаты поднимаются выше уровня общей производительности и снова растут вместе с дальнейшей (уже более медленной) автоматизацией. Этот сценарий показывает: спрос на труд может рухнуть из-за быстрой автоматизации, но позже восстановиться — если остаётся длинный хвост задач, которые машинам не даются.

4

Расширения модели

Невоспроизводимые ресурсы: возвращение дефицита

Если труд перестаёт быть главным фактором, стоит присмотреться к тому, что раньше валили в одну кучу «капитал». Авторы делят факторы на воспроизводимые (их можно наращивать — станки, вычислительные мощности, роботы, заводы) и невоспроизводимые, данные в неизменном количестве (земля, пространство, минералы, солнечная энергия). Какой именно дефицитный ресурс окажется главным в будущем с AGI, предсказать трудно: в близкой перспективе узким местом, вероятно, будут чипы и оборудование для их производства, но это воспроизводимо; дальше дефицитными могут стать редкие минералы, а в самом пределе — вещество или энергия.

Авторы вводят в модель один невоспроизводимый фактор, назвав его условно «минералы или материя». Порог между режимами при этом не меняется и от количества этого фактора не зависит. Но долгосрочная картина меняется — к худшему. Главный вывод: при наличии невоспроизводимого фактора зарплаты всегда в итоге падают до отдачи капитала, потому что экономика за конечное время всё равно входит во второй режим — независимо от того, как устроено распределение задач.

Ключевая мысльЕсли есть узкое место из невоспроизводимого ресурса, автоматизация в конце концов обгоняет накопление капитала при любом распределении задач. Это прямо противоположно случаю без такого ресурса, где достаточно толстый хвост задач позволял зарплатам расти бесконечно.

В иллюстрации авторы берут долю невоспроизводимого фактора в выпуске в 10 процентов и сценарий «как обычно» (постоянная доля задач автоматизируется каждый период). Зарплаты достигают вершины примерно через десять лет, а через двадцать пять лет экономика входит во второй режим и медленно сходится к предельному запасу капитала. То есть даже при бесконечном хвосте неавтоматизированных задач невоспроизводимый фактор тормозит накопление капитала, и труд теряет статус редкого за конечное время.

Автоматизация самого прогресса

До сих пор единственной техникой была автоматизация, а общая производительность бралась как данность. Но многие ждут, что ИИ не просто сделает производство эффективнее, а ускорит и сам научный прогресс. На базовом уровне исследования и разработки — тоже набор атомарных вычислительных задач, как и любое производство. Авторы добавляют сектор идей: автоматизированные задачи в нём могут делать капитал или труд, неавтоматизированные — только труд, а выпуск новых идей поднимает общую производительность.

Результат впечатляет. Когда автоматизация в обоих секторах — и в производстве благ, и в производстве идей — заходит достаточно далеко, экономика может сорваться в то, что называют «сингулярностью»: быстро растущий капитал порождает взрыв исследований и технического прогресса, а тот подпитывает сам себя — и выпуск за конечное время уходит в бесконечность. Что замечательно: достаточно, чтобы было сильно автоматизировано производство благ, — тогда остальные условия могут быть какими угодно конечными. И важный момент: в этом сценарии предельная отдача труда в производстве благ тоже уходит в бесконечность вместе с выпуском.

Примечание. Иными словами, даже если автоматизация сперва обрушила зарплаты до отдачи капитала, быстрый технический прогресс от автоматизации самих исследований затем снова позволяет работникам выигрывать — после того как автоматизация зашла достаточно далеко. Авторы оговариваются: вероятно, и производство благ, и производство идей в конце концов упрутся в невоспроизводимые ресурсы; модель, которая учитывала бы и то и другое сразу, выходит за рамки статьи.

«Ностальгические» профессии и пределы автоматизации

Пока предполагалось, что задачу автоматизируют, как только это технически возможно. Но общество может решить оставить какие-то задачи исключительно за людьми. Коринек и Юэлфс называют такие занятия «ностальгическими»: труд священников, судей, законодателей может остаться человеческим ещё долго после того, как машины станут выполнять его не хуже или лучше. Авторы вводят отдельную функцию выбора: общество может автоматизировать только то, что технически возможно, но вправе часть возможного не трогать.

Отсюда — политический вопрос: как максимизировать рост зарплат, придерживая автоматизацию? Ответ: правительство, которое хочет наибольшего долгосрочного роста зарплат, должно выбрать определённую умеренную постоянную скорость автоматизации. В иллюстрации к базовому сценарию AGI такой планировщик примерно до четырнадцатого года не вмешивается — естественный темп и так не слишком быстр. После этого вместо обвала доли труда планировщик притормаживает автоматизацию. В итоге зарплаты растут по экспоненте, а не обваливаются за считанные годы. Но за это платят выпуском: поначалу потеря выпуска мала, а со временем, отказываясь от полной автоматизации, экономика теряет почти весь свой потенциал выпуска.

Ключевая мысльЗамедление автоматизации — мощный рычаг, чтобы поднять зарплаты. Но у него есть цена: отказ от роста выпуска. Это прямой компромисс между зарплатами работников и объёмом «пирога».

Разные работники: суперзвёзды и остальные

Пока труд считали однородным. На деле автоматизация бьёт по разным работникам в разное время — смотря насколько автоматизируемы их навыки. Авторы вводят навык как максимальную сложность задачи, которую работник способен выполнить. По мере роста индекса автоматизации часть работников — те, чьи навыки уже доступны машинам, — становятся идеально заменимы и получают зарплату на уровне отдачи капитала. Остальные, более умелые, пока незаменимы и зарабатывают больше.

Долгосрочная развилка такая. Если навыки людей ограничены сверху конечным уровнем, то весь труд рано или поздно теряет редкость — как в сценариях AGI. Если же среди людей всегда находятся те, кто способен на сколь угодно сложные задачи, возможен другой исход: всё более узкая прослойка «суперзвёзд» наверху зарабатывает всё больше без предела, тогда как доля работников, чьи зарплаты обваливаются до отдачи капитала, стремится к единице. То есть автоматизация может породить всё растущее неравенство между работниками. Авторы отмечают и смежные случаи: работники одной профессии могут различаться производительностью (двое экономистов пишут статьи равной сложности, но один вдвое быстрее), а ещё человеческий капитал работника обесценивается, когда индекс автоматизации «проходит» его уровень, — и потеря тем больнее, чем больше этого капитала было.

Вычисления как особый капитал

В базовой модели капитал был однородным: автоматизировали новую задачу — и имеющийся капитал плавно «растекался» на неё. На деле многие виды капитала привязаны к задаче, под которую созданы, и не переналаживаются — экономисты называют это капиталом «из глины». Самый яркий пример сегодня — вычислительные мощности: их остро не хватает, и это тормозит развёртывание ИИ на новых задачах. Авторы допускают, что каждая единица вложений привязана к своей задаче и может быть вложена только после того, как задача автоматизирована.

Если автоматизация идёт плавно, это ничего не меняет: под каждую новую задачу вовремя копится нужный капитал. Но при резком всплеске (а бурный взлёт больших языковых моделей — как раз такой случай) накопление отстаёт. Представим, что разом стала доступна целая масса задач, а специального капитала под них ещё нет. Тогда поначалу эти задачи всё равно делают люди, хотя технически их уже можно автоматизировать. По мере накопления вычислений картина проходит три стадии: сначала, пока вычислений мало, они и труд — идеальные заменители, и добавление вычислений сбивает зарплату, зато поднимает отдачу обычного капитала; затем, когда людей с этих задач вытеснили, отдача вычислений отрывается от зарплаты и резко падает, а зарплаты и отдача обычного капитала растут; наконец отдача вычислений сравнивается с отдачей прочего капитала.

Ключевая мысльБыстрая автоматизация может ненадолго сделать отдельные виды специального капитала — вроде вычислений — крайне доходными. Но капитал воспроизводим: его накопление в итоге съедает сверхдоход. После периода подстройки специальный капитал под новые задачи становится просто ещё одним капиталом с обычной рыночной отдачей.

Итоги

Главные выводы

  1. Работу человека можно представить как набор атомарных задач, различающихся вычислительной сложностью, а прогресс техники — как порог («индекс автоматизации»), который едет вправо и забирает всё более сложные задачи у людей.
  2. Что станет с зарплатами, решает форма распределения задач по сложности. Бесконечный «толстый» хвост задач — зарплаты могут расти вечно; тонкий хвост или ограниченная сверху сложность — зарплаты в итоге обваливаются.
  3. Удар по зарплатам может прийти даже раньше полной автоматизации: когда задач «только для человека» остаётся мало, труд теряет редкость, его отдача падает до отдачи капитала, и экономика ведёт себя как модель, где выпуск прямо пропорционален капиталу.
  4. Влияние автоматизации на зарплату имеет форму горба: сперва вверх (обильный капитал идёт на новые задачи), затем вниз (вытесненный труд давит на оставшиеся человеческие задачи). Отдача капитала при этом всегда растёт.
  5. В динамике всё решает гонка автоматизации и накопления капитала. Достаточное накопление капитала способно удержать зарплаты от падения; при ограниченной сложности задач полная автоматизация и обвал зарплат неизбежны при любом сберегательном поведении.
  6. Невоспроизводимые ресурсы (земля, минералы, вещество) становятся узким местом: они тормозят накопление капитала и в итоге всё равно сводят зарплаты к отдаче капитала, даже при бесконечном хвосте задач.
  7. Автоматизация самого научного прогресса может перезапустить рост зарплат после первоначального обвала и даже вывести выпуск на «сингулярность».
  8. Замедление автоматизации и сохранение части профессий за людьми способны надолго удержать зарплаты от обвала — ценой отказа от части выпуска. А при неоднородном труде автоматизация грозит узкой прослойкой богатеющих «суперзвёзд» на фоне обесценивания большинства.