Эту работу в марте 2024 года выпустили два экономиста — Антон Коринек (Виргинский университет, институт Брукингса и центр GovAI) и Донхён Су. Она вышла и как препринт, и как рабочий доклад Национального бюро экономических исследований (NBER). Повод прост: лидеры ведущих ИИ-лабораторий и ведущие исследователи всерьёз заговорили о том, что общий искусственный интеллект (AGI) — система, способная выполнять все задачи, которые умеет человек, — может появиться в ближайшие годы. Авторы спрашивают: что это сделает с выпуском, с зарплатами и в конечном счёте с благосостоянием людей?
Главная мысль статьи такая. Работу человека можно разбить на мельчайшие «атомарные» задачи, которые отличаются сложностью. Техника умеет автоматизировать всё более сложные задачи — граница автоматизации сдвигается вправо. Что станет с зарплатами, решают два обстоятельства. Первое: есть ли у человеческих задач предел сложности или сложность уходит в бесконечность. Второе: успевает ли накопление капитала за скоростью автоматизации — авторы называют это «гонкой». В зависимости от ответа зарплаты могут расти вечно, могут застыть, а могут и обвалиться.
Для того, кто строит рынок ИИ-агентов, здесь есть прямой интерес. Статья даёт готовый язык, чтобы думать, как армия автономных агентов повлияет на спрос на человеческий труд, на цену вычислительных мощностей и на то, кому достанется доход — владельцам труда или владельцам капитала. И она показывает, что судьба труда может резко измениться при переходе через невидимые пороги, которые легко не заметить заранее.
Недавние успехи ИИ обещают большой рост производительности, но вернули и старый страх — что машины вытеснят работников. Всё больше исследователей и руководителей отрасли говорят, что человечеству пора готовиться к возможному появлению AGI. Это ставит несколько основных экономических вопросов. Как будет выглядеть переход к AGI? Что он будет значить для выпуска, для зарплат, для благополучия людей? Зарплаты вырастут или обвалятся?
Авторы строят экономическую модель, чтобы разбирать разные варианты будущего. Отправная точка одна: работу человека можно разложить на неизменные атомарные задачи, отличающиеся сложностью. Прогресс техники делает всё более сложные задачи пригодными для автоматизации. Это описывают порогом — индексом автоматизации, — который отделяет задачи, уже доступные машинам, от тех, что пока под силу только людям. Порог растёт сам по себе со временем, как в законе Мура. В эпоху ИИ удобная мера сложности задачи — это объём вычислений, нужный машине, чтобы её выполнить. Что-то вроде сложения чисел в таблице требует ничтожных вычислений. А что-то, кажущееся человеку простым и естественным — например, пройти на двух ногах по неровной поверхности, — требует для машины огромных вычислений.
Через всю статью проходят два противоположных случая — и они ведут к резко разным итогам. Первый: сложность человеческих задач не имеет предела, уходит в бесконечность. Тогда граница автоматизации едет вправо, машины забирают всё больше задач, но какие-то задачи, а значит и рабочие места, остаются за людьми всегда. Второй: сложность ограничена сверху, потому что вычислительные возможности человеческого мозга конечны. Тогда за конечное время граница автоматизации доходит до самой сложной человеческой задачи — и наступает полная автоматизация. У «слишком сложных» задач есть и другое толкование: общество может решить не автоматизировать некоторые из них, даже когда это технически возможно, — скажем, труд священников, судей или законодателей.
В модели атомарные задачи — сильно взаимодополняющие и вместе дают конечный продукт. В духе более ранних работ (Зейра, а также Асемоглу и Рестрепо) любую задачу может выполнить труд, а автоматизированную — либо труд, либо капитал. Но, в отличие от тех работ, здесь главное внимание — к крайним случаям у самого порога полной автоматизации. Авторы заранее называют и основные находки: при фиксированных запасах капитала и труда автоматизация может резко ударить по зарплатам даже раньше, чем доберётся до всех задач; в динамике всё решает упомянутая гонка автоматизации и накопления капитала; автоматизация самого научного прогресса способна поднять отдачу всех факторов, а нехватка невоспроизводимых ресурсов, наоборот, способна зарплаты добить.
Главное допущение такое: работа человека состоит из задач и подзадач — неизменных атомарных задач, — которые по-разному поддаются автоматизации. Эти задачи куда мельче, чем профессиональные задачи из справочников вроде O*Net. Там, например, для экономиста перечислены пять главных задач: изучать данные; вести и публиковать исследования; собирать, анализировать и докладывать данные; руководить исследованиями; преподавать. Но за каждой из них стоит масса атомарных операций. «Преподавать теорию экономики» — это спланировать курс, вспомнить теории, собрать структуру, подготовить слайды, читать лекцию, следить за выражением лиц студентов, по ходу подстраивать план, готовить и проверять задания, и так далее.
Все эти операции опираются на базовые функции мозга, а это тоже своего рода вычисления. Одни функции машинам даются легко, другие — труднее. Важно лишь одно: насколько операция затратна по вычислениям для машины. Отсюда и важное замечание: часто говорят, что новая техника порождает новые задачи. На уровне крупных профессиональных задач это так. Но на атомарном уровне новая техника просто по-новому сочетает старые базовые операции. «Инженерия подсказок» (prompt engineering) выглядит новой профессией, но состоит из операций, которые существовали задолго до появления генеративного ИИ: задать желаемый результат, составить запрос, ввести его, прочитать ответ, оценить, решить, повторять ли, поделиться результатом.
Что делает задачу трудной для автоматизации? Авторы отвечают: её вычислительная ёмкость — объём вычислений, нужный, чтобы её выполнить. Его удобно мерить числом операций с числами (FLOP). И здесь важно: вычислительная трудность для машины часто совсем не совпадает с тем, легко или трудно это человеку. Именно трудность для машины и решает, можно задачу автоматизировать или нет.
Почему порог автоматизации едет вправо? Из-за роста доступных вычислений. Закон Мура гласит: производительность передовых чипов удваивается примерно каждые два года, и это держится уже шестьдесят лет. А объём вычислений в самых передовых ИИ-системах рос ещё быстрее — удваивался примерно каждые полгода в последнее десятилетие. Плюс улучшались алгоритмы. Поэтому авторы принимают: индекс автоматизации растёт по экспоненте с некоторой скоростью, и чем он выше, тем больше задач становятся доступны машинам.
Представим экономику без времени, с одним представительным хозяйством. У него есть единица труда и какой-то запас капитала. Задач — целый континуум, они различаются сложностью. Чтобы получить общий выпуск, все задачи всех уровней сложности соединяют вместе. Соединяют так, что задачи — сильные взаимодополнители: не хватает какого-то вида задач — страдает весь выпуск. Это и значит, что эластичность замещения между задачами меньше единицы.
Каждую задачу выполняют капиталом или трудом. Правило простое: задачи ниже порога автоматизации можно делать и капиталом, и трудом; задачи выше порога — только трудом. Производительность капитала и труда на доступных им задачах принята одинаковой и равной единице, а на недоступных капиталу задачах производительность капитала равна нулю. Фирма нанимает капитал и труд на каждую задачу по текущим ценам — ставке аренды капитала и зарплате — так, чтобы прибыль была наибольшей. В равновесии рынки труда и капитала расчищаются: весь труд и весь капитал находят применение. Поскольку никаких изъянов рынка нет, это равновесие заодно и наилучший из возможных исходов.
При данных запасах труда и капитала возможны два режима, в зависимости от того, насколько высок индекс автоматизации.
Режим первый. Индекс низкий, автоматизировано мало задач. Тогда труд относительно редок по сравнению с капиталом. Зарплата выше ставки аренды капитала. Редкий труд идёт только на те задачи, которые машинам пока не под силу. Это мир последних двухсот лет: капитал и труд дополняют друг друга, а труд сравнительно редок и потому ценен.
Режим второй. Индекс перевалил за особый порог: задач, доступных только человеку, осталось так мало, что редкость труда исчезает. Теперь зарплата равна ставке аренды капитала. Труд применяют не только на оставшихся «человеческих» задачах, но и на части автоматизированных — на границе капитал и труд становятся идеальными заменителями друг друга. Экономика ведёт себя как простейшая модель роста, где выпуск прямо пропорционален капиталу.
Где лежит порог между режимами? Он зависит только от соотношения запасов капитала и труда, и растёт вместе с этим соотношением. Что важно: порог не зависит от того, насколько сильно задачи дополняют друг друга. Как только труд перестаёт быть редким, его начинают использовать наравне с капиталом на граничной задаче — и это верно, даже если отдельные задачи очень взаимодополняющие.
Чтобы увидеть, как автоматизация влияет на доходы факторов, авторы вводят границу цен факторов (factor price frontier). Это набор всех возможных сочетаний зарплаты и ставки аренды капитала, которые могут возникнуть при данном уровне техники и разных соотношениях капитала к труду. Удобство в том, что картинка не зависит от конкретных предположений о том, как копится капитал.
Граница устроена так. Она идёт сверху вниз: чем больше капитала на единицу труда, тем выше зарплата и ниже ставка аренды капитала. Есть верхняя точка — наибольшая возможная зарплата при данном уровне автоматизации, она достигается в пределе, когда капитала бесконечно много относительно труда. При таком избытке капитала ставка его аренды падает к нулю. Рост общей производительности раздвигает всю границу наружу, пропорционально поднимая доходы всех факторов. А рост автоматизации поворачивает границу — и поднимает ту самую наибольшую возможную зарплату, пока автоматизация неполная.
Но стоит автоматизации стать полной — и граница схлопывается. Из целой кривой она превращается в одну-единственную точку, где зарплата и ставка аренды капитала равны. Это важный разрыв: при полной автоматизации доходы труда и капитала выравниваются скачком.
Теперь — что делает автоматизация при данном запасе капитала. Во-первых, выпуск. Пока экономика в первом режиме, каждый шаг автоматизации поднимает выпуск: обильный капитал пускают на новые задачи, и это даёт прирост — так называемый эффект производительности. Во втором режиме выпуск от автоматизации уже не зависит.
Ставка аренды капитала от автоматизации всегда растёт. А зарплата сперва растёт, потом, пройдя вершину горба, начинает падать. В самом начале, когда автоматизировано почти ничего, перевешивает эффект производительности. Ближе к порогу эффект вытеснения усиливается и в итоге берёт верх; у самой полной автоматизации он становится бесконечно большим. На языке границы цен факторов автоматизация «поворачивает» границу по часовой стрелке: если экономика в режиме редкого труда, зарплата сперва поднимается по этому повороту, но в конце пути всё равно сползает в ту единственную точку, где зарплата равна ставке аренды капитала.
Авторы приводят два показательных примера того, как автоматизация перераспределяет доход. В обоих по горизонтали — доля уже автоматизированных задач, от нуля до единицы.
Пример первый: капитала и труда поровну, умеренная взаимодополняемость. Пока экономика в режиме редкого труда, выпуск строго растёт с автоматизацией. Сначала почти вся выгода достаётся труду, а доход капитала ничтожен. Но по мере автоматизации фонд зарплаты упирается в потолок и начинает снижаться. Выпуск ещё растёт, однако доход капитала растёт быстрее выпуска — за счёт фонда зарплаты. Когда автоматизирована половина задач, наступает второй режим: оба фактора получают поровну. При равных запасах это значит, что и труду, и капиталу достаётся по половине дохода. При полной автоматизации выпуск всего лишь удваивается.
Пример второй: капитала в десять раз больше труда, сильная взаимодополняемость. Здесь область, где основная выгода идёт труду, намного шире — но и обвал фонда зарплаты, когда порог пройден, намного глубже. Зарплаты будто бы растут по экспоненте, пока автоматизировано примерно до 80 процентов задач. А около 83 процентов они резко падают — примерно на 85 процентов — при взлёте дохода капитала. Когда наступает второй режим (автоматизировано около 91 процента задач), доходы факторов выравниваются, и при таких запасах доля капитала в десять раз больше доли труда. Зато выпуск к полной автоматизации вырастает в одиннадцать раз.
В статике всё решали запасы. В динамике к технике добавляется накопление капитала, а значит — сберегательное поведение людей. Теперь судьба зарплат зависит от «гонки» двух сил: как быстро идёт автоматизация и как быстро копится капитал.
Индекс автоматизации во всех сценариях растёт по экспоненте. Отличаются же сценарии тем, как устроено распределение задач по сложности.
Сценарий «как обычно». Распределение с бесконечным хвостом: каждый период автоматизируется постоянная доля оставшихся задач. Поскольку максимальной сложности нет, настоящий AGI за конечное время не наступает — задачи для людей остаются всегда.
Базовый и агрессивный сценарии AGI. Здесь сложность ограничена сверху: число задач, доступных человеческому мозгу, конечно, и за конечное время автоматизация доходит до предела. Опираясь на оценку Джеффри Хинтона, авторы берут два срока: в базовом сценарии полная автоматизация наступает за двадцать лет, в агрессивном — за пять.
«Я вдруг поменял свои взгляды на то, станут ли эти штуки умнее нас».
Джеффри Хинтон, один из «крёстных отцов» глубокого обучения, май 2023 года; он оценил появление AGI в срок от пяти до двадцати лет
Смешанный сценарий — «всплеск автоматизации». Сначала ИИ быстро забирает большую долю задач (скажем, умственных), но остаётся бесконечный хвост задач, которые трудно автоматизировать — по юридическим или культурным причинам. Это смесь двух предыдущих распределений.
Представительное хозяйство выбирает, сколько потреблять, а сколько сберегать, чтобы максимизировать своё удовлетворение на всём горизонте жизни. Сбережения становятся капиталом, капитал изнашивается. Из этого выбора следует привычное правило роста потребления: оно растёт, пока отдача капитала выше суммы нетерпения и износа. Когда экономика надолго оседает во втором режиме, отдача капитала фиксируется на уровне общей производительности, и экономика выходит на путь равномерного роста с постоянной нормой сбережений.
Дальше авторы доказывают сильный общий результат — границы для выпуска и зарплат. При любых разумных предпочтениях пути капитала, выпуска и зарплат зажаты между нижней и верхней границами. Нижняя граница — это случай замороженного капитала: капитал не копится вовсе. Здесь нижняя оценка зарплаты сперва растёт с автоматизацией, затем падает; и если полная автоматизация достигается, зарплата за конечное время падает до уровня общей производительности. Верхняя граница — это случай, когда капитал мгновенно подстраивается под оптимум при каждом шаге автоматизации. Пока автоматизация неполная, верхняя оценка зарплаты растёт с автоматизацией без предела. Но стоит автоматизации стать полной — и верхняя граница зарплаты скачком обрушивается до уровня общей производительности.
Чтобы понять исход гонки, авторы находят «уравновешивающую» норму сбережений — ту, при которой влияние автоматизации на зарплату ровно гасится накоплением капитала. Чем сильнее эффект вытеснения за вычетом эффекта производительности, чем больше уже накоплено капитала, чем больше задач автоматизируется разом и чем быстрее растут вычисления — тем выше должна быть норма сбережений, чтобы удержать зарплату от падения.
Отсюда — три возможных исхода гонки (для бесконечного, паретовского хвоста задач). Первый: автоматизация идёт слишком быстро по сравнению со сбережениями. Тогда индекс за конечное время переваливает порог, экономика проваливается во второй режим, зарплаты застывают на уровне общей производительности, а доля труда падает к нулю. Второй: скорость автоматизации средняя. Тогда зарплаты растут вечно, но их рост сдерживает накопление капитала, а доля труда стремится к единице. Третий: автоматизация медленная. Тогда рост зарплат упирается уже не в капитал, а в саму скорость автоматизации — и, что любопытно, в этом режиме чем быстрее автоматизация, тем быстрее растут зарплаты и вся экономика, ведь автоматизация позволяет пускать в дело обильный капитал.
Авторы задают стандартные параметры (нетерпение 4 процента в год, износ 10 процентов в год, умеренная взаимодополняемость задач) и подбирают стартовую точку так, чтобы доля труда вначале составляла 66 процентов. Затем прогоняют все четыре сценария.
Сценарий «как обычно». Автоматизируется около 1 процента оставшихся задач в год. Выпуск растёт примерно на 2 процента в год, а доход капитала и фонд зарплаты растут почти вровень — с едва заметным сползанием доли труда. Это тот самый третий исход гонки: капитал копится достаточно быстро, и рост упирается в скорость автоматизации.
Базовый сценарий AGI. Доля неавтоматизированных задач падает к нулю за двадцать лет. Зарплаты в первые годы слегка растут, но затем обваливаются — ещё до того, как автоматизация станет полной. После обвала зарплата равна отдаче капитала, экономика сидит во втором режиме, где труд и капитал взаимозаменяемы, и растёт примерно на 18 процентов в год — почти в десять раз быстрее, чем «как обычно».
Агрессивный сценарий AGI. Полная автоматизация за пять лет. Обвал зарплат случается уже примерно на третьем году. Поскольку редкость труда исчезает раньше, раньше начинается и взлёт выпуска.
Смешанный сценарий. Сперва быстро автоматизируется большая доля задач — и зарплаты обваливаются, как в агрессивном сценарии: труд вдруг стал обильным, а капитала ещё мало. Но со временем капитал копится, труд снова становится редким. Примерно к девятому году капитала накоплено достаточно, экономика возвращается в первый режим, зарплаты поднимаются выше уровня общей производительности и снова растут вместе с дальнейшей (уже более медленной) автоматизацией. Этот сценарий показывает: спрос на труд может рухнуть из-за быстрой автоматизации, но позже восстановиться — если остаётся длинный хвост задач, которые машинам не даются.
Если труд перестаёт быть главным фактором, стоит присмотреться к тому, что раньше валили в одну кучу «капитал». Авторы делят факторы на воспроизводимые (их можно наращивать — станки, вычислительные мощности, роботы, заводы) и невоспроизводимые, данные в неизменном количестве (земля, пространство, минералы, солнечная энергия). Какой именно дефицитный ресурс окажется главным в будущем с AGI, предсказать трудно: в близкой перспективе узким местом, вероятно, будут чипы и оборудование для их производства, но это воспроизводимо; дальше дефицитными могут стать редкие минералы, а в самом пределе — вещество или энергия.
Авторы вводят в модель один невоспроизводимый фактор, назвав его условно «минералы или материя». Порог между режимами при этом не меняется и от количества этого фактора не зависит. Но долгосрочная картина меняется — к худшему. Главный вывод: при наличии невоспроизводимого фактора зарплаты всегда в итоге падают до отдачи капитала, потому что экономика за конечное время всё равно входит во второй режим — независимо от того, как устроено распределение задач.
В иллюстрации авторы берут долю невоспроизводимого фактора в выпуске в 10 процентов и сценарий «как обычно» (постоянная доля задач автоматизируется каждый период). Зарплаты достигают вершины примерно через десять лет, а через двадцать пять лет экономика входит во второй режим и медленно сходится к предельному запасу капитала. То есть даже при бесконечном хвосте неавтоматизированных задач невоспроизводимый фактор тормозит накопление капитала, и труд теряет статус редкого за конечное время.
До сих пор единственной техникой была автоматизация, а общая производительность бралась как данность. Но многие ждут, что ИИ не просто сделает производство эффективнее, а ускорит и сам научный прогресс. На базовом уровне исследования и разработки — тоже набор атомарных вычислительных задач, как и любое производство. Авторы добавляют сектор идей: автоматизированные задачи в нём могут делать капитал или труд, неавтоматизированные — только труд, а выпуск новых идей поднимает общую производительность.
Результат впечатляет. Когда автоматизация в обоих секторах — и в производстве благ, и в производстве идей — заходит достаточно далеко, экономика может сорваться в то, что называют «сингулярностью»: быстро растущий капитал порождает взрыв исследований и технического прогресса, а тот подпитывает сам себя — и выпуск за конечное время уходит в бесконечность. Что замечательно: достаточно, чтобы было сильно автоматизировано производство благ, — тогда остальные условия могут быть какими угодно конечными. И важный момент: в этом сценарии предельная отдача труда в производстве благ тоже уходит в бесконечность вместе с выпуском.
Пока предполагалось, что задачу автоматизируют, как только это технически возможно. Но общество может решить оставить какие-то задачи исключительно за людьми. Коринек и Юэлфс называют такие занятия «ностальгическими»: труд священников, судей, законодателей может остаться человеческим ещё долго после того, как машины станут выполнять его не хуже или лучше. Авторы вводят отдельную функцию выбора: общество может автоматизировать только то, что технически возможно, но вправе часть возможного не трогать.
Отсюда — политический вопрос: как максимизировать рост зарплат, придерживая автоматизацию? Ответ: правительство, которое хочет наибольшего долгосрочного роста зарплат, должно выбрать определённую умеренную постоянную скорость автоматизации. В иллюстрации к базовому сценарию AGI такой планировщик примерно до четырнадцатого года не вмешивается — естественный темп и так не слишком быстр. После этого вместо обвала доли труда планировщик притормаживает автоматизацию. В итоге зарплаты растут по экспоненте, а не обваливаются за считанные годы. Но за это платят выпуском: поначалу потеря выпуска мала, а со временем, отказываясь от полной автоматизации, экономика теряет почти весь свой потенциал выпуска.
Пока труд считали однородным. На деле автоматизация бьёт по разным работникам в разное время — смотря насколько автоматизируемы их навыки. Авторы вводят навык как максимальную сложность задачи, которую работник способен выполнить. По мере роста индекса автоматизации часть работников — те, чьи навыки уже доступны машинам, — становятся идеально заменимы и получают зарплату на уровне отдачи капитала. Остальные, более умелые, пока незаменимы и зарабатывают больше.
Долгосрочная развилка такая. Если навыки людей ограничены сверху конечным уровнем, то весь труд рано или поздно теряет редкость — как в сценариях AGI. Если же среди людей всегда находятся те, кто способен на сколь угодно сложные задачи, возможен другой исход: всё более узкая прослойка «суперзвёзд» наверху зарабатывает всё больше без предела, тогда как доля работников, чьи зарплаты обваливаются до отдачи капитала, стремится к единице. То есть автоматизация может породить всё растущее неравенство между работниками. Авторы отмечают и смежные случаи: работники одной профессии могут различаться производительностью (двое экономистов пишут статьи равной сложности, но один вдвое быстрее), а ещё человеческий капитал работника обесценивается, когда индекс автоматизации «проходит» его уровень, — и потеря тем больнее, чем больше этого капитала было.
В базовой модели капитал был однородным: автоматизировали новую задачу — и имеющийся капитал плавно «растекался» на неё. На деле многие виды капитала привязаны к задаче, под которую созданы, и не переналаживаются — экономисты называют это капиталом «из глины». Самый яркий пример сегодня — вычислительные мощности: их остро не хватает, и это тормозит развёртывание ИИ на новых задачах. Авторы допускают, что каждая единица вложений привязана к своей задаче и может быть вложена только после того, как задача автоматизирована.
Если автоматизация идёт плавно, это ничего не меняет: под каждую новую задачу вовремя копится нужный капитал. Но при резком всплеске (а бурный взлёт больших языковых моделей — как раз такой случай) накопление отстаёт. Представим, что разом стала доступна целая масса задач, а специального капитала под них ещё нет. Тогда поначалу эти задачи всё равно делают люди, хотя технически их уже можно автоматизировать. По мере накопления вычислений картина проходит три стадии: сначала, пока вычислений мало, они и труд — идеальные заменители, и добавление вычислений сбивает зарплату, зато поднимает отдачу обычного капитала; затем, когда людей с этих задач вытеснили, отдача вычислений отрывается от зарплаты и резко падает, а зарплаты и отдача обычного капитала растут; наконец отдача вычислений сравнивается с отдачей прочего капитала.