Сценарии перехода к AGI Антон Коринек, Донхён Су О чём эта статья Эту работу в марте 2024 года выпустили два экономиста — Антон Коринек (Виргинский университет, институт Брукингса и центр GovAI) и Донхён Су. Она вышла и как препринт, и как рабочий доклад Национального бюро экономических исследований (NBER). Повод прост: лидеры ведущих ИИ-лабораторий и ведущие исследователи всерьёз заговорили о том, что общий искусственный интеллект (AGI) — система, способная выполнять все задачи, которые умеет человек, — может появиться в ближайшие годы. Авторы спрашивают: что это сделает с выпуском, с зарплатами и в конечном счёте с благосостоянием людей? Главная мысль статьи такая. Работу человека можно разбить на мельчайшие «атомарные» задачи, которые отличаются сложностью. Техника умеет автоматизировать всё более сложные задачи — граница автоматизации сдвигается вправо. Что станет с зарплатами, решают два обстоятельства. Первое: есть ли у человеческих задач предел сложности или сложность уходит в бесконечность. Второе: успевает ли накопление капитала за скоростью автоматизации — авторы называют это «гонкой». В зависимости от ответа зарплаты могут расти вечно, могут застыть, а могут и обвалиться. Для того, кто строит рынок ИИ-агентов, здесь есть прямой интерес. Статья даёт готовый язык, чтобы думать, как армия автономных агентов повлияет на спрос на человеческий труд, на цену вычислительных мощностей и на то, кому достанется доход — владельцам труда или владельцам капитала. И она показывает, что судьба труда может резко измениться при переходе через невидимые пороги, которые легко не заметить заранее. AGI — общий искусственный интеллект. В этой статье — способность ИИ выполнять все задачи, которые может выполнить человек. «Полная автоматизация» наступает, когда для машин доступны все задачи без исключения. Атомарная задача. Мельчайшая неделимая операция мозга, из которых складывается любая работа: узнать число, вспомнить правило, распознать лицо. Авторы считают, что набор таких операций не меняется: новые профессии лишь по-новому их комбинируют. Вычислительная сложность задачи. Сколько вычислений нужно машине, чтобы выполнить задачу. Удобно мерить в операциях с числами (FLOP). Для машины трудным может быть то, что человеку легко: пройти на двух ногах по неровной земле стоит машине огромных вычислений, а сложить числа — почти никаких. Индекс автоматизации. Порог сложности: всё, что проще него, машина уже умеет, всё, что сложнее, — пока только человек. Авторы считают, что этот порог растёт по экспоненте, как в законе Мура. Это и есть «граница автоматизации», которая едет вправо. Задачи — взаимодополняющие. Чтобы получить готовый продукт, нужны задачи всех видов, и редкая задача тормозит всё целое. Поэтому автоматизация одних задач поднимает ценность тех, что остаются за человеком, — пока их не становится слишком мало. Накопление капитала. Капитал — это всё воспроизводимое: станки, вычислительные мощности, роботы, заводы. Его можно наращивать, откладывая часть выпуска. Чем больше капитала, тем выше зарплаты, потому что капитал и труд дополняют друг друга. Доля труда. Какая часть всего дохода экономики достаётся работникам, а не владельцам капитала. Если доля труда падает к нулю, это значит, что плоды роста уходят почти целиком владельцам машин. 1 Вопрос: вырастут зарплаты или рухнут Недавние успехи ИИ обещают большой рост производительности, но вернули и старый страх — что машины вытеснят работников. Всё больше исследователей и руководителей отрасли говорят, что человечеству пора готовиться к возможному появлению AGI. Это ставит несколько основных экономических вопросов. Как будет выглядеть переход к AGI? Что он будет значить для выпуска, для зарплат, для благополучия людей? Зарплаты вырастут или обвалятся? Авторы строят экономическую модель, чтобы разбирать разные варианты будущего. Отправная точка одна: работу человека можно разложить на неизменные атомарные задачи, отличающиеся сложностью. Прогресс техники делает всё более сложные задачи пригодными для автоматизации. Это описывают порогом — индексом автоматизации, — который отделяет задачи, уже доступные машинам, от тех, что пока под силу только людям. Порог растёт сам по себе со временем, как в законе Мура. В эпоху ИИ удобная мера сложности задачи — это объём вычислений, нужный машине, чтобы её выполнить. Что-то вроде сложения чисел в таблице требует ничтожных вычислений. А что-то, кажущееся человеку простым и естественным — например, пройти на двух ногах по неровной поверхности, — требует для машины огромных вычислений. Через всю статью проходят два противоположных случая — и они ведут к резко разным итогам. Первый: сложность человеческих задач не имеет предела, уходит в бесконечность. Тогда граница автоматизации едет вправо, машины забирают всё больше задач, но какие-то задачи, а значит и рабочие места, остаются за людьми всегда. Второй: сложность ограничена сверху, потому что вычислительные возможности человеческого мозга конечны. Тогда за конечное время граница автоматизации доходит до самой сложной человеческой задачи — и наступает полная автоматизация. У «слишком сложных» задач есть и другое толкование: общество может решить не автоматизировать некоторые из них, даже когда это технически возможно, — скажем, труд священников, судей или законодателей. Ключевая мысль. Всё зависит от формы распределения задач по сложности. Если у человеческих задач есть достаточно «толстый» бесконечный хвост, работы людям хватит всегда и зарплаты могут расти вечно. Если же сложность ограничена и полная автоматизация достигается, зарплаты в итоге обваливаются. В модели атомарные задачи — сильно взаимодополняющие и вместе дают конечный продукт. В духе более ранних работ (Зейра, а также Асемоглу и Рестрепо) любую задачу может выполнить труд, а автоматизированную — либо труд, либо капитал. Но, в отличие от тех работ, здесь главное внимание — к крайним случаям у самого порога полной автоматизации. Авторы заранее называют и основные находки: при фиксированных запасах капитала и труда автоматизация может резко ударить по зарплатам даже раньше, чем доберётся до всех задач; в динамике всё решает упомянутая гонка автоматизации и накопления капитала; автоматизация самого научного прогресса способна поднять отдачу всех факторов, а нехватка невоспроизводимых ресурсов, наоборот, способна зарплаты добить. 2 Модель: работа как набор задач в пространстве вычислений Атомарные задачи и их сложность Главное допущение такое: работа человека состоит из задач и подзадач — неизменных атомарных задач, — которые по-разному поддаются автоматизации. Эти задачи куда мельче, чем профессиональные задачи из справочников вроде O*Net. Там, например, для экономиста перечислены пять главных задач: изучать данные; вести и публиковать исследования; собирать, анализировать и докладывать данные; руководить исследованиями; преподавать. Но за каждой из них стоит масса атомарных операций. «Преподавать теорию экономики» — это спланировать курс, вспомнить теории, собрать структуру, подготовить слайды, читать лекцию, следить за выражением лиц студентов, по ходу подстраивать план, готовить и проверять задания, и так далее. Все эти операции опираются на базовые функции мозга, а это тоже своего рода вычисления. Одни функции машинам даются легко, другие — труднее. Важно лишь одно: насколько операция затратна по вычислениям для машины. Отсюда и важное замечание: часто говорят, что новая техника порождает новые задачи. На уровне крупных профессиональных задач это так. Но на атомарном уровне новая техника просто по-новому сочетает старые базовые операции. «Инженерия подсказок» (prompt engineering) выглядит новой профессией, но состоит из операций, которые существовали задолго до появления генеративного ИИ: задать желаемый результат, составить запрос, ввести его, прочитать ответ, оценить, решить, повторять ли, поделиться результатом. Что делает задачу трудной для автоматизации? Авторы отвечают: её вычислительная ёмкость — объём вычислений, нужный, чтобы её выполнить. Его удобно мерить числом операций с числами (FLOP). И здесь важно: вычислительная трудность для машины часто совсем не совпадает с тем, легко или трудно это человеку. Именно трудность для машины и решает, можно задачу автоматизировать или нет. Почему порог автоматизации едет вправо? Из-за роста доступных вычислений. Закон Мура гласит: производительность передовых чипов удваивается примерно каждые два года, и это держится уже шестьдесят лет. А объём вычислений в самых передовых ИИ-системах рос ещё быстрее — удваивался примерно каждые полгода в последнее десятилетие. Плюс улучшались алгоритмы. Поэтому авторы принимают: индекс автоматизации растёт по экспоненте с некоторой скоростью, и чем он выше, тем больше задач становятся доступны машинам. Примечание. У сложности задач есть известный парадокс (его описал Моравек). То, что человеку кажется лёгким — например, зрение, — опирается на огромные объёмы «серого вещества» и для машины вычислительно очень затратно. И наоборот: арифметическое действие стоит простому компьютеру одной операции, а мозгу — миллиардов эквивалентных операций. Базовая модель: как задачи складываются в выпуск Представим экономику без времени, с одним представительным хозяйством. У него есть единица труда и какой-то запас капитала. Задач — целый континуум, они различаются сложностью. Чтобы получить общий выпуск, все задачи всех уровней сложности соединяют вместе. Соединяют так, что задачи — сильные взаимодополнители: не хватает какого-то вида задач — страдает весь выпуск. Это и значит, что эластичность замещения между задачами меньше единицы. Каждую задачу выполняют капиталом или трудом. Правило простое: задачи ниже порога автоматизации можно делать и капиталом, и трудом; задачи выше порога — только трудом. Производительность капитала и труда на доступных им задачах принята одинаковой и равной единице, а на недоступных капиталу задачах производительность капитала равна нулю. Фирма нанимает капитал и труд на каждую задачу по текущим ценам — ставке аренды капитала и зарплате — так, чтобы прибыль была наибольшей. В равновесии рынки труда и капитала расчищаются: весь труд и весь капитал находят применение. Поскольку никаких изъянов рынка нет, это равновесие заодно и наилучший из возможных исходов. Два режима: когда труд редок и когда — нет При данных запасах труда и капитала возможны два режима, в зависимости от того, насколько высок индекс автоматизации. Режим первый. Индекс низкий, автоматизировано мало задач. Тогда труд относительно редок по сравнению с капиталом. Зарплата выше ставки аренды капитала. Редкий труд идёт только на те задачи, которые машинам пока не под силу. Это мир последних двухсот лет: капитал и труд дополняют друг друга, а труд сравнительно редок и потому ценен. Режим второй. Индекс перевалил за особый порог: задач, доступных только человеку, осталось так мало, что редкость труда исчезает. Теперь зарплата равна ставке аренды капитала. Труд применяют не только на оставшихся «человеческих» задачах, но и на части автоматизированных — на границе капитал и труд становятся идеальными заменителями друг друга. Экономика ведёт себя как простейшая модель роста, где выпуск прямо пропорционален капиталу. Где лежит порог между режимами? Он зависит только от соотношения запасов капитала и труда, и растёт вместе с этим соотношением. Что важно: порог не зависит от того, насколько сильно задачи дополняют друг друга. Как только труд перестаёт быть редким, его начинают использовать наравне с капиталом на граничной задаче — и это верно, даже если отдельные задачи очень взаимодополняющие. Примечание. Интуиция такая. При данных запасах более высокий индекс автоматизации расширяет круг задач, которые можно делать капиталом, — и имеющийся капитал «размазывается» по большему числу задач, становясь более редким. Одновременно сужается круг задач, что остаются только за трудом, — и труд концентрируется на меньшем их числе, становясь менее редким. Когда задач «только для человека» остаётся совсем мало, труд теряет преимущество редкости, и отдачи труда и капитала сравниваются. Граница цен факторов и путь автоматизации Чтобы увидеть, как автоматизация влияет на доходы факторов, авторы вводят границу цен факторов (factor price frontier). Это набор всех возможных сочетаний зарплаты и ставки аренды капитала, которые могут возникнуть при данном уровне техники и разных соотношениях капитала к труду. Удобство в том, что картинка не зависит от конкретных предположений о том, как копится капитал. Граница устроена так. Она идёт сверху вниз: чем больше капитала на единицу труда, тем выше зарплата и ниже ставка аренды капитала. Есть верхняя точка — наибольшая возможная зарплата при данном уровне автоматизации, она достигается в пределе, когда капитала бесконечно много относительно труда. При таком избытке капитала ставка его аренды падает к нулю. Рост общей производительности раздвигает всю границу наружу, пропорционально поднимая доходы всех факторов. А рост автоматизации поворачивает границу — и поднимает ту самую наибольшую возможную зарплату, пока автоматизация неполная. Но стоит автоматизации стать полной — и граница схлопывается. Из целой кривой она превращается в одну-единственную точку, где зарплата и ставка аренды капитала равны. Это важный разрыв: при полной автоматизации доходы труда и капитала выравниваются скачком. Теперь — что делает автоматизация при данном запасе капитала. Во-первых, выпуск. Пока экономика в первом режиме, каждый шаг автоматизации поднимает выпуск: обильный капитал пускают на новые задачи, и это даёт прирост — так называемый эффект производительности. Во втором режиме выпуск от автоматизации уже не зависит. Ключевая мысль. Для зарплат действуют две встречные силы. Эффект производительности тянет зарплату вверх: новую задачу делают обильным капиталом, а не редким трудом, и выпуск растёт. Эффект вытеснения тянет вниз: вытесненный труд приходится перераспределять на всё меньший круг человеческих задач, и каждая единица труда там «дешевеет». Поэтому влияние автоматизации на зарплату имеет форму горба. Ставка аренды капитала от автоматизации всегда растёт. А зарплата сперва растёт, потом, пройдя вершину горба, начинает падать. В самом начале, когда автоматизировано почти ничего, перевешивает эффект производительности. Ближе к порогу эффект вытеснения усиливается и в итоге берёт верх; у самой полной автоматизации он становится бесконечно большим. На языке границы цен факторов автоматизация «поворачивает» границу по часовой стрелке: если экономика в режиме редкого труда, зарплата сперва поднимается по этому повороту, но в конце пути всё равно сползает в ту единственную точку, где зарплата равна ставке аренды капитала. Как автоматизация делит доход между трудом и капиталом Авторы приводят два показательных примера того, как автоматизация перераспределяет доход. В обоих по горизонтали — доля уже автоматизированных задач, от нуля до единицы. Пример первый: капитала и труда поровну, умеренная взаимодополняемость. Пока экономика в режиме редкого труда, выпуск строго растёт с автоматизацией. Сначала почти вся выгода достаётся труду, а доход капитала ничтожен. Но по мере автоматизации фонд зарплаты упирается в потолок и начинает снижаться. Выпуск ещё растёт, однако доход капитала растёт быстрее выпуска — за счёт фонда зарплаты. Когда автоматизирована половина задач, наступает второй режим: оба фактора получают поровну. При равных запасах это значит, что и труду, и капиталу достаётся по половине дохода. При полной автоматизации выпуск всего лишь удваивается. Пример второй: капитала в десять раз больше труда, сильная взаимодополняемость. Здесь область, где основная выгода идёт труду, намного шире — но и обвал фонда зарплаты, когда порог пройден, намного глубже. Зарплаты будто бы растут по экспоненте, пока автоматизировано примерно до 80 процентов задач. А около 83 процентов они резко падают — примерно на 85 процентов — при взлёте дохода капитала. Когда наступает второй режим (автоматизировано около 91 процента задач), доходы факторов выравниваются, и при таких запасах доля капитала в десять раз больше доли труда. Зато выпуск к полной автоматизации вырастает в одиннадцать раз. Ключевая мысль. Судьба труда способна перемениться очень быстро, стоит перейти невидимый порог. И во что выльется автоматизация для выпуска на душу, решает запас капитала: в первом примере полная автоматизация лишь удваивает выпуск, во втором — увеличивает его в одиннадцать раз. Поэтому дальше нужно смотреть, как автоматизация взаимодействует с накоплением капитала во времени. 3 Динамика: гонка автоматизации и накопления капитала В статике всё решали запасы. В динамике к технике добавляется накопление капитала, а значит — сберегательное поведение людей. Теперь судьба зарплат зависит от «гонки» двух сил: как быстро идёт автоматизация и как быстро копится капитал. Четыре сценария автоматизации Индекс автоматизации во всех сценариях растёт по экспоненте. Отличаются же сценарии тем, как устроено распределение задач по сложности. Сценарий «как обычно». Распределение с бесконечным хвостом: каждый период автоматизируется постоянная доля оставшихся задач. Поскольку максимальной сложности нет, настоящий AGI за конечное время не наступает — задачи для людей остаются всегда. Базовый и агрессивный сценарии AGI. Здесь сложность ограничена сверху: число задач, доступных человеческому мозгу, конечно, и за конечное время автоматизация доходит до предела. Опираясь на оценку Джеффри Хинтона, авторы берут два срока: в базовом сценарии полная автоматизация наступает за двадцать лет, в агрессивном — за пять. «Я вдруг поменял свои взгляды на то, станут ли эти штуки умнее нас». Смешанный сценарий — «всплеск автоматизации». Сначала ИИ быстро забирает большую долю задач (скажем, умственных), но остаётся бесконечный хвост задач, которые трудно автоматизировать — по юридическим или культурным причинам. Это смесь двух предыдущих распределений. Сбережения, границы и три исхода гонки Представительное хозяйство выбирает, сколько потреблять, а сколько сберегать, чтобы максимизировать своё удовлетворение на всём горизонте жизни. Сбережения становятся капиталом, капитал изнашивается. Из этого выбора следует привычное правило роста потребления: оно растёт, пока отдача капитала выше суммы нетерпения и износа. Когда экономика надолго оседает во втором режиме, отдача капитала фиксируется на уровне общей производительности, и экономика выходит на путь равномерного роста с постоянной нормой сбережений. Дальше авторы доказывают сильный общий результат — границы для выпуска и зарплат. При любых разумных предпочтениях пути капитала, выпуска и зарплат зажаты между нижней и верхней границами. Нижняя граница. — это случай замороженного капитала: капитал не копится вовсе. Здесь нижняя оценка зарплаты сперва растёт с автоматизацией, затем падает; и если полная автоматизация достигается, зарплата за конечное время падает до уровня общей производительности. Верхняя граница. — это случай, когда капитал мгновенно подстраивается под оптимум при каждом шаге автоматизации. Пока автоматизация неполная, верхняя оценка зарплаты растёт с автоматизацией без предела. Но стоит автоматизации стать полной — и верхняя граница зарплаты скачком обрушивается до уровня общей производительности. Ключевая мысль. Если сложность задач ограничена, то полная автоматизация наступает за конечное время и зарплаты обваливаются при любом сберегательном поведении. Если же хвост задач бесконечен, итог зависит от его «толщины»: достаточно толстый хвост — зарплаты растут вечно, слишком тонкий — автоматизация в итоге обгоняет накопление капитала и зарплаты всё равно рушатся. Чтобы понять исход гонки, авторы находят «уравновешивающую» норму сбережений — ту, при которой влияние автоматизации на зарплату ровно гасится накоплением капитала. Чем сильнее эффект вытеснения за вычетом эффекта производительности, чем больше уже накоплено капитала, чем больше задач автоматизируется разом и чем быстрее растут вычисления — тем выше должна быть норма сбережений, чтобы удержать зарплату от падения. Отсюда — три возможных исхода гонки (для бесконечного, паретовского хвоста задач). Первый:. автоматизация идёт слишком быстро по сравнению со сбережениями. Тогда индекс за конечное время переваливает порог, экономика проваливается во второй режим, зарплаты застывают на уровне общей производительности, а доля труда падает к нулю. Второй:. скорость автоматизации средняя. Тогда зарплаты растут вечно, но их рост сдерживает накопление капитала, а доля труда стремится к единице. Третий:. автоматизация медленная. Тогда рост зарплат упирается уже не в капитал, а в саму скорость автоматизации — и, что любопытно, в этом режиме чем быстрее автоматизация, тем быстрее растут зарплаты и вся экономика, ведь автоматизация позволяет пускать в дело обильный капитал. Числовая иллюстрация: четыре сценария Авторы задают стандартные параметры (нетерпение 4 процента в год, износ 10 процентов в год, умеренная взаимодополняемость задач) и подбирают стартовую точку так, чтобы доля труда вначале составляла 66 процентов. Затем прогоняют все четыре сценария. Сценарий «как обычно». Автоматизируется около 1 процента оставшихся задач в год. Выпуск растёт примерно на 2 процента в год, а доход капитала и фонд зарплаты растут почти вровень — с едва заметным сползанием доли труда. Это тот самый третий исход гонки: капитал копится достаточно быстро, и рост упирается в скорость автоматизации. Базовый сценарий AGI. Доля неавтоматизированных задач падает к нулю за двадцать лет. Зарплаты в первые годы слегка растут, но затем обваливаются — ещё до того, как автоматизация станет полной. После обвала зарплата равна отдаче капитала, экономика сидит во втором режиме, где труд и капитал взаимозаменяемы, и растёт примерно на 18 процентов в год — почти в десять раз быстрее, чем «как обычно». Агрессивный сценарий AGI. Полная автоматизация за пять лет. Обвал зарплат случается уже примерно на третьем году. Поскольку редкость труда исчезает раньше, раньше начинается и взлёт выпуска. Смешанный сценарий. Сперва быстро автоматизируется большая доля задач — и зарплаты обваливаются, как в агрессивном сценарии: труд вдруг стал обильным, а капитала ещё мало. Но со временем капитал копится, труд снова становится редким. Примерно к девятому году капитала накоплено достаточно, экономика возвращается в первый режим, зарплаты поднимаются выше уровня общей производительности и снова растут вместе с дальнейшей (уже более медленной) автоматизацией. Этот сценарий показывает: спрос на труд может рухнуть из-за быстрой автоматизации, но позже восстановиться — если остаётся длинный хвост задач, которые машинам не даются. 4 Расширения модели Невоспроизводимые ресурсы: возвращение дефицита Если труд перестаёт быть главным фактором, стоит присмотреться к тому, что раньше валили в одну кучу «капитал». Авторы делят факторы на воспроизводимые (их можно наращивать — станки, вычислительные мощности, роботы, заводы) и невоспроизводимые, данные в неизменном количестве (земля, пространство, минералы, солнечная энергия). Какой именно дефицитный ресурс окажется главным в будущем с AGI, предсказать трудно: в близкой перспективе узким местом, вероятно, будут чипы и оборудование для их производства, но это воспроизводимо; дальше дефицитными могут стать редкие минералы, а в самом пределе — вещество или энергия. Авторы вводят в модель один невоспроизводимый фактор, назвав его условно «минералы или материя». Порог между режимами при этом не меняется и от количества этого фактора не зависит. Но долгосрочная картина меняется — к худшему. Главный вывод: при наличии невоспроизводимого фактора зарплаты всегда в итоге падают до отдачи капитала, потому что экономика за конечное время всё равно входит во второй режим — независимо от того, как устроено распределение задач. Ключевая мысль. Если есть узкое место из невоспроизводимого ресурса, автоматизация в конце концов обгоняет накопление капитала при любом распределении задач. Это прямо противоположно случаю без такого ресурса, где достаточно толстый хвост задач позволял зарплатам расти бесконечно. В иллюстрации авторы берут долю невоспроизводимого фактора в выпуске в 10 процентов и сценарий «как обычно» (постоянная доля задач автоматизируется каждый период). Зарплаты достигают вершины примерно через десять лет, а через двадцать пять лет экономика входит во второй режим и медленно сходится к предельному запасу капитала. То есть даже при бесконечном хвосте неавтоматизированных задач невоспроизводимый фактор тормозит накопление капитала, и труд теряет статус редкого за конечное время. Автоматизация самого прогресса До сих пор единственной техникой была автоматизация, а общая производительность бралась как данность. Но многие ждут, что ИИ не просто сделает производство эффективнее, а ускорит и сам научный прогресс. На базовом уровне исследования и разработки — тоже набор атомарных вычислительных задач, как и любое производство. Авторы добавляют сектор идей: автоматизированные задачи в нём могут делать капитал или труд, неавтоматизированные — только труд, а выпуск новых идей поднимает общую производительность. Результат впечатляет. Когда автоматизация в обоих секторах — и в производстве благ, и в производстве идей — заходит достаточно далеко, экономика может сорваться в то, что называют «сингулярностью»: быстро растущий капитал порождает взрыв исследований и технического прогресса, а тот подпитывает сам себя — и выпуск за конечное время уходит в бесконечность. Что замечательно: достаточно, чтобы было сильно автоматизировано производство благ, — тогда остальные условия могут быть какими угодно конечными. И важный момент: в этом сценарии предельная отдача труда в производстве благ тоже уходит в бесконечность вместе с выпуском. Примечание. Иными словами, даже если автоматизация сперва обрушила зарплаты до отдачи капитала, быстрый технический прогресс от автоматизации самих исследований затем снова позволяет работникам выигрывать — после того как автоматизация зашла достаточно далеко. Авторы оговариваются: вероятно, и производство благ, и производство идей в конце концов упрутся в невоспроизводимые ресурсы; модель, которая учитывала бы и то и другое сразу, выходит за рамки статьи. «Ностальгические» профессии и пределы автоматизации Пока предполагалось, что задачу автоматизируют, как только это технически возможно. Но общество может решить оставить какие-то задачи исключительно за людьми. Коринек и Юэлфс называют такие занятия «ностальгическими»: труд священников, судей, законодателей может остаться человеческим ещё долго после того, как машины станут выполнять его не хуже или лучше. Авторы вводят отдельную функцию выбора: общество может автоматизировать только то, что технически возможно, но вправе часть возможного не трогать. Отсюда — политический вопрос: как максимизировать рост зарплат, придерживая автоматизацию? Ответ: правительство, которое хочет наибольшего долгосрочного роста зарплат, должно выбрать определённую умеренную постоянную скорость автоматизации. В иллюстрации к базовому сценарию AGI такой планировщик примерно до четырнадцатого года не вмешивается — естественный темп и так не слишком быстр. После этого вместо обвала доли труда планировщик притормаживает автоматизацию. В итоге зарплаты растут по экспоненте, а не обваливаются за считанные годы. Но за это платят выпуском: поначалу потеря выпуска мала, а со временем, отказываясь от полной автоматизации, экономика теряет почти весь свой потенциал выпуска. Ключевая мысль. Замедление автоматизации — мощный рычаг, чтобы поднять зарплаты. Но у него есть цена: отказ от роста выпуска. Это прямой компромисс между зарплатами работников и объёмом «пирога». Разные работники: суперзвёзды и остальные Пока труд считали однородным. На деле автоматизация бьёт по разным работникам в разное время — смотря насколько автоматизируемы их навыки. Авторы вводят навык как максимальную сложность задачи, которую работник способен выполнить. По мере роста индекса автоматизации часть работников — те, чьи навыки уже доступны машинам, — становятся идеально заменимы и получают зарплату на уровне отдачи капитала. Остальные, более умелые, пока незаменимы и зарабатывают больше. Долгосрочная развилка такая. Если навыки людей ограничены сверху конечным уровнем, то весь труд рано или поздно теряет редкость — как в сценариях AGI. Если же среди людей всегда находятся те, кто способен на сколь угодно сложные задачи, возможен другой исход: всё более узкая прослойка «суперзвёзд» наверху зарабатывает всё больше без предела, тогда как доля работников, чьи зарплаты обваливаются до отдачи капитала, стремится к единице. То есть автоматизация может породить всё растущее неравенство между работниками. Авторы отмечают и смежные случаи: работники одной профессии могут различаться производительностью (двое экономистов пишут статьи равной сложности, но один вдвое быстрее), а ещё человеческий капитал работника обесценивается, когда индекс автоматизации «проходит» его уровень, — и потеря тем больнее, чем больше этого капитала было. Вычисления как особый капитал В базовой модели капитал был однородным: автоматизировали новую задачу — и имеющийся капитал плавно «растекался» на неё. На деле многие виды капитала привязаны к задаче, под которую созданы, и не переналаживаются — экономисты называют это капиталом «из глины». Самый яркий пример сегодня — вычислительные мощности: их остро не хватает, и это тормозит развёртывание ИИ на новых задачах. Авторы допускают, что каждая единица вложений привязана к своей задаче и может быть вложена только после того, как задача автоматизирована. Если автоматизация идёт плавно, это ничего не меняет: под каждую новую задачу вовремя копится нужный капитал. Но при резком всплеске (а бурный взлёт больших языковых моделей — как раз такой случай) накопление отстаёт. Представим, что разом стала доступна целая масса задач, а специального капитала под них ещё нет. Тогда поначалу эти задачи всё равно делают люди, хотя технически их уже можно автоматизировать. По мере накопления вычислений картина проходит три стадии: сначала, пока вычислений мало, они и труд — идеальные заменители, и добавление вычислений сбивает зарплату, зато поднимает отдачу обычного капитала; затем, когда людей с этих задач вытеснили, отдача вычислений отрывается от зарплаты и резко падает, а зарплаты и отдача обычного капитала растут; наконец отдача вычислений сравнивается с отдачей прочего капитала. Ключевая мысль. Быстрая автоматизация может ненадолго сделать отдельные виды специального капитала — вроде вычислений — крайне доходными. Но капитал воспроизводим: его накопление в итоге съедает сверхдоход. После периода подстройки специальный капитал под новые задачи становится просто ещё одним капиталом с обычной рыночной отдачей. Итоги Главные выводы Работу человека можно представить как набор атомарных задач, различающихся вычислительной сложностью, а прогресс техники — как порог («индекс автоматизации»), который едет вправо и забирает всё более сложные задачи у людей. Что станет с зарплатами, решает форма распределения задач по сложности. Бесконечный «толстый» хвост задач — зарплаты могут расти вечно; тонкий хвост или ограниченная сверху сложность — зарплаты в итоге обваливаются. Удар по зарплатам может прийти даже раньше полной автоматизации: когда задач «только для человека» остаётся мало, труд теряет редкость, его отдача падает до отдачи капитала, и экономика ведёт себя как модель, где выпуск прямо пропорционален капиталу. Влияние автоматизации на зарплату имеет форму горба: сперва вверх (обильный капитал идёт на новые задачи), затем вниз (вытесненный труд давит на оставшиеся человеческие задачи). Отдача капитала при этом всегда растёт. В динамике всё решает гонка автоматизации и накопления капитала. Достаточное накопление капитала способно удержать зарплаты от падения; при ограниченной сложности задач полная автоматизация и обвал зарплат неизбежны при любом сберегательном поведении. Невоспроизводимые ресурсы (земля, минералы, вещество) становятся узким местом: они тормозят накопление капитала и в итоге всё равно сводят зарплаты к отдаче капитала, даже при бесконечном хвосте задач. Автоматизация самого научного прогресса может перезапустить рост зарплат после первоначального обвала и даже вывести выпуск на «сингулярность». Замедление автоматизации и сохранение части профессий за людьми способны надолго удержать зарплаты от обвала — ценой отказа от части выпуска. А при неоднородном труде автоматизация грозит узкой прослойкой богатеющих «суперзвёзд» на фоне обесценивания большинства.